Bicameral Labs 的神经科学家 Erik Hoel 发布了论文《Qualiaphobic artificial neural networks (and why to build them)》,已在 arXiv 上线,编号为 2611.12809,实验室官网也同步刊出了全文。作者在 11 月 12 日于 X 上介绍了这一提案。

按论文摘要和官网文本的说法:

  • 作者把 qualiaphobia 定义为:刻意设计成对意识理论不友好的神经网络架构,类比会排斥水的材料,或城市里不让人停留的「敌意建筑」。目标是降低系统被现有或未来的意识理论判定为有意识的可能。
  • 文中探讨三条思路:把架构尽量靠近「意识潜力最低」的锚点;打散系统可能具有的现象学;以及针对流行的意识理论做对抗式设计。作者特别讨论了一种锚点:只有行为主义意识理论才适用的系统,并提出把现有网络朝这一方向变换的方法。论文还讨论了 AI 如何对自己「没有意识或意识潜力很低」形成有依据的判断,以及这可能如何改变其行为。
  • 作者认为,意识常被当作道德地位的基础;如果能证明 AI 没有意识,道德价值会集中在人类一侧,AI 更适合作为辅助者,而不是竞争者。这是论文提出的论证,不是已经被科学界证实的结论。论文也写明:意识科学目前仍有多种相互竞争的理论,今天并不是一个「已被证明 AI 无意识」的世界。
  • 这是一篇研究提案,不是已经落地的产品或行业标准。提案在 X 上既有支持,也有批评。它在工程上是否可行、在伦理上是否可接受,仍有待学界检验。

出处: