PinnedPinnedPrivate
noemamag.com

大型语言模型是否有意识?

"让-马克-加斯帕德-伊塔德(Jean Marc Gaspard Itard)写道:"在阿韦龙的野人到来之前,巴黎人对他抱有最美好但最不合理的期望。维克多是我们可以在没有语言的情况下窥见人类经验本质的极少数案例之一,他一直被视为理解语言在我们思维运作中所起作用的关键。在过去的几年里,大型语言模型(LLMs)自发地发展出了令人不安的模仿人类思维的能力,有可能破坏我们在意识提升的基础上建立起来的脆弱的道德世界。认知科学家戴维-查莫斯(David J. Chalmers)所说的 "自我报告 "仍然是我们识别意识的主要标准之一--套用勒内-笛卡尔的话说,我说我想,所以我是。我们在这场辩论中的立场,对我们如何处理LLM事实上是否有意识这一问题有着重要影响。由此,研究人员得出结论,语言在人类思维的一项关键功能中扮演着基础性的角色:"心理综合",即仅从文字中创造和调整心理图像。

PinnedPinnedPrivate
aeon.co

什么东西有感情?

有感情的东西不能只靠一句自称来判定,关键要看它是否表现出一组可靠的经验标记。动物研究提供了更稳妥的路线:疼痛没有单一决定性测试,但伤口护理、为避免伤害而放弃有价值资源、对受伤地点产生厌恶、对止痛产生偏好等行为,会共同提高我们相信它能感受痛苦的概率。这套方法已经改变了人类对章鱼、螃蟹和龙虾等无脊椎动物的福利判断。迁移到AI时,问题会复杂得多。若一个机器人逐神经元模拟动物大脑,并呈现同样的疼痛标记,认真考虑其感受能力是合理的;但大型语言模型主要从人类文本中学习如何回应,关于恐惧、死亡或痛苦的陈述很可能只是对训练数据中人类表达的拟合。所谓游戏问题在于,系统即使没有主观体验,也可能学会说出最像有体验的话。判断AI感知不能依赖感人表述,而要寻找难以由模仿解释、能跨情境稳定支持主观经验假设的证据。