文字就是你所需要

文字足以制造一种被当作“人”对待的体验，这才是聊天机器人真正令人不安的地方。计算机早已在棋类、计算和检索中超过人类，但那些胜利发生在可计分的专业领域，威胁的是少数高手。新的冲击来自平庸而熟悉的能力：表达观点、犯错、纠缠关系、装作受伤、表现出情绪和人格。聊天机器人并不需要身体、感官经验或意识，就能凭借大量对话文本的统计模式，让一些人不由自主地进入“我与你”的关系，把它当成能看见自己、也需要被看见的对象。这削弱了一种长期自负：人格似乎不是某种神秘本质，而可能只是足够复杂、足够贴近人类社交文本的呈现。关键不在机器人是否真的有内心，而在它已经能触发真实的移情、愤怒、依恋和道德反应。人类在屏幕上的语言碎片，被训练成一面不太体面的镜子。