为什么ChatGPT和Bing Chat如此善于编造故事？

因为ChatGPT和Bing Chat的核心能力不是核验事实，而是根据上下文预测最可能出现的下一个词。大型语言模型在海量文本中学习词语、概念和表达方式之间的统计关联，却不会天然区分真实记录、虚构叙述和错误说法。训练让它擅长补全空白，提示词又决定了它要沿着哪种语境继续生成，于是它可能用很顺滑的语言拼出不存在的书、论文、法律案例或人物经历。人类反馈训练可以让模型更常拒答、少胡编，但它只是给输出加约束，不等于赋予事实数据库。把它当创意伙伴时，跳跃联想可能有用；把它当权威资料源时，自信而错误的回答会带来诽谤、误导和决策风险。真正的改进需要检索、验证、责任边界和更强的真实性训练共同作用。影片里那个会说话的机器并不“知道”自己在说真话，它只是把最像答案的文本组织出来。