生成式 AI 可以低成本伪造文本、身份和社会证明,使公共互联网越来越难判断内容是否来自真实的人。文章提出用加密签名和分散式信任网络重建可信关系:用户不必公开身份,也能证明内容由某个持续存在的主体签署,并通过公开记录积累信誉。这种机制不能阻止机器生成内容,但可以帮助人们区分可信主体与匿名机器人群。
生成式人工智能会让开放网络更像黑暗森林:可见空间里充满连贯、廉价、像人写的文本和图像,真实的人反而更难被辨认。过去的垃圾内容多来自 SEO、广告、机器人和点击诱饵;大型语言模型和图像生成器把生产成本进一步压低,营销文案、博客、社交帖、视频脚本、播客和幻灯片都能自动批量生成。结果不是信息更多,而是信号被平庸内容淹没,读者会不断怀疑屏幕后面是否有一个真实生活的人。人的优势不在于写出标准化说明,而在于具体经验、地方细节、近期事件、真实关系、价值立场和复杂判断。要证明自己不是预测文本机器,就要写出更有现场感的故事,提出可争辩的原创看法,发展个人语言习惯,并把线上关系延伸到真实互动。未来的写作门槛会提高,普通综述和顺滑表达会迅速贬值。
生成式人工智能会把互联网推向更严重的柠檬市场:当人们无法判断互动对象、评论、账号和内容是否真实时,高质量参与者会逐渐退出公共场域,剩下更多低信任垃圾。二手车市场里,卖家无法证明好车不是坏车,买家只愿按平均风险出价,结果好车退出,坏车占比继续升高。AI 让类似机制扩展到社交网络、约会应用、游戏大厅、论坛评论和电话消息,因为垃圾内容不再只是重复模板,而能以低成本生成大量独特、连贯、会回应的人格。结果可能不是所有人彻底离线,而是公共开放平台衰落,私人群组、邀请制社区和已验证真人身份变得更有价值。平台也可能用更强监控来对抗机器人,要求证件和实名,从而制造新的权力问题。与此同时,一部分人会更重视线下关系、家庭、社区和面对面网络,另一部分人会更深陷由 AI 强化的娱乐、色情、游戏和社交刺激。长期看,能保护年轻人、建立真实配偶和社区支持系统的文化会更有韧性;线下高密度社区的价值也会上升。
淹没在人工智能生成的垃圾中:我们正在打一场无声的战争。通过 Ploum 于 2022-12-05。在整个网络上,我们见证了过去四十年来一直在使用的统计算法所产生的非常惊人的结果。我们给这些算法起了一个非常朗朗上口的名字:“人工智能”。我们现在对它们有非常流行和直接的应用:给算法一个简单的文本提示(不要让我开始强调文本的重要性),它会生成一个漂亮的原始图片或一个听起来很严肃的文本。