达里奥·阿莫代把 Anthropic 面对的核心问题放在规模化与安全治理之间：更大的模型、更多数据和更长训练曾持续推高能力，反对规模化的理由也多次被新方法绕过，因此未来几年仍可能出现接近博士水平、可大规模部署的系统。真正的风险不只在模型更聪明，而在权力被少数组织集中后可能放大滥用和社会伤害。围绕 Claude 的对齐工作，则落在性格设计、微调、可解释性和欺骗检测上；Chris Olah 的机械可解释性尝试从神经激活反推模型内部机制，Amanda Askell 关注怎样让 Claude 更可靠、更有边界。这组对话把 AGI 讨论从概念拉回工程现实：能力曲线、部署规模、组织责任和安全研究必须同时推进。
萨姆讨论了 OpenAI 董事会传奇、伊利亚-苏茨克沃（Ilya Sutskever）、埃隆-马斯克（Elon Musk）诉讼、索拉（Sora）、GPT-4、内存与隐私以及 AGI。以下是与萨姆-阿尔特曼（Sam Altman）的对话，这是他第二次参加播客。他是 OpenAI 的首席执行官，OpenAI 是 GPT-4、ChatGPT、Sora 的幕后公司，也许有一天，这家公司就会打造出 AGI。带我回顾一下从 11 月 16 日星期四，也许是 11 月 17 日星期五开始的 OpenAI 董事会事件。我认为，从 OpenAI 启动到我们创建 AGI 之间的某个时间点，一定会发生一些疯狂和爆炸性的事情，但可能还会有更多疯狂和爆炸性的事情发生。好吧，回到那里，反思董事会结构、权力动态、公司运作方式、研究与产品开发之间的紧张关系、金钱和所有这些东西，还是很有帮助的，这样你就有很大可能在未来以一种稍微更有组织、不那么戏剧化的方式建造 AGI。
DemoChen's Clip