AI 如何让世界变得更美好

AI 如何让世界变得更美好 我思考并谈论了很多关于强大 AI 的风险。我担任首席执行官的公司 Anthropic 做了很多事情 关于如何降低这些风险的研究。然而，首先，我想简要解释一下为什么我和 Anthropic 没有过多地谈论 powerful AI 的好处，以及为什么我们可能会继续总体上大量讨论风险。I 还要认为，原则上花太多时间对你的灵魂是有害的 “Talking Your Book”（谈论你的书）。我经常对许多 AI 冒公众人物风险的方式感到反感 （更不用说 AI 公司的领导者）谈论后 AGI 世界，仿佛这是他们的使命是 单枪匹马地实现它，就像先知带领他们的人民走向救赎一样。尽管我认为大多数人都低估了 强大的 AI，确实讨论激进 AI 未来的一小群人经常在 过于“科幻”的基调（例如，以 Uploaded Minds、Space Exploration 或一般赛博朋克为特色） 共鸣）。