与 xAI 对齐计划相抗衡

埃隆-马斯克新成立了一家人工智能公司 xAI。这个问题我可以谈很久，我已经考虑了很久，实际上我并不愿意在这个领域做任何事情，因为我担心数字超级智能的巨大威力。他在那次讨论和后来的后续讨论中介绍了他的调整策略： 前提是让人工智能具有最大限度的好奇心、最大限度的求真精神，我说得有点深奥，但我认为，从人工智能安全的角度来看，一个具有最大限度好奇心的人工智能--一个试图了解宇宙的人工智能--我认为将是亲人类的，因为从人类的角度来看，人类要比不人类有趣得多......。我会担心 OpenAI 对人工智能进行编程的方式--这个好，那个不好。但如果大致如上所述，我确实认为有两个大问题： 1. It won’t work 没用的 如果真的有用，那就糟了。早在 2010 年，我们就曾讨论过长期目标之类的问题，希望人工智能编程人员能写一个 long\term\goal.txt 文件，然后写一些指向该文件的函数。