如何在不牺牲安全和民主的情况下推进人工智能进步？

在不牺牲安全和民主的情况下推进人工智能进步，关键是把目标、限制和可执行步骤放在同一个框架里，而不是只追求单点技巧。例如，从安全角度来看，限制AI模型的开源可能是有意义的，如果它们可以被用于潜在危险的目的，比如工程化一个高度传染性的病毒。不幸的是，围绕人工智能的公共讨论确实传达了这样一种感觉，即我们必须在三种互不兼容的人工智能未来之间做出选择：要么是人工智能进步，要么是人工智能安全，要么是具有民主参与的人工智能。政府可以进一步投资于那些市场价值不足但能推动重要社会价值的现有AI应用案例。这些案例包括AI驱动的科学和医学进步，AI在低收入国家推动社会福祉的应用，为高中学生提供高质量1对1辅导的AI导师，或者通过大型语言模型帮助合成和整理公共辩论过程中的论点的工具，使人们更容易参与公共话语。而且至关重要的是，这项研究可以使我们能够开发出安全的、防御性的AI模型，帮助人类在AI紧急情况下保护自己，例如恐怖分子滥用强大的AI或失控的超级人工智能。