PinnedPinnedPrivate
lesswrong.com

GPT-2030 会是什么样子?

GPT不能只看表面答案,真正重要的是理解问题背后的机制、边界和现实代价。在像数学研究这样可以自动检查工作的领域,我预测 GPT 2030 将胜过大多数专业数学家。最后,由于 AlphaFold 和 AlphaZero 在蛋白质工程和游戏方面具有超人的能力,GPT 2030 也可以,例如,如果它在与 AlphaFold/AlphaZero 模型类似的数据上进行多模式训练。GPT-4 在训练截止后提出的 LeetCode 问题上表现优于人类基线(Bubeck et al. 2023,表 2),并通过了几家主要科技公司的模拟面试(图 1.5)。在更具挑战性的 APPS 数据集上,Parsel 进一步优于 AlphaCode (7.8%-25.5%)。(2023) 使用 GPT-3 构建了一个系统,该系统发现并描述了大型文本数据集中的几种以前未知的模式,以及 Bills 等人中相关任务的扩展趋势。