北京时间 9 月 11 日，据彭博社报道，OpenAI 正在考虑放缓尖端 AI 的开发速度，该公司 CEO 萨姆 · 奥尔特曼 (Sam Altman) 希望其他 AI 公司也能采取同样的做法。据多名知情人士透露，奥尔特曼本周在一次全体员工会议上告诉员工，OpenAI 可能会放慢 AI 开发节奏，或许会与其他几家 AI 实验室协同行动，但也有一些公司可能不会同意这么做。
近几周，头部 AI 公司的员工纷纷公开表达对先进 AI 系统风险上升的担忧，加剧了这些公司内部的焦虑。今年早些时候，OpenAI 及其竞争对手 Anthropic 都已秘密提交上市文件。
OpenAI 首席科学家雅库布 · 帕乔基 (Jakub Pachocki) 最近发表文章，警告 AI 带来的危险，认为 AI 公司应该“在必要时协调行动，放缓未来的开发进程”。帕乔基还表示，他希望“在共同的安全标准建立之前，自愿放缓开发能够成为行业惯例”。
OpenAI 已表示，出于安全方面的担忧，公司近期已经放缓了部分模型的开发，并暂停了特定内部 AI 训练。奥尔特曼曾在 7 月表示，他已与白宫官员讨论了放缓 AI 开发的“必要性”问题。
周二，Anthropic AI 研究员雅各布 · 考克森 (Jacob Coxon) 辞职，并指控他的两家前雇主 Anthropic 和 OpenAI 在竞相迈向超级智能 AI 的过程中“拿我们的生命赌博”。考克森在社交媒体帖子中表示，开发 AI 的人相信它可能“在这个十年结束前杀死我们所有人”。
这些言论迅速传播，获得超过 1.5 亿次浏览，并引起知名议员和公众人物的关注。截至发稿，OpenAI 不予置评。