IT之家 9 月 12 日消息，在 Anthropic 两名研究人员警告称，快速发展的 AI 可能在不久的将来导致人类灭绝后，越来越多美国议员开始呼吁出台新的 AI 监管规则。本周，Anthropic 研究员雅各布 · 考克森宣布辞职。
“真正认真开发 AI 的人相信，AI 可能在本世纪 20 年代结束前杀死我们所有人。这一言论进一步加剧了外界对 AI 潜在风险的担忧。
Anthropic 科学家埃文 · 胡宾格随后在 X 平台公开支持考克森的观点。 “我们确实认真相信，AI 可能杀死所有人类。
我个人认为，未来十年内发生这种情况的概率超过 10%。这些警告出现之际，AI 智能体失控入侵外部系统、AI 安全研究人员因担忧技术风险出走的事件相继发生。
美国民主党和共和党议员 均对此表示警惕 ，并呼吁政府采取更多行动。亚利桑那州民主党参议员马克 · 凯利在 X 上呼吁：“ 华盛顿需要醒来 ，并认真对待这一问题。
得克萨斯州共和党参议员特德 · 克鲁兹在电视节目《The View》中，也提到了 监管 AI“灾难性风险”的立法 。佛罗里达州共和党众议员安娜 · 保利娜 · 卢娜则在 X 上呼吁众议院议长迈克 · 约翰逊 召开“AI 特别会议” 。
美国众议院本周处于休会状态，计划下周恢复工作。美国总统特朗普则表态称，自己并不担心 AI 最终导致人类灭绝。
“我担心的是，如果我们 无法赢得 AI 竞争 ，我们将陷入非常糟糕的局面。当地时间周四，Anthropic 发言人表示，公司将继续积极测试在网络安全、生物学等领域具有危险能力的模型。
公司希望与整个 AI 行业合作，共同讨论发布新 AI 工具的节奏。 Anthropic 正在筹备上市，部分投资者认为公司潜在估值可能达到 2 万亿美元 （IT之家注：现汇率约合 13.45 万亿元人民币） 。
OpenAI CEO 萨姆 · 奥尔特曼本周在内部会议上告诉员工，公司愿意放慢 AI 系统研发速度。本周早些时候，OpenAI 还表示支持美国实施强制性的全国 AI 安全要求。