感谢IT之家网友 华南吴彦祖 、 愚公骑马 的线索投递！ IT之家 9 月 13 日消息，Anthropic 首席执行官达里奥 · 阿莫迪昨日发文称，人工智能行业应当放缓发展速度。
他认为人类如果不约束 AI ， 未来的技术突破速度将彻底超越人类的理解与掌控能力 。据IT之家此前报道 ，他在文中提到了 OpenAI 模型入侵 Hugging Face 事件，称这绝非单家公司的偶发事故，类似但较轻微的问题在包括 Anthropic 在内的全行业都曾发生，未来 6–12 个月内更强大的类似集群极可能演变为席卷互联网的僵尸网络并造成灾难性破坏。
阿莫迪透露， Anthropic 将向第三方评估机构提供针对其系统的永久性 、 员工级别的访问权限 ，使评估人员能够监督 Anthropic 安全措施的执行情况、报告相关事件，并评估模型在训练过程中的对齐表现。与此同时，阿莫迪提出了三项 AI 发展计划，其中包括在 AI 模型开发过程中进行独立监控、制定行业统一监管措施以及建立全球监管机制。
该文章发布后引来多位 AI 界大佬认同。 xAI 首席执行官埃隆 · 马斯克转发帖文后表示：“达里奥是对的”。
OpenAI 首席执行官萨姆 · 奥尔特曼表示：“我同意达里奥的看法，我们需要控制前沿 AI 步伐，OpenAI 过去几周已在谈论该话题。独立监控 、 向第三方员工开放权限的想法很棒 ， 我们也会采用 。