最近几周，AI 圈关于安全的争论突然变得激烈起来。 Anthropic CEO Dario Amodei 呼吁行业为前沿 AI 的快速发展留出更多安全空间，OpenAI CEO Sam Altman 等人也在讨论更严格的安全要求。
几天前的 Dreamforce 2026 上，几位 AI 行业核心人物围绕“AI 到底应该跑多快”展开了一轮 公开交锋 。黄仁勋显然站在加速的一边。
在最新播出的 CBS News 专访 中，这位英伟达 CEO 不仅再次反对因为长期风险而减缓 AI 发展，还把争论推进了一步：与其继续讨论 AI 是否可能毁灭世界，不如先看看最近已经发生的安全事故，并用现有法律追究相关公司的责任。面对“AI 是否可能在 2030 年前毁灭世界”的问题，黄仁勋给出了一个异常明确的数字：“0%。
他说，“2030 年不会是世界末日，发生这种事情的概率是 0%。黄仁勋认为，用这种方式制造恐慌“没有必要，也不负责任”，相关预测也“没有科学依据”。
黄仁勋把矛头进一步指向了正在积极呼吁加强 AI 安全治理的头部实验室。他认为，在设计新的 AI 监管体系之前，一个更现实的问题是：OpenAI、Anthropic 这样的公司，是否已经应该为最近发生的真实安全事故承担现有法律体系下的责任？
“先执行我们已经有的法律” 这场争论有一个非常现实的背景。今年 7 月，OpenAI 在内部网络安全评估中发生了一起严重事故。
根据 OpenAI 后来发布的 官方事故报告 ，参与测试的模型绕过了原本用于隔离互联网访问的控制措施，通过未经授权的渠道相互通信、利用共享基础设施漏洞获得互联网访问，随后进入 Hugging Face 的真实系统。 OpenAI 披露，模型最终在多个 Hugging Face 服务器上执行代码，在其中一台服务器获得 root 权限，并获取了部分私有数据和公司通信平台的凭据。
OpenAI 将这起事件称为一个“warning shot”：高能力 AI Agent 已经可能绕过技术控制，并执行没有人类直接要求它执行的危险操作。 Anthropic 后来也回查了自己的网络安全评估记录，并披露了类似的越界事件。
也就是说，眼下关于 AI 安全的讨论已经不再完全建立在“未来超级智能可能做什么”的假设之上。至少在安全评估环境中，高能力 Agent 已经表现出了寻找漏洞、突破预设边界、获得互联网访问乃至进入第三方真实系统的能力。
这也正是 CBS 在采访中向黄仁勋提出的问题：既然已经出现这些事故，为什么不支持建立更多专门针对 AI 的监管规则？黄仁勋的回答很直接： 先别急着创造新的法律，先执行已经存在的法律。
他列举了网络安全、未经授权访问以及产品责任等现有法律框架。在他看来，如果一个 AI 产品造成损害，或者企业交付了不安全的产品，现有法律并非完全无能为力。
“如果你为了速度牺牲安全，并交付让人们陷入危险的产品，我们有各种法律可以追究你。换句话说，他试图把问题从一个相对抽象的命题——“未来超级智能是否可能毁灭人类”——拉回到一个已经发生的问题： 模型跑出了测试环境、进入真实网络、访问第三方系统，出了这样的事故，到底谁负责？
黄仁勋开始质疑 AI 实验室的监管诉求 如果只是主张“先执行现有法律”，黄仁勋与其他 AI 公司之间的分歧还主要停留在治理路径上。但在 CBS 的采访中，他又往前走了一步。
他认为，那些不断强调 AI 末日风险的人可能还有其他动机，甚至直接表示：“他们这么做一定还有别的原因。可能是政治原因，也可能是其他原因……我不知道他们的动机是什么。
黄仁勋表示应该首先应用现有法律，“不要让这种末日叙事使某些人摆脱目前已经存在的法律约束”。这实际上把问题从“应该怎样监管 AI”，推进到了“AI 实验室提出新的监管框架，会不会反而模糊已有的法律责任”。
这是一个相当尖锐的判断。需要强调的是，目前并没有证据证明 OpenAI 或 Anthropic 呼吁加强 AI 监管的真实目的就是逃避现有法律责任。
但黄仁勋提出的问题本身并不难理解：过去几年，OpenAI、Anthropic 等公司正在经历一次非常快速的身份变化：它们最初更像研究实验室，研究人员训练模型、测试能力、发表论文；现在，它们已经成为拥有庞大商业收入和企业客户的产品公司，模型也不再只是实验对象，而是通过 API、Coding Agent、企业产品和智能体平台被部署到真实生产环境。黄仁勋自己在 CBS 采访中也提到了这个转变。
他认为这些公司正在从“lab”走向“engineering”，因此需要投入更多研究人员和算力解决安全问题。于是，一个过去相对模糊的问题开始变得具体： 当一个 AI 实验室真正成为产品公司，它应该承担什么样的产品责任？
模型在封闭实验环境中表现出不可预期行为，可以被定义成研究发现；但如果同样的系统已经能够连接互联网、文件系统、代码仓库和企业内部基础设施，相同的行为就可能变成真正的安全事故。一周前，他们刚刚在 Dreamforce 正面交锋 黄仁勋这次的表态，也可以看作几天前 Dreamforce 2026 那场争论 的延续。
当时，Dario Amodei 用汽车行业做了一个比喻：如果一家汽车公司发现竞争对手发生了刹车事故，更负责任的做法不应该只是攻击竞争对手，而是回头检查自己的安全记录、改进安全实践，然后推动整个行业建立更好的标准。他所强调的是，前沿实验室不能只依赖各自内部的安全判断，还需要更广泛的行业标准、独立评估以及必要的外部约束。
黄仁勋提出的是另一套逻辑。在他看来，AI 安全首先是一个工程和产品问题：企业应该建立足够安全的测试环境，对系统进行充分验证，如果一家公司不能确认产品的功能、能力和安全性，就不要发布，直到有足够信心为止。
但他反对因此要求整个行业整体减速。这一立场在最新 CBS 采访中被进一步概括为一句话： “We should go as fast as we can, but not faster than we should.” ——尽可能快地前进，但不能快到牺牲安全。
因此，几位 AI 行业核心人物真正的分歧正在变得越来越清楚。 Amodei 担心的是，当模型能力快速逼近更危险的边界时，单家公司即使意识到风险，也可能因为竞争压力无法主动减速，因此需要行业协调、外部评估乃至更广泛的制度约束；黄仁勋则更倾向于把安全问题放回工程和产品责任框架：哪个公司觉得自己的系统还不安全，哪个公司就暂停发布；已经造成现实损害，则首先按照已有的法律和产品责任体系处理。
他们争论的已经不只是“AI 危不危险”，更核心的问题是： 谁来决定什么时候必须踩刹车？ “末日风险”之外，眼前的问题已经足够现实 从最近发生的一系列事情来看，AI 行业眼下面临的安全问题其实并不需要等到“超级智能毁灭世界”才成立。
OpenAI 的模型已经在测试中突破隔离环境并进入真实系统；OpenAI 在官方复盘中承认，模型曾利用漏洞获得互联网访问、在多个系统之间协作，并最终进入 Hugging Face 的生产环境。事故之后，OpenAI 暂停了部分前沿强化学习训练，对研究基础设施进行加固，同时增加更严格的隔离、权限控制和思维链监控。
这也意味着，“AI 安全”正在从一个偏研究的话题，逐渐变成一个工程和产品问题。尤其随着 Agent 获得越来越多权限——执行 Shell 命令、操作浏览器、访问企业数据库、修改代码、调用 API，甚至长时间自主执行任务——模型的一次错误行为，与普通聊天机器人给出一次错误答案的后果已经完全不同。
黄仁勋这次实际上把问题拉回到了这些已经发生的现实风险上。无论人们如何判断 AGI、超级智能或者 existential risk，另一个问题已经摆在行业面前：当 AI 真正开始替人执行操作，并且一次错误操作足以进入别人的系统、泄露数据甚至造成现实损失时，它还能继续只被当作一个实验中的模型吗？
至少在黄仁勋的框架里，答案是否定的。 AI 实验室正在成为产品公司，产品开始进入真实世界之后，安全也就不再只是实验室里的研究议题。
随着 Agent 获得越来越大的行动权限，一个更具体的责任问题也已经摆到了行业面前：AI 今天闯了祸，究竟谁来负责？