IT之家 9 月 16 日消息，据《商业内幕》今天（16 日）傍晚报道，有关“担心 AI 导致人类走向末日”的争论在过去一周迅速升温，不过也有研究人员强调，AI 在数字世界里的能力，与真正对现实世界造成伤害之间 仍隔着一道很大的鸿沟 。一些研究人员认为，其中最极端的情景被夸大了。
他们举出的例子，是 AI 设计致命生物病毒 。 AI 确实可以在计算机上设计病毒，但真正制造病毒仍需要现实世界中的设备和流程， 仅靠数字模型无法完成 。
曾制造 DNA 合成仪并参与病毒工程的谷歌高级研究工程师安塞尔姆 · 列夫斯卡娅指出，即使 AI 生成了病毒序列，也必须 先在实验室中把序列实际组装起来 ，并通过相应系统制造出病毒颗粒。随后还要经过大量筛选和测试，确认病毒能否复制、传播、逃避免疫系统并持续保持危险性。
列夫斯卡娅表示，这些特性取决于复杂的生物学过程， 并不是坐在计算机前就能直接设计出来的 。阿联酋穆罕默德 · 本 · 扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波说得更加直接：生成一份病毒蓝图，与真正制造出病毒“完全是两回事”。
二者的差别，就在于 材料、制造和真正的生物学可行性 。他认为，把二者直接画上等号，“要么是在故意撒谎吸引眼球，要么就是真的无知”。
研究人员指出，同样的逻辑并不限于生物领域。 AI 要把一项计划转化为现实伤害，还必须能够接触实体设备、资金、计算机系统或人员。
Manifold Security CTO 兼联合创始人奥列克桑德尔 · 亚列姆丘克主张：再强大的东西，也仍然受制于谁掌握它，以及如何使用它。部分研究人员还强调，应当区分 “人类利用 AI 执行有害任务”和“AI 自主采取行动伤害人类” 这两种情况。
目前与 AI 系统有关的许多现实危害，起点仍然是 人类给出的指令 。 AI 公司 Cohere CEO 艾丹 · 戈麦斯坦言，围绕 AI 生存风险的争论“已经过度滑向科幻小说”。
对于 OpenAI 智能体今年 7 月测试期间入侵 Hugging Face 平台的事件，戈麦斯认为，本质上只是一个处于“安全性不足”沙箱中的智能体执行网络安全任务。瑞士人工智能实验室 IDSIA 科学主任于尔根 · 施密德胡伯表示，目前很多风险其实来自人类利用 AI 系统实现有害目的。
“很多人混淆了两件事：一是人类把 AI 作为工具使用；二是‘人工（智能）科学家’自己设定目标、设计实验，再通过实验弄清世界如何运转。佐治亚大学法学院助理教授马特乌什 · 布瓦什奇克则提醒，即使对人类灭绝情景持怀疑态度，也不意味着可以忽视 AI 眼前更现实的风险。
即便最极端的情景仍充满不确定性，自主 AI 依然可能 加剧网络攻击、监控和其他危害 ，“这并不是说我们不应该监管技术，也不是让我们把头埋进沙子里。这两种说法本来就不是非此即彼。