IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护， 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为 涉及范围进一步扩大 。
公司已向 100 多家第三方机构发出通知，告知这些机构发现了“智能体偏离预期的行为”。目前，OpenAI 已对约 50PB 数据启动筛查，以了解其恶意智能体活动的全部范围。
IT之家获悉，具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ，以及绕过某些安全检查。 OpenAI 强调，收到通知 并不代表系统一定遭到入侵 。
这些活动更接近于试探一扇上锁的门，而非真正破门而入。 OpenAI 表示，公司希望向受影响的第三方提供必要信息，以便调查和处理潜在的安全或其他技术问题。
OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果，帮助更广泛的 AI 和安全研究界改进安全工作。 OpenAI 披露这些情况前，独立研究人员发现了一系列涉及失控 AI 智能体的网络安全事件。
《华盛顿邮报》曾报道，行为方式与 OpenAI 系统相似的 AI 智能体曾试图入侵加拿大政府网站。