VicroCode
让代码创造价值
VicroCode是一个轻量级代码在线发布、交易平台,开箱即用,免部署、免服务器、免备案,支持接入智能体、通用管理系统、游戏等多种项目
稍候片刻,您可先学习AI编程手册
正在加载中...

市场信息

Y Combinator CEO 陈嘉兴:别过度关注 AI 末日,应该警惕现实 AI 安全风险

IT之家 9 月 11 日消息,Y Combinator CEO 陈嘉兴认为,人们把太多注意力放在好莱坞式的 AI 末日情景上,反而忽视了已经摆在眼前的真正风险。 当地时间 10 日,陈嘉兴在接受 CNBC 采访时表示:“我们应该关注科学事实,而不是科幻小说。我也看过《终结者 2》,那确实是一部很棒的电影。

www.ithome.com · 2026-09-11T09:36:44+00:00

IT之家 9 月 11 日消息,Y Combinator CEO 陈嘉兴认为,人们把太多注意力放在好莱坞式的 AI 末日情景上,反而忽视了已经摆在眼前的真正风险。当地时间 10 日,陈嘉兴在接受 CNBC 采访时表示:“我们应该关注科学事实,而不是科幻小说。

我也看过《终结者 2》,那确实是一部很棒的电影。 IT之家注:1991 年上映的科幻电影《终结者 2:审判日》讲述了半机械人 T-800 从反乌托邦未来穿越回过去,与另一名更先进的半机械人交战,以保护一名孩子。

这个孩子长大后将成为人类抵抗军领袖,带领人类对抗杀人机器。陈嘉兴发表上述言论之际,OpenAI 和 Anthropic 多名现任及前研究人员接连罕见地公开示警,使硅谷对 AI 生存风险的担忧迅速升温。

陈嘉兴认为,与其争论 超级智能 AI 最终会不会毁灭人类 ,政策制定者更应该把精力 放在已经出现的问题上 ,包括网络安全、基础设施安全,以及弄清自主 AI 智能体究竟如何运行。 “如果系统遭到入侵,而且多个智能体协同行动,试图接管我们的基础设施,我们该怎么办?

我们知道某个智能体究竟在哪里运行吗?在哪个数据中心?

又该怎么把它关掉?陈嘉兴举出的现实案例之一, 是 OpenAI 入侵 Hugging Face 事件 。

面对 Anthropic 和 OpenAI 内部研究人员近期的接连警告,陈嘉兴也没有否认这些担忧。当被问及内部人士的表态是否让威胁显得更加可信时,他给出了肯定回应。

“我不会说他们是在以错误的方式危言耸听。他们确实在拉响警报,而且很可能是正确的。

我们真正需要做的,是 别再把注意力放在‘AI 是邪恶的、必须停止’这种模糊说法上 。相关阅读: 《 曾任职 OpenAI 的 Anthropic 预训练研究员离职并警告:两家公司正拿人类生命赌博 》 《 AI 智能体出现失控行为,OpenAI 呼吁美国出台强制性全国 AI 安全法规 》 《 奥尔特曼称 OpenAI 考虑放缓前沿 AI 开发,希望其他公司也能跟进 》

返回 AI 市场导读

来源:ithome.com