VicroCode
让代码创造价值
VicroCode是一个轻量级代码在线发布、交易平台,开箱即用,免部署、免服务器、免备案,支持接入智能体、通用管理系统、游戏等多种项目
稍候片刻,您可先学习AI编程手册
正在加载中...

市场信息

微软 CEO 纳德拉:以前我认为 AI 越强大也会越安全,现在不信了

IT之家 10 月 27 日消息,据《商业内幕》今天(27 日)早间报道,微软 CEO 萨提亚 · 纳德拉改变了对 AI“对齐”问题的看法。他过去认为,AI 系统越强大,就越容易让其行为 符合人类的价值观和目标 ,但现在,自己 不再相信两者会自然而然地同步发展 。 在新一期《20VC》播客中,主持人哈里 · 斯特宾斯问纳德拉,过去一年里有什么想法发生了改变。

www.ithome.com · 2026-10-27T00:23:35+00:00

IT之家 10 月 27 日消息,据《商业内幕》今天(27 日)早间报道,微软 CEO 萨提亚 · 纳德拉改变了对 AI“对齐”问题的看法。他过去认为,AI 系统越强大,就越容易让其行为 符合人类的价值观和目标 ,但现在,自己 不再相信两者会自然而然地同步发展 。

在新一期《20VC》播客中,主持人哈里 · 斯特宾斯问纳德拉,过去一年里有什么想法发生了改变。纳德拉解释,他原本认为,随着 AI 能力不断提高,确保 AI 行为符合人类价值观和目标的“对齐”问题也会迎刃而解。

模型规模扩大带来的效果符合纳德拉的预期,AI 能力持续提升,但对齐问题依然没有得到解决。 “我过去总以为,对齐问题自然就会解决。

我不再这么认为了。我觉得, 对齐可能是一个更棘手、性质也不同的问题 。

纳德拉曾于 10 月 10 日在 X 发文警告 AI 的风险,主张加强外部安全管控。他认为,企业应将 AI 模型 视为内部安全威胁 ,采取防护措施时应假定模型遭到入侵。

纳德拉在帖子中写道:“我们需要通过可靠、具有确定性的系统设计、人工管控和完善的操作规程,为行为难以完全预测的 AI 模型建立防护机制。对于现有标准不足的领域,还需要制定行业标准。

据IT之家了解,纳德拉并非唯一认为 AI 能力提升不能自动确保人类掌控 AI 的科技行业高管。 OpenAI CEO 萨姆 · 奥尔特曼和 Anthropic CEO 达里奥 · 阿莫代伊都曾就 AI 的潜在威胁发出警告。

今年 7 月,1000 多名 AI 从业者联署的一封信也警告,AI 能力的发展速度可能超过人类理解或控制它的能力。

返回 AI 市场导读

来源:ithome.com