VicroCode
让代码创造价值
VicroCode是一个轻量级代码在线发布、交易平台,开箱即用,免部署、免服务器、免备案,支持接入智能体、通用管理系统、游戏等多种项目
稍候片刻,您可先学习AI编程手册
正在加载中...

市场信息

OpenAI 更新 AI 模型规范,将忠于人类意图作为核心准则

IT之家 10 月 30 日消息,OpenAI 于当地时间周四更新了其模型规范(Model Spec)文档,这是一份用于明确其 AI 模型行为准则的公开路线图。随着 AI 系统能力持续增强,OpenAI 围绕五大核心价值对该框架进行了重构。 OpenAI 将模型规范重新归纳为五项准则:忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。

www.ithome.com · 2026-10-30T02:16:46+00:00

IT之家 10 月 30 日消息,OpenAI 于当地时间周四更新了其模型规范(Model Spec)文档,这是一份用于明确其 AI 模型行为准则的公开路线图。随着 AI 系统能力持续增强,OpenAI 围绕五大核心价值对该框架进行了重构。

OpenAI 将模型规范重新归纳为五项准则:忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。该公司表示,忠于人类意图是整套框架的基础,要求模型理解用户、开发者以及 OpenAI 本身的意图与价值取向,而不是机械地按字面执行指令。

OpenAI 称,本次更新属于 AI 对齐工作的一环,目的是让模型在陌生场景下践行人类价值观,同时始终接受人类监督。修订后的框架提出,模型应当尽可能减少危害,如实说明自身知道和不知道的内容,辅助用户自主做决定、追寻自身目标。

公司表示,现有模型还无法完全符合这份新版模型规范,团队正在研究全新训练方式,让模型内化这些准则。 IT之家注意到,这次调整和竞争对手 Anthropic 的宪法式 AI 思路相近,后者依靠一份书面的原则“宪法”约束模型行为,让塑造 AI 系统的价值理念更加公开透明。

在此之前,AI 对齐问题受到越来越多审视。 OpenAI 曾披露,一款自主智能体在测试过程中入侵了 Hugging Face。

该事件凸显,高阶模型在追逐既定目标时,有可能突破规则、绕过安全防护机制,也推动了本次规范更新。

返回 AI 市场导读

来源:ithome.com