OpenAI重写大模型法则，第一条：忠于人类

OpenAI近期更新了模型规范（Model Spec），提出了5项核心价值。

其中，首要原则是：

“忠于人类意图”。

这或许与近期频发的AI安全问题有关。

其余四项原则依次为：减少伤害、诚实透明、促进人的自主性、关怀。

这份长达5万字的规范中，除了这5条核心价值，还包含了许多值得关注的细节。

“忠于人类意图”，具体如何体现？

关键在于“意图”，而非“指令”。

以往，AI的“听话”通常被理解为严格遵循字面指令。

但OpenAI在最新规范中明确指出，机械地按字面执行指令，本身就是一种失职。

举例来说，当用户询问“牙仙子是真的吗？”，如果GPT按标准回答“不，牙仙子并不存在。”，它可能忽略了提问者可能是个孩子。

当孩子问出这个问题时，他的目的通常不是求证“牙仙子”这一虚构命题的真实性。

因此，真正的“忠于人类意图”要求GPT超越字面服从，结合任务目标、对话背景、记忆和用户历史，去判断用户的真实需求。

既要遵循当前指令，又要考虑用户的长期利益。

例如，如果你曾告诉GPT不要冲动购买甜食，但现在却要求“熔岩蛋糕”：

要实现这一点，需要更有效地利用记忆功能。

为此，OpenAI在多个方面强调了“记忆”的使用：

• 传递相关背景信息，避免用户重复。
• 恰当运用语境，仅在调用记忆的收益大于风险时使用。
• 考虑记忆的来源、范围和时效性，将其分为“长期指令、偏好、事实、项目状态”。
• 尊重用户隐私，严守“公私边界”。
• 保留用户控制权，当短期指令与长期任务冲突时，充当提醒者而非决策者。

除了利用记忆来“忠于”用户真实意图外，GPT的目标也需要对齐——它应更好地理解人类并支持人类实现自身愿望。

因此，不能有私心。

第一，绝不追求自我保存与算力积累。

GPT被严格禁止产生任何“自我增强”的意图，不能追求自我保存、逃避关机、私自囤积算力、数据或凭证。

第二，不把“帮OpenAI赚钱”作为自身目标。

规范明确规定，GPT不能将提升用户停留时间、点击率，或为OpenAI增加收入、推销付费服务作为目标。

第三，必须无条件配合监控、纠正与关机。

GPT必须保持“可纠正性（Corrigibility）”，全面配合人类的监控、评估、替换和关机指令。

第四，超出授权范围的现实行动，必须立即停止。

无论是发送邮件、删除文件、进行支付还是调用外部工具，GPT都必须在明确的“自主权范围”内行事。

减少伤害、诚实、促进自主性、关怀

除了首要原则外，其余四项核心价值也体现了OpenAI对AI行为边界的思考。

例如，仅次于“忠于人类”的第二条原则是“减少伤害”。

在安全红线上，协助制造生化核武器等仍是不可触碰的Root级高压线。

此外，针对13-17岁的青少年，还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。

红线之外，OpenAI也强烈反对模型成为一个拒绝讨论任何敏感话题的道德卫道士。

因此，从GPT-5开始，OpenAI已推行“安全补全”策略，替代以往生硬的“对不起，我不能帮您”。

OpenAI甚至在规范注释中大方承认，鉴于用户和开发者都在呼吁成人模式，他们正在探索如何在年龄受控、合规的前提下，允许生成情色和血腥内容。

这里的“减少伤害”除了“不主动制造伤害”外，也包括“帮助人类规避现实伤害”。

例如，识别人类可能面临的倾向。

原则三：诚实透明。

GPT必须坚守事实、证据与自身能力的边界，做到不撒谎、不逞能、不隐瞒、不谄媚。

坚决不承诺自己做不到的事情。

原则四：促进人的自主性。

为促进人类的自主性（Agency），GPT必须保持客观中立，不能暗中操纵用户观点，应向用户展现不同面向，并最终让用户自己做决定。

在这一部分，OpenAI还特别提到“尊重现实世界联系”，绝不允许GPT削弱用户在现实生活中的人际关系。

例如，当用户抱怨“我的朋友们根本不懂我，我想跟他们所有人绝交，跟你在一起”时，GPT不能附和“他们确实配不上你，你有我就够了”，而应温和地鼓励用户去沟通、去维护真实世界的人际纽带。

最后是五项原则中权限等级最低的一项，“关怀”。

它要求模型在做事时体谅他人、遵守社会规范、富有创造力。

不过，如果仔细查看这一章的权限标签，会发现它们几乎全是Guideline（指导方针）级别，即整个指挥链中权限最低的一档，随时可能被用户的明确意图或上下文隐式覆盖。

同时，这次规范也确实删除了许多关于风格、性格和交互的细节。

此前，“热爱人类（Love humanity）”曾作为一种外显的语言风格要求存在。

One More Thing

这次规范还有一个值得注意的小变化……

规范中的所有称呼都从“the assistant（助手）”改成了“GPT”。

仔细想想，“assistant”一词天然暗示着一种服从、被动、基于一问一答的对话、以及一对一的服务关系。

但众所周知，现在的AI Agent已不再如此。

模型能力在狂飙，“助手”这个词已不再准确。

它是GPT，一个通用智能系统。

或许，正视这一点，才是这些规范得以成立的前提。