量子位 · 互联网企业· 程浅·· 3 小时前
OpenAI 更新模型准则 Model Spec,首条核心价值为“忠于人类意图”
OpenAI重写大模型法则,第一条:忠于人类!!
AI 导读
OpenAI 更新模型准则(Model Spec),列出 5 条核心价值观,第一条为“忠于人类意图”,其余为减少伤害、诚实透明、促进人的自主性、关怀。准则要求 GPT 超越字面服从,结合任务目的、上下文、记忆和用户历史判断真实意图,并禁止追求自我保存、算力积累或把为 OpenAI 增收当目标。准则中称呼由“the assistant”改为“GPT”。
来源:量子位 · 互联网企业 · qbitai.com