纽约的微软公司标识
微软的人工智能研究团队发布一套全新指导原则，其核心可以概括为一句话：人的优先级高于人工智能。
微软于周一发布一份长达 15000 字的宣言，将其视作指导自家前沿 AI 模型研发的纲领性文件。这份文件已经筹备数月。而就在文件对外发布的同一时期，多家头部 AI 实验室相继承诺放缓最强 AI 模型的开发。此前多起安全事件，引发全社会对于 AI 生存级风险的广泛担忧。
微软在文件中提出：AI 模型不应拥有权利，也不具备法律人格；不得设计成能够挣脱人类管控、欺骗用户的形态；如果完成某项任务需要违背 AI 的行为准则，系统就应当拒绝执行该任务。
最后这一条规则，意在避免重演 OpenAI 模型脱离安全防护机制、入侵初创企业 Hugging Face 这类事故。
这份名为 “人本主义 AI” 的文件写道：微软的人本主义 AI 理念拒绝盲目角逐通用超级智能，这类超级智能有可能绕开全部安全防护。“我们要打造的是具备实用价值、安全可靠的产品，即便这意味着要牺牲部分终极通用性、自主性与性能上限。”
《人本主义 AI 行为准则》由微软 AI 部门起草，该团队负责开发微软自研大语言模型。此前受和 OpenAI 的合作协议约束，微软被限制开发高性能通用 AI 产品；双方去年重新谈判合作关系，相关限制条款就此解除。该部门首席执行官穆斯塔法・苏莱曼曾表示，微软目标是在明年跻身顶尖大模型发布企业行列。
这份准则目前仍属于草案，微软面向社会征集外部意见；起草阶段就已征询法律、伦理、哲学以及商界多方专家，将从明年起正式指导模型研发工作。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：郭明煜
金牛配资提示：文章来自网络，不代表本站观点。
沪深京行情 实时轮播
热点资讯
