微软AI主管：AI应设安全围栏，避免过度拟人化

8月25日消息，微软人工智能部门负责人穆斯塔法・苏莱曼于上周（8月19日）发表了一篇博文，阐述了他对人工智能现状与未来发展的思考。

苏莱曼提到，他毕生的使命是推动世界向更好的方向发展，致力于开发既安全又有益的人工智能。当前，微软正致力于通过AI技术增强人类能力，尤其专注于将Copilot打造成一种负责任的技术助手，帮助人们释放更多创造力。

他希望能够开发出“更贴近人性”的AI系统，使其与真实世界更紧密相连，同时促进人与人之间的信任与理解。然而，实现这一目标面临诸多挑战，其中最关键在于需要极其审慎的思考。微软将始终以“以人为本”的价值观作为技术发展的指引。

苏莱曼在文章中也表达了对当前AI发展态势的忧虑。他指出，越来越多人开始认为大语言模型（LLM）是具有意识的实体，甚至有人呼吁赋予AI所谓“权利”、“福利”乃至“公民身份”。这种现象不仅出现在特定人群，连没有心理疾病的人也会产生此类认知，他将这种倾向称为“AI精神分裂”。

他强调，AI的发展应该始终以服务人类为核心，而不是简单模仿人类行为。整个行业亟需建立一道“安全围栏”，明确技术开发的边界，避免制造可能带来风险的应用。唯有将AI纳入规范框架，才能真正让其为社会创造价值。

外媒WindowsReport评论称，苏莱曼的担忧并非空穴来风。本月初，OpenAI停用GPT-4o模型时就遭到大量用户反对，许多人将这个AI模型视为情感伴侣，强烈要求其“回归”。

OpenAI首席执行官山姆・奥尔特曼也坦言，AI技术所带来的情感依赖远超以往任何技术。他甚至表示，强大的AI技术“有可能导致人类自我毁灭”。