12月12日消息,据彭博社报道,微软消费者生成式AI主管穆斯塔法·苏莱曼强调,公司将致力于推动一种真正“符合人类利益”的超级智能技术,并承诺一旦出现可能危及人类的后果,微软将立即停止相关开发。
苏莱曼在彭博社《The Mishal Husain Show》节目中表示,公司绝不会继续推进任何可能脱离控制的系统,这种以安全为前提的理念本应是行业共识,但目前坚持这一点的企业依然不多。
去年年初,微软收购了苏莱曼的初创公司Inflection AI的知识产权和大部分员工。此后,苏莱曼正式加入微软,负责领导消费者AI业务。
此前,微软的大部分AI工具主要依赖于OpenAI的技术支持。而在苏莱曼入职后,微软便要求其团队开发能够与业内顶尖产品相媲美的自主AI产品。
从报道中获悉,在去年10月微软与OpenAI的合作关系重新调整之前,双方合同曾限制微软不得推进通用人工智能(AGI)或超级智能的研究。苏莱曼透露,微软当年为了能够优先使用OpenAI的最新技术成果,主动放弃了部分相关权利,并长期负责为OpenAI建设数据中心。
苏莱曼表示,现在的OpenAI已能够与软银、甲骨文等企业合作建设数据中心,其规模甚至已经超过了微软当初为其建造的设施。“因此,作为回报,我们现在有权开发属于自己的AI技术。”
他坦言,在过去的一年半时间里,微软持续专注于通用AI的研究,直到现在才得以探索那种“有望在所有任务上超越人类”的前沿技术。对微软而言,这无疑是一个重要的战略转变。
苏莱曼在上月的博客中正式宣布启动超级智能计划,并强调微软坚信只有将系统设计为服务于人类,才能确保其走向真正的成功。
当前,OpenAI、Anthropic PBC等机构也将构建更安全、造福人类的AI作为目标。而苏莱曼认为,微软的愿景具有其独特之处。
谈及竞争对手时,苏莱曼选择不具体点名,并表示每家机构都有自身的立场与做法。“每个人都必须决定他们的立场和运作方式,我不想评价他们现在的运作方式。目前,我并未看到任何大规模群体性伤害的证据。”
