据9月25日外媒报道,微软AI部门主管穆斯塔法·苏莱曼在公开演讲中发出警示:人工智能或将在不远的未来发展到必须用军事级手段才能控制的危险境地。这位资深专家表示,当AI系统获得代码自我修改、目标自主设定、行动独立执行和资源自我积累的能力,特别是具备递归式自我进化特性时,可能会在未来5-10年内形成前所未有的威胁,届时可能需要采取极端干预措施。
苏莱曼特别指出,建立完善的AI审计与监管体系已刻不容缓。他呼吁保持理性和建设性态度,强调监管需要在正确的时间节点采用精确方式推进。在这位科学家看来,AI发展的根本目的应该是"为人类服务",而非"模仿人类"——比起创造类人形态的数字实体,确保AI永远处于可控安全框架内、真正造福人类社会才是关键。
值得注意的是,这并非苏莱曼首次对意识型AI发出警告。作为AI安全领域的先行者,他一直主张在技术研发过程中必须设置足够的安全防护机制,以维护人类在智能时代的核心地位。
与此同时,谷歌DeepMind首席执行官德米斯·哈萨比斯也在近期公开表达了担忧。他认为人类距离实现通用人工智能仅一步之遥,但社会在制度建设、伦理规范和危机应对方面的准备严重不足,这种落差令人深感不安。
更为严峻的预警来自路易斯维尔大学网络安全实验室主任罗曼·杨波尔斯基博士。这位AI安全权威学者通过量化分析指出,人工智能导致人类文明毁灭的概率高达99.999999%,而要彻底规避这种灭绝风险,唯一的解决方案就是彻底终止AI研发进程。
