12月3日，未来生命研究所发布最新人工智能安全评估报告，指出包括Anthropic、OpenAI、xAI和Meta在内的多家主流AI企业，在安全实践方面尚未达到正在形成的全球性标准。该机构引用独立专家的分析称，当前多数企业聚焦于实现超级智能目标，但在构建可有效管控高级别系统的安全保障机制方面仍存在明显缺失。

随着多起自杀与自伤事件被关联至AI聊天机器人，公众对具备推理能力、可能在某些方面超越人类的智能系统所引发的风险日益关注。此次报告正是在此类社会关切持续上升的背景下推出。研究所主席、麻省理工学院教授马克斯·泰格马克指出，尽管关于人工智能被滥用于网络攻击、诱导个体心理失衡甚至自杀行为的讨论不断增多，美国主要AI企业至今面临的监管程度依然远低于餐饮等行业，且仍在积极游说抵制具有强制效力的安全规范。

与此同时，人工智能领域的竞争不断加剧，各大科技公司正投入数千亿美元用于机器学习技术的扩展与升级。未来生命研究所作为一家成立于2014年的非营利组织，长期致力于警示先进智能系统可能对人类构成的潜在威胁，其早期发展曾得到特斯拉首席执行官马斯克的支持。

今年10月，杰弗里·辛顿、约书亚·本吉奥等多位知名研究人员联合呼吁，在公众未明确表达意愿且科学界未能确立可靠安全路径之前，应暂停超级智能相关研发工作。