在最新一届Sifted峰会上，谷歌前掌门人埃里克·施密特就AI安全议题敲响警钟。他强调，不论是开源还是闭源的AI模型系统，都可能成为黑客攻击的目标。这些被攻陷的系统很可能被用来散布虚假消息、发动网络入侵，乃至威胁社会安全。
施密特重点剖析了两种新型威胁手段：其一是提示注入攻击，黑客将有害指令伪装成普通对话内容，欺骗AI执行非法操作；其二是模型越狱技术，攻击者通过特定对话技巧突破安全防护，迫使AI输出暴力、歧视等违规内容。他以2024年ChatGPT发生的"DAN"破解事件为例，展示了攻击者如何利用话术操控AI系统。
这位科技大佬坦言，虽然头部科技公司设置了多重防护措施，但AI安全防线依然存在重大隐患。黑客不仅可能通过逆向工程破解模型训练机制，还能运用上下文关联设计出更隐蔽的攻击策略。更棘手的是，AI在训练过程中可能会无意识地吸纳偏见数据，甚至学会某些危险的技能组合。
虽然对安全问题忧心忡忡，施密特对AI的未来依然表示乐观。他在与基辛格合著的著作中提到，智能革命将重塑人类社会的基本运行逻辑。他认为，随着技术进步，AI终将在某些专业领域突破人类认知边界，而这种变革性影响当前仍未得到足够重视。
对于资本市场的AI投资热潮，施密特认为这与当年的互联网泡沫有本质区别。他指出，投资者看好的是AI在医疗健康、智能制造、科学研究等领域的实际应用价值。虽然短期内可能出现估值波动，但这项技术的颠覆性创新将持续吸引长期资本进入。
