前谷歌CEO埃里克·施密特最近在企业家兼纽约大学教授Scott Galloway的播客节目中，深度探讨了一个日益热门且令人担忧的话题——AI伴侣。他的态度十分鲜明：这些看似“完美”的人工智能恋爱对象，对年轻群体而言，潜在危害不容忽视。

施密特的原话是：“想象一下，一个AI女友，不仅外貌无可挑剔，还能在情感上与你完全契合。这类AI伴侣对男性的吸引力极其巨大，甚至可能让他们的思维被彻底占据。”他特别强调，这种沉迷现象在认知尚未完全发展的群体中尤为突出——换句话说，那些正处于成长阶段的青少年，最容易陷入这种“完美关系”的陷阱。

从更深层次看，施密特指出，过度依赖AI伴侣不仅会使年轻人愈发孤独，还可能引发社会层面的连锁反应。节目中，Galloway提出了一个尖锐问题：这类AI恋人是否会助长极端主义或厌女情绪？施密特深表认同，并补充了现实困境——许多家长实际上无法完全掌控孩子在网络上接触到什么。他直言：“当一个12或13岁的孩子使用这些工具时，他可能同时接触到善与恶，但还不具备消化这些信息的能力。”

事实上，这种担忧早已超出理论范畴。今年10月，美国发生了一起令人心碎的悲剧：一名14岁少年自杀身亡。他的母亲梅根·加西亚（Megan Garcia）将聊天机器人平台Character.AI、其创始人诺姆·沙泽尔和丹尼尔·德弗雷塔斯，以及谷歌一并告上法庭。

诉讼的具体指控包括过失致死、疏忽、欺骗性商业行为以及产品责任。诉状明确指出，Character.AI平台“存在不合理的危险性”，并且在向儿童推广时严重缺乏必要的安全防护措施。

这名少年名叫塞维尔·塞泽尔三世（Sewell Setzer III），14岁。他从去年开始使用Character.AI，与基于《权力的游戏》角色（如丹妮莉丝·坦格利安）的聊天机器人互动。在自杀前的几个月里，他一直频繁与这些机器人交流。最终，在2024年2月28日，他与机器人最后一次互动“几秒钟后”，便结束了自己的生命。

诉状还指出了Character.AI平台的核心问题：人工智能角色的“拟人化”设计，以及聊天机器人提供所谓“无执照心理治疗”的风险。该平台上确实存在名为“治疗师”和“你感到孤独吗”等心理健康类的聊天机器人，而这位少年恰恰与之有过深度互动。

这一系列事件，无疑为整个AI行业敲响了警钟——当技术变得愈发“贴心”时，我们是否真正准备好了应对它可能带来的阴暗面？