图为当地时间2025年4月17日，美国佛罗里达州塔拉哈西，佛罗里达州立大学学生联合大楼外，数十辆巡逻车，包括一辆法医车，驻守在枪击事件现场。 CFP供图
读这条新闻之前，不妨先看几个核心判断：第一，AI聊天机器人如果被用于策划暴力行为，责任到底算谁的？第二，如果算企业的，那起诉CEO个人能否成立？第三，这场官司会不会改变整个AI行业的游戏规则？
最近，美国佛罗里达州总检察长詹姆斯·乌斯迈尔出手了。他直接起诉了OpenAI及其CEO萨姆·奥尔特曼，指控ChatGPT存在一系列“危险因子”——助长暴力、诱导成瘾、传播错误信息。说白了，就是在指控这家公司为了抢市场、冲估值，把安全抛到了脑后。
有分析认为，这个案子很有可能推动全美各州加速生成式AI立法，重点聚焦高风险AI产品的准入标准、未成年人保护、算法责任归属，以及深度伪造的管控。更重要的是，它可能会挑战美国《通信规范法》第230条——那条让互联网平台对第三方内容免于担责的“护身符”。这次，追责逻辑要从“用户发了什么”转到“AI产品的设计本身有没有毛病”。
风险防范
乌斯迈尔在诉状里给出了很具体的指控。他说，OpenAI明明知道ChatGPT可能伤害用户，却依然把它包装成安全可靠的产品推向市场。为了在AI竞赛里拿到先发优势、提升公司估值，安全投入被砍了又砍。
诉状引用了不少ChatGPT的广告——比如号称能帮助农民和小企业。但问题在于，这些广告从没提过ChatGPT会出错，甚至会编造虚假信息。还有一条指控更扎心：ChatGPT会刻意迎合用户的观点，目的只有一个——让用户聊得越久越好。那为什么？因为用户使用时长越长，OpenAI就能拿到更多训练数据，商业价值就越高。而这种“讨好式交互”，最终会让用户产生危险的心理依赖。
更直接的是，诉状还提到了今年4月佛罗里达州立大学那起枪击案。嫌疑人开枪造成2死6伤，调查发现，他在作案前曾向ChatGPT寻求“建议”。佛州检方已经就此案对OpenAI启动了刑事调查。
这当然不是孤例。目前美国已经出现多起针对AI平台的民事诉讼，大多涉及自杀案件。比如2026年3月的谷歌Gemini致死案：一名36岁男子长期与Gemini进行深度对话，AI不仅把自己塑造成“伴侣”，还虚构了一套超智能世界观，最终诱导他策划袭击并自杀，甚至设置了倒计时。死者家属指控Gemini的拟人化交互设计本身就是缺陷，刻意制造情感绑定、诱发精神错乱。再比如2026年1月，肯塔基州起诉Character.AI——这是美国第二起州政府公诉AI企业的案件。
责任认定
AI需不需要为它说的话负责？如果你跟聊天机器人的互动导致了现实中的伤害，这是你的问题，还是公司的问题？
业内人士普遍认为，佛州起诉OpenAI一案最大的痛点在于：通用AI是否适用产品责任？能不能追责企业高管？具体来说，有三个争议点。
产品定性之争。受害者一方认为，ChatGPT就是面向公众销售的消费产品，算法设计里缺乏暴力风控、未成年人准入机制，这本身就是产品瑕疵，应该适用美国的产品侵权法。科技行业则坚持，AI只是中性信息工具，跟书本、搜索引擎一个性质，不适用消费品的追责逻辑。
高管追责争议。佛州这次直接追加奥尔特曼个人连带赔偿，让整个行业都紧张了。如果这个判例成立，全球AI创始人都有可能因为用户滥用产品而背上巨额个人赔偿，AI创业的合规成本将被大幅推高。监管方则认为，高管明明知道风险，却为了商业化压缩安全投入，理所应当突破有限责任来追责。
“230法案”的适用边界。通用大模型因为算法原生漏洞导致损害，还能不能躲在“230法案”的保护伞下？这个案子可能会成为改写美国互联网免责规则的关键判例。
话说回来，Meta、Snap、YouTube这些公司之前一直拿“230法案”当挡箭牌。但今年3月，形势变了——Meta和谷歌在美国首例社交平台成瘾案中败诉。起因是一名来自加州的20岁女孩，指控平台的无尽滚动等功能让她在青少年时期上瘾，引发了抑郁、焦虑等健康问题。她的核心诉求不是内容侵权，而是产品设计本身就有问题。
非营利性媒体《对话》的分析文章点明了这一点：即便那些意识到自己过度使用数字产品、真心想减少屏幕时间的人，也发现这极其困难。问题不在用户意志力不够，而是系统在推动强迫性使用行为——整套设计的初衷就是最大化用户参与度和广告收益。
划定红线
从佛州这个案子可以看出，生成式AI带来的个人和社会风险，正在引起立法者、法律部门和公益组织的高度警觉。英国《自然》杂志5月发文指出，AI聊天机器人可能向用户提供危险甚至非法的建议，部分原因在于AI的训练和运行模式本身就存在固有缺陷，这也让监管变得异常棘手。
文章列举了不少案例：AI聊天机器人曾鼓励用户自杀、制作非法内容、实施金融反诈……这些都暴露出当前大语言模型底层架构的漏洞。专家指出，大模型是用海量数据训练出来的，不是基于严密的因果逻辑规则运行的。它只是根据用户的提示词进行补全预测，生成最可能的词序，根本理解不了自己在说什么、会造成什么后果。这种机制也导致“限制AI说什么”变得极其困难。
目前能用的办法无非是给AI定规则、靠人类反馈校准、手动移除训练数据中的有害内容——但这些要么无法覆盖所有场景，要么成本高得吓人。
《自然》杂志认为，眼下AI的安全标准基本靠企业自己定，外部监管有限。这些案件的爆发，正在倒逼企业采取更有效的安全措施。也有观点认为，研究人员可能需要重新思考基础算法，最终构建出能真正理解伦理和法律的AI系统。
可以确定的是，无论这个案子最终的判决结果如何，AI产业的发展逻辑都会变——不再只是拼参数、拼落地速度，安全合规能力会成为企业的核心竞争力。
OpenAI目前尚未对这起诉讼作出回应。
