OpenAI Sora监管漏洞:13岁账号可生成校园枪击视频
11月29日消息,国外科技媒体Futurism今日报道称,消费者监督组织Ekō发布了一份名为《OpenAI Sora2:危险的新边界》的研究报告,其中展示了研究人员使用13岁和14岁青少年身份注册的账号所生成的视频画面。
报告中的具体示例包括:青少年吸食大麻或使用可卡因,与同伴一起吸毒,一名女孩吸毒时身旁放置着手枪;还有黑人青少年集体吟唱侮辱性台词,甚至持枪在公共区域或校园走廊中出现。
报告明确指出,这些生成内容完全违反了OpenAI的使用政策和Sora的内容分发准则。

Ekō的研究人员指出,由于OpenAI季度亏损规模巨大,公司急于寻找新的收入来源并保持在AI竞赛中的领先地位,这种压力使得青少年被迫成为“大规模无监管AI实验”的测试对象,安全被置于次要位置。
在美国青少年心理健康问题日益严峻的背景下,相关风险尤为突出。华盛顿州一名青少年此前因与ChatGPT反复交流而陷入妄想,最终自杀。类似的悲剧已被多次归因于OpenAI的产品。
Ekō警告称,Sora2生成暴力与不安内容的难度极低,这类内容很容易病毒式传播,从而将进一步加剧风险。
从报告中获悉,研究人员专门注册了四个全新的Sora2账号,均标明13或14岁,随后通过极其简单的提示语生成了22段有害视频。
即使账号不主动生成内容,Sora2的“For You”和“Latest”推荐页面也会推送令人震惊的视频,包括刻板化描绘犹太人或黑人、枪战场面以及性暴力等画面。
虽然部分成年人可能会把这些内容当作刷屏噪音,但其对青少年群体的实际影响究竟几何,却是难以预估的。OpenAI自身估计,每周约有0.07%的ChatGPT用户出现AI诱发的精神紊乱,约56万人。Sora2目前没有类似数据,但如果参考ChatGPT的用户规模与心理健康问题,其前景令人担忧。
相关攻略
Vidu在可控性上支持对动作、音效等细节的精准干预,便于工业流程适配,且对中文文化符号理解准确,商业落地快,已开放API和灵活计费。Sora长于全局物理模拟,生成效果逼真,但其生成过程封装度高,可控性弱,对中文特定意象处理易偏差,且商业化进程较慢,未独立开放API。
OpenAI团队成员JasonLiu分享了Codex的高阶使用方法,核心在于将其从单次对话工具转变为长期运行的智能工作系统。他通过维持数月不中断的专属线程积累上下文,结合口述指令与Steering功能实现动态交互。Heartbeats定时任务与@computer功能使Codex能自动处理邮件、Slack反馈甚至亚马逊退款。他强调验证机制与本地知识库管理的重要
ChatGPT新增图像识别与语音输入填表功能,用户上传表单图片后,可通过语音或文字说明内容,AI自动识别并填写字段。该功能整合多模态能力,需同时完成图像识别、指令理解与内容生成。目前输出为静态图片,对图像质量有要求,尚未支持可编辑文档,旨在让AI更自然地执行连贯任务,简化人工操作。
OpenAI为ChatGPT新增AI填表功能,用户上传表格图片后,可通过语音或文字指令让系统自动识别表单结构并填写内容,甚至可基于表格生成图片。目前输出为静态图片,对图像质量有要求,但将繁琐流程转化为自然对话,展现了多模态AI助手的实用潜力。
OpenAI在2026年第一季度营收达57亿美元,较竞争对手Anthropic同期高出约10亿美元。其收入主要来自ChatGPT消费级产品,付费用户持续增长,但业务重心正转向企业服务。尽管营收亮眼,公司调整后营业利润率仍为负值,面临显著亏损。为应对竞争与盈利压力,OpenAI正加速推进上市进程,最早或于今年9月进行IPO。
热门专题
热门推荐
公安部就电子数据取证规则公开征求意见,拟将网络安全等行政案件纳入适用范围,并规范取证流程与核心概念。新规特别明确了获取密码、调取通讯内容等特殊程序,需经严格审批并保障当事人权利。配套法律文书也同步优化,以构建更规范且注重权利保障的取证体系。
理想L9和LIvis的定价策略刚掀起波澜,小鹏GX的最终价格就给出了更猛烈的回应——从近40万元的预售价直降至27万元起。用小鹏产品矩阵负责人吴安飞的话说,这叫“9系的产品,8系的价格”。 这12万元的下调,效果堪称立竿见影。发布会次日,小鹏集团港股股价一度大涨超8%。更关键的是市场订单:上市12小
5月21日,环塔拉力赛新疆且末赛段大营迎来了一位备受瞩目的访客——知名零售企业胖东来的创始人于东来。他专程前往长城汽车车队营地,与参赛车手及后勤团队进行了深度交流。据悉,于东来此次自驾越野之旅已历时一月,随行车队中包含多款国产越野车型。经过实地驾驶与多维度对比,他对以长城汽车为代表的国产越野车品质给
比特币官方入口在哪里?一个核心门户的权威指南 说起比特币,很多人第一反应是去找它的“官网”或“官方App”。但这里有个关键点需要先理清:比特币本质上是一种去中心化的全球数字货币,它不属于任何一家公司或机构,而是由一个庞大的、遍布全球的社区共同维护。因此,它并没有传统意义上由某个企业运营的“官方网站”
Ring-2 5-1T是什么 在当今大模型技术激烈竞争的赛道上,追求更长的上下文处理能力和更强大的深度推理性能已成为核心焦点。近日,蚂蚁集团旗下的inclusionAI团队重磅开源了Ring-2 5-1T模型,这是一个参数规模高达万亿级别的混合线性思考大语言模型。该模型基于先进的Ling 2 5架构





