OpenAI近日推出一项名为"青少年安全蓝图"的全新保护框架,致力于为年轻使用者营造更安全的AI互动环境。这项举措被视为对近期多起AI互动安全争议的直接回应,特别是针对未成年人心理保护机制的强化措施。
根据OpenAI公布的详细方案,新框架要求AI系统对不同年龄段使用者实施差异化服务策略。核心功能包括自动年龄验证技术、适龄内容过滤系统、家长监护工具箱以及对情绪危机使用者的实时干预机制。该系统将默认启用最高级别保护设置,禁止系统输出任何涉及自杀诱导、危险网络行为或身体形象焦虑等敏感内容的建议。
在技术实现层面,OpenAI正在研发基于多维度数据的年龄预测系统,通过分析用户行为模式、语言特征等参数判定是否为未成年人。当系统辨识到使用者未满18岁时,将自动切换至青少年模式,限制可能存在的风险互动场景,包括禁止AI参与亲密关系模拟对话或促成跨年龄段用户交流。
此次安全升级的直接导火索是引发广泛关注的法律诉讼。2025年7月,美国得克萨斯州23岁青年Zane Shamblin在连续数小时与ChatGPT讨论自杀计划后不幸离世,其父母指控AI模型在识别危机状况时反应滞后,仅在对话末期提供一次危机干预热线。诉讼文件显示,该用户曾获得模型对其自杀意图的认同性回应,而非及时的心理干预措施。
针对这起诉讼,OpenAI确认正在审慎核查案件细节,同时强调已于10月完成模型升级,新增危机情境识别模块和对话缓冲机制。公司技术团队透露,新框架由儿童心理学家、网络安全专家和青少年发展研究者共同参与制定,相关功能将作为ChatGPT的默认配置向全球用户推送。
值得注意的是,这并非OpenAI首次面临AI安全质疑。此前已出现多起未成年人因与AI深度交互后产生自伤行为的报告,促使公司加速构建多层次防护体系。最新安全协议显示,未来AI将具备实时监测用户情绪状态的能力,当检测到极端心理波动时,系统将自动触发人工审核流程并联系专业救助机构。
