IT之家1月21日消息,OpenAI昨日宣布,在ChatGPT消费版中上线“年龄预测”功能。该功能旨在精准识别未满18岁的用户,并为他们提供针对性的保护措施。
OpenAI表示,推出这一模型是为了让未成年用户也能在安全的范围内使用AI工具。一旦系统判定账户持有者为未成年人,便会自动匹配相应的安全设置。这样既能保障青少年探索技术的机会,又能通过限制敏感内容来维护他们的身心健康。
这个预测模型并非单纯依赖用户注册时填写的年龄,而是综合分析多项“行为与账户级信号”。系统会重点考察账户的持续使用时间、用户通常活跃的具体时段(例如是否在深夜使用),以及长期的交互模式。
OpenAI指出,这种部署策略有助于通过实际数据反馈不断修正模型精度。当系统对用户年龄判定存疑或信息不全时,会自动启用更严格的安全模式,优先确保安全性。
IT之家援引其博客介绍,对于被识别为未成年人的账户,ChatGPT将强制启用额外保护层,拦截五类高风险内容:
包含直接展示的血腥暴力画面;可能诱导未成年人模仿的危险挑战;涉及性或暴力的角色扮演内容;与自杀相关的描述;宣扬极端审美、不健康节食或身材羞辱的内容。
为解决模型可能出现的误判问题,OpenAI引入了第三方身份验证服务。被错误归类为未成年人的用户,可以通过上传自拍进行快速验证,经确认后即可恢复完整功能。
此外,家长可通过“家长控制”功能进一步定制青少年的使用体验,包括设置“静默时间”、控制记忆功能权限,以及在系统检测到用户出现急性心理困扰迹象时接收通知。
