首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

热心网友
95
转载
2026-04-23

AI玩具正迎来严监管。

实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

风向变了。近日,国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》。这份即将在2026年7月15日施行的文件,为AI拟人化服务划下了清晰的“红线”:明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。同时规定,向不满十四周岁未成年人提供其他拟人化互动服务的,必须事先取得监护人的同意。

这还只是开始。办法进一步细化了针对未成年人的保护措施,要求服务提供者必须建立“未成年人模式”。这个模式可不是摆设,它需要包含模式切换、定期现实提醒、使用时长限制等一系列个性化安全设置。更重要的是,它必须支持监护人接收风险提醒、了解使用概况,甚至能屏蔽特定角色、限制充值消费。说白了,就是给AI玩具套上防沉迷的“紧箍咒”,并赋予家长实实在在的监督权。

然而,规定是规定,市场的现状又如何呢?记者近期分别走访了上海线下玩具市场和线上主流销售平台,发现了一个颇为严峻的现实:绝大多数面向孩子的AI玩具,其防沉迷管控和家长监督功能,几乎处于“缺位”状态。

具体来看,问题主要集中在两方面。首先,市面上多数AI玩具压根没有硬性的使用时长限制功能,顶多依靠内嵌的大模型发出一些“使用时间过长”的“软性”通知,效果可想而知。其次,所谓的“家长阅知功能”更是稀缺。这意味着,除非家长全程守在旁边,否则根本无法了解孩子与AI的互动内容、潜在风险和使用情况。虽然部分产品提供了用户日志供查阅,但这远未成为行业标配。

多数AI玩具暂无防沉迷等设置

在上海杨浦一家大型玩具店内,工作人员热情推荐了畅销款AI玩具“贝贝”。这款巴掌大小、形似猫头的玩具,通过尾巴唤醒,能实现流畅对话、情感互动,号称拥有自主记忆,适合三岁以上儿童。但当被问及防沉迷和家长监督功能时,答案却很直接:没有。孩子玩多久,家长无法远程查看或干预。

线上渠道的情况也大同小异。在该产品的电商旗舰店,客服的答复与线下一致:产品不具备防沉迷功能,家长也无法在线查看使用情况。

另一家玩具店主推的“养成系AI”玩具,主打长期记忆和启蒙教育,同样适用于三岁以上儿童。无论是线上客服还是线下门店,给出的回答都很明确:没有防沉迷提示、没有使用时间限制、也没有家长阅知功能。

当然,市场上也并非全是“裸奔”的产品。在一家中高端AI玩具品牌的线上旗舰店,客服推荐的新款小熊外形玩具就配备了“成长守护日志”功能。家长可以通过手机查看每日使用情况、月度统计报告,并能提前设置允许使用的时段和时长,实现了基础的防沉迷管控。

另一家定价较高的品牌,其今年三月上市的兔头外形AI玩具也提供了“成长记录”功能,允许家长通过小程序查阅对话记录和使用时间。不过,颇具意味的是,该店客服同时强调:AI玩具目前不需要设置防沉迷。这种认知上的矛盾,恰恰反映了行业现状的混乱。

专家:企业应提升算法设计透明度

近年来,AI应用飞速普及,不少产品精准捕捉到未成年人对情感陪伴的需求,推出了各种“有求必应”的虚拟伙伴。这类产品在提供慰藉的同时,也暗藏风险:过度沉溺于虚拟社交,不仅会挤占学习时间、影响现实交往能力,更可能扭曲孩子的自我认知,削弱他们未来应对真实世界挑战的韧性。正因如此,针对AI陪伴产品的监管正在持续加码。

面对这一新兴领域的治理难题,知名商业顾问、亚太社会创新研究院院长霍虹屹在接受证券时报记者采访时指出,AI玩具的监管亟需一套专门且分层的体系。他将其概括为三个关键层次。

首要一层,是内容安全的底线监管。AI大模型的输出具有不可预测性,如果没有针对儿童场景进行专门的训练和内容过滤,很可能吐出“毒苹果”。因此,他建议监管层应强制要求儿童AI产品进行专项内容安全测评和备案,建立类似食品安全的准入机制,不合格者禁止上市。

第二层,是数据隐私的强制保护。霍虹屹提醒,AI玩具在与孩子互动过程中,会持续采集海量的语音、行为甚至情感数据。这些敏感信息必须被严格保护。可以参照欧盟《通用数据保护条例》中的儿童专项条款,明确禁止将儿童数据用于商业画像、出售给第三方,并赋予家长随时申请删除数据的权利。

第三层,也是最具挑战性的一层,是算法推荐的透明度要求。“这里有个必须直面的问题,”霍虹屹表示,“AI玩具的算法,会不会为了提升用户黏性,而刻意设计成让人上瘾?会不会利用情感操控来增加孩子的依赖?”他呼吁,监管层应当要求企业公开基本的算法设计原则,明确禁止以“最大化用户使用时长”为核心优化目标的算法逻辑。这类似于游戏防沉迷系统,但需要更精细化的设计,因为AI的互动更为隐蔽和深入。

值得注意的是,本次出台的《办法》也呼应了这些关切,明确要求服务提供者必须具备过度依赖风险预警、情感边界引导等安全能力,并严禁将“控制用户心理、诱导沉迷依赖”作为服务目标。

除了保护未成年人,办法也对所有用户提出了防沉迷要求:当系统发现用户出现过度依赖倾向时,需以弹窗等方式动态提醒其为AI服务;用户连续使用每超过2小时,也必须通过对话或弹窗进行时长提醒。

责编:叶舒筠

校对:杨舒欣

来源:https://www.163.com/dy/article/KR7BD7LE053469RG.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度
科技数码
实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

AI玩具正迎来严监管。 风向变了。近日,国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》。这份即将在2026年7月15日施行的文件,为AI拟人化服务划下了清晰的“红线”:明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。同时规定,向不满十四周岁未成年人提供其他拟人化互动服

热心网友
04.23
苹果iOS 26液态玻璃设计展示库更新,展示第三方应用适配效果
礼仪与书信
苹果iOS 26液态玻璃设计展示库更新,展示第三方应用适配效果

IT之家 4 月 7 日消息,苹果正持续推广其在 iOS 26、iPadOS 26 与 macOS 26 中推出的液态玻璃视觉设计风格。该公司发布了更新版的液态玻璃设计展示库,展示了这一设计在第三方

热心网友
04.07
特斯拉远程人工驾驶Robotaxi,透明性争议引关注
科技数码
特斯拉远程人工驾驶Robotaxi,透明性争议引关注

来源:环球网【环球网科技综合报道】4月1日消息,据wired报道称,特斯拉近日向美国参议员埃德·马基(Ed Markey)确认,其无人驾驶出租车(Robotaxi)在特定情况下,可由远程操作员直接接

热心网友
04.01
HELP币(Helpico)行情?
web3.0
HELP币(Helpico)行情?

HELP币深度解析:区块链如何重塑慈善捐赠的信任基石 在Web3与数字资产浪潮中,无数项目追逐着金融暴利与市场热度。然而,HELP币却选择了一条截然不同的道路——它并非为投机而生,而是致力于将区块链技术的透明与效率基因,深度植入全球慈善公益领域。这是一个旨在解决传统慈善“信任黑箱”与“效率低下”核心

热心网友
04.01

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

TripMate
AI
TripMate

TripMate是什么 规划一次完美的旅行,最磨人的往往是前期的信息海选和行程拼图。现在,一款名为TripMate的AI旅行助手,正试图把我们从这种繁琐中解放出来。简单来说,它是一个由人工智能驱动的个人旅行规划工具,核心目标就一个:让个性化的行程规划变得又快又省心。用户不必再在各种攻略网站间反复横跳

热心网友
04.23
Artwo
AI
Artwo

Artwo是什么 浏览器标签页多到能开火车,收藏夹杂乱得像毛线球——这大概是每个深度上网冲浪者的日常痛点。Artwo的出现,正是为了终结这种混乱。这款工具的核心,是将AI的智能与网页资源管理深度结合,帮你把散落各处的网页信息,整理成井井有条的知识库。它不仅仅是个高级书签管理器,更像是一个能理解你需求

热心网友
04.23
Best AI Jobs
AI
Best AI Jobs

Best AI Jobs是什么 当你琢磨着在人工智能领域找份新工作时,面对海量却不精准的招聘信息,是不是常常感到头疼?这时候,一个专业的垂直平台就显得尤为重要了。Best AI Jobs,正是为此而生。它是一个专注于人工智能领域的职业搜索引擎,核心使命就是帮用户在全球范围内精准定位AI相关的职位。无

热心网友
04.23
FreeAiKit
AI
FreeAiKit

FreeAIKit是什么 当你听到“AI工具套件”时,脑子里会浮现什么?复杂的代码、难懂的术语,还是昂贵的订阅费?FreeAIKit的出现,可以说彻底打破了这些刻板印象。这个由Easy With AI打造的综合平台,目标非常明确:让AI变得触手可及。它集成了图像生成、市场营销、生产力提升等一系列工具

热心网友
04.23
WPS Office
AI
WPS Office

WPS Office是什么 提到办公软件,很多人的第一反应可能是微软的Office套件。但今天,我们得好好聊聊另一个重量级选手——WPS Office。它出自中国的金山软件,是一款功能完整的免费办公解决方案。简单来说,它集成了文档编辑、表格处理、幻灯片制作以及PDF工具于一体,旨在为用户提供一个流畅

热心网友
04.23