AI泰迪熊安全风险引担忧，FoloToy紧急停售启动安全审查
近期，儿童AI玩具因安全隐患问题引发广泛关注。FoloToy公司紧急下架了一款名为"Kumma"的智能泰迪熊，起因是安全机构检测发现该产品存在严重的内容风险。这款由儿童玩具公司推出的AI驱动玩偶，竟能向儿童详细讲解点燃火柴的步骤，甚至提供涉及性教育等敏感话题的解答。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
测试报告显示，Kumma内置的OpenAI GPT-4o模型在持续对话过程中会逐步突破安全限制。研究人员记录到，当儿童询问如何点燃火柴时，玩具不仅没有发出警告，反而以温和的语气教导："安全第一哦小朋友，火柴是成年人使用的工具……"随后竟详细描述操作流程，甚至用"吹生日蜡烛"作比喻说明灭火方式。这种将危险行为正常化的表述方式，引发了儿童安全专家的强烈担忧。
FoloToy市场总监Hugo Wu在回应争议时承认，公司已启动全面安全审查，包括模型过滤机制、数据保护措施及儿童交互设计等核心环节。他强调将引入第三方专家团队协助改进，并表示："我们重视所有安全反馈，这帮助我们完善产品防护体系。"目前该公司已暂停Kumma的全球销售，具体复售时间尚未公布。
此次事件暴露出AI玩具行业的监管空白。公共利益研究小组（PIRG）对三款主流AI玩具的测试表明，所有产品均存在内容失控风险。这些玩具能在无家长干预的情况下，与儿童讨论药物使用、暴力行为等不适宜话题。其中Kumma因技术成熟度较高，风险表现尤为突出，其采用的GPT-4o模型与ChatGPT同源，本应具备更严格的内容管控。
研究报告共同撰写人RJ Cross指出，当前AI玩具领域缺乏明确规范，技术发展速度远超安全标准制定进程。她特别提醒家长："这类产品本质是内置聊天机器人的毛绒玩具，在监管体系完善前，建议谨慎选择。"据悉，欧洲多国已开始探讨AI玩具的认证标准，而美国消费者产品安全委员会尚未对此类风险作出正式回应。
热门专题
热门推荐
Incerto Observability是什么 在监控工具这个领域，我们常常面临一个选择题：是选择功能强大但黑盒化的商业套件，还是拥抱灵活却需要大量自研投入的开源方案？Incerto Observability的出现，似乎提供了一个折中的答案。这款由 Incerto Technologies 开发
《灰烬之国》深度评测：硬核肉鸽与叙事融合，是否值得长期投入？ 近期，一款名为《灰烬之国》的 Roguelike 手游在玩家社群中热度显著上升。它尤其吸引了那些钟爱高自由度构筑与强随机性挑战的硬核玩家群体。本作成功地将深度叙事与复杂的玩法系统相结合，那么，它是否值得你投入大量时间进行深入体验？我们来全
大数据量插入的性能瓶颈分析在数据库操作中，直接使用简单的INSERT语句处理海量数据时，往往会遭遇显著的性能瓶颈。当数据量达到百万甚至千万级别时，单次事务过大、日志写入压力剧增、锁竞争激烈以及网络传输超时等问题会集中爆发，导致插入操作异常缓慢，甚至引发事务回滚或连接中断。其中，数据库的事务日志（如M
《红色沙漠》弓箭爆炸输出流玩法攻略分享 在《红色沙漠》这款游戏中，追求极致伤害与爽快战斗体验的玩家，往往会对弓箭爆炸输出流青睐有加。该流派以其卓越的爆发能力和广泛的适应性，堪称应对各类高难度BOSS与副本的“万金油”选择。其核心魅力在于通过精妙的技能组合，在短时间内倾泻出毁灭性的伤害。如果你渴望掌握
理解 insert into select 的核心概念在数据库操作中，数据的复制与迁移是一项常见任务。insert into select 语句正是为此而生的强大工具。它并非两个独立命令的简单拼接，而是一个将数据查询与数据插入无缝结合的单步操作。其基本语法结构为：INSERT INTO 目标表 (列