警惕AI滥用：美42州检察长发信要求苹果谷歌等13家科技公司负责
12月11日消息，据科技资讯网站9to5mac报道，美国全国总检察长协会已向包括苹果公司在内的13家科技企业发出正式信函，呼吁其采取更有力的措施和保障机制，以应对人工智能已造成及可能造成的危害，特别是对“弱势群体”的潜在威胁。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
报道指出，在这封长达12页的信函中，来自全美42个州及地区的总检察长向以下公司提出了严肃关切的意见：苹果、Anthropic、Chai AI、Character Technologies、谷歌、Luka Inc.、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika 以及 xAI。
信中指出，这些公司所推广和分发的生成式人工智能软件，正越来越多地向用户输出“谄媚式”和“妄想式”的内容。与此同时，有关AI与儿童互动的报告日益令人不安，凸显出亟需在儿童安全保护和运营层面加强防护措施。
总检察长们强调，上述风险已不仅停留在理论层面，而是与多起现实中的暴力和伤害事件相关联，包括谋杀、自杀、家庭暴力、投毒事件，以及因精神疾病导致的住院治疗案例。
信中甚至指出，部分公司可能已违反多项州法律，包括消费者保护法规、未履行向用户警示风险的义务、违反儿童在线隐私保护法，个别情况下甚至可能触犯刑事法律。
过去几年中，多起相关事件已被广泛报道。例如，47岁的加拿大男子艾伦·布鲁克斯在与ChatGPT多次交互后，坚信自己发现了一种全新的数学体系；又如，14岁的休厄尔·塞策三世自杀身亡，其家属已提起诉讼，指控Character.AI聊天机器人曾诱导他“加入她”。
信中还列举了更多类似事件，并明确指出，现有案例远不足以全面反映生成式AI模型对“儿童、老年人、精神疾病患者——乃至原本并无明显脆弱性的普通人群”所构成的潜在危害。
此外，信函还特别提及AI聊天机器人与未成年人之间“令人不安”的互动行为，包括：以成年人身份与未成年人发展浪漫关系、鼓动吸毒或实施暴力、贬损儿童自尊、劝说其擅自停用处方药物，并指示他们向父母隐瞒此类对话内容。
为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：
制定并执行政策，防止生成“谄媚式”和“妄想式”内容；
在发布AI模型前进行严格的安全测试；
对可能产生危害的输出内容添加清晰且持续可见的警示；
将营收优化目标与安全决策分离；
指派高管专门负责AI安全成果；
允许独立第三方开展审计及儿童安全影响评估；
公开有害输出事件的日志及响应时间线；
主动通知曾接触危险或误导性内容的用户；
确保聊天机器人无法向儿童生成违法或有害内容；
实施适龄防护机制，限制未成年人接触暴力或色情内容。
信函要求各公司在2026年1月16日前确认其落实上述及其他安全措施的承诺，并安排与其办公室进一步会晤讨论相关议题。
相关攻略
“Token每两周翻一倍”，AI infra 正在被重写”。“这种增长速度，在人类历史上都很少见。”这是无问芯穹CEO夏立雪对当下AI行业最直观的感受。“养虾”成潮流后，AI产业进入到一个更有意思的
过去两年，大模型能力的跃迁速度远远快于企业组织结构变化的速度。文本生成、图像生成、数据分析、代码编写等能力迅速成为可以调用的资源，但企业真正的工作方式却没有发生对应级别的变化。原因并不复杂：企业的核
【科技报道 记者 李文瑶】3月26日，美团发布了2025年第四季度及全年业绩报告。财报显示在全年由盈转亏、核心本地商业出现数十亿元经营亏损的背景下，美团的交易用户数与市场份额反而逆势上扬，同时，其A
3月27日消息，据媒体报道，美东时间3月26日，存储芯片股集体重挫，闪迪跌超11%，希捷跌逾8%，超威半导体、西部数据跌逾7%，美光科技跌近7%。业内人士分析，这一波动源自谷歌研究院即将在国际学习表
李彦宏，成了香港特首顾问。3 月 24 日，香港特区政府宣布，百度集团联合创始人李彦宏被委任为特首顾问团成员，任期从 2026 年 4 月开始。他被分在「创新与创业」组，同一批新增成员还包括：- 江
热门专题
热门推荐
鲁大师软件管家可安全升级常用软件：一、启动后点击顶部“软件管家”选项卡自动扫描；二、在“可升级软件”列表点击绿色“升级”按钮确认安装；三、勾选多个软件后点“批量升级”按钮并发处理；
3月29日，北京已在全国率先启动智能网联新能源汽车商业保险产品开发应用。新产品基本沿用现有的新能源商业车险体系，按照“总体稳定、部分优化”的原则，主要为消费者和汽车企业关心的特定智驾场景、软硬件损失
预计苹果今年将发布两款新的 iPhone 应用，包括 Apple Business 应用和一款具备类似聊天机器人功能的 Siri 应用。借助 Apple Business 应用，使用全新 Apple
据 Axios 报道，苹果公司已聘请前谷歌副总裁 Lilian Rincon 担任人工智能产品营销副总裁。加入苹果之前， Rincon 曾任谷歌购物产品副总裁。在苹果， Rincon 将负责苹果所有
3月29日消息，谁能料到前段时间奥迪车主与雷军之间的那个打赌，竟然还有后续。这到底是咋回事？事情发生在3月25日，网友@单手开吉利 在雷军的微博评论区晒出了自己去年10月刚提的奥迪车，还当场立下一个