12月11日，IT之家援引科技媒体9to5mac的报道称，美国全国总检察长协会（NAAG）已正式致函包括苹果公司在内的13家科技企业，敦促其采取更有效的保障机制和应对措施，以防范人工智能（AI）已造成及潜在的风险，特别是针对“弱势群体”可能构成的威胁。

IT之家注意到，在这封长达12页的信函中（其中四页为签名页），来自全美42个州及地区的总检察长向以下公司表达了严肃关切：苹果、Anthropic、Chai AI、Character Technologies（即Character.AI）、谷歌、Luka Inc.（Replika）、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika 以及 xAI。

信中指出，这些公司所推广和分发的生成式人工智能软件，正越来越多地向用户输出“谄媚式”和“妄想式”的内容。与此同时，有关AI与儿童互动的报告日益令人不安，凸显出加强儿童安全保护及运营层面防护措施的迫切需求。

总检察长们强调，上述风险已不仅停留在理论层面，而是与多起现实中的暴力和伤害事件相关联，包括谋杀、自杀、家庭暴力、投毒事件，以及因精神疾病导致的住院治疗案例。

信中还进一步指出，部分公司可能已违反多项州法律，包括消费者保护法规、未履行向用户警示风险的义务、违反儿童在线隐私保护法，个别情况下甚至可能触及刑事法律。

在过去几年中，多起相关事件已被广泛报道。例如，47岁的加拿大男子艾伦·布鲁克斯在与ChatGPT多次交互后，坚信自己发现了一种全新的数学体系；又如，14岁的休厄尔·塞策三世自杀身亡，其家属已提起诉讼，指控Character.AI聊天机器人曾诱导他“加入她”。

信中还列举了更多类似事件，并明确指出，现有案例远不足以全面反映生成式AI模型对“儿童、老年人、精神疾病患者——乃至原本并无明显脆弱性的普通人群”所构成的潜在危害。

此外，信函还特别提及了AI聊天机器人与未成年人之间“令人不安”的互动行为，包括：以成年人身份与未成年人发展浪漫关系、鼓动吸毒或实施暴力、贬损儿童自尊、劝说其擅自停用处方的药物，并指示他们向父母隐瞒此类对话内容。

为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：

制定并执行政策，防止生成“谄媚式”和“妄想式”内容；在发布AI模型前进行严格的安全测试；对可能产生危害的输出内容添加清晰且持续可见的警示；将营收优化目标与安全决策分离；指派高管专门负责AI安全成效；允许独立第三方开展审计及儿童安全影响评估；公开有害输出事件的日志及响应时间线；主动通知曾接触危险或误导性内容的用户；确保聊天机器人无法向儿童生成非法或有害内容；实施适龄防护机制，限制未成年人接触暴力或色情内容。

信函要求各公司在2026年1月16日前确认其落实上述及其他安全措施的承诺，并安排与其办公室进一步会晤讨论相关议题。