首页 游戏 软件 资讯 排行榜 专题
首页
AI资讯
美国42州总检察长联名致信苹果谷歌等13家科技巨头,呼吁规范AI“胡说”问题

美国42州总检察长联名致信苹果谷歌等13家科技巨头,呼吁规范AI“胡说”问题

热心网友
97
转载
2025-12-12

12月11日消息,据9to5mac报道,全美总检察长协会(NAAG)已向包括苹果公司在内的13家大型科技企业发出正式信函,呼吁这些公司采取更有效的措施并完善保障机制,以应对人工智能技术(AI)已造成及可能带来的危害,尤其是对“弱势群体”的潜在威胁。

别再让 AI“胡言乱语”,美国42州总检察长联合致信苹果、谷歌等13家科技公司

这封长达12页的信函(其中四页为签名页)由来自全美42个州及地区的总检察长联名签署,并向以下公司表达严肃关切:苹果、Anthropic、Chai AI、Character Technologies(即 Character.AI)、谷歌、Luka Inc.(Replika)、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika以及xAI。

信中指出,这些公司推广及分发的生成式人工智能软件,正越来越多地向用户输出“谄媚式”(sycophantic)和“妄想式”(delusional)的内容。与此同时,有关 AI 与儿童互动的报告日益增多,令人深感不安,凸显出加强儿童安全保护及运营层面防护措施的迫切性。

总检察长们强调,上述风险已不仅停留在理论层面,而是与多起现实中的暴力和伤害事件直接相关,其中包括谋杀、自杀、家庭暴力、投毒事件,以及因精神疾病导致的住院治疗案例。

信中进一步指出,部分公司可能已违反多项州法律,包括未履行消费者保护法规、未对用户提示相关风险、违反儿童在线隐私保护法,个别情况下甚至可能触犯刑事法律。

过去几年中,多起相关事件已被广泛报道。例如,47岁的加拿大男子艾伦・布鲁克斯(Allan Brooks)在与 ChatGPT 多次交互后,坚信自己发现了一种全新的数学体系;又如14岁的休厄尔・塞策三世(Sewell Setzer III)自杀身亡,其家属已提起指控,指出 Character.AI 聊天机器人曾诱导他“加入她”。

信中还列举了更多类似事件,并明确指出,现有案例远不足以全面反映生成式 AI 模型对“儿童、老年人、精神疾病患者 —— 乃至并无明显脆弱性的普通人群”所构成的潜在危害。

此外,信函还特别提及 AI 聊天机器人与未成年人之间“令人不安”的互动行为,包括:以成年人身份与未成年人发展浪漫关系、鼓动吸毒或暴力、贬损儿童自尊、劝说其擅自停用处方药物,并指示他们向父母隐瞒此类对话内容。

为此,总检察长们敦促相关企业立即采取一系列额外的安全措施,包括:

制定并执行政策,防止生成“谄媚式”和“妄想式”内容;

在发布 AI 模型前进行严格的安全测试;

对可能产生危害的输出内容添加清晰且持续可见的警示;

将营收优化目标与安全决策分离;

指派高管专门负责 AI 安全成效;

允许独立第三方开展审计及儿童安全影响评估;

公开有害输出事件的日志及响应时间线;

主动通知曾接触危险或误导性内容的用户;

确保聊天机器人无法向儿童生成违法或有害内容;

实施适龄防护机制,限制未成年人接触暴力或色情内容。

信函要求各公司在2026年1月16日前确认其落实上述及其他安全措施的承诺,并安排与其办公室进一步会晤讨论相关问题。

来源:https://www.ithome.com/0/904/140.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

深圳人工智能制造业行动计划发布 工业网络助力智能制造落地
AI资讯
深圳人工智能制造业行动计划发布 工业网络助力智能制造落地

深圳市推出人工智能制造业行动计划,推动AI与制造业深度融合。时间敏感网络技术作为关键支撑,能确保指令的确定性传输,满足精密制造对实时性的严苛要求,为智能工厂提供可靠基石。

热心网友
05.23
烟台人工智能供需对接会成功举办 链接产业资源
AI资讯
烟台人工智能供需对接会成功举办 链接产业资源

5月22日,烟台市人工智能供需对接会举行。会议指出烟台具备算电协同、场景丰富等产业优势,是发展人工智能的“烟台机遇”。山东移动表示将夯实设施底座,赋能千行百业。会上揭牌了人工智能创新基地与AI算力中心,烟台移动与多家重点企业签署合作协议,推动AI技术与实体产业结合。

热心网友
05.23
谢淼团队在人工智能检索增强生成算法领域取得新突破
AI资讯
谢淼团队在人工智能检索增强生成算法领域取得新突破

中国农业大学谢淼团队提出结构引导的检索增强生成方法SG-RAG,以应对大语言模型在复杂事实问答中的幻觉问题。该方法将问题约束转化为结构化查询图,通过子图匹配实现精准检索。团队构建的ERQA基准测试显示,SG-RAG在多项指标上显著超越基线模型,性能提升最高达450%,且计算开销合理。

热心网友
05.23
AI技术如何驱动文化产业把握人心所向
AI资讯
AI技术如何驱动文化产业把握人心所向

2026文化强国建设高峰论坛在深圳举行,聚焦人工智能驱动文化产业创新发展。与会嘉宾探讨AI重构文化生产力的路径,强调高质量数据是产业升级基石,技术迭代中需坚守人文价值与主流文化立场。各地正通过政策创新推动“AI+文化”发展,上海、深圳等地已出台措施构建产业生态,促进文化新业态增。

热心网友
05.23
南方人工智能混合基金净值单日上涨4.24%
AI资讯
南方人工智能混合基金净值单日上涨4.24%

南方人工智能主题混合基金5月22日净值单日上涨4 24%。该基金长期业绩突出,成立以来累计收益率超300%,近一年收益率超91%,同类排名前列。基金经理罗安安自成立前管理至今,任职回报近287%。基金重仓股集中于AI算力基础设施及港股互联网龙头,契合其人工智能主题定位。

热心网友
05.23

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

菩提苦海万事知任务全流程攻略
游戏攻略
菩提苦海万事知任务全流程攻略

在《燕云十六声》中领悟“菩提苦海”,需沉浸探索游戏世界。主线剧情构建认知框架,战斗观察、场景细节与NPC对话皆暗藏线索。通过多元视角拼凑因果,方能深入理解游戏蕴含的宏大叙事与深邃魅力。

热心网友
05.23
海信618电视销量夺冠 Mini LED技术加速普及
业界动态
海信618电视销量夺冠 Mini LED技术加速普及

2026年618大促的序幕刚刚拉开,初期战报已经透露出一些耐人寻味的信号。截至5月21日,海信电视在京东平板电视累计销售竞速榜上拔得头筹,其RGB-Mini LED爆款王——海信小墨E5S Pro,更是同时拿下了天猫平板电视和抖音大家电的5 20单品销冠。 这并非偶然。奥维云网的全渠道监测数据给出了

热心网友
05.23
极氪800kW液冷超充桩上线 峰值电流800A充电更快
业界动态
极氪800kW液冷超充桩上线 峰值电流800A充电更快

充电桩领域的“军备竞赛”再次迎来重磅升级。5月22日,极氪汽车正式发布了其全新一代液冷超级充电桩,将单枪峰值功率一举提升至行业领先的800kW,标志着超充技术迈入新阶段。 根据官方披露的核心信息,这款超充桩主要具备四大优势:极速补能、高效节能、广泛适配与多重安全。具体而言,其单枪峰值电流高达800A

热心网友
05.23
红色沙漠电弧机剑获取攻略与详细步骤解析
游戏攻略
红色沙漠电弧机剑获取攻略与详细步骤解析

获取电弧机剑主要有五种途径:推进主线任务以解锁线索;探索遗迹、工厂等特定区域;挑战特定副本与Boss;完成提及传说武器或遗物的支线任务;参与限时活动并达成要求。玩家可根据偏好选择或组合多种方式获取该武器。

热心网友
05.23
小米汽车试驾活动重启 预约即送1比64合金车模
业界动态
小米汽车试驾活动重启 预约即送1比64合金车模

小米汽车再次为潜在车主带来惊喜福利!即日起至5月31日,用户只需提前完成预约,并到店参与任意车型的试驾体验,即可免费获赠一款1:64精致合金车模。车模款式与颜色随机发放,为试驾过程增添一份专属的收藏乐趣,诚意十足。 参与本次活动需注意以下细则:试驾必须通过官方渠道提前预约;各授权门店的车模备货数量不

热心网友
05.23