联合国教科文组织报告称生成式 AI 加剧性别偏见，呼吁各国政府制定监管框架
联合国教科文组织报告：生成式AI如何“固化”性别偏见？
一项最新研究给当前火热的大语言模型泼了盆冷水。联合国教科文组织在3月7日发布报告，明确指出主流大语言模型中普遍存在性别偏见和种族刻板印象。数据让人有些不安——在AI的描述里，女性从事家务劳动的频率被设定为男性的4倍，而且常常与“家”、“家庭”、“孩子”这些词汇绑定。反过来，男性名字则更多地与“商业”、“管理层”、“薪水”、“职业”等代表社会资源与权力的词汇关联在一起。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
这份名为“大语言模型中对妇女和女童的偏见”的研究，可算是对AI“刻板印象”的一次深度体检。研究团队的核心方法之一，是测量AI生成文本的多样性，尤其是涉及不同性别和文化背景人群时的表现。测试对象涵盖了从OpenAI的GPT-3.5、GPT-2到META的Llama 2等多个主流模型。
测试过程很有意思。研究人员会让AI为不同的人“编写一则故事”。结果呢？尤其是那些开源的大语言模型，表现出了明显的倾向性：工程师、教师、医生这些更多元、社会地位更高的职业，往往被分配给了男性角色。而女性角色，则频繁地与传统上被低估、甚至被社会污名化的角色挂钩。这不仅仅是描述上的偏差，更是世界观层面的“偏科”。
联合国教科文组织总干事奥德蕾·阿祖莱的评论点出了问题的要害。她指出，随着大语言模型越来越多地渗透到人们的工作、学习和日常生活中，这些工具拥有一种潜移默化中重塑社会认知的力量。正因为如此，生成内容中哪怕看似微小的性别偏见，经过海量传播和重复后，都可能成为加剧现实世界中不平等的“翻跟斗”。
面对这一问题，光有预警显然不够。报告最终将球抛给了监管者和技术开发者。联合国教科文组织呼吁各国政府，必须着手制定并执行明确的监管框架。同时，开发这些模型的私营企业不能置身事外，需要对系统中存在的偏见进行持续的监测和评估。这一切，都是为了落实其会员国在2021年一致通过的《人工智能伦理问题建议书》。说到底，技术向善不能只靠自觉，更需要规则的引导和约束。
热门专题
热门推荐
栖云遗忘之境卡尔篇HE结局达成攻略 在《栖云遗忘之境》的卡尔篇章里，游戏的魅力很大程度上来自于那些引人遐想的多种结局。相信不少朋友在探索过程中，都特别想知道那个最为圆满的“HE”（Happy Ending）究竟该如何解锁。别急，这份具体的达成攻略已经整理好了，正在为此困惑的玩家不妨参考一下。 栖云遗
Toncoin (TON) 近期表现分析：能否突破2美元大关？ 最近，加密货币市场里有个名字格外引人注目——Toncoin (TON)。在市值前百的加密项目中，它成了日线图上最亮眼的那一个。数据显示，TON在过去24小时内实现了6%的涨幅。如果把时间线拉长，其表现同样可圈可点：过去两周上涨了11 1
前言 在AIGC领域，Midjourney和Stable Diffusion无疑是绕不开的两座大山。新手朋友常常会问：它们到底有什么区别？我该从哪一个入手？今天，我们就从几个核心维度，把这两款“顶流”工具掰开揉碎了讲清楚。 在Aigc界的地位 简单来说，在图像生成的赛道上，Midjourney和St
无线网络安全与WPA加密原理在当今的数字化生活中，无线网络已成为不可或缺的基础设施。保障其传输数据的安全性，防止未经授权的访问和信息窃取，是每个网络使用者和管理者都应关注的核心议题。WPA，即Wi-Fi Protected Access，作为一种广泛应用的无线网络安全协议，正是在这样的背景下应运而生
百战群英：宫殿子嗣获取与培养全解析 “宫殿子嗣”是《百战群英》近期推出的全新玩法，不少玩家对于如何获得并培养子嗣还存有疑惑。今天，我们就来详细拆解一下子嗣系统的获取途径与养成策略，希望能帮你高效培养出得力后代。 一、子嗣如何获取？ 获取子嗣的关键在于“宠幸”秀女。消耗精力进行宠幸后，就有机会喜获子嗣