来源：环球时报
人工智能是否会塑造一个截然不同的世界？这一问题背后所涉及的，远非单纯的技术探讨。智利学者加布里埃拉·阿里亚加达·布鲁诺在其著作《算法的偏见》中，避开了宏大空洞的宣言，直指算法背后的伦理准则：AI所构建的平行世界，究竟是在延续既有格局、加剧社会不公，还是有可能反过来缓解这些矛盾？
一个不容忽视的现实是：算法能够精准捕捉人类的欲望，却无法分辨行为的善恶与利弊。更棘手的是，它很难摆脱背后那些西方科技公司所主导的霸权叙事。加布里埃拉因此提出核心观点——训练AI模型时，设计者必须融合多个社会技术视角，采用情境化的方法加以应对。换言之，当前的AI恰恰缺乏对非西方情境的判别能力。当我们试图将社会视野、环境认知等人类独有特质赋予AI时，它是否真的能创造出一种不同的世界？其中的关键，在于算法的搭建与训练过程。毕竟，这一环节完全由人类掌控，也是最容易受到操纵的环节。用户可能在不知不觉中沦为实验室里的小白鼠，被智能系统牵着鼻子走。追问算法究竟是复制现状，还是成为改变世界的工具——这一追问本身，就已表明我们意识到了自身的参与。AI自身不具备道德判断能力，而那些科技公司往往躲在系统背后，推卸责任。
再来审视当前AI的学习机制。它能够自我训练，持续优化基于示例的学习模式。然而问题在于，训练样本的选择权完全掌握在人类手中。通常来说，样本越多元，算法给出的结果就越全面，越能兼顾不同群体。但若所有样本都指向同一立场——例如全部采用西方视角的内容——那么算法便会形成固有偏见。随后，它就能依托那些看似客观的数据，催生出各种各样的歧视行为。当下的AI并不理解自己在学习什么，它只是单纯地根据输入的数据进行复刻。这正是偏见滋生的土壤。
加布里埃拉并不否认AI能够拓展人类的认知边界，但她坚持一点：设计算法必须立足于真实场景，而非将常规的西方思维奉为唯一标准。因此，问题的核心在于，我们能否设计出非西方视角、真正体现多元文化的算法？算法的训练模式与其依赖的信息来源相辅相成。如果去训练一个复杂而不透明的系统，那么你根本无法弄清它如何处理那些数据。
这本书开启了一场关于AI意识形态的重要讨论。算法偏见的根源，说到底就是模型研发背后的西方叙事。面对全民共享数据、算法依托大众信息运转的现实，作者提议搭建一个更透明、更便于用户和开发者使用的系统。AI不应被少数巨头垄断，而应走向大众。公众有权知道自己贡献的数据用在了哪里、从何处而来、最终如何被使用。这不仅是技术问题，更是理解这项与人类协同发展的技术的基本前提。
