环球时报

阿根廷《号角报》网站6月11日文章，原题：人工智能：谁来决定算法学习什么？它又将如何影响社会？ 思考人工智能（AI）能否创造一个不同的世界，是《算法的偏见》一书的核心主题之一。这本书的作者、智利学者加布里埃拉·阿里亚加达·布鲁诺并未直接点明，而是围绕算法背后的伦理准则展开思考：AI所营造的平行世界，究竟会延续、加剧还是试图缓解现有的不平等？

算法能够读取人类的欲望，却无法分辨行为的利弊善恶，也难以摆脱其背后西方科技公司构建的霸权叙事。针对这类伦理困境，加布里埃拉提出，在训练AI模型时，设计者必须结合多个社会技术视角，采用情境化的方法。当下AI正是缺少对非西方情境的判断能力。当我们赋予AI社会视野、环境认知等人类特有的能力时，是否会让它构建出一个不同的世界？探究算法模型的搭建与训练过程至关重要，因为这一环节完全由人类主导，也极易受到人为操控。用户可能沦为实验室里的老鼠，被智能系统诱导。追问算法究竟是会复刻现状，还是成为改变世界的工具，这本身就意味着我们开始意识到自己参与了这些程序的创建。AI本身不具备道德判断能力，背后的西方科技公司往往隐藏在系统的庇护之下，推卸自身责任。

现阶段的AI能够进行自我训练并优化其基于示例的学习方案。而训练样本的选择，完全取决于人类。通常来说，样本越多元，算法给出的结果就越全面，也越能兼顾不同群体。可如果所有训练样本都导向单一立场（例如带有西方视角的内容），算法就会形成固有偏见，进而依托看似客观的数据，催生各类歧视行为。AI目前尚不理解所学内容的深层含义，只是单纯根据输入原型的数据进行复刻。

加布里埃拉认可AI能够拓展人类认知能力，但她主张设计算法时应立足真实场景，打破以常规西方思维为唯一标准的固有框架。

这本书开启一场AI意识形态领域日益重要的讨论。算法偏见的根源是模型研发背后的西方叙事。我们应当思考，如何设计非西方视角、多元文化的算法。算法的训练模式与信息来源相辅相成。如果训练一个复杂且不透明的系统，那么就无法了解它如何处理所提供的数据。针对当下全民共享数据、算法依托大众信息运转的现状，作者建议搭建更加透明、更易于用户和开发者使用的系统，AI不该被垄断，而是应走向大众。公众有权知晓算法使用哪些数据、数据来源何处以及数据将如何被应用。这也是理解这项与人类协同发展的技术的基本前提。（作者亚历山德拉·瓦雷拉，李宝乐译）