算法偏见是社会偏见的技术写照
“如果说在原子时代对人起决定作用的是生产方式，那么在比特时代对人起决定作用的则变成了思维方式……算法是思维方式的技术基础，有什么样的技术基础，就有什么样的思维方式。”[3]这也就意味着，算法本身哪怕出现微小的问题，也会直接影响到用户的思维方式甚至产生更严重的社会影响。算法偏见就是算法本身存在的问题之一，尽管很多算法表面上看被设计得非常中立，它所得出的结论或者推荐的内容看上去也非常中立，但它所带来的偏见却是非常微妙甚至隐秘的。美国法院的程序化宣判系统由于训练数据的问题会倾向于判黑人更长时间的刑期，由算法作为评委的选美比赛选出的获胜者中亚洲人和非洲人微乎其微，而那些看上去非常友好的个性化推荐系统向女性推荐的工作比向男性推荐的工作薪酬要低，Twitter的一款聊天机器人在受到了某个用户社区的影响之后演变成了种族主义者……越来越多的案例正在向我们证明一个事实：算法并不是中立的，算法并不是客观的，算法并不是没有价值观的。相反，在中立、客观、不存在价值观这样的技术理性表象之下，算法对于整个世界的认知、分析和预测都存在着或多或少的偏见。很多时候，我们因为担心人类的偏见而过于相信算法的公正，这本身就是一种极大的偏见。但是我们忽略了一个显而易见的事实：尽管算法有可能在它正常运行的时候不带任何偏见，但任何算法都是由它的设计者编写和塑造出来的；算法可以没有价值观，但人不会；算法可以没有偏见，但人不会。
“由于算法设计者自身有意或无意的偏见造成算法设计出现偏差……算法设计者在算法设计中居于核心地位。对问题的理解、对数据的选取、对变量的选择、对算法的综合评价等都贯穿着人为因素。当然即便算法设计者力求做到客观、公正，其无意识的认知偏见也会通过算法设计中对标准的选择体现出来……既然算法是由人设计的，那么算法不可能比算法设计者更客观。算法不可避免地会反映出设计者对周遭事物和问题的认识。”[4]算法的设计者在写入代码的时候、创建数据模型的时候、制定推荐规则的时候、训练机器学习的时候，都会有意无意地把自身所持有的偏见加于算法之上，并影响到今后算法对数据的选取、对价值的判断和对信息的推荐。这意味着，算法设计者的价值观和偏见有可能会体现在他们所研发的算法中，例如，如果我们全部用白人的照片来训练人脸识别的算法，那么经过长时间的数据训练之后它就有可能在遇到日本人或者南非人的时候不把他们归为“人类”。“某个人即使表现出明显的偏见，他也只会影响少数人，而算法则有可能影响成千上万的人。”[5]如果所有的算法都存在这样那样的微小偏见，那么这些微小偏见累加起来所造成的负面影响将会是巨大的。
美国佐治亚理工大学的科技史学家梅尔文·克兰兹伯格教授提出了著名的科技六定律，第一定律指出“科技既无好坏，亦非中立”，第四定律指出“虽然技术可能是引发诸多公共问题的主因，但非技术因素在技术政策决定中占据主导”[6]。事实上，技术工具作为一面镜子，其本质是人类自身的某种隐喻，大量有关算法偏见的案例都指向一个相同的问题：究竟是算法出现了问题，还是算法的设计者出现了问题？从技术上讲，算法是忠实地按照它的设计者设定的程序在运行，这种所谓的“忠实”并不意味着“中立”。所以无论是从理论逻辑上还是从实践层面上，算法偏见所反映出来的基本问题是：算法之所以有偏见不是技术本身存在偏见，而是社会本身以及社会中的人类本身存在偏见。算法无法将很多具有情感、观念和文化色彩的非中立性事物与类似空气、水、土壤等客观实在分离开来，它唯一能够做的就是按照它的设计者所设定的规则来运行。国内学者胡泳也明确认为，技术绝不像表面上看起来那样中立，因为它是有方向性的，它通过增加选择或者改变过程而指向某种特定的方向。[7]其实，算法偏见在某种程度上是社会偏见在技术层面的真实写照，也正因此，我们不得不认真地反思这个问题。(https://www.daowen.com)
对用户而言，算法本身就像一个从外面完全无法看清内部结构的黑箱，“这些数学模型正日益在更大的程度上影响着我们的生活，但它们却像上帝一样隐晦不明，只有数学家和计算机专家才了解模型是如何运行的，尽管模型运行的结果往往不利于穷人并令富人更加富有，人们对此却毫无争议”[8]。是的，用户每天使用百度进行搜索、使用今日头条进行阅读、使用微信进行社交、使用优酷观看视频……所有的信息传播和媒介消费行为几乎都在与各种各样的算法打交道，尽管他们的行为确凿无疑地受到了算法的影响，但他们本身并不清楚算法推荐的内容是否有偏见、歪曲、诱导、操控等非客观、非中立的因素隐含在其中。在今天的后真相和泛娱乐的环境下，所有的新闻机构、视频网站、内容平台都在试图通过所谓客观中立的算法来扭转公众的信任危机，但算法貌似没有真正摆脱人类的偏见，反而在一定程度上成了人类偏见的助推者。更严重的问题是，对于有些更加高级的算法，或者利用深度学习自身不断完善的算法，由于其本身结构的复杂性，以致当初的算法设计者也像普通大众一样无法完全厘清其全部规则和逻辑。长此以往，算法偏见将会愈演愈烈，如果不能有效地处理，它就有可能会被永久性地编程到人机共生的未来社会，从而产生某种不可逆的毁灭性效应。