算法参与决策：通往公正之路？
2018年，一名互联网公司员工Ibrahim Diallo在博客上发文抱怨，一天早晨上班，他突然没法刷门禁卡、用停车场，也登录不了工作软件。从上级主管到直管经理，没有人清楚这一切为何发生，直到他们收到一封内部邮件，称该员工已被解雇。一头雾水的他们准备向技术团队了解情况，不巧的是，此时解雇程序正在逐步升级——计算机自动重启，清空了所有数据；保安前来，称根据指令要把他送出大楼。他不得不先收拾东西回家。直到3个星期后，他才得知解雇原因：他的前任经理被裁员时，忘了为他的合同续约。当机器接管一切，合同到期，他也被扫地出门了。尽管错误厘清，但他又得经历一遍烦琐的入职程序，感到身心俱疲。[6]
类似的事例不断发生。
2020年，63岁的快递司机斯蒂芬·诺曼丁被解雇了，作出这个决定的是一台机器。诺曼丁隶属于亚马逊公司一个众包配送服务平台，他在美国凤凰城做这份工作已经有4年了，直到2019年10月，他收到了一封通知他被解雇的邮件。解雇他的原因是，“个人评分已经低于亚马逊的规定分数”。监控系统发现，他没有按要求完成亚马逊的快递送达工作。而他本人声称，这一切都无法控制。其中一次，他根据系统指令，清晨到达送货地点，却发现公寓还没开门，用户电话无法接通，自提柜也因故障无法使用，无奈之下他只能将包裹退回分拣中心。此后，他的评级越来越低。
上述两个案例已经说明，在现代社会，大数据和算法的结合已经颠覆了传统的决策方式。[7]对于99%以上的普通用户而言，尽管算法给了人们客观公正的感觉，但实际上大家并不知道在算法的“黑盒子”里面究竟发生了什么，更不知道依赖算法作出的各种各样的选择和决策是否完全正确可靠。事实上，期待算法做到百分之百的公正这种想法本身就有些天真，例如，丁晓东曾选取了Grutter案、Gratsz案和 Bakke案等几个典型的美国教育平权案来分析讨论美国学校招生政策中算法的合理性，研究发现“算法并非一种完全价值中立的活动，算法总是隐含了价值判断”[8]。再如，与面部识别相关的算法对男性的识别率要高于女性、对黑人的识别率要高于白人，与就业求职相关的算法向男性推荐的工作岗位整体工资要高于向女性推荐的岗位，与信息资讯相关的算法向受教育水平低的用户群体推送的内容在质量和格调上都存在一些问题，与商品购物相关的算法会选择向那些较少购买奢侈品的用户推送假货……越来越多的案例提醒着我们一个已经非常明显的事实：算法并不像我们想象中的那样客观公正。“最核心的问题仍然要归结于算法所承诺的虚无缥缈的客观性……我们过于担心人类的偏见与自相矛盾，同时又过于相信计算机的公正性。我们的错误在于我们信任算法，但事实上这些算法都是人编写出来的，人们可以把所有的偏见与观点植入其中。”[9]人类本身就是一种时常带有偏见性的动物，这一点是显而易见的，我们的偏见会影响我们的决策，也会影响我们对于算法的开发和应用，这一点也是毋庸置疑的。(https://www.daowen.com)
但即便如此，《哈佛商业评论》的一篇文章仍然坚持认为如果你不想被偏见左右，那么算法依然是一个较好的选择。作者 Alex P. Miller[10]认为，我们在指责算法可能带来严重的不公平问题时，忽略了一些重要的因素，比如，算法的使用者可能不理解概率或置信区间（即使已经注明），并且在实际操作中可能也不愿去推翻算法的决定（即便这在技术上是完全可行的）。这也就是说，算法本身并没有向任何用户承诺自己完全公正、不会出错，只是人们自己觉得它是公正客观的；进一步地说，人们即使意识到了或者接触到了算法在参与决策过程中存在的问题，但这些决策所造成的负面影响并不明显，因此也就不愿去推翻算法的决定。所以，Alex提醒我们与其把目光聚焦在这些不知是否真正公正的算法选项上而忽略了我们想要解决的真正问题是什么，“不如好好考虑如何将人类和机器的优势相结合，以便创造出更好的、偏见更少的决策工具”。如果我们认真地观察和思考目前流行的对于算法偏见的大量指责，就会发现一个非常有意思的现象：尽管表面上看这些批评的矛头都指向了算法，但更本质的问题其实在于偏见。“多数对于不公正的偏见的批评并不是反算法的，他们更多针对的是偏见，他们并不是真的憎恨算法。”[11]从这个角度来看，解决算法偏见问题的路径将会从过去孤注一掷地聚焦于打造一种完美、公正和客观的算法转变为两种比较切实可行的策略：一是不断地优化和改进现有的算法本身，使其能够不断地向着公正客观的理想状态迈进；二是在算法之外寻找预防和应对可能出现的偏见的方法，“因为在所有案例中，算法都有人的参与，尤其是在搜集数据、制定决策、实现方式、解读结果及因人而异的理解等方面，都会受到人为干预”[12]，以什么样的方式避免这种人为干预过程中可能产生的不公正问题，或许要比单纯关注算法本身来得更有价值。
人类存在偏见，算法同样存在偏见，而算法的偏见则更多是人类偏见在算法世界中的写照，计算机也好，软件程序也好，复杂算法也好，都“只不过是一个使用了很多语法规则、速度很快的符号转换机，机器缺少生物大脑拥有的东西——解释语义的能力”[13]。因此，算法世界存在的偏见问题本质仍然是人类社会自身的问题，而不是算法规则的问题。算法可以读取数据并产出数据，但这并不意味着它真的理解了那些数据之于现实社会的意义，它也无法真正理解皮肤的颜色、经济收入、职业区分以及说话语气等具体内容所暗含的敏感信息，它更不会在意它所输出的结果乃至结论是否会引发一场舆论争端或现实冲突。所以解铃还须系铃人，算法偏见的解决最终要寄希望于开发、使用和管理它的人。这样看来，人机结合或许是一个不错的方案，理想的状态应该是这样的：当算法参与决策的时候，它利用神经网络、人工智能、机器学习等工具推理出人类的对话，并据此判断哪些问题可以帮助人类直接执行任务，而哪些问题的处理权和决策权应该归还给人类让他们自己解决。这样，我们就重新回到了没有算法在场的老问题：怎样确保人类自己作出的决策是不带偏见的？而事实上，人类并没有发明出一套完美的游戏机制或社会规则来保证这一点，这也就难怪很多人在谈及算法偏见的时候会抱有“比人类强点就行了”的态度。在任何一个现代社会中，人们都不希望看到偏见的存在；但同样在任何一个现代社会中，偏见却随处可见。或许，从更长远的时间来看，我们依然要寄希望于算法来减少偏见、促进公正。毕竟，只要我们确定的规则是合理的、公正的、无懈可击的，那么算法就会严格地遵循并执行程序。“算法的尊重性，并不仅体现对那些强势群体算法使用者的尊重，而更需要的是对弱势群体算法使用者的包容和理解，即算法不因身份、地位、财富、性别等不同有任何区别。”[14]在这一点上，人却未必能做到。