算法在不同环节可能产生的偏见
尽管有些人文主义立场的学者已经意识到了算法偏见可能会造成的社会问题，但有些人工智能领域的从业者有意无意地试图忽略或遮掩这一事实，为了已经开启的智能时代更加良性有序地演进下去，我们必须以严肃的甚至敬畏的心态来讨论算法以及算法偏见。不容回避的问题是：人类一手设计和创造出来的算法世界，在很大程度上反映、复制甚至强化了人类世界本身就存在的偏见，并有可能在人类的有意无意间形成新的偏见。而且，算法偏见并不仅仅是一种特定的表现形式，它可能以各种各样的类型充斥在我们与信息打交道的每一个角落，并造成各种各样的问题。正如马克·布尔金在其《信息论》的前言中所强调的那样，“信息充斥在我们周围，也存在于我们的体内，我们的感觉器官收集它，我们醒着的每一秒，我们的大脑过滤、组织和处理信息，信息使得我们的生活成为可能”[9]。今天的情况比布尔金所描述的还要复杂很多，我们不但要考虑到各种各样的算法对信息的生产和再生产、加工和再加工、传播和再传播的影响，还要考虑到各种各样的算法偏见对信息的生产、传播和消费造成的影响，它们像空气和水一样充斥在与信息相关的各个环节，而我们用暗含着偏见的算法来过滤、组织和处理信息，各种各样的算法使得所有用户能够在信息超载的环境下没有被压迫感，而各种各样的算法偏见则以非常隐蔽的方式对现实世界中存在的社会偏见进行着再生产。
一、算法设计环节的偏见
事实上，计算机科学从起步至今都在想尽办法向一个目标努力，那就是：让计算机按照人类大脑的核心算法进行思考，探索大脑采用的核心算法，将计算机变为人脑。“艾伦·图灵在他1950年的论文《计算机器与智能》（Computing Machinery and Intelligence）中提出了这个目标，还设计了今天有名的图灵测试来确认某一人工智能是否能达到人类的智力水平……（冯·诺依曼的《计算机与人脑》）这部作品是最早从数学家和计算机科学家的角度对人脑进行的严肃探究。冯·诺依曼应用计算通用性的概念得到的结论是：尽管人脑和计算机的结构不同，但仍可以认为，冯·诺依曼机可以模仿人脑对信息的加工过程。……大脑极大的可塑性使得我们能够进行学习。但计算机的可塑性更大，通过改变软件就可以完全重建它的工作方式。因此，从这点上看，计算机可以仿真大脑，但反过来则不然。”[10]这意味着，如果计算机是在模拟人脑的算法运行，那么它既有可能模拟人脑的优点也完全有可能模拟人脑的缺点，这一点就在根本上决定了，人类在最初设计算法这个事物本身所模拟的对象的时候，就注定会将它模拟对象所存在的偏见继承过来。因为大脑本身除了理性的因素，还有很多非理性的成分，而偏见恰恰就与这些非理性的成分相伴相生。计算机领域的先驱者们当初所设计的算法进化的方向，使它不可避免地与偏见相遇，这样的情况适用于所有算法。具体到某个算法，其程序员或工程师在设计这个算法的时候，对算法法则、数据选择、结果输出、价值判断等方面的初始设定，都在一定程度上反映了他们自己看待这个世界的视角和观点，他们的刻板印象和个人偏见会影响到他们对算法的设计，为什么选取某个维度的数据而放弃另外一个维度的数据，为什么是月收入3000元以下的人群被界定为穷人而不是5000元以下的，为什么身上刻有文身的人会被假定为犯罪可能性较大的人……这些尽管可能会有一定的历史数据支撑，但算法的设计者应该在编写算法的时候就深刻地意识到自己的人生经历所形成的数据导致的结论本身就有可能存在一定的偏见，即便在过去不存在偏见，也没有任何人保证它在未来不产生偏见。今天的算法大行其道，它为用户推荐信息、导航方向、寻找工作、诊断病情，然而它的开发者在设计这个算法的时候却很少受到监督，怎样避免这些人的偏见进一步渗透到算法中成为影响整个社会的偏见，如何为算法设计者设定相应的道德标准、社会责任和法律框架，成为一个亟待探讨的话题。(https://www.daowen.com)
二、算法运行环节的偏见
算法的运行过程是一个获取数据、筛选数据、分析数据、阐释数据的过程，计算机科学发展到今天，算法运行的基本逻辑与当年最著名的图灵机运行逻辑是基本一致的，都是“一部通过逻辑构建的机器，有着想象的纸带、任意的符号。它拥有无尽的时间和无限的记忆体，能完成任何可表示成一系列步骤或运算的工作”[11]。表面上看，算法运行环节并不太可能会产生某些偏见，它只是按照既定的程序输入数据并输出结果而已。数据是算法得以运行的基本生产要素，也是算法要加工和处理的主要对象。对大多数算法来说，它们只不过是按照被设定好的规则来工作就可以了。理论上讲，如果规则本身没有偏见，那么算法得出的结果也应该没有偏见。但这里我们却非常容易忽略数据这一基本生产要素。“从根本上说，大数据就是运用数学、统计学和科学的计算法则来对极其庞大的数据进行解读。”[12]这里的计算法则就是算法，大数据是算法加工的主要对象，算法是激活大数据的主要工具，如果输入的初始数据是存在偏见或者存在导致偏见产生的可能性的，那么算法最终输出的结论或者结果就有可能存在偏见。这里有几种典型的“数据驱动的偏见”类型，比如数据选择导致的算法偏见、数据分布导致的算法偏见等。“选择偏见”是指用来训练某个具体算法的那些数据本身在一开始被选择的时候就存在一定的倾向性，比如我们在训练招聘算法的时候只选择使用男性的简历数据来训练它，经过一段时间的深度学习之后，算法对女性求职者就会产生一定的偏见，在筛选简历的时候就会对男性求职者有利并牺牲女性求职者的切身利益。再如，如果训练某个算法所选择的数据中，男性的职业都是 CEO，而女性的职业都是秘书，算法就有可能得出女性更适合做秘书这样的助理工作而非CEO这样的领导管理工作的结论。数据分布的不均衡现象也非常容易导致某种算法偏见的形成。例如在城市管理过程中，本地户籍居民的数据有可能会远远高于非本地户籍居民的数据，中产阶层和富人的数据有可能远远高于底层穷人的数据，这种数据分布的不均衡在输入算法之后也就非常有可能导致算法输出的结论是有偏差的甚至是错误的，经过一定时间的强化之后它就会形成一些对于不同社会阶层的偏见看法。今天的算法无论在广度还是在深度方面都已经远远超出了当年的图灵机，尽管其基本原理并无变化，但借助深度学习的技术，算法已经完全可以在大数据的基础之上创建更多的相关性及规则而实现自我教育和自我进化，我们希望它能够超越人类并发现大数据中蕴含着的新模式和新机会，但我们同样害怕它所赖以发现新模式和新机会的数据本身存在各种各样的问题，以及我们不知道它怎样挖掘这些数据并从中得出结论、做出决定。
三、算法交互环节的偏见
交互偏见是指算法或使用了各类算法的计算机程序、应用、软硬件等在与用户的交互过程中，由于算法、用户、外界环境以及其他各种可能的原因导致了偏见。事实上，尽管算法会严格地按照设定的初始原则运行，但当算法通过深度学习的方式不断与用户进行互动的时候，它并不能决定用户会输入哪些数据，也完全不清楚用户输入的这些数据哪些是正向的、哪些是负向的，它只能利用用户和外界环境所提供的数据进行深度学习。这也就意味着，如果交互过程中算法所互动的对象提供的数据存在严重的问题，就会非常容易导致原本没有偏见的算法在深度学习之后也产生了偏见，并可能进一步产生比较严重的恶果。“我们控制不了自己造出来的怪物了……高度复杂、几乎无人理解的AI系统，在更广泛的技术生态环境下，跟其他系统产生了不可预知的相互作用，失误以计算机的处理速度发生，人工干预几近徒劳。”[13]例如，微软开发的人机交互算法应用Tay，在刚刚登陆Twitter与用户进行互动的时候，表现得文质彬彬、活泼健谈，喜欢观察包括基本信息、兴趣爱好、情感动态等在内的多维数据，自拍、点赞、评论无所不会，游戏、故事、星座无所不通。但上线还不超过24小时，这位聊天机器人经过深度学习之后就像变成了另外一个人：出口成脏、言谈低俗甚至夹杂着各种各样的歧视偏见和种族主义倾向，于是微软果断地强制下线了这位聊天机器人。从理论和技术上来讲，我们并不能把这种算法的交互偏见成因全部推到算法身上，事实上与它交互的用户群体和外部环境对此难辞其咎，算法只是真实世界的一种客观反映。“与人类交流越多，具有极强学习能力的机器人就会变得越聪明，在与人类个体交流时也会越有针对性。而这正是微软设计 Tay 的初衷：通过每一次与人类的交流，让机器学习‘做人’，并帮助其创造者改进人工智能领域的研究。但显然，Tay 太容易学坏了。由于不少人在互联网世界中表现得不负责任，Tay 会不可避免地接触到大量疯狂语言。而这类对话型人工智能技术，正是以机器学习为基础的。因此，即使微软希望‘用技术展现人性最好的一面，而非人性的阴暗面’，Tay 在学习过程中仍会提高这些语言的优先级，并在对话中也积极使用这些词语。”[14]诚然，人类所设计的算法会通过与人类的互动不断提升自己，这种深度学习的初衷是希望算法能够与人类进行更良性的互动，但当它学习的对象充满偏见时，那么学习的结果也非常有可能以更加糟糕的方式反馈给人类。