2.人工智能风险

人工智能的应用领域，更加证明其就是研究理解和模拟人类智能、智能行为及其规律的一门学科。随着人工智能技术迅猛发展，自动化、智能化水平不断提高，人们也正满怀憧憬迎接胜利果实的同时，也出现了一幅令人惶恐不安的风险图景，人们获得了如此强大的物质安全保障，却并未得到应有的安全感。乌尔里希·贝克对此进行了更为深刻的理解和把握，认为，现代性正从工业社会的轮廓中脱颖而出，正在形成一种崭新的形式——（工业的）“风险社会”。^[5]如今，贝克提出的风险社会理论成为人们极为关注的理论热点，在当下的时代语境被人们广为接受。贝克在多本专著和文章中，对风险进行了深刻而全面的探讨。他从生态环境与技术的关系切入，把风险首先定义为技术对环境产生的威胁，然后不断扩大该概念的适用范围，以揭示现代性对人类产生的影响，从而提出风险社会理论，并将风险视作现代社会的核心内容。现代的政治和社会行动，其主旨是为解决工业发展衍生出的巨大风险与不安全感。贝克认为，在自然和传统失去它们的无限效力并依赖于人的决定的地方，才谈得上风险。^[6]风险是“一种应对现代化本身诱发并带来的灾难与不安全的系统方法；风险是具有威胁性的现代化力量以及现代化造成的怀疑全球化所引发的结果。”^[7]因为风险社会冲突的根源在于不安全，造成这一根源的原因一方面在于知识与科学技术的“毁灭性的进步”使风险社会具有了人为的不确定性，^[8]另一方面在于政府和企业科层组织的弊病，科层组织很难避免形式主义的通病，各种安全措施在形式上可以设计完美，实际上却只是敷衍了事，甚至掩盖风险的真相。现行的社会体制以及它造成的对技术产生后果的难测性，使其不必对技术产生的风险承担责任。贝克认为：“在风险时代，社会变成了实验室，没有人对实验的结果负责。”^[9]“没有人是主体，同时每个人又都是主体，于是这种‘有组织的不负责任’使风险大规模蔓延。”^[10]

人工智能将人们载入了“智能+”的时代，迎接人类的不仅仅有便利和舒适，还有突如其来的恐慌和不安，智能机器人抢占工作岗位、电话被监听、财产被转移……现实告知我们：人类已经陷入重重困境之中。所以贝克提出，我们已经步入风险社会。在风险社会的语境下，人工智能风险就是人工智能技术发展所引发的人为的、不可预见的不安全性。(https://www.daowen.com)

一方面，技术进步是产生人工智能风险的重要成因，而其进步又是人追求的结果。风险的产生是知识和无知某种结合的结果。更多、更完善的知识（大多数人对它的评价极尽溢美之词）正在成为新风险的来源。^[11]人工智能技术的进步，开发出越来越多新的行动领域，也就创造了新的风险，例如人工生命，即用计算机或精密机械等人工媒介生成或构造出能够表现自然生命系统行为特征的仿真系统或模型系统。因为目前没有人工生命合成的相关监督规定，它们本身不断地进行彻底变革，而且作为以知识为基础的技术，它们只需一种相应的知识，将来的生物恐怖主义分子很可能利用这一技术制造病毒或生化武器；所谓的无知即由于人们认知过程的特性，总会存在不知道或现在不知道的潜在的知识的状况，所以实验室中的人造脑是否会掌控人类更让人忧心忡忡。另一方面，机构制度设计的缺陷是产生人工智能风险的重要条件。在当今的社会化大生产方式下，公共机构的规模日益庞大，人们总是想方设法地将简单问题复杂化处理，造成责任分担的模糊，任何人都是原因也是结果，所谓的“集体负责”其实是“大家都不负责”，^[12]形成了有组织的不负责任。贝克指出，迷宫式的公共机构都是这样安排的，即恰恰是是那些必须承担责任的人可以获准离职来逃避责任，在这个过程中是根本无法查明谁该负责任的。^[13]在这种机构设计的保护下，你可以享受技术开发与创新的利益，而无需为风险事故承担责任，或者说只承担其应负责任的很小部分，由此提高了产生风险的概率。所以就有了2008年三聚氰胺奶粉事件爆发后各机构推卸责任的丑态。质监部门把责任推给了三鹿集团，声称三鹿没有及时上报给政府，三鹿集团应为此负责，而三鹿集团则声称，是奶源出的问题，而奶农则介绍说，一般亲自牵着奶牛来到收奶站挤完奶后记账便走。