4.1　新法律法规？

是否需要新法律法规监管人工智能存在两种观点。一种观点认为发展速度日益增长的人工智能很可能使社会关系和国家结构受到严峻挑战，甚至有可能以不可预测的方式使其破裂，人工智能将对人类生存产生威胁，应及时推进人工智能监管^[53]。斯蒂芬·霍金（Stephen Hawking）声称人工智能有可能成为人类文化的终结者。2016年10月19日，他在剑桥大学莱弗休姆未来智能中心的开幕仪式上说，“这可能是人类有史以来发生的最好的事情，也可能是最坏的事情”。早在2014年他在接受BBC采访时就已表达了类似的观点。之后，霍金积极倡导引入人工智能研究的必要规则，Leverhulme中心的成立主要是为了应对人工智能带来的风险。^[54]特斯拉（Tesla）和Space X的创始人埃隆·马斯克（Elon Musk）也曾多次对人工智能技术发出了警告。在麻省理工学院航空航天百年研讨会上，他声称人工智能很可能是人类生存的最大威胁。两年后，在全球代码大会上，他再次警告称，人类很可能将沦为人工智能的“宠物”。律师和法律学者Matthew Scherer呼吁制定人工智能发展法案，并建立政府机构用以保证人工智能研发项目的安全性。^[55]2016年，白宫举办了四场人工智能研讨会。其中一个主要话题便是人工智能是否需要监管。随后，包括霍金和马斯克等在内的892名人工智能研究人员和1445名专家共同签署并发表了《阿西洛玛人工智能23条原则》（Asilomar AI Principles），以防止人工智能的研究和应用出现偏差。^[56]

另一种观点则认为对人工智能的过度担忧是没有必要的，人类不需要担心人工智能对人类生存构成威胁，在异常情况发生之前人类有足够多的方式摧毁自己生产的机器人。^[57]人工智能让机器变得更聪明、更有能力，但这并不等于允许其完全自主。我们习惯性认为如果一个人被赋予过多自主权将有可能做错事，如从监狱里释放出来的囚犯、没有受到监管的青少年等，因为他们将放纵自己满足其不良欲望。相比之下，不管人工智能变得如何聪明，都不可能有一己目标或动机不与人类合作。^[58]回顾历史，每一项革命性技术，无论是原子能还是基因工程，都是在疑虑和担忧中崛起，但没有一项技术真正扰乱了人类社会。

巴拉克·奥巴马（Barack Obama）在接受《连线》（Wired）杂志采访时曾表示，人工智能仍处于初级阶段，过度监管既没必要也不可取，目前需要的是加大研发投入并促进科技成果转化。此外，人工智能带来的所有新挑战并非都需要出台新法规加以应对，现有法律体系已经应对了其中许多新挑战。事实上，与人工智能事故有关的诉讼不可避免，随着人工智能应用案例越来越多，新判例法将不断出台应对。应给予司法机构一定空间根据真实情景处理类似案例。人工智能已经历经60多年的风风雨雨，最近由于互联网、大数据和机器学习逐渐趋于成熟，才使其应用实现飞跃发展。可以预见，未来人工智能将发挥更重要作用，操之过急地增加不合时宜的监管政策将不仅可能加剧当前问题，还有可能将阻碍进步扼杀创新。^[59]