6.4　意外后果

监管机构在进行干预之前既要考虑收益也要考虑风险，不应随意实施监管而阻碍人工智能发展。人工智能具有自主技术、算法不透明的特点，不可避免地将产生意料之外的结果。^[95]社会各界关于何为人工智能风险、风险何时发生以及是否构成人类生存风险等方面存在分歧，但几乎没有人认为人工智能不存在任何风险。针对食品、药品、汽车和航空等行业处于开发阶段的任何技术，相关管制条例通常是在不良事件发生后才得以应用。针对人工智能人们期待出台当预期其具有某种危险时可以应用的法规。人工智能发展迅速，潜在影响力巨大，即使人们倾向于事先制定好相关管制条例，明确各方治理主体的责任和义务，而不是等待事故发生后再从错误中学习，但也很难预料所有可能会出现的结果。^[96]