8.2　产业

（1）将价值观嵌入人工智能系统

长期以来，自由、人权保障、法治、机构稳定、尊重隐私权利、尊重知识产权以及赋予平等机会追求梦想等核心价值观一直是各国的治国根本。人工智能技术开发必须遵循这些基本价值观，确保人工智能技术易于理解、值得信赖、强大且安全。此外，必须考虑人工智能对社会的更广泛影响，包括对劳动力的影响，以及保证人工智能能够负责任地发展。各国正在通过制定研发计划，与利益攸关方社群广泛接触，包括关于人工智能发展的国际讨论，来积极应对这些挑战。在美国，作为人工智能倡议的一部分，联邦机构将通过为应用于不同类型工业部门的人工智能技术开发制定指导方针，促进公众对人工智能系统的信任。为了开发成功的人工智能系统以造福社会，人工智能的设计需要高度重视人权和价值观，须符合所服务对象的行为准则。正如《世界人权宣言》所述，人权是人类价值的一种主要形式，机器应该为人类服务而不是相反。因此，符合价值观的设计方法必须成为设计过程的一部分，所有新开发出来的人工智能最终产品都必须符合伦理准则。^[124]

（2）监督人工智能系统

无人驾驶汽车被设计为学习机器，自动地根据经验和获取的新信息改变其行为方式，这可能导致当其注意到其他汽车没有遵守速度限制时也决定加速，因而造成伤害。我们有责任保障人类在地球上的基本生存条件得到满足，即保证人类子孙后代拥有良好生存环境，社会保持繁荣昌盛，从这一点上看人工智能技术必须符合人类意志。为了确保人工智能始终是安全可靠的，需要向人工智能领域引入监督系统。人工智能监督系统（Oversight AI systems），又被称为人工智能“卫士”（AI Guardians），可以确保自主武器做出的决定将被限制在人类预期的范围之内。谷歌无人驾驶汽车设计的下一步目标是取消方向盘或加油刹车踏板。不过，加利福尼亚州的自动驾驶汽车法规要求测试驾驶员能够使用方向盘和制动器对车辆进行“人工控制”，确保在自动驾驶系统发生故障时驾驶员能够控制车辆。^[125]

（3）个人数据及其访问管制

人工智能和自主系统可以广泛访问人们的个人信息并使用相关数据进行学习，但信息所有者却无法从其中获益。换句话说，从我们个人生活中获得的信息对他人而言比对我们更有利可图。为了解决数据不对称问题，需构建一个有利于人们对个人信息进行自我控制和能够定义、访问和管理个人信息的数据环境。因此，有必要明晰个人数据控制权、他人数据访问权和个人数据被他人使用的知情同意权，以尊重个人数据主权及其隐私权。数据处理过程需确保访问和收集的个人数据（不管是正面的或负面的）结果对数据拥有者是透明的，以便获得真正的知情同意。^[126]