7.5　国家安全

人工智能将越来越多地用于从金融体系到国家电网等一系列关键基础设施的控制，人工智能对国家安全保障具有重要意义。^[110]

在网络安全保障方面，人工智能不仅可以防御（被动）而且可以攻击（主动），所发挥作用将越来越大。目前，需要专家投入大量时间和精力对安全系统进行设计和运行，若将部分或全部专家的工作用人工智能代替，将可能以更低成本获得更强大的安全保障并同时大大提高网络防御灵活性的效果。使用人工智能可能有助于迅速检测和应对不断演变的潜在威胁。人工智能特别是机器学习系统有可能帮助人类应对网络空间的复杂多变并做出有效决策以应对网络攻击。预测网络攻击需要从大量的、不断变化的且不完整的数据源中动态生成潜在威胁模型进行预测分析，人工智能系统可以做到这一点。这些网络数据分布在节点、链路、设备、体系结构、协议和网络拓扑结构中，人工智能是解释这些数据、主动识别漏洞、采取行动预防或减轻未来网络攻击的最有效方法。人工智能可以协助政府规划、协调、集成、同步和指导各项活动以便有效运行和保护政府网络系统，人工智能还可以协助私营部门根据所有适用法律、法规和条约采取措施维持其网络和系统安全运行。^[111]

人工智能有潜力在一系列国防事务中提供帮助，相关国防事务包括后勤、维护、基地运营、退伍军人医疗保健、战场医疗救助和伤员疏散、人员管理、导航、通信、网络防御和情报分析等非致命性活动，人工智能可以使其更安全有效。人工智能还可以在通过非致命手段阻止攻击从而保护人类和保护高价值固定资产等方面发挥重要作用。将自主技术纳入某些武器系统有助于使军事行动更精确、更安全、更人道。例如，精确制导武器以更少武器消耗和更少附带损害完成一项任务；遥控飞行器能够使军事人员远离危险从而减少风险；^[112]人工智能系统能够在意外情况出现时（如若一个孩子跑进了目标区域）瞬间做出决定停止任务。美国国防部首席信息官Dana Deasy表示，人工智能赋予作战人员快速和灵活，这将可能改变未来战争的作战方式。从运营、培训、招聘到医疗保健的所有部门无不依赖于人工智能。我们必须加快利用人工智能，增强军事能力，提高效力和效率，更好地保障国家安全。^[113]

如果武器系统脱离人类直接控制将引发法律和伦理问题。关键是要确保所有武器系统（包括自主武器系统）都以符合国际人道主义法的方式使用。此外，政府应采取适当措施控制自主武器扩散，并与合作伙伴合作制定与此类武器系统开发利用有关的标准。鉴于人工智能技术在军事领域应用不断取得进展，科学家、战略家和军事家们一致认为，许多新功能总是能很快被开发出来并加以实施，未来难以预测，必须及时更新法律体系以追赶并超过技术变化的速度。^[114]

机器人和人工智能研究人员在2015年国际人工智能大会上签署了一封公开信，呼吁联合国禁止进一步发展可以“超越人类控制”的人工智能武器。签名者包括英伟达（Nvidia）首席执行官斯蒂芬·霍金（Stephen Hawking）、深度思维（Deep Mind）AlphaGo团队成员、埃隆·马斯克（Elon Musk）以及人工智能和机器人技术领域的许多顶尖研究人员。^[115]未来生命研究所（the Future of Life Institute）也主动发起倡议，起草了一封关于人工智能研究重点的公开信，呼吁让人工智能变得更强有力的同时要让其更有益于人类。^[116]

人工智能在各领域潜在安全风险差异很大，各相关机构必须加深理解并制定相应指导方针，负责任地采用被公众和业界认可的技术。民用和军用技术对安全考虑有所不同，应该给予分别对待。军方已敏锐地意识到人工智能在减少伤亡方面的潜力，然而，融入人工智能自主技术的武器引发很大争议。人工智能特别是与机器人技术相结合的人工智能可能将引发一场国际军备竞赛，与其他强大武器并无二致，可能需要签订国际协议以恰当规范其使用范围。^[117]