人机交互原则对致命性人工智能武器的规制

人机交互原则要求必须确保人对所部署和操作的武器保持控制。人机交互原则的核心要素在于明确人类对致命性人工智能武器实施控制。人类对致命性人工智能武器实施有意义的控制主要可以从以下方面展开：第一，可以对致命性人工智能武器本身参数设定控制。如控制攻击目标类型、致命性人工智能武器运作时间、使用致命性人工智能武器的攻击效果。第二，应对致命性人工智能武器的使用环境加以控制。例如仅限于在不涉及平民或民用物体的情况下使用，或在操作期间排除其存在。例如在有平民或民用物体存在的情形下，在设置隔离区、物理障碍和事先警告后使用致命性人工智能武器。第三，确保有效的人类监督，以及及时的干预和停用。即人类监督致命性人工智能武器并在必要时通过直接主动控制、中止任务或停用致命性人工智能武器功能来干预其运行的措施。第四，人类的控制也要求各国应制定致命性人工智能武器的审查程序，并旨在确保有效控制致命性人工智能武器的使用，针对指挥官和操作员进行致命性人工智能武器的培训，包括对该作战环境的任何结果给予的合理考虑，即致命性人工智能武器的使用应具有可预测性。(https://www.daowen.com)

人机交互原则可以减少致命性人工智能武器使用中的不可预测性，并减轻不当和意外后果的风险，特别是对平民的风险。联合国法外处决、即决处决或任意处决问题特别报告员克里斯托夫·海因斯说：“虽然有能力生产致命性人工智能武器的各国政府官方声明表明，目前没有设想在武装冲突或者其他地方使用致命性人工智能武器，但应当回顾，飞机和无人机最初在武装冲突中仅用于监视目的，后来的经验表明，当能够提供比对手更明显的优势的技术时，最初的意图往往被抛弃。”^[49]因此，国际人道法层面对致命性人工智能武器进行规制十分重要，人机交互原则可以使得致命性人工智能武器的使用更加遵守国际人道法。