投降受法律保护。这种保护取决于系统能否及时停止。
译自作为参照文本的英文版本。如有不一致,以英文版本为准。
对投降的法律保护并非新近出现,也并非源于《第一附加议定书》。1907年《海牙章程》第23(c)条禁止杀伤已经放下武器或已无自卫能力而无条件投降的敌人;长期以来,包括纽伦堡法庭和国际法院判例在内的权威均承认《海牙章程》反映了习惯国际法规则。相应的禁止攻击 hors de combat 人员的规则具有习惯法性质,并约束武装冲突的每一方,无论其批准了何种条约。对《第一附加议定书》缔约国而言,第41条提供了最明确的条约表述,并加入内在的可识别性标准:保护不仅适用于已被认定的情形,也适用于在具体情况下本应被认定的情形。该地位受一项特定条件约束:该人不得从事任何敌对行为并不得企图逃跑。条件由行为而非内心意图界定。
法律也要求停止。依据习惯法上的预防义务,并且对缔约国而言依据第57条的明文规定,当攻击实施过程中出现的信息表明继续攻击已不合法时,必须取消或停止攻击;这包括某人已经投降、因而不再是合法攻击对象的情形。该义务本身已有时间结构,预设正在进行的交战仍可停止。
法律没有规定的是反应时间。它规定了相关地位变化已经或应当被识别后的法律后果,却未规定仍能使该后果生效的时间区间。
时间问题并不新鲜。自动化和自主功能使其更加尖锐,因为它们把识别具有法律意义的变化与产生不可逆效果之间的区间压缩到有效干预所需时间以下。自主性是问题的一种表现,而非其基础:问题具有时间性质;无论底层技术为何,只要过程速度超过响应速度,问题就会出现。
许多讨论把这视为感知问题:系统能否发现某人正在投降?这个问题真实且困难,但本概念并不取决于它。假定识别完全准确。假定相关地位变化在技术上最早可能的时刻即被发现。问题仍未消失:若效果成为不可逆之前的剩余时间短于停止行动所需的端到端时间,识别虽正确,却在操作上无效。把问题表述为识别问题会引出一个惯常答案:感知能力正在改进。这个答案在此并不成立。感知能力可以无限改进,却不能为停止时间增加哪怕一毫秒。
问题也不取决于系统如何分类。自主武器讨论集中于哪些系统属于某种定性,以及多少人员参与会使系统不再属于该定性。这些问题重要且仍未解决。无论最终采用何种定性,同一问题始终适用:交战过程是否留下时间,使具有法律意义的地位变化能在武力变得不可逆之前影响行为?时间窗口仅两秒的受监督系统与不受监督系统面临同样的问题。形式标签不能回答这一问题。
这种结构并不陌生。机器安全法直接面对它。当危险动作产生不可逆效果的速度快于该配置下最低可信人员反应时间时,义务便转移到设计层面:欧洲安全一体化原则优先选择通过设计消除风险,而非向操作人员发出指示;美国机器防护法也从未以“更快反应”应对快速危险。停止性能被视为设计量:防护装置的位置依据标准化的人员接近速度和系统响应时间计算,而非凭空假定。不过,这种转移分散于设计层级、自愿性标准和特定类别规则之中,从未被表述为一般标准。
此处移植的是架构,而非规范。工业机器并非为造成伤害而设计;对操作人员所负义务也不同于武装冲突法下的义务。任何敌对行动义务都不是从民用产品安全法推导而来。可以借鉴的是方法:比较两个可测量的窗口,并得出结论——当反应不可能时,法律一贯要求通过设计解决。
同一结构也见于军事系统安全实践。根据 MIL-STD-882E,控制安全重要功能的软件是否留有“进行预定的安全探测与干预的时间”,是区分半自主软件控制类别与自主类别的标准;该分类决定分析所需的严格程度,以及必须由哪一级权限接受剩余风险。该标准并不禁止建造不留这种区间的系统,而是要求对这一选择进行分类、分析,并由指定权限层级接受。与下述民事框架一样,它保护操作系统的己方力量,而非敌方,也不创设任何人道义务。
这种趋同十分广泛。ISO 13855 依据接近速度规定最小安全距离,并在多数主要监管体系中被采纳或反映:欧盟(EN ISO 13855)和瑞士(SN EN ISO 13855)直接采用;美国通过同等的操作人员保护义务(OSHA, 29 CFR § 1910.212);欧亚经济联盟将技术法规 TR CU 010/2011 作为有约束力的法律;中国在国内采用基础 ISO/IEC 标准(GB/T 15706, GB 5226.1, GB/T 16855.1);以色列则沿用相同的防护传统(Work Safety Ordinance 5730-1970)。其意义在于证据:每一体系都把保护信号与不可逆结果之间的区间视为可测量的设计参数,而非偶然情形。这种趋同表明实效问题具有结构性。在这些框架中,于对人有意义的区间内停止机器是一项普通工程要求,须加以规定、测试和记录。相同能力在用于识别试图投降者时却被称为技术上不可实现。它并非不可实现;这取决于设计该区间是为了保护谁。
如果系统停止危险动作的能力不依赖操作人员在该动作的时间窗口内完成感知、评估和干预,该系统即具有系统性可停止性。该标准形成的是层级,而非单一要求。第一,系统应当留出时间:凡属可行,应将其设计为在动作开始与不可逆点之间存在人员能够跨越的区间。第二,若无法做到,停止能力必须置于某一机制中,而该机制自身的响应时间能够适应短到人员无法反应的窗口。第二层级正是在第一层级失效之时且因其失效而启动。
因此,该标准不是排除人员的原则。它不移除操作人员的停止装置,也不在时间窗口允许使用这些装置时削弱其作用;它只确保最后一层停止能力不依赖这些装置。它也不增加任何义务,只表明现有义务仍能得到履行的条件。
可停止性是在确定的运行包线内评估的系统属性。因此,它可在部署前确定:将特定条件下测得的干预链最低可信响应时间,与效果成为不可逆之前的剩余时间相比较。对《第一附加议定书》缔约国而言,第36条为在研究、研制、取得或采用新的武器、作战手段或方法时审查这一问题提供法律框架。其他国家可通过适用的国内武器审查、取得、采购或安全程序处理同一技术问题。
可停止性与识别在证据上的区别也在于此。某一事件中是否正确识别了具有法律意义的地位,可能取决于该事件的信息和情形。相比之下,停止性能可作为系统在确定运行包线内的属性预先测量。因此,两项问题可以分开审查:相关条件是否已被识别;以及识别后是否仍有足够停止能力使该识别产生效果。
如果测试预先确定,在某一确定运行包线内,系统无法在相关效果成为不可逆之前响应,这一限制就不再是战场上的不可预见情形,而是设计及其预定用途的已知特性。现场遇到的不可能是一种情形;设计阶段已经确定并在部署时接受的不可能是一项决定,而决定可以接受审查。