投降は法によって保護される。その保護は、システムが間に合うよう停止できることにかかっている。
参照テキストである英語版から翻訳したものです。相違がある場合は、英語版が優先します。
投降の法的保護は新しいものではなく、第一追加議定書に由来するものでもない。1907年ハーグ陸戦規則第23(c)条は、武器を捨て、または自衛の手段を失って無条件に投降した敵を殺傷することを禁じる。ハーグ陸戦規則が慣習国際法の規則を反映することは、ニュルンベルク裁判所や国際司法裁判所の判例を含め、長く認められてきた。これに対応する hors de combat にある者への攻撃禁止は慣習法上の規則であり、批准した条約のいかんを問わず、武力紛争のすべての当事者を拘束する。第一追加議定書の締約国については、第41条が最も明確な条約上の定式化を示し、認識可能性に関する内在的基準を加える。すなわち、保護は実際に認識されたものだけでなく、状況上認識されるべきものにも及ぶ。この地位には特定の条件があり、当該者が敵対行為を差し控え、逃亡を企てない場合に成立する。条件は内心の意図ではなく行動によって定まる。
法は停止することも要求する。慣習法上の予防義務により、また締約国については第57条の明文により、攻撃の実行中に得られた情報から、その継続がもはや適法でないと判明した場合、攻撃を取り消しまたは停止しなければならない。これには、人が投降し、もはや適法な攻撃対象ではなくなった場合も含まれる。この義務には既に時間的構造がある。進行中の交戦をなお停止できることを前提とするからである。
法が定めていないのは反応時間である。法は、関連する地位の変化が認識され、または認識されるべき時点で法的効果を定めるが、その効果をなお実現できる時間区間は指定しない。
時間の問題は新しくない。自動化・自律化された機能は、法的に重要な変化の認識から不可逆的効果までの区間を、実効的介入に必要な時間より短くすることで、問題を深刻化させる。自律性は問題の一例であって基礎ではない。問題は時間的なものであり、基盤技術を問わず、過程の速度が応答速度を上回るところで生じる。
議論の多くは、これを知覚の問題として扱う。システムは人が投降していることを検知できるか。この問いは現実的で難しいが、本概念を左右する問いではない。認識が完全であると仮定しよう。関連する地位の変化が技術上可能な最も早い時点で検知されると仮定しよう。それでも問題は消えない。効果が不可逆となるまでの残り時間が、行動を停止するための端から端までの所要時間より短ければ、認識は正しくても運用上は無効だからである。問題を認識として捉えると、「知覚は改善している」という定型的回答を招く。しかし、ここではその回答は通用しない。知覚が無限に改善しても、停止時間を一ミリ秒も増やせないことがある。
この問いはシステムの分類にも左右されない。自律型兵器をめぐる議論は、どのシステムが所定の特徴づけに該当し、どの程度の人間関与があればそこから外れるかに集中してきた。これらは重要で未解決の問いである。しかし最終的な特徴づけが何であれ、同じ問いが残る。交戦過程は、武力行使が不可逆となる前に、法的に重要な地位の変化が行動へ影響する時間を残しているか。窓が二秒しかない監督下のシステムは、監督されないシステムと同じ問題を抱える。形式的名称は答えにならない。
この構造は未知のものではない。機械安全法は直接これに向き合う。危険な動作が、その構成における信頼できる最短の人間反応時間より速く不可逆的効果を生じさせ得る場合、義務は設計へ移る。欧州の安全統合原則は、操作員への指示よりも設計によるリスク除去を優先し、米国の機械防護法も迅速な危険に「もっと速く反応せよ」と答えたことはない。停止性能は設計量として扱われ、防護装置の位置は標準化された人間の接近速度とシステム応答時間から計算され、仮定されない。ただし、この移行は設計上の階層、任意規格、分野別規則に分散しており、一般基準として明示されてはいない。
ここで移転されるのは規範ではなく構造である。産業機械は危害を加えるために設計されておらず、操作員に対する義務は武力紛争法上の義務とは異なる。敵対行為の遂行に関する義務を民生品安全法から導くものではない。引き継がれるのは、二つの測定可能な窓を比較し、反応が不可能な場合には法が常に設計による対応を求めてきたと結論づける方法である。
同じ構造は軍事システム安全実務にも現れる。MIL-STD-882E では、安全上重要な機能に権限を行使するソフトウェアが「事前に定めた安全な検知および介入のための時間」を残すかが、半自律ソフトウェア制御区分と自律区分を分ける基準である。この分類により、分析に必要な厳格さと、残留リスクを受諾すべき権限レベルが決まる。同規格は、その区間を残さないシステムの構築を禁止しない。その選択を分類・分析し、指定された権限レベルで受諾するよう求める。以下の民間枠組みと同様、敵ではなくシステムを運用する部隊を保護し、人道上の義務を創設しない。
収斂は広範である。ISO 13855 は接近速度に基づき最小安全距離を定め、主要な規制体系の多くで採用または反映される。EU（EN ISO 13855）とスイス（SN EN ISO 13855）では直接、米国では同等の操作員保護義務（OSHA, 29 CFR § 1910.212）を通じて、ユーラシア経済連合では拘束力ある法（技術規則 TR CU 010/2011）として、中国では基礎となる ISO/IEC 規格の国内採用（GB/T 15706, GB 5226.1, GB/T 16855.1）により、イスラエルでは同じ防護の伝統（Work Safety Ordinance 5730-1970）を通じてである。その関連性は証拠にある。いずれも保護信号から不可逆的結果までの区間を偶然ではなく測定可能な設計パラメータとして扱う。この収斂は実効性の問題が構造的であることを示す。人間にとって意味のある区間内に機械を停止する能力は、これらの枠組みでは、仕様化・試験・文書化される通常の工学要件である。同じ能力が、投降しようとする者の認識に適用されると技術的に不可能とされる。しかし不可能ではない。誰を守るためにその区間を設けるかという決定である。
危険な動作を停止する能力が、人間の操作員による当該動作の時間窓内での知覚、評価、介入に依存しないとき、システムは体系的に停止可能である。この基準は単一要件ではなく階層を生む。第一に、システムは時間を確保すべきである。実行可能な場合、動作開始から不可逆点までに人間が橋渡しできる区間が存在するよう設計すべきである。第二に、それが実現できない場合、停止能力は、人間の反応には短すぎる窓に自身の応答時間が収まる機構に置かなければならない。第二層は、第一層が失敗するとき、まさにその失敗ゆえに作動する。
したがって、この基準は人間排除の原則ではない。時間窓が使用を許す場合に操作員の停止装置を撤去したり、その役割を弱めたりせず、停止可能性の最終層がそれらに依存しないことだけを確保する。また、新たな義務を加えるものでもない。既存の義務をなお履行できる条件を示すものである。
停止可能性は、定められた運用包絡域内で評価されるシステム属性である。したがって配備前に立証できる。指定条件下で測定した介入連鎖の信頼できる最短応答時間を、効果が不可逆となるまでの残り時間と比較する。第一追加議定書の締約国について、第36条は、新たな兵器または戦争の手段・方法の研究、開発、取得または採用に際してこの問題を審査する法的枠組みを提供する。その他の国も、適用される国内の兵器審査、取得、調達または安全手続を通じて同じ技術的問題を扱える。
停止可能性と認識の証拠上の違いもここにある。特定の事象で法的に重要な地位が正しく認識されたかは、その事象の情報と状況に左右され得る。これに対し、停止性能は定められた運用包絡域内のシステム属性として事前に測定できる。したがって二つの問いを別々に審査できる。関連条件が認識されたか、そして認識後に、その認識へ効果を与える十分な停止能力が残っていたかである。
試験により、定められた運用包絡域内で、関連する効果が不可逆となる前にシステムが応答できないと事前に判明した場合、その制約はもはや予見不能な戦場の事情ではない。設計と予定された使用の既知の特性である。現場で遭遇した不可能は事情である。設計段階で確立され、配備時に受け入れられた不可能は決定であり、決定は審査できる。