2021年4月28日，新美國(guó)安全中心（CNAS）網(wǎng)站發(fā)布報(bào)告，題為《Principles for the Combat Employment of Weapon Systems with Autonomous Functionalities》，作者是國(guó)防高級(jí)顧問(wèn)和國(guó)防與國(guó)家安全杰出高級(jí)研究員羅伯特O.沃克。
報(bào)告指出，所提出的這7項(xiàng)新原則集中于在武裝沖突中負(fù)責(zé)任地使用自主功能，因而可以保留人類對(duì)使用武力的判斷和責(zé)任，并有助于最大程度地降低系統(tǒng)失控或意外交戰(zhàn)的可能性，尤其是避免以非戰(zhàn)斗人員為交戰(zhàn)目標(biāo)。美國(guó)軍方最終開(kāi)發(fā)、測(cè)試和部署了一些武器系統(tǒng)，這些系統(tǒng)在所有與交戰(zhàn)相關(guān)的功能范圍內(nèi)將自主行動(dòng)結(jié)合起來(lái)。
實(shí)例證明，美國(guó)軍方用自主功能來(lái)綜合武器系統(tǒng)已有80年了。自主武器系統(tǒng)分為3類：靜態(tài)搜索武器、有限搜索武器和人類監(jiān)督的自主武器系統(tǒng)。對(duì)于半自主武器，人類選擇目標(biāo)或特定目標(biāo)組，然后激活該武器。就自主武器而言，人類激活該武器，然后武器選擇目標(biāo)并與之交戰(zhàn)。武器開(kāi)發(fā)的下一個(gè)進(jìn)步，將是引入改進(jìn)的人工智能賦能的自主功能。80年的作戰(zhàn)經(jīng)驗(yàn)表明，如果使用得當(dāng)，自主功能與人機(jī)協(xié)作相結(jié)合可以繼續(xù)改善戰(zhàn)場(chǎng)上對(duì)武力的區(qū)別性使用。在可行且有價(jià)值的情況下，系統(tǒng)設(shè)計(jì)可以在一系列自主處理的中間步驟中納入人類觀察和引導(dǎo)點(diǎn)。
通過(guò)努力建立其使用規(guī)范，美國(guó)國(guó)防部在具有自主功能的武器方面展示領(lǐng)導(dǎo)力的時(shí)機(jī)已經(jīng)成熟。美國(guó)還應(yīng)努力證明自己致力于以符合任務(wù)目標(biāo)的方式使用武器，同時(shí)遵守戰(zhàn)爭(zhēng)法、政策、適用條約、武器系統(tǒng)安全規(guī)則、倫理準(zhǔn)則和交戰(zhàn)規(guī)則。
引言
關(guān)于致命性自主武器系統(tǒng)（LAWS）的國(guó)際辯論已進(jìn)行了將近10年。2012年，美國(guó)國(guó)防部發(fā)布了關(guān)于具有自主功能的武器系統(tǒng)的正式政策指南，各國(guó)自2014年以來(lái)就開(kāi)始通過(guò)《聯(lián)合國(guó)特定常規(guī)武器》（CCW）公約來(lái)共同討論LAWS。缺乏一致認(rèn)可的LAWS定義，阻礙了CCW的討論。但是，CCW締約國(guó)于2019年一致認(rèn)為，在武器系統(tǒng)的使用和必須保留的武力使用上存在“人類責(zé)任”。因此，現(xiàn)在的討論往往集中在確保遵守國(guó)際人道主義法和滿足倫理關(guān)切所需的人類參與類型和程度上。
一些學(xué)者認(rèn)為，這些討論應(yīng)著眼于“軍事環(huán)境下自主性的發(fā)展目標(biāo)、共識(shí)和基于功能的理解”（著重強(qiáng)調(diào)）。本報(bào)告的前提是，實(shí)現(xiàn)這種理解的最佳方法是：制定武裝沖突中使用具有自主功能的武器系統(tǒng)的一些普遍接受的原則并對(duì)其進(jìn)行辯論并取得一致。這在戰(zhàn)爭(zhēng)自主性方面引起的法律、倫理和道德問(wèn)題最為尖銳，應(yīng)該引起最多的關(guān)注。
本報(bào)告為這些討論提供了起點(diǎn)。報(bào)告提出的7項(xiàng)原則旨在補(bǔ)充和構(gòu)建現(xiàn)有的國(guó)防部指南，包括國(guó)防部指令（DoDD）3000.09、《武器系統(tǒng)自主性》和國(guó)防部的《人工智能原則》。它們還與2019年“禁止或限制使用某些可被認(rèn)為具有過(guò)分傷害力或?yàn)E殺濫傷作用的常規(guī)武器公約”會(huì)議上CCW所采納的11項(xiàng)指導(dǎo)原則保持一致。這7個(gè)新原則集中關(guān)注在武裝沖突中負(fù)責(zé)任地使用自主功能的方式，這些方式可以保留人類對(duì)使用武力的判斷和責(zé)任，并有助于最大程度地降低系統(tǒng)失控或意外交戰(zhàn)的可能性，尤其是避免以非戰(zhàn)斗人員為交戰(zhàn)目標(biāo)。
本報(bào)告分為四個(gè)部分。第一部分詳細(xì)介紹了具有自主功能的美國(guó)武器系統(tǒng)的歷史。目的是使讀者了解歷史上這些武器的使用方式，為何自主功能如此有用以及國(guó)防部為何保留使用這些武器的權(quán)利。第二部分說(shuō)明了現(xiàn)在為什么通過(guò)添加人工智能來(lái)改進(jìn)具有自主功能的武器，這是一項(xiàng)重要的發(fā)展，目的是在使用武力時(shí)使武器更具區(qū)別性。第三部分解釋了為何國(guó)防部應(yīng)考慮發(fā)布一套新的原則，這些原則針對(duì)具有自主功能的武器系統(tǒng)的作戰(zhàn)使用。最后一節(jié)概述了供考慮的7項(xiàng)擬議原則：
（1）使用任何具有自主功能的武器系統(tǒng)，都必須在負(fù)責(zé)任的人工指揮與控制鏈的監(jiān)督指導(dǎo)下進(jìn)行；
（2）在決定發(fā)動(dòng)一系列可能因使用武力（即殺傷鏈等）而導(dǎo)致人員傷亡行動(dòng)（包括自主行動(dòng)）時(shí)，都應(yīng)基于人的意圖和判斷力；
（3）在任何情況下，由人來(lái)決定使用武器的責(zé)任都不能移交給機(jī)器，人類有履行戰(zhàn)爭(zhēng)法的義務(wù)；
（4）為有效確定對(duì)特定目標(biāo)的攻擊是否合法，任何授權(quán)使用、指導(dǎo)使用或操作具有自主功能的武器系統(tǒng)的人都必須充分了解該系統(tǒng)的預(yù)期性能和能力、使用原則、預(yù)期目標(biāo)、使用環(huán)境及使用條件；
（5）一旦人類啟動(dòng)了一系列旨在利用致命性力量來(lái)結(jié)束沖突的行動(dòng)時(shí)，那么具有自主功能的武器系統(tǒng)便可以自行完成該行動(dòng)，而無(wú)需進(jìn)一步的人為監(jiān)督；
（6）只要武器系統(tǒng)選擇和打擊目標(biāo)與人為決定發(fā)動(dòng)合法攻擊直接相關(guān)，便符合“由人決定使用致命武力”的標(biāo)準(zhǔn)；
（7）指揮官如果有證據(jù)證明具有自主功能的武器系統(tǒng)可能以有悖于預(yù)期性能、戰(zhàn)爭(zhēng)法、政策、適用條約、倫理規(guī)范以及交戰(zhàn)規(guī)則的方式使用，則必須采取適當(dāng)行動(dòng)。
結(jié)論
具有自主功能的武器系統(tǒng)已在戰(zhàn)斗中安全可靠地使用了80年。它們今后還將繼續(xù)使用。的確，在這些武器系統(tǒng)中增加人工智能賦能的應(yīng)用程序，有望在使用武力時(shí)使其更具區(qū)別性并減少意外交戰(zhàn)，這一目標(biāo)完全符合國(guó)際人道主義法。
但是，反對(duì)者擔(dān)心這些武器的使用會(huì)在武裝沖突中導(dǎo)致有問(wèn)題的倫理、道德和法律后果。美國(guó)應(yīng)站在先進(jìn)測(cè)試、評(píng)估、確認(rèn)和驗(yàn)證（TEVV）規(guī)程和法律評(píng)審的最前沿，以證明具有自主功能的武器將按預(yù)期發(fā)揮作用。美國(guó)還應(yīng)努力證明自己致力于以符合任務(wù)目標(biāo)的方式使用武器，同時(shí)遵守戰(zhàn)爭(zhēng)法、政策、適用條約、武器系統(tǒng)安全規(guī)則、倫理準(zhǔn)則和交戰(zhàn)規(guī)則。做到這一點(diǎn)的一種方法是針對(duì)具有自主功能的武器系統(tǒng)的戰(zhàn)斗使用采納若干原則，并在采辦過(guò)程、培訓(xùn)、教育和野戰(zhàn)演習(xí)時(shí)使之制度化。上述7項(xiàng)原則旨在推動(dòng)這一努力，并為采用國(guó)際規(guī)范奠定基礎(chǔ)。
?