2019年8月9日,英國查塔姆研究所網(wǎng)站發(fā)布題為《Artificial Intelligence Prediction and Counterterrorism》的報告,作者是英國陸軍軍官、該所前訪問研究員凱瑟琳·麥肯德里克。報告要點如下:
在反恐中使用人工智能本身并不是錯誤的,本文提出了將合法使用人工智能作為自由民主國家反恐預測方法的一部分的必要條件。
•在反恐中使用預測性人工智能通常被認為對人權產(chǎn)生了有害影響,產(chǎn)生了“犯罪前”懲罰和監(jiān)控幽靈。然而,對新能力使用的良好監(jiān)管可以提高各國保護公民生命權的能力,同時改善對旨在保護其他人權的原則的遵守,例如透明度、罰當其罪和免受不公平歧視的自由。同樣的監(jiān)管框架也有助于防止更廣泛地濫用相關技術。
•大多數(shù)國家都專注于防止恐怖襲擊,而不是被動對其做出反應。因此,預測已經(jīng)成為有效反恐的核心。人工智能允許分析體量更大的數(shù)據(jù),并且可以感知那些數(shù)據(jù)中的模式,否則由于體量和維度的原因,這些模式將超出人類的解釋能力。這樣做的影響是,可以通過分析整個人口的廣泛活動來識別以前未知的威脅的方法來補充從已知嫌疑人外推的傳統(tǒng)調查方法。
•人工智能的發(fā)展擴大了監(jiān)控的能力,而不受資源的限制。例如,面部識別技術可以在不久的將來在公共場所使用CCTV(閉路監(jiān)控電視系統(tǒng))實現(xiàn)監(jiān)視的完全自動化。
•目前使用預測性人工智能的方式從人權和實踐角度提出了許多相互關聯(lián)的問題。如果加以限制和規(guī)定,可能會削弱應用人工智能方法的效用,同時不一定能夠在適當?shù)某潭壬媳Wo人權。
•原則上,與自動分析某些類型的公共數(shù)據(jù)相關的隱私權侵犯并沒有錯,但必須在堅實的法律和政策框架內進行分析,根據(jù)其結果對干預措施施加明顯的限制。
•將來,更廣泛地獲取侵入性更小的公共數(shù)據(jù)、直接監(jiān)管這些數(shù)據(jù)的使用方式(包括監(jiān)督私營部門參與者的活動)以及實施技術和監(jiān)管保障措施,可以改善運作績效以及合規(guī)性與人權立法。重要的是,任何此類措施的實施方式都應對言論自由、結社自由和集會自由等其他權利產(chǎn)生顯著影響。