Google 正在利用人工智能技術(shù)幫助美國國防部分析其無人機拍攝的視頻片段。
據(jù)外媒 Gizmodo 報道，上周，一些 Google 員工在內(nèi)部郵件中分享該消息后，點燃了部分人的憤怒情緒。而另一些人則認(rèn)為雙方的這次技術(shù)合作關(guān)乎機器學(xué)習(xí)發(fā)展和使用的道德問題。
雷鋒網(wǎng)了解到，去年秋天，還擔(dān)任 Alphabet 董事長的 Eric Schmidt 在一次談話中曾談到科技圈與軍方合作關(guān)系的擔(dān)憂。 “技術(shù)社區(qū)普遍擔(dān)心軍事和工業(yè)結(jié)合體，會被作為不正當(dāng)殺人利器，”同樣也是國防創(chuàng)新委員會成員的他補充說，“我不會在軍隊內(nèi)部提供 Alphabet 的東西。”
然而，Google 似乎食言了。
對于這次合作，可能會給 Google 帶來的好處是，將聯(lián)邦政府視為客戶之后，更有利于其在云服務(wù)市場上拉近 AWS 和 微軟 Azure 云。而且 Google 也稱其與軍方的合作與戰(zhàn)爭用途無關(guān)，但這一問題仍引起了員工們的普遍關(guān)注。
1.爭議合作也就是 Google 參與的 Maven 項目。
Maven 項目于 2017 年 4 月由軍方主導(dǎo)創(chuàng)建，它也被稱為算法戰(zhàn)跨職能團(tuán)隊（AWCFT）。Maven 的任務(wù)指向是 “加速國防部整合大數(shù)據(jù)和機器學(xué)習(xí)技術(shù)”。華爾街日報曾有報道稱， 2017 年，國防部在人工智能相關(guān)領(lǐng)域總共花費了 74 億美元，主要以應(yīng)對中國在 AI 上的新軍備競賽。
據(jù)該中心的助理研究員 Greg Allen 介紹，該項目的首要任務(wù)是幫助軍方有效地處理空中無人機每天收集的大量視頻片段。盡管國防部已經(jīng)投入資源開發(fā)先進(jìn)的傳感器技術(shù)以在無人機飛行期間收集資料信息，不過在整理數(shù)據(jù)時，它創(chuàng)建的分析工具較為落后。
“在 Maven 之前，該部門沒人知道如何恰當(dāng)?shù)刭徺I、使用人工智能服務(wù)。” Allen 寫道。
Maven 的其中一個任務(wù)是使用機器學(xué)習(xí)來識別無人機視頻圖像中的車輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。根據(jù)國防部的說法，Maven 想利用最先進(jìn)的計算機視覺技術(shù)能夠自動檢測和識別無人機全動態(tài)攝像機捕獲的 38 種物體。
這種 AI 技術(shù)目前已被部署在了法律執(zhí)行和軍事應(yīng)用中，用來識別汽車和人等基本物體，但在分析復(fù)雜場景時也會遇到困難。有研究人員曾警告，AI 技術(shù)可能會以不易察覺的方式產(chǎn)生重大偏見。例如，ProPublica 在 2016 年的報告中指出，用于預(yù)測囚犯再度犯法可能性的算法經(jīng)常表現(xiàn)出種族歧視傾向。
2.Google 發(fā)言人稱，它正在向國防部提供用于機器學(xué)習(xí)應(yīng)用的 TensorFlow API 接口，以幫助軍事分析人員檢測圖像中的物體。
TensorFlow 是一款 AI 領(lǐng)域免費的系統(tǒng)軟件，一直是 Google AI 戰(zhàn)略的關(guān)鍵。它為機器學(xué)習(xí)工程師提供了進(jìn)行數(shù)據(jù)排序和訓(xùn)練算法的框架，并且在整個行業(yè)中被廣泛使用。
“我們長期與政府機構(gòu)合作為其提供技術(shù)解決方案。這個特定項目是國防部的試點項目，提供開源的 TensorFlow API，可以幫助其識別未分類數(shù)據(jù)中的對象。”發(fā)言人說。
軍方正在使用 TensorFlow，這并不令人感到意外，但知情人士向 The Verge 證實，Google 正在積極幫助它的軟件以用于 Maven 項目。同一消息來源指出，谷歌和國防部之間的保密協(xié)議里有多少人參與這個項目的詳細(xì)信息以及這種合作深入狀況，但具體情況并沒有透露。
過去，Google 一直非常警惕與軍事研究的可能會存在的任何關(guān)系。例如，據(jù)雷鋒網(wǎng)了解，它在 2013 年收購了一系列機器人公司時，盡力與該公司正在執(zhí)行的 DARPA 項目保持距離。而在谷歌于 2014 年收購 DeepMind 之后，該公司也成立了道德委員會，以確保該技術(shù)不會被濫用。
盡管如此，除了那些已經(jīng)與美國使用無人機進(jìn)行海外監(jiān)視和有針對性殺戮的相關(guān)問題之外，Google 將人工智能用于 Maven 項目不免引發(fā)道德問題。美國軍方強調(diào)它只會將人工智能作為人類收集情報的合作伙伴，但計算機輔助決策仍然可能會引發(fā)錯誤。人類無人機操作員可能過分依賴有缺陷的計算機分析結(jié)果，如果沒有適當(dāng)?shù)谋O(jiān)督，這些缺陷可能會被忽視。
當(dāng)然，Google 發(fā)言人承認(rèn)使用機器學(xué)習(xí)用于軍事項目具有一定爭議性，但她表示該技術(shù)將圖像標(biāo)記后用于人員審查，屬于非攻擊性用途。Google 目前圍繞這一爭議問題正制定相關(guān)政策和保障措施。
3.國防部正在加速 Maven 項目的執(zhí)行，預(yù)計在其成立六個月后即可投入運行。據(jù)報道，自 12 月以來，該項目已被部署在與伊斯蘭國的對抗中。
為了滿足該項目的迫切時間要求，國防部依靠自身顯然并不足夠。于是，它轉(zhuǎn)而尋求與學(xué)界和業(yè)界的人工智能專家合作，以彌補軍方和硅谷之間的技術(shù)差距。根據(jù)項目總監(jiān) John Shanahan 的說法，Maven 項目將為整個國防部點燃“人工智能的火焰前沿”。
2017 年夏季，在華盛頓舉行的國防技術(shù)峰會上，Maven 首席海軍陸戰(zhàn)隊上校 Drew Cukor 說，人與計算機之間的共生關(guān)系對于幫助武器系統(tǒng)探測物體至關(guān)重要。
在與許多來自硅谷的軍事和工業(yè)技術(shù)專家對話中，Cukor 宣稱美國正處于人工智能軍備競賽。“你們許多人會注意到，Eric Schmid 現(xiàn)在稱 Google 是一家人工智能公司，而不是數(shù)據(jù)公司，”但此時 Cukor 并沒有提及 Google 是 Maven 的合作伙伴。
“沒有任何‘黑匣子’能夠提供政府需要的 AI 系統(tǒng)，至少現(xiàn)在不是這樣，”他繼續(xù)說道，“關(guān)鍵力量必須整合在一起，唯一方法就是與商業(yè)合作伙伴進(jìn)行合作。”
國防部發(fā)言人也拒絕透露 Google 是否是其 Maven 項目唯一的私營行業(yè)合作伙伴，也沒有澄清 Google 在該項目中扮演的角色。
?