編譯 西岸

數(shù)千名谷歌員工簽署了一封致首席執(zhí)行官桑達爾·皮查伊的信函，以抗議谷歌參與一個美國國防部旨在提高無人機打擊能力的項目。

數(shù)千名谷歌員工聯(lián)名簽署了一份信函，以抗議谷歌參與美國國防部的Maven項目（該項目于2017年開始，旨在找到加速軍方應用最新AI技術的方式。預計該項目第一年花費不到7 000萬美元），因該項目旨在利用人工智能解讀視頻圖像，提高無人機打擊的精準度。該信函在谷歌內(nèi)部迅速流傳開來，已有超過3 100人簽名。

聯(lián)名員工要求谷歌撤出五角大樓的試點項目——Maven，并承諾永遠不會發(fā)展戰(zhàn)爭技術。當然，這種理想主義的想法并不是所有谷歌員工都認同的。同時，這樣的聲音顯然也不是國防部希望聽到的?，F(xiàn)任美國國防部長詹姆斯·馬蒂斯（James Mattis）就經(jīng)常說：“國防部發(fā)展的重要目標之一就是提高美國軍隊的殺傷力?！?/p>

谷歌的辯詞

從創(chuàng)業(yè)早期開始，谷歌便鼓勵員工針對公司的相關問題自由發(fā)表意見。該公司提供了內(nèi)部論壇等平臺，員工可以在這些平臺上就公司的產(chǎn)品和政策向管理層或同事提出意見。

針對這次事件，谷歌云基礎設施業(yè)務主管黛安妮·格林為 Maven 項目辯護，并試圖安撫相關員工。盡管五角大樓的視頻分析通常被用于反暴動和反恐行動，谷歌仍然將Maven項目描述為“非攻擊性”任務。此外，谷歌和國防部都表示，谷歌不會創(chuàng)造出無需人類操作就能開火的自主武器系統(tǒng)。而針對無人機視頻進一步的分析，只是為了挑選出目標并針對性實施襲擊。也就是說，這將有助于更好地分辨出平民，以減少無辜者被意外殺害的風險。

此外，谷歌稱國防部使用的是對任何谷歌云客戶都開放的開源目標識別軟件，并且基于未分類數(shù)據(jù)。這項技術用于標記圖像，以協(xié)助人工審查，旨在把人力從高度重復的工作中解放出來。

谷歌針對此事發(fā)布了聲明：“機器學習應用于軍事導致人們擔憂是很自然的。公司內(nèi)部正積極推進，以對該重要議題進行充分討論。”該聲明稱谷歌在Maven項目中所參與的部分“僅限于非攻擊性”任務，但官方拒絕提供相關的合同內(nèi)容。同時，美國國防部稱由于谷歌是主承包商ECS Federal在Maven項目的分包商，它不能提供谷歌合同或合同內(nèi)容。ECS Federal尚未回應該事件。

谷歌部分高管和國防部有密切聯(lián)系。該公司前執(zhí)行董事長埃里克·施密特（Eric Schmidt，目前仍是谷歌母公司Alphabet的執(zhí)行董事會成員）為國防部顧問團——國防創(chuàng)新委員會（Defence Innovation Board）的成員，谷歌副總裁米羅·麥?。∕ilo Medin）也是該顧問團成員。

在2017年11月的一個采訪中，埃里克·施密特承認：“內(nèi)部員工普遍擔心軍工行業(yè)會使用他們的成果去傷害人類?！彼f他將在董事會中溝通這件事，并且建議軍方“僅使用這些技術來幫助保護國家安全”。

谷歌這一小部分對軍事合同感到不安的員工也許并不能對公司的發(fā)展造成大的障礙。但在人工智能研究領域，谷歌正忙于和其他技術公司激烈爭奪人才，如果某些候選者不滿谷歌的說辭，那將會對谷歌的招賢納士一事造就麻煩。

多家公司積極爭取為美國國防部服務

谷歌在為此事辯護的同時，它的競爭對手也毫不掩飾地宣傳自己的國防項目。亞馬遜向國防部大力宣傳其圖像識別研究成果，而微軟則表示他們就云技術已經(jīng)與美國政府簽訂合同，為軍事和國防機構處理機密信息。

外界普遍認為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競爭一份為期多年、價值數(shù)十億美元的國防部云服務工作。國防部首席管理官約翰·吉布森（John Gibson）在2018年3月的一次講話中曾提到，“聯(lián)合企業(yè)構建國防基礎云設施”采購計劃的部分目的是“提升殺傷力，并做好準備”，這其實凸顯了將軟件、云服務等相關服務與實際戰(zhàn)爭分開的難度。

人工智能應用軍事在所難免

考慮到谷歌的歷史和美國國防部目前在軍事方面對AI的強烈需求，前國防部的官員和《無人之師》（Army of None）這本書的作者保羅·沙爾（Paul Scharre）表示，目前的沖突在谷歌內(nèi)部是不可避免的。

華盛頓新美國安全中心智囊團研究員保羅·沙爾說：“技術開發(fā)者追求強烈的自由主義精神，對政府使用相關技術的態(tài)度很謹慎。目前，人工智能突然從實驗室走出來，邁進現(xiàn)實生活，這加劇了人們對它的擔憂?！?/p>

這一事件反映了硅谷與聯(lián)邦政府之間的文化沖突。隨著人工智能技術越來越多地運用在軍事領域，這種沖突可能會愈演愈烈。

資料來源 New York Times

谷歌員工給桑達爾的信

親愛的桑達爾先生：

我們認為谷歌不應卷入戰(zhàn)爭。因此，我們請求公司撤銷Maven項目，同時起草、公布并執(zhí)行一項明確的規(guī)定：谷歌及其合約商永不發(fā)展戰(zhàn)爭科技。

谷歌目前正在實施Maven項目，這是一個定制的AI監(jiān)控引擎，它使用美國政府獲取的廣域運動圖像來檢測汽車和其他物體并追蹤其運動，并將檢測和追蹤結果提交給美國國防部。

最近，谷歌員工在公司內(nèi)部表示了對Maven項目的擔憂。黛安妮·格林（Diane Greene）在回應中保證該技術不會在無人機上運行，也不會用于武器開發(fā)。雖然這否定了直接應用，但該技術還是為軍事用途而開發(fā)，一旦交付，就會發(fā)揮輔助作用。

這一計劃將對谷歌的品牌及吸引人才造成不可挽回的損害。隨著對AI偏見化和武器化的恐懼日益加劇，谷歌爭取用戶信任的道路已經(jīng)越來越難走了。而簽署這份協(xié)議，谷歌將加入帕蘭提爾、雷神、通用動力等公司的行列。雖然其他大型科技公司如微軟和亞馬遜也參與了這一項目，但這并不會讓谷歌承擔的風險變小。谷歌擁有獨特的歷史，它的座右銘是“不為虎作倀”（Don’t Be Evil），畢竟谷歌直接連接著數(shù)十億用戶的生活，它肩負著不一樣的使命。

我們不能把技術的道德責任外包給第三方。谷歌宣揚的價值觀清晰地表明：每一位用戶都賦予了我們信任，請永遠不要辜負這一點。這個合同玷污了谷歌的名譽，而且與我們的核心價值觀相違背。發(fā)展一項協(xié)助美國政府進行軍事監(jiān)控的技術，而該技術可能造成致命結果，這是不可接受的。

考慮到谷歌的道德倫理規(guī)范，以及這對谷歌名譽的潛在危害，我們請求：

1. 立即取消這一項目。

2. 起草、公布并執(zhí)行一項明確的規(guī)定，聲明谷歌及其合約商永遠不會染指軍事技術。