欒群

近日，繼舊金山市之后，美國的薩默維爾市也禁止在公共場所使用面部識別。舊金山市和薩默維爾市的民眾反應是，“我們不應該只是規(guī)范面部識別技術的使用，而應該徹底禁止這項技術”。這既反映出人們對新技術應用的接受有一個緩慢且曲折的過程，又說明美國在法律上對隱私權利保護的深厚傳統。視覺識別是人工智能一個重要的場景應用，未來在自動駕駛、智能制造、醫(yī)療診斷、安保安防等各領域都有著廣闊前景。但是，由于存在巨大的侵害個人信息風險，在普及視覺識別等方面，人工智能在應用時也存在著倫理和法律的“障礙”。舊金山和薩默維爾的規(guī)定具有顯著的示范性，紐約、奧克蘭等城市也在考慮出臺類似的立法。

AI治理日益成為國際共識

人工智能技術不同于傳統的工業(yè)化技術。傳統工業(yè)化技術限于制造、加工或工藝流程的優(yōu)化提升，其指向性在于產品，而人工智能技術的指向性卻在人本身。人工智能視覺識別技術不同于傳統的攝像技術，攝像機無論將像素提到多高也只是一個工業(yè)產品，但人工智能視覺識別卻有著實時海量的搜索、對比和處理信息能力，甚至在自主系統下可以決策或做出“判決”。被人工智能視覺識別的人像，包含著性別、年齡、種族等傳統照片不明確的信息，獲得者進而可以預測匹配“你的”需求或行為，這種明顯“侵入性”的技術對于權利意識極強的美國人是難以接受的。

關于人工智能的治理日益成為國際共識。美國人的權利和法律意識很強，但以倫理的眼光看待人工智能和提出治理規(guī)范，歐盟卻走在了世界前列。2019年4月，歐盟《可信人工智能倫理準則》提出7個關鍵條件——人的能動性與監(jiān)督能力、安全性、隱私數據管理、透明度、包容性、社會福祉和問責機制，以確保人工智能足夠安全可靠。其他如IEEE發(fā)布了《合倫理設計的一般人工智能準則》并不斷更新，確保人工智能為人類服務。

日本也提出過《以人類為中心的人工智能的社會原則》，以及生命未來研究所《阿西洛馬人工智能23條原則》、蒙特利爾大學《人工智能負責任開發(fā)宣言》等。不論是法律還是倫理，這些人工智能的治理文件，都表現出人類對人工智能技術發(fā)展的擔憂——要利用人工智能技術實現我們生產效率的提高和社會的進步，這一切都要建立在對風險的了解和預防的基礎上。

中國正在積極融入人工智能全球治理體系。雖然有逆流和阻撓，但須知人工智能帶來對人類的挑戰(zhàn)是全球性的，任何一個致力于現代化的國家都應該負起自己的責任。中國作為一個負責任的大國，在人工智能全球治理中積極貢獻自己的實踐經驗。2019年5月《人工智能北京共識》發(fā)布，提出了研發(fā)、使用、治理三方面的15條原則;國際人工智能與教育大會還發(fā)布了專門的《北京共識——人工智能與教育》;6月份，在日本筑波舉行的G20數字經濟部長會議以及G20貿易和數字經濟部長聯席會議通過了聯合聲明以及《G20人工智能原則》;國家新一代人工智能治理專業(yè)委員會《新一代人工智能治理原則》提出，發(fā)展負責任的人工智能。

各國應做好AI全球化治理

世界各國法律細節(jié)雖然有所不同，但倫理價值觀念是基本一致的。如何在符合倫理規(guī)范的前提下發(fā)展人工智能，進而做好人工智能全球化的治理，達到“AI for good”的目的，是下一步我們政府、學界和產業(yè)界應當共同關注的事情。

第一，實施國家規(guī)劃。2017年，國家發(fā)布了《新一代人工智能發(fā)展規(guī)劃》和《促進新一代人工智能產業(yè)發(fā)展三年行動計劃（2018—2020年）》，其中對人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍圖繪到底”的精神，根據規(guī)劃要求實施人工智能法律政策三步走：到2020年部分領域的人工智能倫理規(guī)范和政策法規(guī)初步建立;到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力;到2030年建成更加完善的人工智能法律法規(guī)體系。

第二，凝聚倫理共識。在上述很多人工智能倫理和治理的文件中，已經研究了很多人類倫理要點，需要各個國家或經濟體結合自身政治、經濟、文化和民族特性，做好本土轉化工作。從早期的阿西莫夫機器人3原則，到近期的阿西洛馬23原則，以及歐盟委員會、IEEE等不同機構提出的各成體系的倫理準則，透過不同的具體內容其實都是在表達發(fā)展與安全的核心價值。應當說在工作層面，“鼓勵創(chuàng)新（發(fā)展）、包容審慎（安全）”，就是現階段人工智能發(fā)展最大的共識。

第三，擬定評價規(guī)則。凝聚起倫理共識后，要做的工作就是制定規(guī)則。圍繞合法、安全、穩(wěn)健、透明、可解釋、負責任、科技向善等核心倫理價值，構建人工智能的評估評價體系，指引人工智能健康持續(xù)發(fā)展。要積極參與人工智能相關的國際標準規(guī)范制定，鼓勵國家、行業(yè)和團體標準的創(chuàng)新嘗試。要加強傳統企業(yè)智能化改造評價和管理體系建設，加強互聯網企業(yè)數據經營、算法審查等工作規(guī)范指引。積極搭建與歐盟GDPR、人工智能倫理準則實施的溝通協調機制，學習借鑒其評價指標體系。

第四，履行社會責任。發(fā)展人工智能歸根到底要靠市場真正的主體——企業(yè)，人工智能相關企業(yè)能夠履行好企業(yè)社會責任，才是真正達到了負責任的人工智能要求。創(chuàng)新是民族的靈魂，也是企業(yè)的生命線，要在企業(yè)社會責任考核中更加突出技術創(chuàng)新度和安全平衡度指標。要把企業(yè)社會責任作為企業(yè)發(fā)展戰(zhàn)略的重要組成部分，探索企業(yè)和技術都可持續(xù)發(fā)展的路徑，完善企業(yè)經營監(jiān)督機制——保證企業(yè)在追求利潤的同時不會越過倫理紅線和法律底線，這對于擁有人工智能技術的企業(yè)來說尤為重要。

第五，管好重點行業(yè)。每一種革命性的技術發(fā)展都會讓一部分行業(yè)消亡，讓一部分行業(yè)興起，但是新興行業(yè)興起不是一蹴而就的，如果不能處理好發(fā)展與安全這對基本矛盾，就會導致新興產業(yè)成長緩慢，甚至“夭折”。歷史給予一個國家的挑戰(zhàn)和戰(zhàn)略機遇期也是短暫和相對的，一旦錯失就會陷入相當長期的被動甚至落后挨打的局面之中。要在合法、合倫理的前提下，加強視覺識別、用戶畫像、精準推送、虛擬助理等人工智能技術應用的重點行業(yè)監(jiān)管，加強商業(yè)APP規(guī)范管理，避免出現侵犯消費者權益的惡性事件。同時，大力推進法治政府建設，營造優(yōu)化經營環(huán)境，讓所有主體的行為都在法治的軌道內運行。