王宿慧

作者：王宿慧，軍事科學院研究生院，在讀碩士研究生

人工智能，是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術，以及應用系統(tǒng)的一門技術科學。其在研究人類自身智能的基礎上，借助現(xiàn)代科學技術手段，增強人類智能或模擬人類智能，提高了生產效率、生活質量，以及決策的科學性和及時性。人工智能自1956年誕生以來，已進入并快速改變著人類生產生活的方方面面。在交通領域，人工智能系統(tǒng)通過對路口信息的分析判斷，適時調整紅綠燈間隔，緩解交通壓力、減少事故發(fā)生概率，有效維護了人民生命財產安全。在醫(yī)學領域，人工智能的專家系統(tǒng)使得醫(yī)院對病人病情的把握快速精準，節(jié)約了病人的時間和金錢，使看病更有保障。在經濟領域，人工智能使復雜的體力任務自動化，提高了生產率?？梢?，人工智能帶來了巨大便利。

人類對世界的探索和開發(fā)從未停止，科學家們不斷追求著單純的科技進步，他們的愿望是世界和平、歲月靜好，他們希望通過智慧推動人類社會的進步和發(fā)展。但科學技術的發(fā)展和應用史表明，技術有時會與人們的良好愿望背道而馳。歷史多次證明，任何一項新科技的發(fā)展和應用，都是一把雙刃劍，在給人類帶來巨大利好的同時，也會產生一些次生的負面作用。

生化技術帶來文明，但其使用也遭異化。第二次世界大戰(zhàn)期間，日本法西斯專門組建了731特種部隊，使用中國軍民的活體進行生物武器與化學武器的實驗，僅鼠疫一項活菌實驗，就害死我同胞3000多人。這是利用化學和生物技術戕害人類的令人發(fā)指的罪行?，F(xiàn)在，生化技術依然是禁止武器試驗的主要領域。核技術帶來了進步，也曾造成過人道主義災難。原子彈對廣島長崎的毀滅性打擊，切爾諾貝利核事故對地球環(huán)境的污染，始終是人類揮之不去的災難記憶?，F(xiàn)在，核武器依然是懸在人類頭頂?shù)摹斑_摩克利斯之劍”。

當前，世界主要大國均把促進人工智能技術的發(fā)展和應用提升到國家戰(zhàn)略層面，人工智能技術在全球范圍、各個領域得以飛速發(fā)展，并逐步對人類社會產生巨大而深刻的影響。在軍事領域，一些發(fā)達國家特別是美國已率先將人工智能技術應用到武器裝備研發(fā)之中，以此謀求在未來戰(zhàn)爭中的代差優(yōu)勢和顛覆性勝算。為保護和擴大自己的軍事優(yōu)勢，美國專門成立了聯(lián)合人工智能中心（JAIC），將人工智能和自主系統(tǒng)運用到作戰(zhàn)體系中，視為未來部隊組成的核心。美國政府也先后出臺多項措施，保證人工智能“領頭羊”地位，從國家戰(zhàn)略層面加緊布局，為人工智能更好地融入軍事領域搭橋鋪路。

物極必反，器滿則傾。當人工智能發(fā)展到一定程度時，就可能擁有超越“自然人類”的智能，這些“超級人類”擁有意識、思維、記憶力、自我感知、自我學習等能力，且能實現(xiàn)自我提升。與一些人的歡呼雀躍不同，許多重量級科學家和科學團體，對人工智能的發(fā)展前景進行預測后表示擔憂：“超級人類”可能對“自然人類”構成巨大威脅。

哈佛大學物理學家維納斯-格羅斯博士在他的論文當中提出，未來具有自我編程的人工智能將得以自我完善，且這種行為是反復、單方面持續(xù)性加強的。當程序開始自我進化，勢必會有一個質變的奇點，也就意味著具有感知地位的機器人已經出現(xiàn)。霍金教授生前對人工智能發(fā)展也表達了擔憂：“我擔心人工智能將全面取代人類。如果有人能設計出計算機病毒，那么就會有人設計出能提升并復制自己的人工智能。這就會帶來一種能夠超越人類的全新生命形式?！?/p>

基于這些預測，可以推斷：一旦自我感知機器人或“超級人類”出現(xiàn)，對其所有的限定規(guī)則，均可能因偶然原因或必然原因而失效，進而造成對“自然人類”的巨大威脅。一旦“超級人類”和我們“自然人類”干上了，我們能夠察覺隱患、排除故障嗎？我們有把握取勝嗎？也許有人說，這是杞人憂天。但是，發(fā)展出強人工智能甚至是超人工智能，只不過是時間問題。

習近平主席在9月17日致2018年世界人工智能大會的賀信中專門指出，“處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題”。面對可能的科技威脅，我們必須未雨綢繆，在加快技術發(fā)展的同時，也要對其進行風險評估，以應對其負面效應的挑戰(zhàn)，規(guī)避對其賦予過多的“擬人”能力。

摒棄傳統(tǒng)觀點，對人工智能的發(fā)展前景要有清醒的認識。圖靈測試和眾多人工智能技術水平量度方案表明，短期內尚難以實現(xiàn)超人工智能，但諸多合并人類智慧和機器智能的模式，已經能夠獨立感知基本情感顆粒，并識別陌生物體。谷歌旗下的波士頓動力公司曾發(fā)布一款“機器狗”（Little Dog），具有極強的自我學習能力，能通過分析過往的錯誤而加以改進。美國國防高級研究計劃局（DARPA）也給Gamalon公司投下巨資，因該公司的核心技術實現(xiàn)了由機器自主完成概率編程。實踐表明，人工智能已邁進自主學習、自我進化的大門。隨著各國加快建立“人工神經網絡”，人工智能“深度學習”能力不斷加強，對其跟蹤評估應是研發(fā)的重中之重。

制定相應的法規(guī)、研發(fā)反制技術，提高防范的方法和能力。美國制訂了《人工智能未來法案》，對人工智能可能帶來的倫理問題、社會問題和法律問題進行研究，以期為后續(xù)人工智能相關立法提供支持。由于人工智能的發(fā)展是基于互聯(lián)網海量的“大數(shù)據”和各種信息的實時交互。因此，可通過加強網絡安全來為人工智能的發(fā)展保駕護航，為其引入網絡安全評估機制。根據《中華人民共和國網絡安全法》和國務院《新一代人工智能發(fā)展規(guī)劃》，完善與人工智能相關的網絡安全等級保護制度；提高網絡檢測、分析技術；提高處理網絡安全應急事件的處理能力。同時，促進世界人工智能技術交流融合，提高全球性聯(lián)合應對人工智能潛在風險的能力。