申崢崢　金學(xué)慧

眼下，不少地區(qū)布局人工智能領(lǐng)域，推動新一代人工智能健康發(fā)展。人工智能正廣泛應(yīng)用于金融、醫(yī)療、交通、制造業(yè)等領(lǐng)域，成為推動經(jīng)濟(jì)社會發(fā)展的重要引擎。不過，正如“硬幣的兩面”，人工智能在帶來高效便利的同時，也可能引發(fā)隱患和危機。對此，要增強風(fēng)險防范意識，以富有前瞻性的有力舉措，管控好人工智能技術(shù)可能帶來的各類風(fēng)險。

從目前情況看，人工智能可能引發(fā)的風(fēng)險主要包括如下幾方面。從技術(shù)角度看，人工智能本身的技術(shù)邏輯及其應(yīng)用過程存在模糊性，可能引發(fā)數(shù)據(jù)、算法和模型風(fēng)險。如果數(shù)據(jù)的數(shù)量或質(zhì)量出現(xiàn)問題，可能無法反映現(xiàn)實世界的真實情況；算法“黑箱”和不可解釋性問題，在容錯率低的行業(yè)，甚至可能造成不可挽回的安全隱患；另外，模型完整性攻擊，又稱“對抗攻擊”，即干擾模型的學(xué)習(xí)和預(yù)測過程，可能誤導(dǎo)人工智能“指鹿為馬”。

從法律倫理道德層面看，人工智能的廣泛應(yīng)用可能衍生技術(shù)濫用、數(shù)據(jù)安全、隱私保護(hù)等方面的安全挑戰(zhàn)，給公民的信息安全、財產(chǎn)安全甚至生命安全造成威脅。例如，惡意運用人工智能偽造虛假人臉，危害個人金融安全；在采集、使用和分析海量數(shù)據(jù)的過程中，發(fā)生隱私泄露、數(shù)據(jù)篡改、真假難辨等隱患；智能推送算法還引發(fā)了“信息繭房”、極化現(xiàn)象以及大數(shù)據(jù)“殺熟”現(xiàn)象；人工智能運用到無人駕駛、醫(yī)療診斷等領(lǐng)域，可能引發(fā)權(quán)責(zé)邊界模糊問題；人工智能文本數(shù)據(jù)挖掘可能產(chǎn)生的知識產(chǎn)權(quán)爭議問題等，都是引發(fā)法律和倫理道德風(fēng)險的典型案例。

人工智能所帶來的風(fēng)險并非單一的、直線的，而是多種風(fēng)險交織交融的。這就要求我們系統(tǒng)全面地認(rèn)識人工智能，提早開展人工智能風(fēng)險治理。

一方面，要推動技術(shù)進(jìn)步。針對人工智能的模型、算法、數(shù)據(jù)、隱私和應(yīng)用等風(fēng)險和安全威脅，加強安全保護(hù)基礎(chǔ)理論研究和前沿安全技術(shù)研究，推動關(guān)鍵技術(shù)應(yīng)用，構(gòu)建人工智能安全治理技術(shù)體系，是有效管控人工智能風(fēng)險的關(guān)鍵。這是一個需要各個層面通力合作、集智攻關(guān)的長期工作。在社會層面，網(wǎng)絡(luò)安全龍頭企業(yè)可以牽頭組建創(chuàng)新聯(lián)合體，在開展理論研究和技術(shù)攻關(guān)的同時，加強數(shù)字安全人才培養(yǎng)，規(guī)范技術(shù)標(biāo)準(zhǔn)、測試標(biāo)準(zhǔn)和應(yīng)用規(guī)范，增進(jìn)數(shù)字安全的國內(nèi)外交流合作，以技術(shù)創(chuàng)新引領(lǐng)人工智能安全治理。

另一方面，還要不斷加強管理。不久前，我國《生成式人工智能服務(wù)管理暫行辦法》頒布施行，國家層面的人工智能法草案在提速，各種專門立法也在積極探索。我國正以高度負(fù)責(zé)任的態(tài)度參與全球人工智能治理，在貢獻(xiàn)中國智慧的同時搶占全球人工智能治理話語權(quán)。在實踐中，對發(fā)展中的問題應(yīng)及時回應(yīng)，充分發(fā)揮處于實踐前沿的企業(yè)、行業(yè)組織的作用。主管單位要與企業(yè)、行業(yè)組織、科研機構(gòu)以及公眾建立廣泛的合作和溝通機制，以有效引導(dǎo)企業(yè)和行業(yè)組織進(jìn)行自我監(jiān)管，發(fā)揮科研機構(gòu)協(xié)助監(jiān)督和識別潛在風(fēng)險的作用，幫助公眾提升人工智能風(fēng)險防范意識。