當(dāng)前，人工智能發(fā)展進入新階段，國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》（以下簡稱《規(guī)劃》）中指出，人工智能將深刻改變?nèi)祟惿鐣睢⒏淖兪澜?。推動人工智能安全發(fā)展至關(guān)重要，應(yīng)著力構(gòu)建安全發(fā)展戰(zhàn)略，將人工智能安全發(fā)展提升到與人工智能科技研發(fā)、成果應(yīng)用、市場推廣同等重要的位置，研究制定有關(guān)法律法規(guī)和倫理準(zhǔn)則，這不僅是深入貫徹中共十九大精神，夯實人民安全感、提升人民幸福感的重要舉措，也是推進《規(guī)劃》實施的必要條件。

一、需要關(guān)注的問題

人工智能發(fā)展的不確定性帶來新挑戰(zhàn)。人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關(guān)系準(zhǔn)則等問題，將對政府管理、經(jīng)濟安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠影響。當(dāng)前，我國人工智能安全發(fā)展需要關(guān)注的問題主要有以下幾點：

（一）《規(guī)劃》未提出人工智能安全發(fā)展?！兑?guī)劃》提出了新一代人工智能發(fā)展的基本原則，即科技引領(lǐng)、系統(tǒng)布局、市場主導(dǎo)、開源開放，沒有將安全作為發(fā)展基本原則之一，對人工智能安全發(fā)展的重視不夠。

（二）倫理研究缺乏大眾參與。如果倫理研究過程中沒有全社會的共同參與，沒有吸納人工智能這個特定場景下的倫理道德認識，則出臺的政策和規(guī)劃不易獲得社會認同。

（三）輿論引導(dǎo)不及時。著名物理學(xué)家霍金認為，強大人工智能的崛起，對人類來說，可能是最好的事情，也可能是最糟糕的事情。目前，有輿論認為，人工智能如果誕生自我意識可能導(dǎo)致機器反抗人類、網(wǎng)絡(luò)主權(quán)失控，替代人類工作將導(dǎo)致失業(yè)率上升，這些觀點已經(jīng)在部分群體中產(chǎn)生很大影響，需要引導(dǎo)和紓解。

在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，加強前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能安全、可靠、可控發(fā)展。

二、對策建議

（一）制定《人工智能安全發(fā)展綱要》。建議國家層面建立人工智能安全發(fā)展戰(zhàn)略，結(jié)合《規(guī)劃》，制定《人工智能安全發(fā)展綱要》，闡明人工智能安全發(fā)展的戰(zhàn)略意義和內(nèi)涵，明確戰(zhàn)略目標(biāo)、指導(dǎo)思想和發(fā)展原則，對人工智能安全發(fā)展進行總體部署。

（二）有序制定人工智能安全發(fā)展的法律法規(guī)和倫理道德準(zhǔn)則。采取“政府主導(dǎo)、專家主體、公眾參與、社會協(xié)同”方式，深入研究人工智能安全發(fā)展戰(zhàn)略，針對不同環(huán)節(jié)和應(yīng)用場景，明晰不同主體的責(zé)任、權(quán)利和義務(wù)，制定有關(guān)的政策、措施和法規(guī)、標(biāo)準(zhǔn)，劃定人工智能安全發(fā)展的邊界；邀請社會公眾參與倫理道德準(zhǔn)則的研究和制定；對人工智能科研團隊和科研人員開展相關(guān)倫理道德知識普及工作，發(fā)揮倫理道德柔性約束作用，打造人工智能安全發(fā)展的關(guān)鍵防護網(wǎng)；在市場推廣和應(yīng)用環(huán)節(jié)，建立安全評估和市場準(zhǔn)入機制，沒有通過安全評估的技術(shù)，不得投放市場應(yīng)用；加強國際合作，促進數(shù)據(jù)共享，為人工智能安全發(fā)展擬定更適合我國的法律條文和社會倫理道德標(biāo)準(zhǔn)。

（三）創(chuàng)新加快科學(xué)普及，強化輿論引導(dǎo)，凈化人工智能安全發(fā)展的環(huán)境。傳遞正能量，引導(dǎo)人們科學(xué)認識人工智能的發(fā)展方向和取得的成果。針對“人工智能安全嗎？”“無人駕駛的地鐵敢坐嗎？”“我會失業(yè)嗎？”等部分公眾的恐慌心理，強化輿論宣傳、科普、引導(dǎo)等工作，消除誤解，打消疑慮，營造安全穩(wěn)定的社會氛圍。以人民群眾喜聞樂見、容易接受的方式進行引導(dǎo)，提升全社會的科技認知水平。普及人工智能安全使用規(guī)范，促使人工智能更好服務(wù)人類。