近幾年來(lái)人工智能日益受到社會(huì)各界的格外關(guān)注。一方面，人工智能正在為人類帶來(lái)一場(chǎng)前所未有的技術(shù)革命，即將徹底改變?nèi)藗兊纳a(chǎn)和生活方式；另一方面，與以往科技進(jìn)步帶給社會(huì)的積極反應(yīng)有所不同，人工智能帶來(lái)的不僅僅是驚喜與期待，還有一些的擔(dān)心，甚至恐懼。

目前，各界對(duì)人工智能具有特殊的發(fā)展“禁區(qū)”已有共識(shí)，但有人覺(jué)得人工智能的發(fā)展還處于初級(jí)階段，離所謂的“禁區(qū)”還有一段遙不可及的路，這個(gè)想法有沒(méi)有風(fēng)險(xiǎn)？

2016年8月，聯(lián)合國(guó)相關(guān)組織發(fā)布了《機(jī)器人倫理初步報(bào)告草案》，認(rèn)為機(jī)器人不僅需要尊重人類社會(huì)的倫理規(guī)范，還需要將特定倫理準(zhǔn)則編寫(xiě)進(jìn)機(jī)器人程序中。對(duì)人工智能的擔(dān)憂還來(lái)自像史蒂芬·霍金、比爾·蓋茨和伊隆·馬斯克這樣的科技大佬。他們都把自己對(duì)人工智能的擔(dān)憂直言不諱。已故物理學(xué)家史蒂芬·霍金曾言：“創(chuàng)造人工智能可能是人類文明史上最偉大的事件，但也可能是最后一個(gè)?！币谅　ゑR斯克則發(fā)文稱人工智能是人類最大的潛在威脅，可能比核武器更危險(xiǎn)，并將人工智能的發(fā)展比喻成“召喚惡魔”。蓋茨表示認(rèn)可前二者的判斷：人工智能軟件若變得超級(jí)智能，可能會(huì)對(duì)未來(lái)的人類造成一定威脅。歐盟、英國(guó)、美國(guó)、德國(guó)、日本等國(guó)家和地區(qū)正在積極研究人工智能、無(wú)人駕駛等領(lǐng)域的倫理邊界和規(guī)則，意在逐步實(shí)現(xiàn)行業(yè)和國(guó)際標(biāo)準(zhǔn)、法律的制定，并在前沿科技領(lǐng)域獲得主動(dòng)和有利地位。同時(shí)，谷歌、Facebook、微軟，以及國(guó)內(nèi)的BAT等互聯(lián)網(wǎng)科技公司也紛紛發(fā)聲，提出加強(qiáng)人工智能倫理研究和立法準(zhǔn)備。

全球經(jīng)歷的前三次工業(yè)革命基本局限于對(duì)人類眼耳手腳等能力的替代和延伸，但人工智能將要模擬和復(fù)制的卻是人類的大腦與智力。相對(duì)弱人工智能，強(qiáng)人工智能抑或復(fù)制和超越人腦的功能，技術(shù)核心表現(xiàn)在無(wú)限制、無(wú)監(jiān)督學(xué)習(xí)能力，不僅引發(fā)嚴(yán)重的倫理和法理問(wèn)題，很可能最終導(dǎo)致不可控風(fēng)險(xiǎn)。如果說(shuō)前三次工業(yè)革命帶來(lái)的是人類的助手，那么人工智能帶來(lái)的就是人類對(duì)自我的一次驚心動(dòng)魄的挑戰(zhàn)。

繼“互聯(lián)網(wǎng)+”之后，今年“智能+”又首次出現(xiàn)在《政府工作報(bào)告》對(duì)堅(jiān)持創(chuàng)新引領(lǐng)發(fā)展的表述中，足見(jiàn)國(guó)家對(duì)加快發(fā)展人工智能產(chǎn)業(yè)的高度重視。同時(shí)，還特別提出“加強(qiáng)科研倫理和學(xué)風(fēng)建設(shè)”，說(shuō)明在關(guān)鍵核心技術(shù)攻關(guān)的同時(shí)，加強(qiáng)倫理建設(shè)的重要性。

無(wú)疑，隨著人工智能技術(shù)向縱深演進(jìn)，人類將不得不面對(duì)一些“禁區(qū)”?？萍嫉倪M(jìn)步應(yīng)該本著為人類提供美好生活的“善意”，人工智能的發(fā)展路徑必須在可預(yù)見(jiàn)和可控的范圍內(nèi)才能健康持續(xù)地發(fā)展。未雨綢繆，防止心存僥幸，提早預(yù)設(shè)技術(shù)和法律紅線，在人工智能迅猛發(fā)展的當(dāng)下已經(jīng)迫在眉睫。