張珍 吳文娟 夏紹培 趙康 程燕

摘 要：人工智能技術研究開始于20世紀50年代中期，距今已有60年的發(fā)展歷程，對人類生產生活產生了重大而深遠的影響。但是，隨著人工智能技術發(fā)展的逐步深入，很多問題暴露出來。由于人類對技術過于依賴，“技術異化”現(xiàn)象日益嚴重，技術的發(fā)展給人類生活帶來了負面的影響。因此，本文試圖從技術層面、人類自身層面、道德法律層面作出分析，為解決人工智能技術發(fā)展面臨的困境提供新思路，使人工智能技術更好地造福人類。

關鍵詞：人工智能；異化；規(guī)范；生態(tài)文明觀

中圖分類號：TP18

文獻標識碼：A

一、人工智能技術的發(fā)展及其影響

人工智能技術研究開始于20世紀50年代中期，距今僅有60年的發(fā)展歷程，但是其迅猛的發(fā)展速度，廣泛的研究領域以及對人類產生的深遠影響等令人驚嘆。調查顯示，77.45%的人認為現(xiàn)實生活中人工智能技術的影響較大，并且86.27%的人認為人工智能技術的發(fā)展對人類的影響利大于弊；認為人工智能技術對人類生活影響很小且弊大于利的人權占很小一部分。人工智能技術的發(fā)展和應用直接關系到人類社會生活，并且發(fā)揮著重要的作用。人工智能技術的發(fā)展方向和領域等由人類掌控著，所以人類應該盡可能地把人工智能技術的弊處降到最低以便更好地為人類造福。2016年3月份，圍棋人工智能AlphaGo與韓國棋手李世乭對弈，最終比分4∶1，人類慘敗。4月份，中國科學技術大學正式發(fā)布了一款名為“佳佳”的機器人，據(jù)了解，機器人“佳佳”初步具備了人機對話理解、面部微表情、口型及軀體動作匹配、大范圍動態(tài)環(huán)境自主定位導航和云服務等功能。而在這次正式亮相之前，“佳佳”就擔綱主持了2016“首屆全球華人機器人春晚”和“誰是棋王”半決賽。人工智能技術確實給人類帶來了諸多的便利，給人類生產生活帶來便利；但是，人工智能技術的快速發(fā)展超乎人類的預測，引起了人類的恐慌和擔憂。百度CEO李彥宏稱，人工智能是“披著羊皮的狼”。毋庸置疑，科學技術是一把雙刃劍，當人類醉心于科學技術所帶來的福利中時，更應當注意其帶來的負面作用。人類發(fā)明和創(chuàng)造科學技術最終是為了造福人類，而非受到科技的異化。

隨著科技的發(fā)展，人工智能技術越來越成熟，在此整體趨勢之下，不同的人群對人工智能技術的不斷成熟與應用有著不同的看法。調查結果顯示，在關于機器人會不會擁有人類的思維甚至超過人類的問題方面，27.45%的人認為機器人會擁有人類的思維和超過人類；而56.86%的人認為機器人不會擁有人類的思維和超過人類，小部分人對此不是很清楚。由于受到人工智能技術迅猛發(fā)展的沖擊，如機器人保姆、AlphaGo圍棋等智能產品對人類發(fā)展帶來的威脅，一部分人仍然對人工智能技術的發(fā)展擔憂甚至認為終有一天機器人將代替人類、征服人類、控制人類。但是，大部分的人在機器人是否能夠超過人類方面，保持樂觀積極的態(tài)度，認為機器人永遠不會擁有人類的思維并且超越人類，因為人類是技術的主導者，人類掌握著技術的發(fā)展方向，技術終究是為了人類服務。這一看法肯定了人類的無止境的創(chuàng)新，然而，在人類醉心于技術創(chuàng)新的同時，應意識到某些創(chuàng)新確實超出了人類的預料，如AlphaGo與李世乭圍棋人機大戰(zhàn)就是人類在技術面前失敗的慘痛教訓。因此，面對科技對人類的異化，人類要時刻保持警惕，適時地總結“技術異化”的緣由和解決對策。

二、人工智能技術發(fā)展面臨的問題及其原因

隨著技術的革新，人工智能技術的應用越來越廣泛，與人們的日常生活聯(lián)系也愈加密切。從智能手機的普及到自動駕駛汽車的研制成功，再到生產、建設、醫(yī)療等領域人工智能技術的應用，都表明了人工智能技術正悄無聲息地改變著我們生活方式。誠然，人工智能技術使我們的生活更加豐富多彩，給我們帶來了極大便利，但與此同時，人工智能技術也給社會帶來了一系列不可忽視的問題：人工智能技術在社會生產領域的應用對勞動市場造成沖擊；人工智能系統(tǒng)在收集、統(tǒng)計用戶數(shù)據(jù)過程中個人隱私及信息安全方面的隱患；人類對人工智能產品的依賴引發(fā)的身心健康問題；人工智能引起的責任認定問題等。斯蒂芬·霍金在接受BBC采訪時表示，“制造能夠思考的機器無疑是對人類自身存在的巨大威脅。當人工智能發(fā)展完全，就是人類的末日。”表示同樣擔憂的還有特斯拉的創(chuàng)始人馬斯克，他曾直言，“借助人工智能，我們將召喚出惡魔。在所有的故事里出現(xiàn)的拿著五芒星和圣水的家伙都確信他能夠控制住惡魔，但事實上根本不行?！辈豢煞裾J，人工智能技術是把雙刃劍，有利亦有弊，爭議從來就沒有停止過，而最不容忽視的莫過于人工智能技術引發(fā)的一系列倫理困境，關于人工智能的倫理問題成了重中之重。

調查發(fā)現(xiàn)，47.55%的人認為人工智能所引發(fā)的倫理問題是因為人性的思考，占比較大；而22.55%的人認為是由于人們價值觀念的改變；29.9%的人認為是利益分化與失衡以及一些其他的原因導致的。由此可以看出導致人工智能倫理困境的原因是多方面的。主要總結為以下幾個方面。

第一，從技術層面來看，人工智能技術在現(xiàn)階段仍然有很大的局限性。人工智能是對人腦的模仿，但人腦和機器還是存在本質區(qū)別的，人腦勝于人工智能的地方，就是具有邏輯思維、概念的抽象、辯證思維和形象思維。人工智能雖能進行大量的模仿，但由于不具備形象思維和邏輯思維，僅能放大人的悟性活動中的演繹方法，不可能真正具有智能，這決定了機器不能進行學習、思維、創(chuàng)造。此外，智能機器人也不具備情感智能，它們根本無法去判斷自己行為的對錯，也無法自動停止自己的某項行為，所以如果人工智能技術一旦被不法分子利用，后果不堪設想?？梢?，由于人工智能自身技術上的局限性導致的倫理問題已經影響到其未來發(fā)展。

第二，從規(guī)制層面來看，倫理規(guī)制的缺失和監(jiān)督管理制度的不完善是導致倫理問題產生的重要原因?？萍嫉陌l(fā)展目標是為人類謀求幸福，但我們必須認識到，無論是在科技的應用還是發(fā)展過程中總是存在一些難以控制的因素，倘若沒有相應的倫理原則和倫理規(guī)制加以約束，后果難以想象。在目前人工智能領域，缺乏一套成體系的關于人工智能技術產品的從設計、研究、驗收到投入使用的監(jiān)督管理方案，也沒有一個國際公認的權威性的規(guī)范及引導人工智能技術的發(fā)展及運用的組織或機構?，F(xiàn)有的監(jiān)督體制遠遠滯后于人工智能技術的發(fā)展速度，無法匹配技術發(fā)展的需要。缺乏相關監(jiān)管制度的約束，人工智能技術就不可避免會被濫用，從而危害社會。

第三，從社會層面來看，公眾對人工智能技術的誤解也是原因之一。人工智能作為一門發(fā)展迅猛的新興學科，屬于人類研究領域的前沿。公眾對人工智能技術的了解十分有限，調查顯示，對人工智能技術只是了解水平較低的人較多，占62.75%，以致部分人在對人工智能技術沒有真實了解的情況下，在接觸到人工智能技術的負面新聞后就夸大其詞，人云亦云，最終導致群眾的恐慌心理，從而使得更多不了解人工智能技術的人開始害怕甚至排斥人工智能技術。我們必須清楚，人工智能是人腦的產物，雖然機器在某些領域會戰(zhàn)勝人，但它們不具備主觀能動性和創(chuàng)造思維，也不具備面對未知環(huán)境的反應能力，綜合能力上，人工智能是無法超越人腦智能的。在李世乭對弈AlphaGo的曠世之戰(zhàn)中，盡管人工智能贏了棋，但人類贏得了未來。

三、人工智能技術的發(fā)展轉向

人工智能技術的發(fā)展已經深入到人類社會生活的方方面面，其最終發(fā)展目標是為人類服務。但是，科學技術是把雙刃劍，它在造福人類的同時，不可避免地會給人類帶來災難，因此，人類應該趨利避害，使人工智能和科學技術最大化地為人類服務。這就要求人類必須從主客體兩個角度出發(fā)，為人工智能技術的健康發(fā)展找出路。

1.技術層面

（1）加強各個國家人工智能的對話交流與合作。人工智能自20世紀50年代被提出以來，尤其是近六十年來發(fā)展迅速，取得了許多豐碩的成果。如Deep Blue在國際象棋中擊敗了Garry Kasparov； Watson 戰(zhàn)勝了Jeopardy的常勝冠軍；AlphaGo 打敗了頂尖圍棋棋手李世乭。從表面上看，人工智能取得了很大的進步，但深究這些人工智能戰(zhàn)勝人類的案例，我們發(fā)現(xiàn)這些成功都是有限的，這些機器人的智能范圍狹窄。造成這一現(xiàn)象的很大一部分原因就在于國際間人工智能技術的對話交流與合作還不夠積極，所以加強各個國家人工智能的對話和交流迫在眉睫，同時也勢在必行。

（2）跨學科交流，擺脫單一學科的局限性。從事人工智能這項工作的人必須懂得計算機知識、心理學和哲學。歷史的經驗告訴我們，一項科學要想走得長遠就必須有正確的意識形態(tài)領域的指導思想的介入。在人工智能這項技術中，有些科學家們可能只關注經濟利益而沒有引進相應的倫理評價體系，最終使得技術預測不到位，沒有哲學的介入，等真正出現(xiàn)問題時就晚了。所以要加強科學家與哲學家的溝通交流，令科學家能更多地思考倫理問題，提高哲學素養(yǎng)，在人工智能技術中融入更多的哲學思想，保證人工智能技術能朝著正確、健康方向發(fā)展。

（3）人工智能技術的發(fā)展，要與生態(tài)文明觀相結合。在人工智能技術發(fā)展中，要注入更多的生態(tài)思想，這關系人民福祉、關乎民族未來的長遠大計。在人工智能發(fā)展中，若是產生資源過度消耗、環(huán)境破壞、生態(tài)污染等全球性的環(huán)境問題時，人類必須制止并進行調整。人工智能技術要想發(fā)展得更好，前景更加明亮，前途更為平坦，就必須保持與生態(tài)文明觀一致，與人類自身利益一致，為人類造福。

2.人類自身層面

（1）增強科學家道德責任感。科學技術本身并沒有善惡性，而研發(fā)的科學家或是使用者有善惡性。人工智能將向何處發(fā)展，往往與研發(fā)人工智能的科學家息息相關?？茖W家應打破“個體化原理”，要融入社會中去，關注社會道德倫理問題，承擔起道德責任，為自己、他人、社會負責，多去思考自己研發(fā)的技術可能帶來的后果，并盡可能去避免，多多進行思考，嚴格履行科學家的道德責任。

（2）提高公眾文化素養(yǎng)。調查發(fā)現(xiàn)，對人工智能技術了解水平較低的人較多，占62.75%；而非常了解的人較少，占4.41%；另外，對人工智能技術了解的人占21.08%，不了解的人占11.76%。由此可以看出，大部分的人對人工智能技術都能有所了解，但都不是很深入，而且仍有部分人對人工智能技術絲毫不了解，所以，人工智能技術對于個體的影響是比較微小的，其發(fā)展還沒有深入到個人的日常生活中。特別是在一些關于人工智能的科幻電影的渲染，可能使那些對于人工智能技術并不了解或是一知半解的人產生偏見。在日常生活中，人工智能給人類帶來了極大的便利。通過提高公眾的文化素養(yǎng)，使公眾正確認識人工智能技術，將是緩解甚至是解決人工智能技術某些倫理問題的重要途徑之一。

（3）加大監(jiān)督力度。人類需要通過建立一個完善的監(jiān)督系統(tǒng)引導人工智能技術的發(fā)展。對于每項新的人工智能技術產品從產生到使用的各個環(huán)節(jié)，都要做好監(jiān)督工作，以此來減少人工智能技術的負面影響，緩解甚至減少人工智能技術的倫理問題。

3.道德法律層面

（1）通過立法規(guī)范人工智能技術的發(fā)展。調查發(fā)現(xiàn)，90.69%的人認為有必要對人工智能技術所引發(fā)的科技倫理問題實行法治，由此可以看出，要想保證科技的良好健康發(fā)展，必須要建立健全相關法律條例。然而我國在這一方面的法律還存在很大的漏洞，相關法律條文滯后于人工智能的發(fā)展，并未頒布一套完整的關于人工智能的法律體系。沒有規(guī)矩不成方圓，在人工智能領域亦是如此。我們都無法預測將來人工智能將發(fā)展到何種地步，這時就需要人類預先加以適當?shù)南拗?，利用法律法?guī)加以正確引導，使其朝安全、為人類造福的方向發(fā)展。

（2）構建人工智能技術倫理準則并確立最高發(fā)展原則。要構建以為人類造福為最終目的的倫理準則。人工智能技術的倫理問題已經給人類造成了很多負面影響，而要防止其帶來更多負面影響，構建合適的人工智能技術倫理準則勢在必行。

此外，要確立以人為本的最高發(fā)展原則 。一切科學技術的發(fā)展都應把人的發(fā)展作為出發(fā)點。人工智能的發(fā)展也是如此，要將以人為本、為人類服務為出發(fā)點，并作為最高發(fā)展原則。

四、結語

科學技術是把雙刃劍，人類只有消除人工智能技術的潛在威脅，發(fā)揮人工智能技術最大化效用，避免倫理困境重演，才能實現(xiàn)人機交互的良性發(fā)展，實現(xiàn)人工智能與人類的良性互動。

參考文獻：

[1]王文杰，葉世偉.人工智能原理與應用[M].北京：人民郵電出版社，2004.

[2]甘紹平.人權倫理學[M].北京：中國發(fā)展出版社，2009.

[3]楊懷中.現(xiàn)代科技倫理學概論：高科技倫理研究[M].武漢：湖北人民出版社，2004.

[4]王志良.人工情感[M].北京：機械工業(yè)出版社，2009.

[5]鄒 蕾，張先鋒.人工智能及其發(fā)展應用[J].信息網絡安全，2012（2）.

[6]王 毅.基于仿人機器人的人機交互與合作研究[D].北京：北京科技大學，2015.

[7]田金萍.人工智能發(fā)展綜述[J].科技廣場，2007（1）.

[8]郝勇勝.對人工智能研究的哲學反思[D].太原：太原科技大學，2012.

[9]龔 園.關于人工智能的哲學思考[D].武漢：武漢科技大學，2010.

[10]王洪勝.試析環(huán)境倫理的困境[J].長春工業(yè)大學學報（社會科學版），2009（4）.

[11]劉泉寶，劉永青.關于人工智能的哲學思考[J].計算機科學，1995（2）.