陸 金

（上海啄一智能科技有限公司，上海226000）

1 科幻對人工智能發(fā)展的影響

1．1 科幻促進人工智能發(fā)展

在人類文明的發(fā)展過程中，許多新時代都是由異想天開的思想開啟的，瓦特的想象力造就了蒸汽機，諾依曼的想象力使計算機成為現(xiàn)實，在一些領域，想象力引導了人類的發(fā)展?？苹檬腔谌祟悓ξ磥砩鐣詈涂萍嫉南胂螅o人豐富的想象力和對未來的憧憬，科幻電影中勾勒出了很多關于人類科技的未來發(fā)展和生活場景，在想象與愿景共同驅動下，許多原本以為不可能的事情正在成為可能?？苹秒娪半m然以科學為基礎，但完全不受現(xiàn)實世界的限制，其中，人工智能是大多數(shù)科幻電影中最典型、最常見的表現(xiàn)形式之一。通過一些超現(xiàn)實的夢境和人們對未來社會美好生活的愿景，對科技時代提出最大膽、最具創(chuàng)新性的想法，許多現(xiàn)實世界的技術都是受到科幻電影的啟發(fā)，麥卡賽、明斯基等科學家最先開始探究機器智能，從而提出“人工智能”概念，經(jīng)過科技工作者們不斷創(chuàng)新實踐，將科幻成為可能，從而促進人工智能發(fā)展。

1.2 人工智能的未來屬性

人工智能是科幻電影最重要的元素之一，從1927年第一部科幻電影《大都會》開始，科幻電影中人工智能的未來屬性一直在不斷演繹。科幻電影從技術創(chuàng)新、生活方式和人文價值三個屬性來刻畫未來人工智能?！缎乔虼髴?zhàn)5》中的技術創(chuàng)新成為主要特征，典型案例是通過意念控制機械假肢，最初是為電影戰(zhàn)爭場面中致殘軍人使用，后來發(fā)展成用于治療手臂喪失病人的健康醫(yī)療產(chǎn)品?！痘氐轿磥淼诙俊分谐尸F(xiàn)了許多技術變革的未來生活方式，人們可以通過視頻傳輸遠程交流，電子支付在商業(yè)活動中應用、智能出行等，這些場景在現(xiàn)今生活中得到廣泛應用。《機器管家》通過一個名叫安德魯?shù)臋C器人的故事，關注人與機器人之間的情感交流，表現(xiàn)未來社會的人文價值與倫理道德特征。

1.3 人工智能的應用場景

科幻對人工智能的發(fā)展起了推動作用，人工智能對生產(chǎn)結構和生產(chǎn)關系產(chǎn)生了顛覆性的變化和影響。受科幻啟發(fā)，人工智能工程師和工業(yè)產(chǎn)品設計師進行了大量實驗和技術創(chuàng)新，發(fā)展了人工智能技術，使過去科幻電影中的愿景得以實現(xiàn)。[1]如今，科幻電影中展現(xiàn)的人機對話、機器大腦程序行為控制都得到了實現(xiàn)和廣泛應用。在人工智能技術發(fā)展的背景下，工業(yè)產(chǎn)品設計與人工智能技術的有機結合，將算法、信息處理、語言控制應用、圖像識別、視頻與行為分析等技術融合發(fā)展，通過工業(yè)產(chǎn)品設計，將人工智能技術更好的轉化應用，使產(chǎn)品在功能、外觀、人機交互等方面更加貼合用戶需求。機器能夠感知、理解、學習和行動，并參與人類活動，人工智能作為一種新的生產(chǎn)要素，推動社會發(fā)展，改變?nèi)藗兊纳罘绞絒2]。

2 人工智能所引發(fā)的負面問題

人工智能將改變?nèi)祟惖墓ぷ髋c生活環(huán)境，對人類社會產(chǎn)生十分重大影響。人工智能可以把人類從繁重的勞動中解放出來，形成新的社會生產(chǎn)力，推動社會發(fā)展，增進人類幸福，促進社會進步，但也可以產(chǎn)生負面影響，給人類帶來諸多風險和嚴峻挑戰(zhàn)，人們開始對未來人工智能與人類關系產(chǎn)生憂慮。

2.1 人工智能引發(fā)的社會問題

人工智能提供各種專業(yè)服務，修復受傷人類的肢體，甚至給人們帶來“永生”。未來的某一天，當人工智能已經(jīng)足夠強大，完全可以勝任人類工作時，人類就可以解放雙手了，航天機器人用于空間科學實驗，海天探測機器人用于完成深海救援，工業(yè)機器人代替工人進行重型裝配等，這看起來是一個很棒的畫面。機器大規(guī)模替代人類生產(chǎn)的同時，隨之可能引發(fā)一系列社會問題，導致人的行為與生產(chǎn)能力下降，出現(xiàn)勞務就業(yè)、社會結構變化、思維方式與觀念的變化、法律、倫理道德、心理威脅和技術失控危險等問題。導致人類社會責任感缺失，人機共生的環(huán)境資源再分配，人反受于機器控制，社會秩序混亂，社會平衡被打破。

2.2 技術安全與控制

高科技發(fā)展到一定階段，面臨著人對機器的失控，機器的智慧可能超過人類而威脅人類安全的風險。技術一旦失去控制，機器利用技術手段實施反人類犯罪，將對人類社會的安全造成巨大影響。目前還沒有創(chuàng)造出能夠讓機器完全識別與遵循服務人類的可控制軟件，使機器有足夠的可控保障，確保長期遵守人所期望的規(guī)則。

2.3 算法識別與歧視

算法是客觀的數(shù)學表達式，但算法也有判別執(zhí)行力問題，數(shù)據(jù)的完整性和精度會影響整個算法的有效性。需要人工智能程序設計者通過算法決策，找到造成歧視的根本原因，在技術領域盡量避免算法歧視。通過算法模型，預測未來的趨勢，讓算法歧視可以通過自我學習、適應和進步來改進，糾正歧視[3]。

2.4 數(shù)據(jù)隱私與保護

AI系統(tǒng)需要數(shù)據(jù)為算法服務，數(shù)據(jù)用來消費，服務器和存儲設備之間的數(shù)據(jù)交互過程中可能會導致個人數(shù)據(jù)的控制、管理和隱私保護問題。電話號碼、身份信息、家庭住址、身體健康、個人財產(chǎn)等數(shù)據(jù)可能會被惡意使用，對個人隱私造成嚴重影響。未來的人工智能時代，必須建立產(chǎn)品設計數(shù)據(jù)保護標準，如計劃隱私、默認隱私、個人數(shù)據(jù)管理工具、匿名化、差異化隱私、決策矩陣等[4]。

3 降低未來社會風險點的策略

人工智能技術的發(fā)展給人類帶來便利，但需要謹慎地對待智能機器發(fā)展過程中可能出現(xiàn)的問題，政府部門、技術研發(fā)和產(chǎn)品設計人員都要把人工智能出現(xiàn)的負面效應問題納入研究計劃，采取科學的解決對策與辦法，有條件的限制人工智能技術的發(fā)展，重新建立法律制度、社會行為規(guī)范，讓人工智能真正有序地服務于人類社會，降低未來社會風險點。

3.1 政府部門界定未來社會生態(tài)治理標準

人工智能工程師和工業(yè)產(chǎn)品設計師以科幻場景為靈感，開發(fā)人工智能技術，使AI技術造福于人。當人工智能技術發(fā)展到一定階段時，可能會帶來新的問題，如倫理原則缺失、政策法規(guī)混亂、社會文化變遷等。從哲學、倫理學、法律學、社會學的角度去思考未來人工智能場景的新情況，政府應重新規(guī)劃和修改法律法規(guī)，建立人工智能技術標準審查制度，設立專門的人工智能產(chǎn)品審批技術監(jiān)督部門，規(guī)范人機共存社會生活環(huán)境下的行為體系，維護社會公共秩序。通過建立社會新的制度體系，重新界定社會公共道德標準，以新的人權、責任、倫理標準來保證人與機器友好相處。

3.2 工程技術人員優(yōu)化算法安全解決方案

在科幻電影中，因計算機程序故障或錯誤命令而失去對機器的控制，發(fā)生毀滅性災難的場景給了人們警示。為了讓人類開發(fā)的人工智能技術更好地服務于未來的生活環(huán)境，防止機器思維和行為失控，威脅到人類安全，程序員需要實現(xiàn)對算法的控制和保護，研究如何有效控制機器設備的思維，讓機器服從人的指令，從根本上解決衍生問題，避免人工智能的叛逆和風險。

建立技術風險評估體系，嚴格遵守技術標準和倫理原則，預測設計目標的可行性。程序算法經(jīng)過全真模擬實驗測試和風險評估。執(zhí)行數(shù)據(jù)控制和管理有效性原則，以防止風險事件的發(fā)生。建立隱性風險事件預警處理閉環(huán)響應機制，延遲或阻止風險事件的發(fā)生。

3.3 產(chǎn)品設計人員提供友好人機交互策略

產(chǎn)品設計人員使用模型技術來縮短產(chǎn)品開發(fā)周期，面對未來社會、經(jīng)濟、倫理和文化發(fā)展的需求，產(chǎn)品設計需要更友好的人機交互策略，將技術、材料、工藝、性能和人機交互界面高度融合，讓機器產(chǎn)品更多的模仿人的特征。以人類活動參數(shù)的特性為標準，產(chǎn)品的行為設計應符合人類視覺、聽覺、觸覺和皮膚感覺的功能特性，優(yōu)化產(chǎn)品的人機界面，通過反復修正目標參數(shù)來改善設計缺陷，使機器產(chǎn)品更適應人的生理和心理習慣，交互界面必須保證道德、數(shù)據(jù)、信息控制等安全可靠，尤其要考慮如何編制友好的智能行為標準來保證機器按照倫理道德標準行事，提高產(chǎn)品的人機交互效果。

4 人機友好共生場景展望

4．1 人工智能廣泛應用

未來，人工智能將廣泛應用于制造、家居、金融、零售、交通、安防、醫(yī)療、物流、教育等領域。在未來的場景中，無人駕駛汽車和無人機可以在日常交通中看到，機器人在專用道路上行走，機器警察巡邏可以監(jiān)控潛在的犯罪行為，商場、醫(yī)院等公共場所用機器代替人的工作。家中所有的生活用品都能智能互聯(lián)，人們通過機器人的語音控制實現(xiàn)各種功能。

4.2 人與機器和諧共處

在未來的人工智能時代，法律責任的對象不僅限于人，還包括人與機器共存的社會關系。重新修正社會屬性規(guī)則，AI人員在設計時要考慮“黑匣子”的存在，確保機器人的權利與義務。機器人是人工智能高度發(fā)展的產(chǎn)物，其價值越來越強大。機器人具有人類的一些特征，但與自然人不同，又不同于動物，它可以創(chuàng)造價值，是人類賴以生存的朋友。人類必須讓機器享有與人類同等的權利和待遇，賦予智能機器人“電子人”等法人資格，讓其擁有行為權利和義務，保護機器的生命和權利，在社會倫理的框架下，人與機器可以和諧共處[5]。

4.3 智能時代文明發(fā)展

未來，機器人、無人機、人機對話、行為控制、機器大腦等高度智能的機器代替人類日?，嵤拢S多人的勞動被機器取代，社會財富和閑暇時間大幅增加，人們將大量時間花在健身、娛樂和購物上。正如科幻電影中所見，在未來的人工智能時代，機器擁有自主意識，具有創(chuàng)造力、情感和自我發(fā)布?？梢阅７律踔脸饺祟愒谌宋摹⑺囆g和美學等方面的感性，人工智能對人類有獨立的思想。智能機器可以感知、理解、學習、行動，參與人類活動，促進社會向更高的文明發(fā)展。

5 人工智能時代的未來思考

在當前的認知和技術水平下，人類無法感知未來人工智能的全部場景。在科幻背后能看到什么？這就需要人類從科幻中挖掘更深層次的東西，除了情節(jié)和場景，現(xiàn)代科幻給人類帶來更多的是對未來思考。

（1）人類該不該讓機器人完全取代人類的勞動？勞動對人類文明有什么影響？

（2）當人工智能發(fā)展到自我反省水平時，機器是否會脫離人類的控制，成為獨立的群體？甚至反過來控制人類？

（3）出現(xiàn)安全問題時，誰來擔責？機器還是程序員？怎樣防止這種情況發(fā)生？

（4）當人工智能有了類人的情感時，是否應該平等對待機器新物種？如何用法律約束？

科幻在技術和倫理方面引發(fā)了對未來的思考，通過破解這些偉大的科幻問題，或許可以避免一個糟糕的未來。如何用先進的技術和優(yōu)秀的產(chǎn)品為人類服務，將是人工智能工程師和產(chǎn)品設計師研究的課題。