文/ 周至禹 （寧波大學(xué) 潘天壽藝術(shù)設(shè)計(jì)學(xué)院；中央美術(shù)學(xué)院 ）

引言

隨著人工智能技術(shù)與應(yīng)用在全球迅速興起，人工智能領(lǐng)域的競(jìng)賽千帆競(jìng)渡，國(guó)家層面也展開了為了獲取人工智能優(yōu)勢(shì)而進(jìn)行的競(jìng)爭(zhēng)，各國(guó)競(jìng)相發(fā)布人工智能專項(xiàng)戰(zhàn)略或規(guī)劃，而人工智能的中國(guó)國(guó)家戰(zhàn)略也已啟動(dòng)，2017年7月，國(guó)務(wù)院印發(fā)并實(shí)施《新一代人工智能發(fā)展規(guī)劃》，2017年12月，工業(yè)和信息化部印發(fā)《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》，2018年10月31日，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行第九次集體學(xué)習(xí)。習(xí)近平總書記強(qiáng)調(diào)：人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，加快發(fā)展新一代人工智能是事關(guān)我國(guó)能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問(wèn)題。

與此相對(duì)應(yīng)，近幾年，腦科學(xué)與智能技術(shù)卓越創(chuàng)新，手眼腦融合智能研究如火如荼，方興未艾，類腦新型智能機(jī)器人理論研究和應(yīng)用團(tuán)隊(duì)紛紛構(gòu)建，人工智能炙手可熱，創(chuàng)業(yè)公司如雨后春筍，科技與產(chǎn)品的智能化創(chuàng)新井噴涌現(xiàn)，2018年中國(guó)機(jī)器人十大科技進(jìn)展于2018年10月11日發(fā)布；2018年11月14日 英特爾在京舉辦人工智能大會(huì)，宣布“AI未來(lái)先鋒計(jì)劃”；2019年1月10日年首屆中國(guó)機(jī)器人行業(yè)年會(huì)在京舉行；2019年1月10日國(guó)家智能產(chǎn)業(yè)峰會(huì)在青島舉行。設(shè)計(jì)教育也在前沿研究，師資建設(shè)，人才培養(yǎng)，產(chǎn)業(yè)對(duì)接等方面的多方位合作，借以積極探索產(chǎn)學(xué)研攜手推動(dòng)人工智能發(fā)展新模式，新路徑。顯示了人工智能技術(shù)為經(jīng)濟(jì)高質(zhì)量發(fā)展“賦能”的時(shí)代特征，中國(guó)正在成為全球人工智能領(lǐng)域的新增長(zhǎng)極。

從人工智能的應(yīng)用前景和市場(chǎng)規(guī)模方面來(lái)看，中國(guó)有著獨(dú)特優(yōu)勢(shì)和廣闊前景。2019年1月2日，阿里巴巴達(dá)摩院發(fā)布了“2019十大科技趨勢(shì)”，涵蓋了智能城市、數(shù)字身份、自動(dòng)駕駛、圖神經(jīng)網(wǎng)絡(luò)系統(tǒng)、AI芯片、區(qū)塊鏈、5G等領(lǐng)域。而從清華大學(xué)發(fā)布的《中國(guó)AI發(fā)展報(bào)告2018》報(bào)告中可見：中國(guó)已成為全球人工智能專利布局最多的國(guó)家；中國(guó)人工智能企業(yè)數(shù)量排在全球第二，北京是全球人工智能企業(yè)最集中的城市；中國(guó)人工智能領(lǐng)域的投融資占到了全球的60%。人工智能對(duì)于國(guó)家是千年一遇的超越工業(yè)革命的時(shí)代機(jī)會(huì)。中國(guó)有巨量的數(shù)據(jù)和應(yīng)用市場(chǎng)，有機(jī)會(huì)在世界占領(lǐng)先機(jī)。

數(shù)據(jù)驅(qū)動(dòng)型新經(jīng)濟(jì)形態(tài)已經(jīng)形成，主要發(fā)達(dá)國(guó)家和地區(qū)將人工智能作為當(dāng)前最大的發(fā)展戰(zhàn)略已是不爭(zhēng)的事實(shí) ，美國(guó)人工智能企業(yè)Spare5的CEO曾在給總統(tǒng)特朗普的信中強(qiáng)調(diào)，人工智能是一場(chǎng)競(jìng)賽，中國(guó)已加入到這場(chǎng)角逐當(dāng)中，其人工智能技術(shù)以及商業(yè)化產(chǎn)品落地愈發(fā)成熟，以此提醒特朗普要加大對(duì)人工智能領(lǐng)域的重視和投入。2019年1月22—25日在瑞士達(dá)沃斯舉行的世界經(jīng)濟(jì)論壇2019年年會(huì)，其主題即為“全球化4.0：打造第四次工業(yè)革命時(shí)代的全球架構(gòu)”。從2010年開始的二十年，將會(huì)是人工智能寒武紀(jì)的大爆發(fā)，技術(shù)開始形成明顯的漣漪效應(yīng)。人工智能影響最大的有如下幾個(gè)領(lǐng)域：金融、醫(yī)療、安防識(shí)別相關(guān)的領(lǐng)域、無(wú)人駕駛。人工智能通過(guò)設(shè)計(jì)應(yīng)用上述領(lǐng)域引發(fā)重大變革，例如：智能駕駛將是人工智能所帶來(lái)的增值最大的產(chǎn)業(yè)。

人工智能是對(duì)整個(gè)社會(huì)生活方式產(chǎn)生深刻變革的關(guān)鍵技術(shù)，未來(lái)將廣泛存在于我們的生活場(chǎng)景中，并對(duì)傳統(tǒng)法律法規(guī)和社會(huì)規(guī)范提出挑戰(zhàn)，將會(huì)帶來(lái)許多嚴(yán)重程度不等的社會(huì)問(wèn)題，并引起擔(dān)憂：以人工智能和生物技術(shù)為核心的現(xiàn)代技術(shù)正在逐漸掌控人類文明。在整個(gè)人工智能發(fā)展熱潮中，倫理道德法律框架設(shè)計(jì)明顯滯后。在新舊轉(zhuǎn)換之際，必須對(duì)智能革命時(shí)代的法律制度乃至整個(gè)社會(huì)規(guī)范進(jìn)行新的建構(gòu)。必須著手制定人工智能領(lǐng)域的治理框架，通過(guò)采取新的行為規(guī)范來(lái)確保高倫理標(biāo)準(zhǔn)，并對(duì)技術(shù)掌握者，對(duì)技術(shù)擁有者，對(duì)企業(yè)，對(duì)工程師，對(duì)設(shè)計(jì)師都有約束意義。而此問(wèn)題在社會(huì)學(xué)層面思考較多，在設(shè)計(jì)學(xué)層面則幾乎完全缺失。但是作為設(shè)計(jì)+科技的許多消費(fèi)產(chǎn)品，都是工程師與設(shè)計(jì)師合作的結(jié)果。目前，在人工智能行業(yè)內(nèi)缺乏基于價(jià)值觀的倫理文化和實(shí)踐，缺乏解決系統(tǒng)設(shè)計(jì)時(shí)倫理問(wèn)題的流程模型。人工智能設(shè)計(jì)問(wèn)題產(chǎn)生的道德衍生后果是什么？在整個(gè)設(shè)計(jì)過(guò)程中，如何始終貫徹倫理規(guī)范？一系列問(wèn)題都值得我們予以重視和思考。

一、機(jī)器人引發(fā)的社會(huì)就業(yè)和貧富問(wèn)題

已經(jīng)去世的著名物理學(xué)教授史蒂芬-霍金(Stephen William Hawking)曾給予人類以警告：有人可能創(chuàng)造出超級(jí)人工智能，它們能夠全面超越人類，而且有可能完全取代人類。在《連線雜志》的一場(chǎng)專訪中，霍金稱，人工智能取代人類可能會(huì)帶來(lái)一種新的生命形態(tài)：“我擔(dān)心人工智能將全面取代人類。如果有人能設(shè)計(jì)出計(jì)算機(jī)病毒，那么就會(huì)有人設(shè)計(jì)出能提升并復(fù)制自己的人工智能。這就會(huì)帶來(lái)一種能夠超越人類的全新生命形式。”。美國(guó)斯坦福大學(xué)人工智能與倫理學(xué)教授杰瑞·卡普蘭（Jerry Kaplan）在《人工智能時(shí)代》一書中提出：人工智能給人類帶來(lái)的第一個(gè)威脅是：人工智能不受道德約束，人工智能的產(chǎn)物機(jī)器人可能會(huì)為達(dá)到最終目標(biāo)，而不擇手段，甚至威脅到人類的生命。人工智能帶給人類的第二個(gè)威脅，也是目前備受大家關(guān)注和爭(zhēng)議的威脅：機(jī)器會(huì)取代人類工作，引發(fā)人類失業(yè)，給人類的精神健康帶來(lái)沖擊。人工智能帶給人類的第三個(gè)威脅是少數(shù)掌握技術(shù)的群體將控制社會(huì)資源的流向，造成貧富差距變大。最新人工智能技術(shù)的好處掌握在少數(shù)人手里，造成對(duì)財(cái)富集中和分配不平等的擔(dān)憂，會(huì)引發(fā)一系列社會(huì)問(wèn)題。而2016年聯(lián)合國(guó)發(fā)布《人工智能政策報(bào)告》，也表達(dá)了對(duì)人工智能的關(guān)注，并針對(duì)人工智能技術(shù)發(fā)展帶來(lái)的各種問(wèn)題，提出了一些新的思考方式和解決途徑。

據(jù)牛津大學(xué)的調(diào)研報(bào)告，未來(lái)將有1000萬(wàn)非技術(shù)工種被機(jī)器人取代。從制造到智造，正是企業(yè)轉(zhuǎn)型升級(jí)的一個(gè)特征，機(jī)器人應(yīng)用節(jié)省成本，提高勞動(dòng)效率，因此各種用途的人工智能機(jī)器人正在被設(shè)計(jì)，被應(yīng)用，讓相關(guān)產(chǎn)業(yè)成非線性、躍進(jìn)式的增長(zhǎng)，人工智能與產(chǎn)業(yè)的結(jié)合，形成高價(jià)值，讓人們趨之若鶩，投資機(jī)構(gòu)都在押注人工智能產(chǎn)業(yè)。美國(guó)投資理財(cái)專家約翰·普利亞諾（John Pugiano）撰寫了《機(jī)器人來(lái)了：人工智能時(shí)代的人類生存法則》，他認(rèn)為，任何循規(guī)蹈矩而且可預(yù)測(cè)性的工作在未來(lái)5年至10年都將有可能被人工智能取代。麥肯錫預(yù)測(cè)，到了2030年全球?qū)⒂卸噙_(dá)8億名勞工的工作將被機(jī)器人和自動(dòng)化取代，美國(guó)、日本和德國(guó)將有25%的工作會(huì)由機(jī)器人接手，中國(guó)為16%。甚至在設(shè)計(jì)方面，簡(jiǎn)單建筑物的設(shè)計(jì)已經(jīng)由人工智能軟件來(lái)完成。約翰·普利亞諾認(rèn)為，未來(lái)只有那些具有創(chuàng)造性和藝術(shù)技能的建筑師才能在企業(yè)中生存。可能的設(shè)計(jì)職業(yè)也許是卡普蘭預(yù)言的售賣適用于3D 打印機(jī)的產(chǎn)品設(shè)計(jì)等工作。人工智能也創(chuàng)造了一些相關(guān)職業(yè)。最近，人力資源和社會(huì)保障部初步確定人工智能工程技術(shù)人員等15個(gè)擬發(fā)布新職業(yè)。第一名就是人工智能工程技術(shù)人員，第三名是大數(shù)據(jù)工程技術(shù)人員，第十一名是工業(yè)機(jī)器人系統(tǒng)操作員，第十二名是工業(yè)機(jī)器人系統(tǒng)運(yùn)維員。

二、人工智能普及應(yīng)用引發(fā)的安全問(wèn)題

人工智能的發(fā)展主要來(lái)自深度學(xué)習(xí)（Deep learning）技術(shù)的突破，使機(jī)器得以自主學(xué)習(xí)，并在性能功能上迅速超越人類，蓋因?yàn)槿祟愔悄艿难莼骄忂M(jìn)行，時(shí)代變革和社會(huì)發(fā)展不會(huì)大幅度提升人類的智力，而人工智能則隨著數(shù)據(jù)和算法的優(yōu)化會(huì)產(chǎn)生突變的增長(zhǎng)，在某個(gè)奇點(diǎn)上超越人類智力。人工智能可以更加理性邏輯地進(jìn)行客觀判斷，同時(shí)處理信息的容量大大增加，可以避免漏判和錯(cuò)判的概率精度遠(yuǎn)超人類，自然會(huì)引起人類擔(dān)憂。在近年，一些國(guó)際頂級(jí)期刊的內(nèi)容，直指人工智能的問(wèn)題與反思，例如：AlphaGo人工智能與人類智能的博弈；人工智能作為資源的壟斷現(xiàn)狀；人工智能對(duì)醫(yī)療，安防的介入和對(duì)大數(shù)據(jù)的判斷解讀；人臉識(shí)別技術(shù)的監(jiān)控應(yīng)用隱私暴露危險(xiǎn)等等。在消費(fèi)類電子科技產(chǎn)品中，數(shù)據(jù)對(duì)隱私和安全同樣構(gòu)成危險(xiǎn)，已經(jīng)出現(xiàn)了這樣一種趨勢(shì)：在科學(xué)、醫(yī)學(xué)、商業(yè)、教育，任何社會(huì)或經(jīng)濟(jì)領(lǐng)域都將普遍依賴于對(duì)數(shù)字化文本數(shù)據(jù)的分析。而人工智能如果在深度學(xué)習(xí)過(guò)程中使用大量的敏感數(shù)據(jù)，這些數(shù)據(jù)也可能會(huì)在后續(xù)被搜集披露出去，對(duì)個(gè)人隱私產(chǎn)生不可估量的影響。因此必須想出新的辦法來(lái)監(jiān)控或者審核目前正在眾多領(lǐng)域發(fā)揮重大作用的人工智能。

人工智能安全始終是人們關(guān)注的一個(gè)重點(diǎn)，紐約大學(xué)人工智能研究所的年度報(bào)告提出警告，試圖解讀面部表情的人臉識(shí)別算法可能基于靠不住的科學(xué)，報(bào)告稱：“任何通過(guò)AI將面部表情簡(jiǎn)單化地映射至基本情感類別的做法都可能重復(fù)一種過(guò)時(shí)的科學(xué)范式的錯(cuò)誤。”報(bào)告提出了關(guān)于對(duì)人工智能進(jìn)行監(jiān)管以及提高該行業(yè)透明度的建議，該研究所創(chuàng)始人之一凱特·克勞福德（Kate Crawford）教授說(shuō)：“現(xiàn)在的問(wèn)題是，AI正被應(yīng)用在眾多社會(huì)環(huán)境中。人類學(xué)、心理學(xué)和哲學(xué)都與之密切相關(guān)，但這不是對(duì)具有技術(shù)（計(jì)算機(jī)科學(xué)）背景的人進(jìn)行培訓(xùn)。實(shí)際上，AI的狹窄化催生了一種坦率接受某些特定心理學(xué)文獻(xiàn)的態(tài)度，而這些心理學(xué)文獻(xiàn)已被證明是可疑的。”“我們需要強(qiáng)有力的獨(dú)立組織機(jī)構(gòu)、領(lǐng)域?qū)＜液拖㈧`通的研究人員來(lái)監(jiān)督人工智能，督促主要研發(fā)公司以負(fù)責(zé)任的態(tài)度以高標(biāo)準(zhǔn)來(lái)發(fā)展這項(xiàng)技術(shù)。”如何防范病毒、黑客對(duì)人工智能產(chǎn)品的侵蝕也是另一個(gè)重要的問(wèn)題。各種生活中使用的智能電器，也都在精細(xì)地記錄私人的行蹤和生活信息，隱私權(quán)的保護(hù)，形成了人工智能時(shí)代的難題。此外，仿真和替換技術(shù)已經(jīng)日趨成熟，人工智能合成主播的出現(xiàn)意味著，制作假新聞的成本將越來(lái)越低，而人們辨別信息真?zhèn)蔚碾y度將大幅增加，在以真實(shí)性為基礎(chǔ)的新聞、法律等領(lǐng)域，我們能否承受其對(duì)既有社會(huì)規(guī)則的沖擊？

三、人工智能數(shù)據(jù)分析和壟斷產(chǎn)生的問(wèn)題

數(shù)據(jù)即生產(chǎn)力、數(shù)據(jù)即財(cái)富、數(shù)據(jù)即權(quán)力。占世界人口總數(shù)約兩成的中國(guó)是一個(gè)數(shù)據(jù)寶庫(kù)，國(guó)家已經(jīng)制定《網(wǎng)絡(luò)安全法》，要求重要數(shù)據(jù)不能出境。 據(jù)美國(guó)市場(chǎng)研究機(jī)構(gòu)協(xié)同研究集團(tuán)統(tǒng)計(jì)，從大型數(shù)據(jù)中心在全球的分布比率看，美國(guó)以44%居首，但中國(guó)以8%緊隨其后。百度已將公司戰(zhàn)略從“移動(dòng)互聯(lián)網(wǎng)第一”調(diào)整為“人工智能第一”，騰訊亦建立了自己的人工智能技術(shù)實(shí)驗(yàn)室。百度、阿里、騰訊等國(guó)內(nèi)企業(yè)在大數(shù)據(jù)方面的積累極為豐富，BAT、頭條、美團(tuán)等巨頭緊隨其后。人工智能所形成的大數(shù)據(jù)，被一些互聯(lián)網(wǎng)巨頭所壟斷，人工智能的進(jìn)步會(huì)加速中心化趨勢(shì)，少數(shù)幾個(gè)基于云計(jì)算、多功能的龐大商業(yè)智能寡頭，實(shí)際壟斷了數(shù)據(jù)的收集和構(gòu)建方式，以海量的信息構(gòu)建一個(gè)框架來(lái)影響眾人的決策。同時(shí)，為了數(shù)據(jù)壟斷，封閉和割據(jù)成為了趨勢(shì)，資本和政治充分發(fā)揮作用，導(dǎo)致數(shù)據(jù)缺乏廣度和深度，不利于人工智能戰(zhàn)略的正常推進(jìn)。

價(jià)值鏈上不可忽視的要素是數(shù)據(jù)。如今，數(shù)據(jù)成為設(shè)計(jì)的重要參數(shù)，以至于根據(jù)數(shù)據(jù)就可以做設(shè)計(jì)，但誰(shuí)可以有權(quán)利掌握數(shù)據(jù)，運(yùn)用數(shù)據(jù)？數(shù)據(jù)的私密性，數(shù)據(jù)涉及的版權(quán)問(wèn)題，數(shù)據(jù)作為重要的資源可被銷售給第三方，數(shù)據(jù)設(shè)計(jì)所生成的偏好強(qiáng)化等問(wèn)題，都引發(fā)了一系列的倫理問(wèn)題。圍繞數(shù)據(jù)的挖掘、存儲(chǔ)、使用和跨界流動(dòng)環(huán)節(jié)，有可能導(dǎo)致數(shù)據(jù)和隱私的侵犯、不對(duì)稱信息權(quán)力的濫用、數(shù)據(jù)和技術(shù)導(dǎo)致的壟斷等問(wèn)題。2018年3月臉書（Facebook）數(shù)據(jù)泄露問(wèn)題丑聞曝出：Cambridge Analytica數(shù)據(jù)分析公司通過(guò)一個(gè)應(yīng)用程序收集了5000萬(wàn)Facebook用戶的個(gè)人信息，該應(yīng)用程序詳細(xì)描述了用戶的個(gè)性、社交網(wǎng)絡(luò)以及在平臺(tái)上的參與度。臉書因該事件受到英國(guó)信息委員會(huì)辦公室66.4萬(wàn)美元的罰單。而美國(guó)聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission）正考慮對(duì)臉書處以“創(chuàng)紀(jì)錄的罰款”，原因是臉書違反了與政府達(dá)成的一項(xiàng)具有法律約束力的保護(hù)用戶個(gè)人數(shù)據(jù)隱私的協(xié)議，未能保護(hù)用戶數(shù)據(jù)：政治咨詢機(jī)構(gòu)劍橋分析公司未經(jīng)臉書用戶明確同意，使用了數(shù)百萬(wàn)臉書用戶的個(gè)人信息。人工智能技術(shù)假如想要提供個(gè)性化、完全符合個(gè)人習(xí)慣的服務(wù)，就必然要學(xué)習(xí)和理解用戶本身，但這又涉及對(duì)用戶私人數(shù)據(jù)的學(xué)習(xí)。因此需要對(duì)大公司壟斷數(shù)據(jù)加以限制，讓人工智能決策透明，用政策立法以規(guī)范人工智能發(fā)展。包括谷歌在內(nèi)的許多知名大公司已經(jīng)設(shè)置了倫理委員會(huì)，用來(lái)監(jiān)督他們?nèi)斯ぶ悄芗夹g(shù)的開發(fā)和部署。

人工智能在醫(yī)療行業(yè)迅速應(yīng)用。百度(Baidu)正在與北京市政府合作打造健康云，將監(jiān)測(cè)來(lái)自可穿戴設(shè)備和其他智能健康設(shè)備的數(shù)據(jù)。阿里巴巴也推出了名為“未來(lái)醫(yī)院”的電子醫(yī)療服務(wù)?？突仿〈髮W(xué)計(jì)算機(jī)科學(xué)學(xué)院教授邢波認(rèn)為，應(yīng)把人工智能跟人的形象和功能脫離開。在他看來(lái)，醫(yī)學(xué)人工智能與醫(yī)生之間不是競(jìng)爭(zhēng)關(guān)系而是協(xié)作關(guān)系，人工智能能夠極大地提升醫(yī)療的效率，但絕對(duì)不是替代醫(yī)生。部分計(jì)算機(jī)科學(xué)家缺少對(duì)醫(yī)學(xué)的敬畏和理解。對(duì)人工智能進(jìn)行道德制約，行為分際，就是在引導(dǎo)AI，學(xué)習(xí)在人類社會(huì)里“做人”。把個(gè)人數(shù)據(jù)交給機(jī)器似乎是人類不可避免的歸宿。無(wú)論是醫(yī)療健康、金融服務(wù)還是社會(huì)安全，機(jī)器比人類更靠譜，但是也有很大風(fēng)險(xiǎn)。另一方面，數(shù)據(jù)的有效性、準(zhǔn)確性，也會(huì)影響整個(gè)算法決策和預(yù)測(cè)的準(zhǔn)確性。虛擬的數(shù)據(jù)可能被作為真實(shí)的數(shù)據(jù)被計(jì)算機(jī)加以學(xué)習(xí)和利用，另外，錯(cuò)誤的輸入形成的錯(cuò)誤輸出作為反饋，進(jìn)一步加深了錯(cuò)誤，例如一款名為沃森（IBM Watson for Oncology）的腫瘤機(jī)輔助治療人工智能產(chǎn)品令1997年就開發(fā)出Deep Blue人工智能系統(tǒng)的美國(guó)跨國(guó)科技公司IBM深陷輿論漩渦，因其訓(xùn)練的使用數(shù)據(jù)多是虛擬患者的假想數(shù)據(jù)。

四、人工智能系統(tǒng)算法的偏向和操縱問(wèn)題

研究顯示，即使在訓(xùn)練人工智能系統(tǒng)時(shí)使用的材料全部來(lái)自中性素材來(lái)源，最終人工智能仍然有可能會(huì)在價(jià)值取向上自動(dòng)發(fā)展出某種偏差。因此，如何解決機(jī)器學(xué)習(xí)中的公平、責(zé)任與透明性問(wèn)題并不容易。深度學(xué)習(xí)是一個(gè)典型的“黑箱”算法，算法在本質(zhì)上是“以數(shù)學(xué)方式或者計(jì)算機(jī)代碼表達(dá)的意見”，包括其設(shè)計(jì)、目的、成功標(biāo)準(zhǔn)、數(shù)據(jù)使用等等，都是設(shè)計(jì)者、開發(fā)者的主觀選擇，設(shè)計(jì)者和開發(fā)者會(huì)有意無(wú)意地將自己的偏見嵌入算法系統(tǒng)，就會(huì)帶來(lái)社會(huì)互動(dòng)協(xié)作方式的改變。就目前而言，連設(shè)計(jì)者可能都不知道算法如何決策，要在系統(tǒng)中發(fā)現(xiàn)有沒(méi)有存在偏見根源，在技術(shù)上是比較困難的。比如，數(shù)據(jù)是社會(huì)現(xiàn)實(shí)的反映，訓(xùn)練數(shù)據(jù)本身可能是偏見性的。最終，人工智能的算法決策不僅僅會(huì)將過(guò)去的偏見做法代碼化，而且會(huì)創(chuàng)造自己的現(xiàn)實(shí)，形成一個(gè)自我實(shí)現(xiàn)的歧視性反饋循環(huán)。偏見強(qiáng)化階層對(duì)立、弱勢(shì)人群的邊緣化和貧困化。因此需要對(duì)算法進(jìn)行必要監(jiān)管，制定法規(guī)確保透明性，避免算法作惡。

超級(jí)科技公司的網(wǎng)絡(luò)技術(shù)已入侵人類思想，在日常生活中人們受搜索引擎的控制，超級(jí)科技公司利用人工智能，掌握用戶個(gè)人資料，成為控制人們的強(qiáng)大工具。這些個(gè)人資料不但可被用來(lái)向用戶發(fā)出針對(duì)性的廣告，還可用來(lái)影響用戶思想，根據(jù)用戶偏好推送相關(guān)信息，強(qiáng)化偏見，支配和控制現(xiàn)代人生活，使現(xiàn)代人失去最基本的自我主宰能力。而算法決策開始介入甚至主導(dǎo)越來(lái)越多的人類社會(huì)事務(wù)和個(gè)人思想行為。人們?cè)诨ヂ?lián)網(wǎng)上獲取的新聞、音樂(lè)、視頻、廣告等等，以及購(gòu)買的商品，很多都是推薦引擎?zhèn)€性化推薦給用戶。例如，阿里巴巴旗下的生鮮超市“盒馬鮮生”會(huì)對(duì)顧客的購(gòu)買記錄、訂貨時(shí)間段進(jìn)行分析后優(yōu)化采購(gòu)結(jié)構(gòu) 。

中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院與騰訊研究院在北京聯(lián)合舉辦了“2017人工智能：技術(shù)、倫理與法律研討會(huì)”。表明人們已經(jīng)意識(shí)到，需要在人工智能研發(fā)中貫徹倫理原則，因?yàn)槿藗儾皇窃谥圃煲粋€(gè)被動(dòng)的簡(jiǎn)單工具，而是在設(shè)計(jì)像人一樣具有感知、認(rèn)知、決策等能力的復(fù)雜工具，需要確保這些復(fù)雜工具進(jìn)入人類社會(huì)以后能夠與人類的價(jià)值規(guī)范及需求相一致。一方面，針對(duì)人工智能研發(fā)活動(dòng)，人工智能研發(fā)人員需要遵守一些基本的倫理準(zhǔn)則，包括有益性、不作惡、包容性的設(shè)計(jì)、多樣性、透明性，以及隱私的保護(hù)，等等。讓人類和人工智能進(jìn)行協(xié)同式的倫理決策。另一方面，也需要對(duì)不同維度的倫理道德進(jìn)行分別考量，最后將決策進(jìn)行融合，建立人工智能倫理審查制度，倫理審查應(yīng)當(dāng)是跨學(xué)科的，多樣性的，對(duì)人工智能技術(shù)和產(chǎn)品的倫理影響進(jìn)行評(píng)估并提出建議。

五、人工智能嵌入多樣倫理的矛盾問(wèn)題

人工智能機(jī)器在設(shè)計(jì)時(shí)必須嵌入人類的倫理，這是迫在眉睫的問(wèn)題。不同國(guó)家和地區(qū)有不同的倫理標(biāo)準(zhǔn)，因此，如果將自己文化里特有的倫理觀，用以預(yù)設(shè)人工智能的行為，便可得出不同國(guó)度和文化的人工智能。人工智能倫理的嵌入便存在倫理的跨情景問(wèn)題。需要建立一套全球性商議制度，對(duì)人工智能系統(tǒng)制定人類文明一致性的道德共識(shí)，在此基礎(chǔ)上再形成各種文化特色的倫理。倫理嵌入可以 賦予人工智能獨(dú)特的文化個(gè)性，并且界定人與人工智能的關(guān)系，同時(shí)規(guī)范人工智能的行為準(zhǔn)則。毫無(wú)疑義，沒(méi)有倫理的強(qiáng)力介入，人工智能在設(shè)計(jì)應(yīng)用服務(wù)大眾時(shí)將會(huì)問(wèn)題百出。但是，人們面臨一個(gè)問(wèn)題：是誰(shuí)制定被寫進(jìn)人工智能系統(tǒng)的價(jià)值觀，誰(shuí)將最終為它們負(fù)責(zé)？蒙特利爾大學(xué)計(jì)算機(jī)科學(xué)與運(yùn)算系教授約書亞·本吉奧（Yoshua Bengio）指出：這次人工智能熱潮很大程度上是由工業(yè)界的巨大需求驅(qū)動(dòng)的。人工智能的發(fā)展是資本力量在背后推動(dòng)，而資本的增值有時(shí)是盲目而不計(jì)后果的。對(duì)此，必須予以足夠的警惕。

英國(guó)上議院2018年發(fā)布報(bào)告《人工智能在英國(guó)：準(zhǔn)備、意愿和能力？》（圖1），集中聚焦于倫理道德問(wèn)題——人工智能可能為人類帶來(lái)的風(fēng)險(xiǎn)。撰寫報(bào)告的英國(guó)上議院人工智能特別委員會(huì)主席克萊門特-瓊斯勛爵(Lord Clement-Jones)說(shuō)：“在人工智能的發(fā)展和應(yīng)用中，倫理必須占據(jù)中心地位。英國(guó)應(yīng)當(dāng)抓住機(jī)會(huì)積極地推進(jìn)AI與公眾利益的結(jié)合，并領(lǐng)導(dǎo)國(guó)際社會(huì)在人工智能倫理領(lǐng)域的發(fā)展，而不是被動(dòng)承擔(dān)那些AI可能造成的消極后果?！庇?guó)上議院的這份報(bào)告起草了綱領(lǐng)性的五大原則，包括：發(fā)展人工智能是為了人類的共同利益；人工智能應(yīng)當(dāng)保證公平，并且讓人容易理解；人工智能不應(yīng)當(dāng)用來(lái)侵犯人們的隱私；所有公民都有權(quán)利接受教育，使他們能在精神、情感與經(jīng)濟(jì)上和人工智能一起繁榮發(fā)展；人工智能不應(yīng)被賦予傷害、破壞或欺騙人類的自主能力。

圖1 英國(guó)上議院2018年發(fā)布報(bào)告《人工智能在英國(guó)：準(zhǔn)備、意愿和能力？》

如何通過(guò)設(shè)計(jì)使人工智能系統(tǒng)做出更具道德倫理性的判斷，是當(dāng)前人與人工智能交互系統(tǒng)的重點(diǎn)。2016年，科學(xué)家提出了一種可以讓人工智能系統(tǒng)自行進(jìn)行倫理決策的新系統(tǒng)，它以信任-渴望-意圖模型為基礎(chǔ)。2017年，基于游戲和機(jī)器學(xué)習(xí)的通用人工智能倫理系統(tǒng)被提出。同年阿西洛馬會(huì)議提出了23條人工智能原則。合倫理的人工智能設(shè)計(jì)，需要將人類社會(huì)的法律、道德等規(guī)范和價(jià)值嵌入人工智能系統(tǒng)，但是需要解決不同倫理和價(jià)值對(duì)接的問(wèn)題。另外，能夠兼容人類的人工智能唯一目標(biāo)是最大化人類價(jià)值的實(shí)現(xiàn)，而人類為人工智能提供了關(guān)于人類價(jià)值的信息，幫助機(jī)器人確定符合人類希望的價(jià)值。特別需要將人的倫理進(jìn)行結(jié)構(gòu)化處理，進(jìn)一步提供給機(jī)器學(xué)習(xí)，形成機(jī)器的倫理體系，難點(diǎn)在于跨情景環(huán)節(jié)，即如何確定在何種情景下，機(jī)器的倫理能發(fā)生應(yīng)有的效應(yīng)。

六、人工智能面臨的道德倫理選擇困境

倫理是指“人與人以及人與自然的關(guān)系和處理這些關(guān)系的規(guī)則”，受結(jié)果導(dǎo)向、行為方式和品質(zhì)精神的考量，但是，倫理并沒(méi)有形成統(tǒng)一廣泛的普適倫理體系，況且倫理是變化發(fā)展的。人工智能的倫理面臨著一些選擇和困境， 一是個(gè)體和群體人工智能決策框架，二是人與人工智能交互中的倫理道德?；ヂ?lián)網(wǎng)進(jìn)化論作者劉鋒曾在“2017人工智能：技術(shù)、倫理與法律研討會(huì)”上發(fā)言，提出制定人工智能倫理無(wú)法回避的有五個(gè)問(wèn)題：1.應(yīng)該由誰(shuí)來(lái)制定人工智能倫理；2.站在誰(shuí)的立場(chǎng)制定人工智能倫理；3.按照什么原則制定人工智能倫理；4. 人工智能倫理是供誰(shuí)來(lái)參考使用；5.AI能不能被看做與人類同權(quán)的生命體毫無(wú)疑義，倫理的制定應(yīng)是全方面的參與，并且提供管理者（政府，企業(yè)家）、研究者（科學(xué)家）、開發(fā)者（設(shè)計(jì)師，程序員和產(chǎn)品經(jīng)理）參考，對(duì)人工智能系統(tǒng)的開發(fā)和產(chǎn)品的設(shè)計(jì)生產(chǎn)，政府和企業(yè)相關(guān)部門要嚴(yán)加管理，研制者則要自覺約束。

近年，歐洲機(jī)器人研究網(wǎng)絡(luò)（EURON）發(fā)布了《機(jī)器人倫理學(xué)路線圖》，韓國(guó)政府起草了《機(jī)器人倫理憲章》。美國(guó)信息技術(shù)產(chǎn)業(yè)委員會(huì)（ITI）頒布了人工智能政策準(zhǔn)則、美國(guó)電氣電子工程師學(xué)會(huì)（IEEE）發(fā)布了第二版《人工智能設(shè)計(jì)的倫理準(zhǔn)則》。旨在鼓勵(lì)科技人員在人工智能的設(shè)計(jì)研發(fā)過(guò)程中，優(yōu)先考慮倫理問(wèn)題。一般原則包含了1. 人類利益，2. 責(zé)任，3. 透明性，4. 教育和意識(shí)。而需要指導(dǎo)倫理研究和設(shè)計(jì)的方法論則是：人工智能應(yīng)當(dāng)符合人類價(jià)值觀，服務(wù)于人類，服務(wù)于人類社會(huì)和經(jīng)濟(jì)的發(fā)展。以人類價(jià)值觀為導(dǎo)向的方法論是人工智能設(shè)計(jì)的核心，其中最重要的是對(duì)人權(quán)的保護(hù)。

《人民平臺(tái)》一書作者阿斯特拉·泰勒(Astra Taylor)認(rèn)為，人工智能對(duì)人類社會(huì)的影響主要在兩個(gè)方面，一個(gè)是數(shù)據(jù)的寡頭壟斷，一個(gè)是重新定義人類和人工智能的關(guān)系，屬于哲學(xué)層面的沖擊。人工智能最新系統(tǒng)的基本特征就是隨著時(shí)間的向前推進(jìn)，不斷創(chuàng)新創(chuàng)造產(chǎn)生新知識(shí)的智能系統(tǒng)，也就是類人工智能和強(qiáng)人工智能發(fā)展的極限狀態(tài)，趨向于無(wú)窮點(diǎn)時(shí)，其輸入輸出能力和知識(shí)的掌握運(yùn)用能力也將趨近于無(wú)窮大，可以看出智能系統(tǒng)在不斷創(chuàng)新創(chuàng)造和不斷積累知識(shí)的情況下，在足夠的時(shí)間里以人類為代表的智能系統(tǒng)將最終實(shí)現(xiàn)“全知全能”的狀態(tài)，從這個(gè)角度看，無(wú)論是東方文化的”神“，或西方文化中的“上帝”概念，從智能系統(tǒng)發(fā)展的角度看，可以看作是智能系統(tǒng)（包括人類）在未來(lái)時(shí)間點(diǎn)的進(jìn)化狀態(tài)。到那個(gè)時(shí)候，人類將怎樣與其相處？

七、人工智能的軍事化應(yīng)用帶來(lái)的問(wèn)題

人工智能的軍事化存在著更大危機(jī)。2018年12月，在瑞士日內(nèi)瓦召開的聯(lián)合國(guó)武器公約會(huì)議上曝光的一個(gè)視頻，顯示一個(gè)蜜蜂大小的殺手機(jī)器人，可輕易躲過(guò)子彈，穿透建筑物和汽車，面部識(shí)別度高達(dá)99.99%，只要輸入目標(biāo)的圖像信息，就可定點(diǎn)定人消滅。目前，人工智能武器已經(jīng)出現(xiàn)。人工智能的軍事化應(yīng)用將從根本上改變戰(zhàn)爭(zhēng)方式，引發(fā)新一輪的軍事變革。據(jù)英國(guó)《衛(wèi)報(bào)》報(bào)道，英國(guó)謝菲爾德大學(xué)人工智能和機(jī)器人專業(yè)教授諾爾·沙吉（Noel Sharkey）說(shuō)：“把生死決定交給沒(méi)有同情心和理解力的冰冷機(jī)器，不符合馬爾頓斯條款，讓我不寒而栗?！?018年由Elon Mask等知名科學(xué)家、企業(yè)家組成的2000多人在國(guó)際人工智能聯(lián)合會(huì)(IJCAI)上共同簽署了抵制將人工智能武器化的宣言。研究者應(yīng)當(dāng)保證他們的產(chǎn)出符合人類道德：不侵犯隱私、不傷害人類、不左右政局，尤其在人工智能武器方面應(yīng)當(dāng)更為謹(jǐn)慎。建立有效的機(jī)制審問(wèn)人工智能，以保證人工智能符合人類的倫理道德。

人類是否有足夠的能力及時(shí)停止人工智能領(lǐng)域的“軍備競(jìng)賽”，能否保有最高掌控權(quán)？如何利用人工智能技術(shù)讓人類社會(huì)變得更美好？作為有責(zé)任的設(shè)計(jì)師，要對(duì)技術(shù)時(shí)代和技術(shù)現(xiàn)象有積極反應(yīng)的能力，在現(xiàn)代技術(shù)泛濫發(fā)展的時(shí)代，設(shè)計(jì)需要一種抵抗姿態(tài)，一方面，我們要避免有設(shè)計(jì)缺陷的人工智能應(yīng)用，另一方面，我們要防止人工智能形成自主的侵犯。在建立設(shè)計(jì)倫理的時(shí)候，警惕的是人：反人道主義科學(xué)家或不正當(dāng)利用人工智能者。來(lái)自人工智能的威脅其實(shí)也是來(lái)自人類本身的威脅。人類應(yīng)當(dāng)善用人工智能，同濟(jì)大學(xué)教授孫周興在一次采訪中說(shuō)，“我們希望守住自然人類的最后邊界?！币e極介入正在推進(jìn)的人工智能對(duì)我們生活世界的創(chuàng)制過(guò)程中，發(fā)揮我們的創(chuàng)造性作用，努力使技術(shù)性的“人工智能”變成“人文智能”，人工智能的發(fā)展應(yīng)該以人類社會(huì)的穩(wěn)定與福祉為前提，關(guān)鍵的問(wèn)題是找出確保這些新系統(tǒng)讓整個(gè)社會(huì)得到改善的方法——而不僅僅是讓控制它們的人受益。

2017年1月，在加利福尼亞州阿西洛馬舉行的Beneficial Al會(huì)議上，近千名人工智能相關(guān)領(lǐng)域的專家，聯(lián)合簽署了著名的《阿西洛馬人工智能23條原則》。美國(guó)互聯(lián)網(wǎng)企業(yè)牽頭成立的非營(yíng)利組織“人工智能（AI）合作”（The Partnership on AI，PAI）2018年10月16日宣布接納中國(guó)互聯(lián)網(wǎng)科技公司百度（Baidu）成為會(huì)員。 擁有70多家公司、學(xué)術(shù)團(tuán)體和民間組織為會(huì)員的PAI旨在為AI領(lǐng)域的研究提供倫理學(xué)指導(dǎo)，包括保障AI研究不違反國(guó)際公約和人權(quán)。微軟同樣提出了開發(fā)人工智能的六項(xiàng)基本原則：公平、可靠與安全、隱私與保密、包容、透明、負(fù)責(zé)。微軟公司總裁施博德（Brad Smith）“微軟認(rèn)為，要設(shè)計(jì)出可信賴的人工智能，必須采取體現(xiàn)道德原則的解決方案，在賦予計(jì)算機(jī)更大力量的同時(shí)，也需要用社會(huì)倫理來(lái)引導(dǎo)它?！痹趥惱硭伎寂c制定方面，政府與國(guó)際組織，企業(yè)和工程師專家都已經(jīng)開始行動(dòng)，加強(qiáng)人工智能開發(fā)和應(yīng)用的頂層設(shè)計(jì)，引導(dǎo)和規(guī)制人工智能技術(shù)良好發(fā)展，政府相關(guān)部門對(duì)人工智能產(chǎn)品從設(shè)計(jì)、研發(fā)、數(shù)據(jù)采集、市場(chǎng)推廣和應(yīng)用等環(huán)節(jié)進(jìn)行全方位監(jiān)管。而設(shè)計(jì)師也需要發(fā)出自己的聲音。使人工智能在研發(fā)和設(shè)計(jì)階段就接受倫理準(zhǔn)則的約束，設(shè)計(jì)出符合政策和法律的人工智能產(chǎn)品。

八、機(jī)器人生命體能否與人類同權(quán)的問(wèn)題

在機(jī)器人技術(shù)快速發(fā)展以及與人類關(guān)系日益密切的時(shí)代背景中，人工智能出現(xiàn)“去人類中心化”和“去人類控制化”的趨勢(shì)，機(jī)器人的自主性一方面讓人產(chǎn)生擔(dān)憂，一方面也讓關(guān)于機(jī)器人權(quán)利問(wèn)題的討論受到越來(lái)越多的關(guān)注。藝術(shù)家總是率先敏感地認(rèn)識(shí)到這一點(diǎn)，有關(guān)AI的科幻作品不斷面世，描繪了智能機(jī)器人的普及與覺醒，例如《底特律：變?nèi)恕分袡C(jī)器人馬庫(kù)斯在人類的電視臺(tái)上發(fā)出宣言：“現(xiàn)在你們?nèi)祟惐仨氄曃覀兊拇嬖?，……我要求你們承認(rèn)我們的尊嚴(yán)和家園，我要求你們承認(rèn)我們的尊嚴(yán)和我們的訴求，以及我們的權(quán)利，讓我們攜手起來(lái)，我們可以和平共處，為人類及仿生人打造更好的未來(lái)，這個(gè)呼聲代表了一個(gè)民族的希望，你們?cè)?jīng)賦予我們生命，現(xiàn)在是時(shí)候賦予我們自由了?！倍▏?guó)藝術(shù)小組Obvious用人工智能描繪的《埃蒙德·貝拉米肖像》在紐約佳士得拍賣中以43萬(wàn)美元成交，激發(fā)了一系列關(guān)于AI藝術(shù)以及其與人類關(guān)系的討論。

2016年谷歌公司的一款圍棋人工智能程序AlphaGo以4∶1戰(zhàn)勝了韓國(guó)九段棋手李世石，似乎成為一個(gè)劃時(shí)代的象征：“機(jī)器戰(zhàn)勝了人”。著名科幻作家、“機(jī)器人學(xué)之父”阿西莫夫提出“機(jī)器人三原則”：“1.機(jī)器人不得傷害人類；2.機(jī)器人必須服從人類的命令，除非這條命令與第一條原則相矛盾；3.機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條原則相矛盾?！比斯ぶ悄艿纳鐣?huì)化應(yīng)用，不再單純是經(jīng)濟(jì)和設(shè)計(jì)的問(wèn)題，而是重要的社會(huì)問(wèn)題，涉及道德代碼、隱私、正義、有益性、安全、責(zé)任等問(wèn)題。作為人類的設(shè)計(jì)產(chǎn)品，人工智能機(jī)器人還不能看做與人類同權(quán)的生命體，它分擔(dān)了人類的部分知識(shí)和智慧功能，但在最重要的創(chuàng)造性和評(píng)審創(chuàng)造性價(jià)值方面無(wú)法替代，在現(xiàn)階段，智能機(jī)器人不應(yīng)具備“人”的資格。

縱觀機(jī)械發(fā)展史，關(guān)于自動(dòng)化的一切嘗試都是人的體外功能的延伸，而現(xiàn)在，人工智能則是人的頭腦功能的延伸，讓機(jī)器人在智力上超越了人類。在外型上，類人機(jī)器人也發(fā)展迅猛。由中國(guó)香港的漢森機(jī)器人技術(shù)公司（Hanson Robotics）開發(fā)的機(jī)器人索非亞（Sophia）2017年在瑞士日內(nèi)瓦“善用人工智能”峰會(huì)上亮相。2017年10月26日，沙特阿拉伯授予索菲亞公民身份。歐盟已經(jīng)開始考慮要不要賦予智能機(jī)器人“電子人”的法律人格。另外，具有人工智能的硅膠娃娃也在悄悄改變著人類的情感關(guān)系。一些未來(lái)學(xué)學(xué)者和技術(shù)專家預(yù)言：未來(lái)，人工智能很可能按照我們?nèi)祟惖姆绞?，從情感、智力和精神層面，?lái)體驗(yàn)這個(gè)世界。服務(wù)類機(jī)器人與人類的交互對(duì)人類的行為和心理將產(chǎn)生什么樣的影響？日本經(jīng)濟(jì)新聞報(bào)道，一家運(yùn)營(yíng)招聘網(wǎng)站的日本公司DIP針對(duì)500名從事兼職的15-26歲男女調(diào)查，了解人們對(duì)于和人工智能談戀愛或交朋友的態(tài)度，結(jié)果顯示，近六成男性對(duì)于與AI交往持積極態(tài)度，而超過(guò)六成的女性拒絕與AI交往。

九、人工人和智能機(jī)器人的關(guān)系問(wèn)題

設(shè)計(jì)倫理的構(gòu)建需要在統(tǒng)一明確的倫理體系之下，將相關(guān)的各個(gè)交叉學(xué)科聯(lián)系起來(lái)，協(xié)同合作，研究與人工智能設(shè)計(jì)相關(guān)的倫理道德。這不僅僅是合理設(shè)計(jì)某種人工智能，也是關(guān)于人工智能合理做設(shè)計(jì)的問(wèn)題，基于人工智能的設(shè)計(jì)學(xué)理論建構(gòu)也在進(jìn)行之中，軟件設(shè)計(jì)工程師所做的工作將會(huì)被智能機(jī)器人所代替，即創(chuàng)造者被其創(chuàng)造的技術(shù)產(chǎn)品所代替，智能機(jī)器人已經(jīng)開始從事文學(xué)和新聞創(chuàng)作，甚至進(jìn)行繪畫藝術(shù)創(chuàng)作，同樣，將來(lái)有許多設(shè)計(jì)工作，例如重復(fù)的算法的部分可以交付人工智能去處理甚至去設(shè)計(jì)。當(dāng)強(qiáng)人工智能機(jī)器人具有了“自主意識(shí)”和“表意能力”的時(shí)候，便會(huì)產(chǎn)生知識(shí)產(chǎn)權(quán)等問(wèn)題：我們?cè)鯓涌创悄軝C(jī)器的創(chuàng)作，該項(xiàng)著作權(quán)利應(yīng)歸屬于機(jī)器還是創(chuàng)制機(jī)器的人？怎樣預(yù)防智能機(jī)器的抄襲？智能機(jī)器的創(chuàng)作將會(huì)給人類帶來(lái)什么影響？未來(lái)機(jī)器人設(shè)計(jì)的作品是否享有權(quán)利？設(shè)計(jì)權(quán)應(yīng)該歸屬機(jī)器還是設(shè)計(jì)機(jī)器人的設(shè)計(jì)師或所有人？2016年5月31日，歐盟委員會(huì)法律事務(wù)委員會(huì)提交一項(xiàng)動(dòng)議，要求歐盟委員會(huì)把正在自動(dòng)化智能機(jī)器“工人”的身份界定為“電子人”的身份，并賦予這些機(jī)器人依法享有著作權(quán)等特殊的權(quán)利與義務(wù)。

2018年11月23日“首屆未來(lái)哲學(xué)論壇”在上海召開，討論的主題便是“技術(shù)與人類未來(lái)”。業(yè)已出現(xiàn)的各種可穿戴電子設(shè)備又有利于人們生活的一面，但是據(jù)《環(huán)球時(shí)報(bào)·英文版》2018年12月20日?qǐng)?bào)道，在貴州省仁懷市第十一中學(xué)，學(xué)生現(xiàn)在都穿上了一套智能校服，被精準(zhǔn)、及時(shí)記錄出勤和活動(dòng)，甚至包括打瞌睡。更進(jìn)一步，人體埋入芯片和基因改造，讓自然的人類文明正在過(guò)渡為技術(shù)的“類人文明”——人類身-心的雙重非自然化或技術(shù)化，即目前主要由生物技術(shù)（基因工程）實(shí)施的人類自然身體的技術(shù)化，以及由智能技術(shù)（算法）完成的人類智力和精神的技術(shù)化。美國(guó)芝加哥藝術(shù)學(xué)院科技與藝術(shù)學(xué)系主任科技藝術(shù)家愛德華·卡茨（Eduardo Kac）將具身份辨識(shí)功能的生物芯片植入自己的腳踝中，通過(guò)網(wǎng)絡(luò)掃描裝置，將自己登錄于動(dòng)物名錄中。隨著當(dāng)代科技的發(fā)展趨勢(shì)，人的身體漸漸被視為計(jì)算機(jī)的延伸裝置，生物芯片與網(wǎng)絡(luò)登錄將生物信息微型壓縮，“真實(shí)記憶”與“數(shù)位記憶”共存并被植入人體內(nèi)，人類的存在經(jīng)由網(wǎng)絡(luò)數(shù)位內(nèi)存記錄，人的軀體信息可以通過(guò)網(wǎng)絡(luò)進(jìn)行擴(kuò)散，這一切都讓人產(chǎn)生質(zhì)疑。

特斯拉電動(dòng)汽車公司與SpaceX老板埃隆·馬斯克（Elon Musk）一直在警告人類對(duì)機(jī)器人不要掉以輕心，以免淪為機(jī)器的奴役或滅絕。但是他與他人創(chuàng)辦的總部在舊金山的神經(jīng)科技公司Neuralink正在研制可以植入人腦的“腦機(jī)界面”（braincomputer interfaces， BCIs），人腦和電腦的零接觸交流互動(dòng)，開始用人工智能來(lái)“制造”增強(qiáng)版人類。列入“2016年中國(guó)十大科技進(jìn)展新聞”的中科院自動(dòng)化所的人類腦圖譜繪制成功，推進(jìn) “類腦智能”形成新型智能形態(tài)，兼具生物（人類）智能體的環(huán)境感知、記憶、推理、學(xué)習(xí)能力和機(jī)器智能體的信息整合、搜索、計(jì)算能力?！妒Э亍返淖髡邉P文·凱利（Kevin Kelly）指出，人造物與自然生命之間有兩種趨勢(shì)正在發(fā)生：1. 人造物表現(xiàn)得越來(lái)越像生命體；2. 生命變得越來(lái)越工程化。在人越來(lái)越像機(jī)器，而機(jī)器越來(lái)越像人的時(shí)代，人與機(jī)器的區(qū)別模糊起來(lái)。人工智能帶來(lái)了對(duì)人自身認(rèn)知的困境，高階人工智能的發(fā)展，容易造成人類對(duì)本身存在價(jià)值的懷疑。那么，自然人類被技術(shù)化（非自然化）的限度在哪里？新生命哲學(xué)或未來(lái)哲學(xué)的任務(wù)就是必須對(duì)人類未來(lái)生命的方向和形態(tài)有一個(gè)整體的預(yù)測(cè)和規(guī)劃。否則，哲學(xué)缺席，作為心靈安撫的神學(xué)便會(huì)應(yīng)時(shí)而生。

十、人工智能神化帶來(lái)的信仰問(wèn)題

人類的野心就是，“像上帝一樣創(chuàng)造”。以色列新銳歷史學(xué)家尤瓦爾·赫拉利（Yuval Noah Harari）在《未來(lái)簡(jiǎn)史：從智人到智神》中認(rèn)為，人類應(yīng)當(dāng)隨著數(shù)碼化革命成為“神人”。德國(guó)波恩大學(xué)國(guó)際哲學(xué)中心主任馬庫(kù)斯·加布里爾（Markus Cabriel）在一次論壇發(fā)言中也提到，有關(guān)人工智能的爭(zhēng)論充滿了神學(xué)前提?！都~約客》報(bào)道（圖2），前谷歌無(wú)人車和 Uber無(wú)人車的天才研發(fā)工程師萊萬(wàn)多斯基（Anthony Levandowski）在2015年9月申請(qǐng)創(chuàng)建世界上第一個(gè)崇拜人工智能的宗教“未來(lái)之路” （Way of The Future）組織，并宣稱：“在人工智能的基礎(chǔ)上實(shí)現(xiàn)接受并崇拜上帝?！痹诠韫?，有很多人相信存在一個(gè)時(shí)間“奇點(diǎn)”（singularity），那時(shí)人工智能會(huì)超越人類的智慧，反過(guò)來(lái)成為世界的統(tǒng)治者。

負(fù)責(zé)任的設(shè)計(jì)一定要詢問(wèn)：設(shè)計(jì)的目的是什么？工程師設(shè)計(jì)師要反思智能產(chǎn)品關(guān)涉的技術(shù)風(fēng)險(xiǎn)，做好智能產(chǎn)品前瞻性的倫理評(píng)估，避免智能產(chǎn)品倫理缺位；限制全能機(jī)器人的設(shè)計(jì)，始終掌握人機(jī)關(guān)系的主導(dǎo)權(quán)。在人工智能產(chǎn)品設(shè)計(jì)中，設(shè)計(jì)師和工程師組成了跨領(lǐng)域的設(shè)計(jì)團(tuán)隊(duì)，因此設(shè)計(jì)的倫理需要通過(guò)團(tuán)隊(duì)溝通和交流，要確保每位參與者得到教育、培訓(xùn)和賦權(quán)，并在自主和智能系統(tǒng)的設(shè)計(jì)和開發(fā)中會(huì)優(yōu)先考慮倫理 問(wèn)題。讓所有人參與到倫理對(duì)話和建設(shè)中來(lái)，由此形成相對(duì)清晰具有活力的設(shè)計(jì)倫理。與人類價(jià)值相一致的設(shè)計(jì)方法應(yīng)該成為現(xiàn)代人工智能和自主系統(tǒng)組織關(guān)注的焦點(diǎn)。系統(tǒng)設(shè)計(jì)方法符合倫理，才能確保人工智能在追求商業(yè)上的經(jīng)濟(jì)效益和社會(huì)中的社會(huì)效益之間達(dá)到均衡，從而讓設(shè)計(jì)將成為一個(gè)強(qiáng)有力的改變世界的工具。

如今，研發(fā)安全且合乎道德的人工智能的責(zé)任幾乎完全落在研發(fā)公司的身上。但是，僅僅靠科技企業(yè)以及工程師和設(shè)計(jì)師的自律是不夠的，還需要社會(huì)學(xué)、哲學(xué)、倫理學(xué)等其他學(xué)科的學(xué)者積極參與。人工智能系統(tǒng)設(shè)計(jì)者如何更多著力于如何防范濫用、誤用和惡意使用，以及如何化解這種情況可能帶來(lái)的危害？需要社會(huì)機(jī)構(gòu)、社會(huì)組織、專業(yè)機(jī)構(gòu)合作，積極參與以倫理為先導(dǎo)的社會(huì)規(guī)范調(diào)控體系建設(shè)，讓倫理規(guī)范成為未來(lái)立法的組成部分，拿出新的公共政策準(zhǔn)則，政府和立法機(jī)構(gòu)必須制定以安全為核心的法律框架，形成以技術(shù)和法規(guī)主導(dǎo)的風(fēng)險(xiǎn)控制機(jī)制，來(lái)規(guī)范人工智能領(lǐng)域的發(fā)展。讓人類的自主性在科技時(shí)代始終存在。也許，需要構(gòu)建一種開放的全球性的討論機(jī)制和平臺(tái)，通過(guò)這種討論和共商機(jī)制，盡可能形成有效的、穩(wěn)重的、整合的新人類生命規(guī)劃，形成并加強(qiáng)倫理規(guī)范和公共政策準(zhǔn)則，“AI促進(jìn)良好“（AI for Good ）便是這樣一個(gè)聯(lián)合國(guó)平臺(tái)， 通過(guò)制定具體項(xiàng)目以及可持續(xù)發(fā)展目標(biāo)，促進(jìn)關(guān)于有益利用人工智能的對(duì)話，以年度全球峰會(huì)為中心，提出有助于實(shí)現(xiàn)更多全球 問(wèn)題解決為目的的人工智能研究主題，第三次 全球首腦會(huì)議將于2019年5月28日至31日在日內(nèi)瓦舉行。

結(jié)語(yǔ)

在本文中，設(shè)計(jì)具有更廣泛的定義，指涉到人工智能系統(tǒng)的設(shè)計(jì)，也具體到人工智能產(chǎn)品具體的設(shè)計(jì)，因此，倫理研究也要從技術(shù)倫理導(dǎo)向設(shè)計(jì)應(yīng)用倫理研究，而附屬于社會(huì)倫理之下的設(shè)計(jì)倫理本身也需要設(shè)計(jì)，讓設(shè)計(jì)在技術(shù)時(shí)代重獲“自然性”，筆者在《設(shè)計(jì)與自然》一書中提出，設(shè)計(jì)不是以人為本，而是以人與自然的和諧共生為本。和諧也是人工智能時(shí)代的終極價(jià)值追求，包括了人與人，自然人與機(jī)器人之間的和諧關(guān)系。技術(shù)的進(jìn)展需要一種節(jié)制和平衡的力量，這種力量就是對(duì)自然的“敬畏之心”，這種敬畏之心應(yīng)當(dāng)在倫理中體現(xiàn)出來(lái)，成為建立“去人類中心主義”的倫理核心，也就是倫理合自然之道，由此形成設(shè)計(jì)的倫理制度以及標(biāo)準(zhǔn)，把設(shè)計(jì)倫理變成對(duì)設(shè)計(jì)非常具體的行為約束，使其轉(zhuǎn)變成一個(gè)可操作的程序問(wèn)題，發(fā)揮倫理規(guī)范的先導(dǎo)性作用，從而對(duì)設(shè)計(jì)形成規(guī)范和調(diào)控，也為人工智能產(chǎn)品本身進(jìn)行倫理指引，讓自然人更自然，讓機(jī)器人更機(jī)器。正在到來(lái)的新生物文明的標(biāo)志，就是使得設(shè)計(jì)再次回歸自然。2018年教育部印發(fā)了《高等學(xué)校人工智能創(chuàng)新行動(dòng)計(jì)劃》，支持高校在“雙一流”建設(shè)中，加大對(duì)人工智能領(lǐng)域相關(guān)學(xué)科的投入，促進(jìn)相關(guān)交叉學(xué)科發(fā)展，探索“人工智能+X”人才培養(yǎng)模式。而我們的設(shè)計(jì)教育則是要加強(qiáng)創(chuàng)新精神，完善人工智能產(chǎn)品設(shè)計(jì)人才培養(yǎng)體系，培養(yǎng)學(xué)生挑戰(zhàn)的意識(shí)，宏大的情感，出色的想象力，清晰的倫理意識(shí)，確保我們?cè)谶M(jìn)化的舞臺(tái)上占有一席之地。