吳娜

人工智能經(jīng)過(guò)60多年的發(fā)展取得了舉世矚目的成就，成為當(dāng)代及未來(lái)發(fā)展的驅(qū)動(dòng)力之一。伴隨著人工智能的蓬勃發(fā)展，其倫理方面的問(wèn)題也漸漸浮現(xiàn)了出來(lái)：人工智能帶來(lái)勞動(dòng)異化問(wèn)題、人工智能的技術(shù)形態(tài)意識(shí)化問(wèn)題、人工智能的權(quán)利和責(zé)任問(wèn)題、人工智能發(fā)展中的環(huán)境倫理問(wèn)題等。鑒于人工智能發(fā)展的巨大影響力，人工智能倫理問(wèn)題必須引起重視，增強(qiáng)研發(fā)主體的道德責(zé)任感、積極推進(jìn)人工智能發(fā)展規(guī)范化、法律化，加強(qiáng)各國(guó)的交流合作，確保人工智能在造福人類的軌道上發(fā)展，還人工智能一顆“良芯”。

如果說(shuō)大數(shù)據(jù)是21世紀(jì)的“新石油”，人工智能就是社會(huì)發(fā)展的引擎，世界各個(gè)國(guó)家紛紛將人工智能的發(fā)展上升至國(guó)家發(fā)展戰(zhàn)略層面。2017年，日本出臺(tái)《下一代人工智能推進(jìn)戰(zhàn)略》，明確了人工智能發(fā)展的技術(shù)重點(diǎn)，并推動(dòng)人工智能技術(shù)向強(qiáng)人工智能和超級(jí)人工智能的方向延伸。2018年，印度出臺(tái)《人工智能國(guó)家戰(zhàn)略》，充分利用人工智能這一變革性技術(shù)，促進(jìn)經(jīng)濟(jì)增長(zhǎng)和提升社會(huì)包容性，尋求一個(gè)適用于發(fā)展中國(guó)家的人工智能戰(zhàn)略部署。在我國(guó)，人工智能從2017開(kāi)始連續(xù)三年寫進(jìn)政府工作報(bào)告，側(cè)重點(diǎn)從技術(shù)的研發(fā)轉(zhuǎn)向研發(fā)應(yīng)用上，這意味著發(fā)展AI已經(jīng)全面上升至國(guó)家戰(zhàn)略高度。

人工智能倫理問(wèn)題概況

1956年被譽(yù)為人工智能的元年，在該年的美國(guó)達(dá)特茅斯（Dartmouth）會(huì)議上，首次提出人工智能（Artificial Intelligence，簡(jiǎn)稱AI）這一術(shù)語(yǔ)，標(biāo)志著人工智能這一學(xué)科的正式誕生。從誕生之日起，人工智能一方面被視為一顆冉冉升起的新星，受人追捧而蓬勃發(fā)展，經(jīng)歷了兩次高潮;另一方面也備受質(zhì)疑，遭受了兩次嚴(yán)重的挫折，被稱為“人工智能的兩次寒冬”。1993年以后，人工智能才算贏來(lái)了嶄新的春天。

到今天，從來(lái)沒(méi)有哪項(xiàng)技術(shù)能夠像人工智能一樣引發(fā)人類無(wú)限的暢想，人工智能題材的電影越來(lái)越多地涌進(jìn)市場(chǎng)，2019年春節(jié)后上映的被譽(yù)為開(kāi)啟中國(guó)科幻片新紀(jì)元的電影《流浪地球》，再次引發(fā)了知識(shí)界關(guān)于人工智能倫理問(wèn)題廣泛的討論。在影片中，超級(jí)人工智能機(jī)器人Moss最后一句話“讓人類永遠(yuǎn)保持理智是一種奢求”，發(fā)人深省。“人工智能沒(méi)有情感，不相信希望，更不相信奇跡，因?yàn)槌绦虻乃季S方式和它的計(jì)算中沒(méi)有奇跡?！盵1]毫無(wú)疑問(wèn)，在Moss看來(lái)犧牲空間站去換取挽救地球微弱的可能性簡(jiǎn)直毫無(wú)理性，但它不明白的是在人類歷史進(jìn)程中，正是這種在危機(jī)關(guān)頭的奇跡、希望與自我犧牲才使得人類繁衍下去。

在人工智能發(fā)展的初期，科學(xué)家主要關(guān)注人工智能技術(shù)本身的發(fā)展，并且經(jīng)常會(huì)和哲學(xué)聯(lián)系起來(lái)，那是因?yàn)槿斯ぶ悄茴櫭剂x是研發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論。1950年發(fā)表的《計(jì)算機(jī)與智能》這篇文章中，作者阿蘭·麥席森·圖靈設(shè)計(jì)了一個(gè)非常有名的測(cè)試——圖靈測(cè)試，如果機(jī)器人能通過(guò)這一測(cè)試說(shuō)明其會(huì)思考，反之則不會(huì)。圖靈測(cè)試為人工智能的研究奠定了基礎(chǔ)，將人工智能與人緊密聯(lián)系起來(lái)，人工智能的倫理問(wèn)題也悄然而至。

同年，美國(guó)著名科幻作家阿西莫夫在《我，機(jī)器人》這本書(shū)中提出了三條機(jī)器人定律：“第一條，機(jī)器人不得傷害人類個(gè)體，不能目睹人類受到傷害而不干預(yù);第二條，機(jī)器人必須服從人類的命令，命令與第一條沖突除外;第三條，機(jī)器人在不違反第一條、第二條原則的情況下，要保護(hù)自身安全。”[2]“機(jī)器人三定律”的初衷是為了讓機(jī)器人的行為規(guī)范受到限制，使其道德地位處于人類之下，避免人工智能機(jī)器人的意志與人類的意志產(chǎn)生沖突，從而走向“毀滅人類”的歧途。

美國(guó)著名科學(xué)家J.R.塞爾根據(jù)人工智能的智能化程度將其區(qū)分為弱人工智能和強(qiáng)人工智能，簡(jiǎn)單地來(lái)說(shuō)，兩者的主要區(qū)別就在于弱人工智能是作為一種工具而存在，自身不具備獨(dú)立發(fā)展的意識(shí)。強(qiáng)人工智能不能簡(jiǎn)單地稱之為一種工具，它具有像人一樣獨(dú)立思考和決策的能力，可以產(chǎn)生一種理性的行動(dòng)。而且強(qiáng)人工智能奇點(diǎn)的存在（在物理學(xué)中奇點(diǎn)表示不存在的點(diǎn)）說(shuō)明了人類有被人工智能超越的可能。著名物理學(xué)家霍金也說(shuō)過(guò)：“生物大腦與電腦所能達(dá)到的成就并沒(méi)有本質(zhì)的差異。因此，從理論上講，電腦可以模擬人類智能，甚至可以超越人類?！?/p>

人工智能為人類社會(huì)帶來(lái)的潛在利益十分巨大，但是我們要警惕其帶來(lái)的各種危險(xiǎn)，包括強(qiáng)大的軍事武器。除此之外，人工智能還有可能進(jìn)化出自己的意志，對(duì)人類社會(huì)的影響更無(wú)法估量。對(duì)人類而言，強(qiáng)大的人工智能技術(shù)的崛起可謂“不成功，便成仁”，有時(shí)候，看似不太起眼的翅膀扇動(dòng)，卻很可能在不遠(yuǎn)的將來(lái)，引起人類社會(huì)山呼海嘯般的巨震。

關(guān)于人工智能問(wèn)題的研究國(guó)外比國(guó)內(nèi)起步要早，比較知名的有《智能的本質(zhì)》《人工智能簡(jiǎn)史》《人工智能哲學(xué)》等，這些書(shū)在描述技術(shù)發(fā)展帶來(lái)便利的同時(shí)也早早就對(duì)人類發(fā)出了警示，其中，諾伯特·維納指出，未來(lái)的機(jī)器人代替人類從事勞動(dòng)可能會(huì)導(dǎo)致人類的生存危機(jī)——使人類變得好吃懶做和愚笨，變成機(jī)器的附庸品。我國(guó)人工智能研究起步雖比國(guó)外稍晚一些，但對(duì)于人工智能的研究文獻(xiàn)卻不少，也取得了一定的研究成果。比較著名的有浙江師范大學(xué)鄭祥福教授在《人工智能的四大哲學(xué)問(wèn)題》[3]提出來(lái)的關(guān)于人的意向性問(wèn)題、概念框架問(wèn)題、語(yǔ)境問(wèn)題以及日常化認(rèn)識(shí)問(wèn)題。這四個(gè)問(wèn)題的闡述將有助于人工智能科學(xué)的基礎(chǔ)性問(wèn)題的解決。北京郵電大學(xué)的劉偉教授在《關(guān)于人工智能若干重要問(wèn)題的思考》[4]中啟發(fā)我們要用一個(gè)綜合性的眼光來(lái)看待強(qiáng)人工智能，而不能僅僅以一種工具的眼光視之。除此之外還有陳立鵬的《人工智能引發(fā)的科學(xué)技術(shù)倫理問(wèn)題》、劉燕的《情感機(jī)器人哲學(xué)的倫理維度》、李瓊的《人工智能的哲學(xué)思考》等。整體來(lái)看，我國(guó)在人工智能倫理領(lǐng)域研究并沒(méi)有特別的深入，只是由少部分的學(xué)者對(duì)其進(jìn)行了反思和初探，相關(guān)成型的倫理書(shū)籍著作更少。筆者試圖在以上成果的基礎(chǔ)之上，對(duì)當(dāng)前人工智能倫理問(wèn)題的困境進(jìn)行進(jìn)一步探究，以期推進(jìn)對(duì)該問(wèn)題的思考。

人工智能引發(fā)的倫理困境

人工智能帶來(lái)勞動(dòng)異化問(wèn)題

從人工智能的定義來(lái)看，人工智能研發(fā)的目的是將其作為人的對(duì)象化產(chǎn)物，即作為勞動(dòng)的外化而存在。勞動(dòng)外化本身并不造成勞動(dòng)的異化，反而可能促進(jìn)人的本質(zhì)的實(shí)現(xiàn)。那人工智能是如何導(dǎo)致勞動(dòng)的異化這一結(jié)果的呢？這就不得不說(shuō)到資本的本質(zhì)，資本的本質(zhì)是在運(yùn)動(dòng)循環(huán)中實(shí)現(xiàn)增值，追逐利益是資本的唯一目的。在科學(xué)技術(shù)是第一生產(chǎn)力的時(shí)代，人工智能所表現(xiàn)出的巨大的生產(chǎn)力必然吸引資本蜂擁而至，在資本的強(qiáng)烈的“裹挾”下，人工智能違背了設(shè)計(jì)的初心。“人正面臨著一股自己根本無(wú)法控制的力量，與這股力量相比，人只是一粒塵埃罷了”[5]資本與技術(shù)的合謀使人工智能越來(lái)越走向一條不歸路。

具體來(lái)說(shuō)，這種合謀導(dǎo)致的勞動(dòng)的異化是通過(guò)兩條途徑實(shí)現(xiàn)的：首先，自動(dòng)化縮小了社會(huì)的橫向分工，人工智能實(shí)現(xiàn)了生產(chǎn)的半自動(dòng)化、全自動(dòng)化，消除了生產(chǎn)對(duì)人類個(gè)體差異性的依賴。隨著人工智能研發(fā)的深入，更加完善的功能使得人工智能在社會(huì)分工體系中越來(lái)越占據(jù)主導(dǎo)地位，減弱了橫向分工之間的差距，普通勞動(dòng)者之間技術(shù)的差異性逐漸喪失，高效率自動(dòng)化生產(chǎn)的背后是資本剝削的進(jìn)一步加深，所有發(fā)生的一切都是靜悄悄的，被一種貌似平等的假象所掩蓋了。人越來(lái)越成為資本追逐利益下技術(shù)手段的附屬品，工人的生存狀態(tài)并沒(méi)有得到很大的改善，相反，隨著勞動(dòng)力對(duì)技術(shù)依賴性的增加以及由此造成的勞動(dòng)力本身在分工體系中競(jìng)爭(zhēng)力的下降，其生存狀態(tài)會(huì)進(jìn)一步的惡化。

其次，人工智能技術(shù)的壟斷阻隔了社會(huì)的縱向分工。在信息時(shí)代，基于大數(shù)據(jù)以及計(jì)算機(jī)應(yīng)用的自動(dòng)化生產(chǎn)成為了拉動(dòng)經(jīng)濟(jì)增長(zhǎng)的主要驅(qū)動(dòng)力，資本追逐利潤(rùn)的本質(zhì)使得大量資金都流入了那些掌握前沿科技的企業(yè)和人才手里，這樣造成了一方面是一些常規(guī)性的工作被代替以及由此造成的整個(gè)社會(huì)失業(yè)率的增加，在美國(guó)一些中產(chǎn)階級(jí)的工作被計(jì)算機(jī)、機(jī)器取代;另一方面，一些本來(lái)就處于社會(huì)分工等級(jí)上層、掌握前沿科技的企業(yè)，由于資本的大量流入使得這些企業(yè)的地位更加穩(wěn)固，甚至通過(guò)新的技術(shù)壟斷切斷了其他企業(yè)以及勞動(dòng)者突破社會(huì)分工的機(jī)會(huì)，進(jìn)而將不平等的社會(huì)分工等級(jí)秩序的牢籠扎得更緊。社會(huì)分工頂層和底層間不可逾越的斷裂帶的出現(xiàn)，使得社會(huì)兩極分化更加嚴(yán)重——窮人更窮、富人更富。收益最大的只是資本的擁有者，廣大勞動(dòng)群眾在現(xiàn)代化技術(shù)革命的浪潮中只是作為大量且廉價(jià)的技術(shù)附庸品而存在，而且隨著科學(xué)技術(shù)的進(jìn)一步發(fā)展將越來(lái)越多地被拋棄。

人工智能帶來(lái)的技術(shù)形態(tài)意識(shí)化問(wèn)題

技術(shù)本身承載著傳播意識(shí)形態(tài)的功能。馬爾庫(kù)塞在肯定資本技術(shù)的同時(shí)也高高地舉起了技術(shù)理性批判的旗幟，認(rèn)為科學(xué)技術(shù)與私有制度的結(jié)合造就了一種新的社會(huì)的統(tǒng)治力量。在發(fā)達(dá)資本主義社會(huì)，技術(shù)披著超階級(jí)的、非政治的面紗，反而呈現(xiàn)出更大的控制能力?！鞍l(fā)達(dá)工業(yè)社會(huì)和發(fā)展中工業(yè)社會(huì)的政府，只有當(dāng)他們能夠成功地動(dòng)員、組織和利用工業(yè)文明現(xiàn)有的技術(shù)、科學(xué)和機(jī)械生產(chǎn)率時(shí)，才能維持并鞏固自己?！盵6]在馬爾庫(kù)塞看來(lái)，科學(xué)技術(shù)的廣泛滲透使得人們受奴隸的方式發(fā)生了很大的變化，顯而易見(jiàn)的剝削方式消失了，取而代之的是看似公平合理的新型剝削，人的身體和思想徹底被附庸在機(jī)械化生產(chǎn)的體系中，在“科學(xué)”、“合理”的名頭下，底層勞動(dòng)者的不滿和憤怒被貼上了“反科學(xué)”的名稱，似乎生產(chǎn)效率決定一切?！凹夹g(shù)的解放力量轉(zhuǎn)而成為了解放的桎梏”[7]馬克思說(shuō)，人應(yīng)該是處于社會(huì)關(guān)系中的人，而在科學(xué)技術(shù)浪潮的沖刷下，人越來(lái)越成為單向度的人，關(guān)于人的本質(zhì)、關(guān)于自由而全面的吶喊淹沒(méi)在了科學(xué)技術(shù)的巨輪里。

科學(xué)技術(shù)的發(fā)展會(huì)創(chuàng)造更多的生產(chǎn)力，會(huì)創(chuàng)造更多的物質(zhì)財(cái)富，但是追求物質(zhì)財(cái)富是人的本質(zhì)嗎？答案是否定的，這就是近幾年風(fēng)靡全國(guó)的一個(gè)問(wèn)題：今天你幸福了嗎？相比于十年前，社會(huì)的物質(zhì)財(cái)富集聚增加，但是人們的幸福指數(shù)相比于十年前卻是有減無(wú)增。資本與技術(shù)合謀創(chuàng)造出了越來(lái)越多的物質(zhì)財(cái)富，引導(dǎo)人們產(chǎn)生一種“虛假的需求”，人就拜倒在物質(zhì)的腳底下，技術(shù)理性將人類引向效率原則，在高效率生產(chǎn)力所帶來(lái)的物質(zhì)財(cái)富增加的煙霧彈下，人逐漸變成物質(zhì)財(cái)富的奴隸。

人工智能的權(quán)利與責(zé)任

隨著科學(xué)技術(shù)的發(fā)展以及人機(jī)交互應(yīng)用范圍的擴(kuò)大，人工智能的倫理問(wèn)題已經(jīng)超出了一般的技術(shù)性倫理，其范圍延伸到“機(jī)器的人權(quán)倫理問(wèn)題”。2016年，中國(guó)第一臺(tái)美女機(jī)器人誕生于中國(guó)科技大學(xué)，取名“佳佳”，佳佳的外形接近人，佳佳目前具備了人機(jī)對(duì)話理解、面部的微表情、口型及軀體動(dòng)作匹配、大范圍動(dòng)態(tài)環(huán)境自主定位導(dǎo)航等功能。2017年10月26日，沙特阿拉伯授予美國(guó)漢森機(jī)器人索菲亞公民身份，索菲亞成為世界上首個(gè)獲得公民身份的機(jī)器人。伴隨“類人類生命”陸續(xù)問(wèn)世，它們不再是僅從事簡(jiǎn)單的體力勞動(dòng)的機(jī)器人，而是具備了一定的感知能力以及像人一樣的情感特征，甚至在與人類不斷交互的過(guò)程中會(huì)進(jìn)行情感的自動(dòng)進(jìn)化，這種發(fā)展的趨勢(shì)使得機(jī)器人的人權(quán)問(wèn)題不得不引起重視。美國(guó)未來(lái)學(xué)家雷·庫(kù)茲韋爾預(yù)言道：“擁有自我意識(shí)的非生物體（機(jī)器人）將于2029年出現(xiàn)，并于21世紀(jì)30年代成為常態(tài)，他們將具備各種微妙的、與人類相似的情感?！盵8]他還預(yù)言，2045年是極具深刻性和分裂型的轉(zhuǎn)變時(shí)間，“非生物智能在這一年將會(huì)10億倍于今天所有人類的智慧?！盵9]

人工智能技術(shù)的進(jìn)一步發(fā)展，一方面給人類帶來(lái)了巨大的便利，一方面使人權(quán)倫理問(wèn)題更加尖銳地?cái)[在了人類面前。比如，機(jī)器人是否應(yīng)該具有像人一樣的休息的權(quán)利，是否具有接受教育的權(quán)利，機(jī)器人是否可以作為家庭成員而存在，機(jī)器人有沒(méi)有可能損害人的生命安全。當(dāng)這種“類人類”的智能生命體不僅在相貌上越來(lái)越像人，而且能產(chǎn)生像人一樣的情感特征的時(shí)候，我們必須思考這些“類人性”的機(jī)器人是否應(yīng)該被賦予一定的人權(quán)。反對(duì)者有之，他們認(rèn)為給予智能體權(quán)利就是對(duì)人類權(quán)利的破壞，智能機(jī)器人的想法從一開(kāi)始就是為人類服務(wù)的，如果給這些機(jī)器人以一定的人權(quán)就違背了研發(fā)的初衷，甚至?xí)?lái)一些難以預(yù)料的后果。支持者有之，他們認(rèn)為在現(xiàn)在社會(huì)，人權(quán)的特征已經(jīng)不僅僅局限于普世性和道義性兩個(gè)基本特征而是具有了基礎(chǔ)性，既然機(jī)器人擁有一定的道德修養(yǎng)，并且可以與人類進(jìn)行一定的情感互動(dòng)，而且人類本身也可以看做是一個(gè)復(fù)雜的機(jī)器，甚至從某些方面來(lái)看，人工智能的智力情況已遠(yuǎn)遠(yuǎn)超過(guò)了人類，所以智能機(jī)器人理所應(yīng)當(dāng)被賦予一定的權(quán)力。

近年來(lái)，隨著科學(xué)技術(shù)的迅猛發(fā)展，人工智能正在憑借其巨大的優(yōu)勢(shì)向教育、交通、服務(wù)業(yè)、制造業(yè)、金融行業(yè)等領(lǐng)域進(jìn)軍。人工智能與人交互的機(jī)會(huì)越來(lái)越多，其憑借自身的學(xué)習(xí)能力會(huì)進(jìn)行自我的進(jìn)化和升級(jí)，升級(jí)和進(jìn)化的方向我們沒(méi)有辦法完全預(yù)測(cè)到，甚至不排除在一些情況下它會(huì)自作主張。人工智能的初心是為人類服務(wù)，最開(kāi)始的目的是想讓人類從復(fù)雜繁瑣的工作中解放出來(lái)，但是在人工智能的深層次的發(fā)展過(guò)程中有可能背離這個(gè)初心。美國(guó)科學(xué)家霍金就曾經(jīng)提醒過(guò)，人類緩慢的生物進(jìn)化機(jī)制沒(méi)有能力與人工智能以一種不斷增長(zhǎng)的速度競(jìng)爭(zhēng)。人工智能的這種自我進(jìn)化的能力讓人類非常的糾結(jié)，沒(méi)有一個(gè)人工智能的算法是絕對(duì)安全的，可以把包羅萬(wàn)象的人類社會(huì)發(fā)生的可能性全部預(yù)測(cè)到?！半S著醫(yī)學(xué)、生物學(xué)及計(jì)算機(jī)等學(xué)科關(guān)于意向性研究的突破，意向性在一定程度上可以通過(guò)程序自主生成，這會(huì)使得責(zé)任的劃分更加困難?！盵10]與此同時(shí)，人工智能技術(shù)規(guī)范遠(yuǎn)遠(yuǎn)落后于技術(shù)的發(fā)展，甚至在實(shí)驗(yàn)室里，這種規(guī)范的倫理意識(shí)剛剛處于萌芽階段。于是，人工智能的責(zé)任倫理的問(wèn)題越來(lái)越尖銳地?cái)[在人類面前——誰(shuí)應(yīng)該為這些不確定性的風(fēng)險(xiǎn)事故買單，是機(jī)器人本身還是其研發(fā)者還是應(yīng)用者？比如，工業(yè)自動(dòng)化時(shí)代，誰(shuí)來(lái)對(duì)那些失業(yè)的工人負(fù)責(zé)，自動(dòng)駕駛車問(wèn)世以后，誰(shuí)來(lái)為汽車事故承擔(dān)責(zé)任？如果用于醫(yī)療診斷的專家系統(tǒng)出現(xiàn)失誤，誰(shuí)來(lái)為醫(yī)療事故買單？如果沒(méi)有這方面的規(guī)范，責(zé)任界定的不清楚，潛在的責(zé)任方就會(huì)相互推諉，長(zhǎng)此以往勢(shì)必會(huì)造成人工智能風(fēng)險(xiǎn)事故的頻發(fā)。