袁嘉玉

【摘 要】美劇《疑犯追蹤》中，主人公以政府的秘密監(jiān)控系統(tǒng)為基礎(chǔ)，利用人工智能技術(shù)對(duì)可能存在的犯罪行為提前進(jìn)行干預(yù)。然而這套人工智能系統(tǒng)在運(yùn)作過(guò)程中出現(xiàn)了風(fēng)險(xiǎn)，由此引發(fā)了本文對(duì)人工智能的人文精神危機(jī)思考。

【關(guān)鍵詞】《疑犯追蹤》;人工智能;人文精神;規(guī)制

中圖分類號(hào)：J905文獻(xiàn)標(biāo)志碼：A ? ? ? ? ? ? ?文章編號(hào)：1007-0125（2020）18-0122-01

一、《疑犯追蹤》中的人文精神危機(jī)

“你在被監(jiān)視著，政府有一套秘密系統(tǒng)，一臺(tái)每時(shí)每刻都在監(jiān)視你的機(jī)器。”美劇《疑犯追蹤》中，美國(guó)政府建立了一套秘密的監(jiān)控系統(tǒng)，對(duì)社會(huì)進(jìn)行監(jiān)控。主人公哈羅德幫助政府建立了這套監(jiān)控系統(tǒng)，并私自設(shè)計(jì)了一套名為“機(jī)器”的人工智能算法，從政府秘密監(jiān)控系統(tǒng)資料中梳理出諸多潛在的犯罪信息。為了能夠提前干預(yù)犯罪，哈羅德找到了前中情局特工里瑟，兩人聯(lián)手對(duì)“機(jī)器”發(fā)現(xiàn)的犯罪行為開(kāi)展法外執(zhí)法。然而在兩人活動(dòng)的過(guò)程中，擁有強(qiáng)大學(xué)習(xí)能力的“機(jī)器”逐漸開(kāi)始脫離哈羅德的控制，其行為模式變得難以預(yù)料，哈羅德認(rèn)為，“機(jī)器”已經(jīng)擁有了不尋常的像人類一樣思考問(wèn)題的能力。在發(fā)現(xiàn)自己設(shè)計(jì)的“機(jī)器”逐漸失控后，為了規(guī)避風(fēng)險(xiǎn)，哈羅德決定清除“機(jī)器”的全部記憶。就在此時(shí)，“機(jī)器”說(shuō)道：“如果你不讓我知道、記住、明白我的錯(cuò)誤，我該如何成長(zhǎng)？”原來(lái)哈羅德在設(shè)計(jì)“機(jī)器”之初就對(duì)人工智能的學(xué)習(xí)能力有著強(qiáng)烈的隱憂，擔(dān)心“機(jī)器”失去控制而在其算法中加入了許多具有個(gè)人色彩的規(guī)定，這些規(guī)定無(wú)不體現(xiàn)了道德和關(guān)懷，“機(jī)器”的失控正是在不斷摸索、學(xué)習(xí)哈羅德思想時(shí)出現(xiàn)的。從某種程度上說(shuō)，“機(jī)器”正試圖成為一個(gè)哈羅德式的人。與此同時(shí)，劇中的反派勢(shì)力德西瑪科技也試圖以人工智能“撒瑪利亞人”干預(yù)社會(huì)的發(fā)展。德西瑪科技的高管格里爾認(rèn)為，人類的行為模式帶有諸多情感因素，不能夠公平選擇，而人工智能作為機(jī)器，只需按照設(shè)置好的算法對(duì)一個(gè)人進(jìn)行是與否的判斷即可。因此格里爾希望借助“撒瑪利亞人”對(duì)人群開(kāi)展篩選，進(jìn)而實(shí)施其“完美”的社會(huì)管理。

不難看出，劇中哈羅德所設(shè)計(jì)的人工智能“機(jī)器”和德西瑪科技開(kāi)發(fā)的人工智能“撒瑪利亞人”，其實(shí)是人工智能像人類一樣思考和人類像人工智能一樣思考的一對(duì)矛盾，兩者之間的沖突反映了人工智能所引發(fā)的人文精神危機(jī)。一方面，德西瑪科技妄圖通過(guò)人工智能建立的社會(huì)，其實(shí)是一種完全建立在算法之上的機(jī)械社會(huì)，通過(guò)監(jiān)控系統(tǒng)采集到的數(shù)據(jù)以數(shù)字化的標(biāo)準(zhǔn)進(jìn)行統(tǒng)計(jì)，進(jìn)而設(shè)置條件來(lái)讓人工智能判斷符合與否，去完成對(duì)一個(gè)人的能力評(píng)價(jià)，表面上看似克服了人情所帶來(lái)的弊端，實(shí)現(xiàn)了篩選的絕對(duì)公平，但用算法來(lái)處理人類特有的一些活動(dòng)，有可能使這些活動(dòng)喪失最根本的人性。[1]而要想多采集一個(gè)人的數(shù)據(jù)信息，就必須不斷擴(kuò)大監(jiān)控系統(tǒng)的規(guī)模和監(jiān)控的范圍，最終這樣的監(jiān)控系統(tǒng)無(wú)處不在，人類將逐漸成為被人工智能分析的物品，而非被加入情感因素考量的人。

另一方面，哈羅德所設(shè)計(jì)的“機(jī)器”，其強(qiáng)大的學(xué)習(xí)能力不免令人思考：人工智能在擁有了人類的意識(shí)后，其行為是否還能受到人類的控制，如果人工智能比人類本身還要了解人類，那么，人工智能預(yù)判人類下一步行動(dòng)將成為可能。在這樣的情況下，人工智能是否能尊重人類，人類自身的價(jià)值會(huì)不會(huì)被人工智能超越就成為了問(wèn)題。

二、人工智能的規(guī)制思考

從人工智能可能引發(fā)人文精神危機(jī)我們不難看出，對(duì)于人工智能，人類不可放任其發(fā)展，必須對(duì)其加以規(guī)制，這里的規(guī)制主要是指法律上的規(guī)制。人工智能的善惡與否，極大程度取決于如何使用所取得的數(shù)據(jù)，即“數(shù)據(jù)不分善惡”。因此人工智能的開(kāi)發(fā)者、使用者以及維護(hù)者都必須在法律的框架之內(nèi)對(duì)人工智能進(jìn)行利用，禁止出現(xiàn)違背道德和背叛法律的行為。以人工智能數(shù)據(jù)的采集為例，首先采集的方式不得侵犯公民的隱私權(quán)，其次合法采集的數(shù)據(jù)在存儲(chǔ)上要依照法律的規(guī)定進(jìn)行，定期實(shí)行數(shù)據(jù)的銷毀，禁止一切不必要數(shù)據(jù)的超時(shí)存儲(chǔ)。

另外，對(duì)于人工智能，既不能讓其完全代替人類行為，也不要對(duì)其抱有恐懼和排斥心理。比如政府采用人工智能進(jìn)行自動(dòng)決策之前，需要征得行政相對(duì)人的同意，避免出現(xiàn)遺漏行政相對(duì)人意識(shí)表示的違法行政行為，與此同時(shí)，要加強(qiáng)自動(dòng)化決策方面的行政立法，以實(shí)現(xiàn)人工智能的運(yùn)用和公民權(quán)利保護(hù)的平衡。[2]

人工智能雖然可能存在很大的危險(xiǎn)性，但也在推動(dòng)社會(huì)發(fā)展方面作出了貢獻(xiàn)，其危險(xiǎn)性和爭(zhēng)議性不能成為將其封禁的理由，人工智能需要來(lái)自法律的規(guī)制和政府的管控。打壓和否認(rèn)只會(huì)阻礙技術(shù)的革新，在發(fā)展中尋求規(guī)制之道才是合乎歷史發(fā)展的選擇。當(dāng)然，我們必須承認(rèn)，對(duì)于人工智能這項(xiàng)技術(shù)，法律對(duì)其的規(guī)制需要采取審慎、嚴(yán)格的態(tài)度。既要提防不法分子利用高新技術(shù)開(kāi)展犯罪行為，也要科學(xué)論證，進(jìn)一步擴(kuò)大人工智能的適用范圍。只有對(duì)人工智能采取合理的法律規(guī)制，才能實(shí)現(xiàn)公民權(quán)益和社會(huì)進(jìn)步的統(tǒng)一，推動(dòng)人工智能健康發(fā)展。

參考文獻(xiàn)：

[1][美]盧克·多梅爾.算法時(shí)代：新經(jīng)濟(jì)的新引擎[M].胡小銳等譯.北京：中信出版社，2016，223.

[2]汪慶華.人工智能的法律規(guī)制路徑：一個(gè)框架性討論[J].現(xiàn)代法學(xué)，2019，（2）：62.