項(xiàng)志祥

得益于大數(shù)據(jù)、深度學(xué)習(xí)以及算法三要素的日益完善，“近年來(lái)人工智能呈現(xiàn)出爆發(fā)式的快速發(fā)展”。無(wú)人駕駛汽車、軍用無(wú)人機(jī)等人工智能產(chǎn)品從實(shí)驗(yàn)室開始進(jìn)入到實(shí)際應(yīng)用，“這些早期的技術(shù)僅僅只是一個(gè)開始，我們或許很快就能目睹一場(chǎng)機(jī)器人人格化大革命”。正當(dāng)人們歡欣鼓舞準(zhǔn)備迎接人工智能時(shí)代的到來(lái)，享受“智能生活”的同時(shí)，也有人對(duì)此表示擔(dān)憂。英國(guó)物理學(xué)家霍金在接受《泰晤士報(bào)》采訪時(shí)表示，人類需要控制人工智能，防止其可能帶來(lái)的毀滅性威脅。這并非危言聳聽，實(shí)際上人工智能時(shí)代是一個(gè)數(shù)據(jù)、代碼、算法的時(shí)代，如數(shù)據(jù)收集與個(gè)人隱私保護(hù)、算法黑箱等潛在風(fēng)險(xiǎn)都是法律理論與實(shí)踐過(guò)程中必須迅速應(yīng)對(duì)的。

一、人工智能時(shí)代的潛在風(fēng)險(xiǎn)

德國(guó)社會(huì)學(xué)家烏爾里?！へ惪耸状蜗到y(tǒng)提出“風(fēng)險(xiǎn)社會(huì)”概念。貝克認(rèn)為，“在風(fēng)險(xiǎn)社會(huì)階段，各種全球性風(fēng)險(xiǎn)對(duì)于人類的生存和發(fā)展都造成了一定的威脅”。對(duì)于人工智能技術(shù)來(lái)說(shuō)，正面作用是主要方面，潛在風(fēng)險(xiǎn)是次要方面，但只有控制好其潛在風(fēng)險(xiǎn)，才能更好地發(fā)揮正面作用。因此，要關(guān)注人工智能時(shí)代的潛在風(fēng)險(xiǎn)，制定應(yīng)對(duì)之策，以防止可能的全球性威脅。

1.開發(fā)者的壟斷風(fēng)險(xiǎn)。由于人工智能代表著國(guó)際上最前沿的科技，充滿了不確定性以及未知性，注定了能夠去研究、掌握并使用它的必定是財(cái)力雄厚和資源豐富的社會(huì)團(tuán)體。這些社會(huì)團(tuán)體作為人工智能技術(shù)的開發(fā)者，實(shí)際上已經(jīng)擁有了最高話語(yǔ)權(quán)，由此也帶來(lái)了風(fēng)險(xiǎn)。自工業(yè)革命以來(lái)，大多數(shù)的行業(yè)產(chǎn)業(yè)都呈現(xiàn)著金字塔形態(tài)，即便是油氣或電信等行業(yè)，政府幾乎也無(wú)一例外的反對(duì)壟斷。但是，當(dāng)人工智能技術(shù)漸漸步入成熟階段，作為需要工資、保險(xiǎn)以及養(yǎng)老金的人類雇員在低成本的智能機(jī)器人面前將顯得不堪一擊，并且智能機(jī)器人的穩(wěn)定性也更優(yōu)于人類，各項(xiàng)資源得以被最大化利用。站在金字塔頂?shù)钠髽I(yè)或社團(tuán)能夠充分利用自身的資源優(yōu)勢(shì)，用更低成本更低定價(jià)的產(chǎn)品去擊敗對(duì)手，形成眾多壟斷或寡頭壟斷市場(chǎng)。

2.人工智能物的變異風(fēng)險(xiǎn)。強(qiáng)人工智能時(shí)代，人工智能物能夠擁有如人類一般的思維能力和運(yùn)動(dòng)能力，其在某些方面甚至超越人類，這顯得霍金的擔(dān)憂不無(wú)道理。一方面，當(dāng)人工智能物在多個(gè)方面都超越人類的智能，人類為其設(shè)定的框架不論是法律制度也好還是內(nèi)嵌的道德紅線也好，是否對(duì)其具有現(xiàn)實(shí)的約束力；當(dāng)人工智能物形成自身的意識(shí)同盟，行為一致地破壞規(guī)則，人類又是否有足夠的限制力。另一方面，人工智能物的行動(dòng)實(shí)際上由代碼和算法來(lái)控制，當(dāng)其運(yùn)行系統(tǒng)被黑客或更高級(jí)別的人工智能物侵入，彼時(shí)則不僅是互聯(lián)網(wǎng)時(shí)代的隱私泄露和財(cái)產(chǎn)安全問(wèn)題，更會(huì)涉及到人類生存問(wèn)題。這些變異風(fēng)險(xiǎn)為人工智能技術(shù)的發(fā)展抹上了一絲隱憂。

3.消費(fèi)者的法律風(fēng)險(xiǎn)。消費(fèi)者在使用人工智能物時(shí)，由于人工智能物的故障導(dǎo)致的損害行為到底由誰(shuí)來(lái)承擔(dān)責(zé)任，一直是現(xiàn)有法律要直面的問(wèn)題。在弱人工智能時(shí)代，人工智能物主要用于智能增強(qiáng)，其損害行為可大體適用產(chǎn)品責(zé)任法，即通過(guò)對(duì)開發(fā)、制造和使用過(guò)程中故障成因的界定來(lái)分別對(duì)編寫者、制造商和消費(fèi)者進(jìn)行追責(zé)。然而在強(qiáng)人工智能時(shí)代，人工智能物具有自身的理解判斷，當(dāng)其引起的損害行為并非由硬件原因?qū)е?，將使消費(fèi)者面臨法律風(fēng)險(xiǎn)。一方面，開發(fā)者的算法設(shè)定通常未公開且監(jiān)管困難，使得消費(fèi)者的權(quán)益保護(hù)較難得以主張；另一方面，人工智能物本身并無(wú)財(cái)產(chǎn)權(quán)利，現(xiàn)有民法無(wú)法對(duì)其追責(zé)，而刑法的處罰對(duì)于損害行為本身來(lái)說(shuō)又顯得于事無(wú)補(bǔ)。

4.人類的生存風(fēng)險(xiǎn)。人工智能時(shí)代的到來(lái)將使得人類中心主義受到前所未有的挑戰(zhàn)。從工業(yè)革命到信息革命，不論生產(chǎn)力如何發(fā)展，信息如何聯(lián)通，人類一直無(wú)可爭(zhēng)議地是這個(gè)生態(tài)系統(tǒng)向前發(fā)展的核心推動(dòng)力。人類智力超群，能夠勞動(dòng)，但是面對(duì)人工智能物將顯得遜色，從而引發(fā)其生存風(fēng)險(xiǎn)。一方面，人類可能淪為人工智能物的附庸。眾所周知，人類區(qū)別于其他物種的根本特征就是勞動(dòng)，當(dāng)人工智能物可以完全替代人類時(shí)，勞動(dòng)這一根本特征便會(huì)逐漸消失，人類反而成為其所創(chuàng)造之物的配角。另一方面，人工智能物的反叛風(fēng)險(xiǎn)。當(dāng)人工智能物進(jìn)化地足夠強(qiáng)大，脫離了為其設(shè)定的路徑，它們似乎并不再需要地球上人類這個(gè)龐大的種群繼續(xù)存在，而人類也沒(méi)有足夠的能力與之抗衡，人類的生存空間將受到威脅。

二、 人工智能的認(rèn)識(shí)誤區(qū)

互聯(lián)網(wǎng)時(shí)代的到來(lái)曾讓人們歡欣鼓舞，認(rèn)為人與人之間的聯(lián)系將更加緊密，而實(shí)際上卻是漸漸疏遠(yuǎn)，面對(duì)面的交流減少，通過(guò)電子設(shè)備進(jìn)行溝通的方式取而代之。筆者認(rèn)為，現(xiàn)階段對(duì)于人工智能的認(rèn)識(shí)同樣存在誤區(qū)。

1.失業(yè)問(wèn)題。無(wú)可否認(rèn)的是，人工智能時(shí)代的來(lái)臨將會(huì)造成大規(guī)模的失業(yè)，“人類社會(huì)很可能分成兩大階層，一個(gè)是非常少的、‘升級(jí)后的精英階層，而絕大部分人將變成沒(méi)有任何經(jīng)濟(jì)價(jià)值的‘無(wú)用階級(jí)”。但是，傳統(tǒng)意義上來(lái)說(shuō)就業(yè)是為了維持生存，實(shí)現(xiàn)人生價(jià)值，較低的失業(yè)率能夠保證社會(huì)的穩(wěn)定，而人工智能時(shí)代大部分簡(jiǎn)單的重復(fù)的勞動(dòng)將被機(jī)器取代，人類得以解放，物質(zhì)極大地豐富之后人們并沒(méi)有太多關(guān)于物質(zhì)的憂慮。因此，人工智能時(shí)代的失業(yè)與傳統(tǒng)意義上的失業(yè)存在著很大的區(qū)別，失業(yè)后人們的關(guān)注點(diǎn)相較于物質(zhì)欲更多的是心理的滿足。

2.人工智能的效用。人工智能時(shí)代，人類相當(dāng)部分的簡(jiǎn)單重復(fù)勞動(dòng)可以被替代，這使我們產(chǎn)生了一種錯(cuò)覺(jué)，即人類將從事的都是級(jí)別更高的工作，人類將變得更強(qiáng)大。事實(shí)上，“每普及一個(gè)工具，人們就失去了一個(gè)學(xué)習(xí)相應(yīng)技能的機(jī)會(huì)”，計(jì)算機(jī)的發(fā)明弱化了人們的書寫能力，導(dǎo)航的發(fā)明弱化了人們的認(rèn)路能力。人類被人工智能替代的工作越多，人類自身的基本技能也喪失地越快。很難想象，連基本技能都逐漸喪失的人類，能夠熟練地運(yùn)用高級(jí)技能持續(xù)有效地對(duì)人工智能進(jìn)行規(guī)制。

三、人工智能的法律應(yīng)對(duì)

現(xiàn)階段，既不能對(duì)人工智能時(shí)代的到來(lái)矢口否認(rèn)，將強(qiáng)人工智能歸類于科幻，也不宜過(guò)于狂熱，認(rèn)為人工智能時(shí)代的浪潮馬上就要席卷全球。法律往往是滯后的，但法律也可以是前瞻的，以法律來(lái)應(yīng)對(duì)人工智能時(shí)代的潛在風(fēng)險(xiǎn)應(yīng)屬未雨綢繆的做法。同時(shí)應(yīng)當(dāng)注意過(guò)猶不及，將人工智能技術(shù)限定在合法的框架內(nèi)，才能保證其健康發(fā)展。

1.守住底線，設(shè)定人工智能的準(zhǔn)入條件。美韓等國(guó)有關(guān)殺人機(jī)器人的研究水平處于世界前列，當(dāng)其有朝一日真正應(yīng)用于戰(zhàn)爭(zhēng)，無(wú)異于打開了“潘多拉魔盒”，部署此類武器令國(guó)際各方難以接受；性愛(ài)機(jī)器人看似消費(fèi)者的個(gè)人行為，但其背后卻牽涉有關(guān)人類繁衍的倫理問(wèn)題，也導(dǎo)致一部分人的極力反對(duì)；得益于人工智能技術(shù)的“深度偽造”視頻可以偽造人臉，即使親眼所見也可能不是事實(shí)，這給新聞和司法審判等領(lǐng)域帶來(lái)巨大障礙……人工智能效力強(qiáng)大，能夠應(yīng)用于生產(chǎn)生活多個(gè)層面，以至于必須保證其在合理合法的框架內(nèi)運(yùn)行，對(duì)于明顯非法或尚有爭(zhēng)議的應(yīng)用亮出紅牌，相關(guān)技術(shù)應(yīng)審慎準(zhǔn)入，維護(hù)人工智能的“純潔性”。

2.厘清因果，確立產(chǎn)銷一體的擔(dān)責(zé)體系。首先，由人工智能物所引起的侵害事件的責(zé)任承擔(dān)，應(yīng)當(dāng)以人工智能技術(shù)所處的階段加以區(qū)分。在弱人工智能時(shí)代，人工智能物可以簡(jiǎn)單地當(dāng)做某種“工具”，操作不當(dāng)?shù)膿p害責(zé)任應(yīng)由使用者承擔(dān)，而產(chǎn)品缺陷責(zé)任則應(yīng)由生產(chǎn)商承擔(dān)。在強(qiáng)人工智能時(shí)代，人工智能物自身有處理能力，若因其本身的編程或算法漏洞而引起的損害責(zé)任理所應(yīng)當(dāng)由開發(fā)者來(lái)承擔(dān)。其次，可設(shè)置專門的人工智能監(jiān)管部門，在產(chǎn)品上市前先進(jìn)行抽樣調(diào)查并試用無(wú)誤后再準(zhǔn)予流入市場(chǎng)，守住最后一道關(guān)口。再其次，應(yīng)盡快出臺(tái)人工智能物保險(xiǎn)制度，例如家庭汽車的強(qiáng)制保險(xiǎn)，將可能引起的損害風(fēng)險(xiǎn)最小化。

3.分清主客，把握好人類中心主義原則。對(duì)于是否給予人工智能物法律主體地位，學(xué)術(shù)界一直存在爭(zhēng)議。人工智能物是無(wú)生命體，由人類創(chuàng)造，有人類的行為能力卻缺失責(zé)任能力，無(wú)自身獨(dú)有的利益，并不符合法理上對(duì)于法律主體的定義。但是，人工智能物又完全可能有獨(dú)立于人類的意識(shí)并為法律意義上之行為，存在被定義為法律主體的核心基礎(chǔ)。不論如何，人類給予了人工智能“生命”，必須恪守人類中心主義這一基本原則，以人類為主，人工智能為客。當(dāng)人工智能危及人類地位，應(yīng)當(dāng)啟用緊急預(yù)案對(duì)其予以銷毀或永久清除數(shù)據(jù)等處理。

誠(chéng)然，人工智能未來(lái)將往何處去，人工智能從業(yè)者也無(wú)法給出一個(gè)確切的答案，加之其技術(shù)的復(fù)雜性，讓任何國(guó)家的法律都難以面面俱到?，F(xiàn)階段對(duì)于人工智能的解讀，往往帶有一定的主觀色彩，或許在其發(fā)展的下一階段會(huì)轉(zhuǎn)移我們討論的方向也未可知。盡管如此，學(xué)界對(duì)于人工智能的關(guān)注是必要的，這讓法律與人工智能的聯(lián)系更加緊密，讓法律保持活力，能夠既關(guān)注國(guó)際大事也關(guān)注身邊之事，既關(guān)注社會(huì)變革也關(guān)注科技要聞。同時(shí)，正是因?yàn)橛辛朔傻慕槿?，人工智能才能夠更加蓬勃發(fā)展，一方面給人類的生活帶來(lái)巨變，另一方面彰顯人類道德與智慧的光輝。

（作者單位：華東政法大學(xué)法律學(xué)院）