【摘 要】 隨著人工智能科技革命中自動(dòng)駕駛技術(shù)的演進(jìn)，人類社會(huì)的交通圖景已經(jīng)發(fā)生深刻的變革。從自動(dòng)駕駛汽車操作系統(tǒng)的研發(fā)者角度分析，如果沒有明確的價(jià)值指引以及足夠的預(yù)期違法成本考慮，則無法保證自動(dòng)駕駛技術(shù)在重大經(jīng)濟(jì)利益面前長(zhǎng)期妥善發(fā)展。所以除了明晰在研發(fā)過程中應(yīng)遵循的道德倫理準(zhǔn)則，還應(yīng)構(gòu)建技術(shù)研發(fā)的動(dòng)態(tài)評(píng)估評(píng)價(jià)體系，明確研發(fā)者責(zé)任，使得其在設(shè)計(jì)制造軟件系統(tǒng)時(shí)，考慮責(zé)任預(yù)期并嚴(yán)格遵循相關(guān)法律規(guī)范。

【關(guān)鍵詞】 自動(dòng)駕駛技術(shù) 道德倫理準(zhǔn)則 研發(fā)者責(zé)任

一、自動(dòng)駕駛汽車的倫理困境

自動(dòng)駕駛領(lǐng)域非常受學(xué)界與媒體關(guān)注的一個(gè)話題就是自動(dòng)駕駛汽車的兩難困境問題。例如自動(dòng)駕駛汽車高速行駛至某事故路段時(shí)發(fā)現(xiàn)兩名事故受害者倒在道路中央，而自動(dòng)駕駛系統(tǒng)來不及剎車，唯一可以避免碾過兩名受害者的辦法就是向左前方轉(zhuǎn)向，但該選擇將撞上左前方的第三名行人并致其重傷或死亡。這種困境不僅存在于經(jīng)典的刑法教課書案例中，也存在于傳統(tǒng)的道路交通環(huán)境中。而自動(dòng)駕駛汽車所面臨的問題相較于傳統(tǒng)車輛更加棘手，其原因有二：第一，因?yàn)槿祟愸{駛員的反應(yīng)時(shí)間比較長(zhǎng)，從發(fā)現(xiàn)道路中央的受害者到采取行動(dòng)幾乎沒有思考的時(shí)間，所以不存在違反注意義務(wù)的情況，即使撞死了兩名行人也屬于意外事件。第二，即使存在足夠的反應(yīng)時(shí)間，人類駕駛員為了保全自己決定直行撞死兩名受害者或左轉(zhuǎn)撞死一名行人，也可能因?yàn)榉暇o急避險(xiǎn)情況而被免責(zé)。但自動(dòng)駕駛系統(tǒng)則不同，自動(dòng)駕駛系統(tǒng)用0.2秒就可通過傳感器感知緊急情況，而這種反應(yīng)是通過事先編程來決定價(jià)值優(yōu)先次序。如此一來，在生命與生命之間的取舍取決于兩難困境中編寫自動(dòng)駕駛碰撞回避的算法程序。這種編程成為極端敏感的問題，引發(fā)了公眾對(duì)自動(dòng)駕駛技術(shù)的爭(zhēng)議甚至恐懼。

二、自動(dòng)駕駛碰撞回避算法

（一）功利主義算法。功利主義者算法是基于利益最大化的考慮選擇撞向損害利益較小的一方，也就是允許汽車左轉(zhuǎn)撞傷或撞死一名行人。該算法看似符合正確的價(jià)值觀念，保護(hù)利益更大的一方從而最大限度的降低損失，但這種單純衡量受害人數(shù)量的所謂最優(yōu)化模式違反了憲法的人格尊嚴(yán)至上與生命權(quán)絕對(duì)保護(hù)原則，與現(xiàn)行法律理論框架無法兼容。

（二）自我犧牲算法。該程序?qū)⒆詣?dòng)駕駛汽車的駕駛員或乘客視為風(fēng)險(xiǎn)創(chuàng)設(shè)者而要求其承擔(dān)風(fēng)險(xiǎn)，因此，算法程序被設(shè)置為優(yōu)先犧牲駕駛員或乘客。該程序設(shè)置顯然也經(jīng)不起推敲：第一，引入自動(dòng)駕駛技術(shù)的首先是自動(dòng)駕駛系統(tǒng)或車輛的生產(chǎn)商，創(chuàng)立風(fēng)險(xiǎn)者并不是使用自動(dòng)駕駛技術(shù)的駕駛員或者乘客;第二，該程序設(shè)置不利于自動(dòng)駕駛技術(shù)的推廣，這種自我犧牲程序的設(shè)置將大大降低車輛銷量及大眾對(duì)自動(dòng)駕駛技術(shù)的消費(fèi)興趣。

（三）擲色子算法。在兩難困境中，無論算法程序如何選擇都不能免除責(zé)任，因此，應(yīng)當(dāng)放棄編寫程序任由事態(tài)發(fā)展，即在自動(dòng)駕駛汽車直行撞向兩名行人，或者在兩邊人數(shù)相同的情況下設(shè)置擲骰子程序進(jìn)行隨機(jī)選擇。但這種逃避主義的方案顯然違背人類理性的要求，并且即使設(shè)置這種程序似乎也無法免于刑法上不作為的可罰性。

三、對(duì)自動(dòng)駕駛汽車研發(fā)者的監(jiān)管建議

（一）遵循人類倫理規(guī)則。人類目前對(duì)人工智能的發(fā)展表現(xiàn)出極大的隱憂，必須通過倫理與價(jià)值的設(shè)定以保障人工智能在合理的軌道上前進(jìn)。2017年，德國(guó)公布了針對(duì)自動(dòng)駕駛的道德準(zhǔn)則，確立了下述價(jià)值準(zhǔn)則，對(duì)算法邏輯的價(jià)值選擇提供了有益借鑒：道路安全優(yōu)于出行的效率;對(duì)于個(gè)體的保護(hù)優(yōu)于其他功利主義;法律應(yīng)當(dāng)在個(gè)人自由與他人自由間取得平衡;對(duì)人類權(quán)益的保護(hù)優(yōu)于動(dòng)物權(quán)利與財(cái)產(chǎn)權(quán)利。特別值得說明的是，該道德準(zhǔn)則還對(duì)生命的“兩難選擇”作出了特別的規(guī)定，要求不得對(duì)于某些極端情況提前設(shè)定標(biāo)準(zhǔn)化的計(jì)算邏輯，例如在路人與駕駛員同時(shí)在懸崖邊面臨碰撞時(shí)，不得提前設(shè)定以犧牲路人性命換取駕駛員存活的編程。人類的倫理概念也不是天生的，主要通過兩個(gè)途徑獲得，一個(gè)是人所有的感覺，另一個(gè)就是已相信的事物創(chuàng)造、解釋和衍生結(jié)果。因此，極有必要通過算法的頂層價(jià)值設(shè)計(jì)以實(shí)現(xiàn)人工智能法益位階的設(shè)定，確保人工智能自身邏輯不會(huì)突破底線。與之相對(duì)，如果研發(fā)者違背倫理規(guī)則設(shè)定算法，應(yīng)當(dāng)承擔(dān)相應(yīng)責(zé)任。

（二）設(shè)立研發(fā)者的嚴(yán)格責(zé)任。人工智能的發(fā)展趨勢(shì)是逐步成為技術(shù)黑箱，即使運(yùn)算的算法與邏輯可以被公開，但基于該算法可能產(chǎn)生的模型卻無法限定在固定模式內(nèi)，即便是研發(fā)者也無法完全預(yù)知其內(nèi)部的決策運(yùn)算邏輯。當(dāng)情況特殊時(shí)，自動(dòng)駕駛汽車在缺乏預(yù)設(shè)情景設(shè)定而獨(dú)立作出決策時(shí)，以產(chǎn)品缺陷的理由使生產(chǎn)者獨(dú)立承擔(dān)嚴(yán)格責(zé)任，顯然是不公平的。因此必須設(shè)立研發(fā)者的嚴(yán)格責(zé)任，以便于鏈?zhǔn)綑C(jī)制內(nèi)的相關(guān)主體明確自身權(quán)利與義務(wù)，并通過算法等技術(shù)的頂層設(shè)計(jì)盡力消除消極后果。從包括規(guī)制人類基因技術(shù)的應(yīng)用等高科技法的發(fā)展歷程分析，應(yīng)對(duì)自動(dòng)駕駛技術(shù)的禁止開發(fā)領(lǐng)域或者應(yīng)然共有價(jià)值選擇作出明確的限制性規(guī)定，以避免技術(shù)的研發(fā)陷入不可控的狀態(tài)。

（三）遵循強(qiáng)制性義務(wù)。自動(dòng)駕駛技術(shù)研發(fā)者還應(yīng)遵循一些強(qiáng)制性義務(wù)，例如創(chuàng)建開發(fā)與應(yīng)用數(shù)據(jù)記錄系統(tǒng)，強(qiáng)制妥善保存研發(fā)核心參數(shù)，以便于確定侵權(quán)事件的“因果關(guān)系”與責(zé)任主體。在人工智能的設(shè)計(jì)研發(fā)過程中，必須保證系統(tǒng)滿足動(dòng)態(tài)評(píng)估并具有監(jiān)測(cè)危險(xiǎn)的能力后再投入市場(chǎng)。技術(shù)開發(fā)的法律“負(fù)面清單”規(guī)定由研發(fā)者承擔(dān)相應(yīng)民事、刑事及其他責(zé)任，通過法律的震懾使得負(fù)面技術(shù)減少應(yīng)用效應(yīng)并將研發(fā)者作為承擔(dān)侵權(quán)責(zé)任的主體之一，同時(shí)滿足技術(shù)批判理論范式下所需的事前預(yù)防。

【參考文獻(xiàn)】

[1] 瑞恩·卡洛，邁克爾·弗魯姆金，伊恩·克爾，陳吉棟，董惠敏，杭穎穎.人工智能與法律的對(duì)話[M].上海人民出版社，2018.

[2] 袁曾.無人駕駛汽車侵權(quán)責(zé)任的鏈?zhǔn)椒峙錂C(jī)制——以算法應(yīng)用為切入點(diǎn)[J].東方法學(xué)，2019，缺失卷（5）：28-39.

[3] 司曉、曹建峰： 《論人工智能的民事責(zé)任： 以自動(dòng)駕駛機(jī)動(dòng)車和智能機(jī)器人為切入點(diǎn)》，《法律科學(xué) （ 西北政法大學(xué)學(xué)報(bào)） 》2017 年第 5 期。

作者簡(jiǎn)介：石月 （1994-），性別：女 民族：漢族 ，籍貫：遼寧阜新，職務(wù)：學(xué)生，學(xué)歷：研究生，單位：無，研究方向：知識(shí)產(chǎn)權(quán)