宇文

新技術(shù)的研究和應(yīng)用不可避免會帶來倫理、法律等層面的爭議，如何控制風(fēng)險(xiǎn)，避免讓人們成為新技術(shù)的失錯犧牲品？

我們生活在技術(shù)潛力超乎尋常的年代。從納米技術(shù)到合成有機(jī)物，新技術(shù)帶給人類翻天覆地的變化。技術(shù)的潛力令人驚嘆也令人畏懼。無人機(jī)和新的智能手機(jī)一樣可能輕而易舉引爆炸彈，3D打印既可以制作工具也可以制作槍支。超級計(jì)算機(jī)能輕松管理個(gè)人檔案，也能易如反掌導(dǎo)致華爾街崩潰。

但是新技術(shù)無法回答如何解決這些技術(shù)所引發(fā)的道德問題和投資風(fēng)險(xiǎn)。作為未來科技領(lǐng)域權(quán)威的道德和倫理研究者，瓦拉赫在《科技失控》一書中，探討了作為技術(shù)的發(fā)明生產(chǎn)者和消費(fèi)者如何應(yīng)對飛速的技術(shù)發(fā)展所帶來的道德模糊問題。

Q： 人們是否應(yīng)該將決定權(quán)交給機(jī)器？

A： 殺人機(jī)器人只是把人類的決策權(quán)交給機(jī)器的一個(gè)例子。越來越多的非自主計(jì)算機(jī)和機(jī)器人有可能破壞了人（個(gè)人或企業(yè)）應(yīng)為其行為負(fù)責(zé)的基本原則，并有可能為任何技術(shù)的部署造成的危害承擔(dān)責(zé)任。談到非軍事機(jī)器人的用途將會使這一點(diǎn)更加清晰。大部分為家用目的開發(fā)的系統(tǒng)不應(yīng)該被禁止，在許多情況下，他們的好處遠(yuǎn)遠(yuǎn)大于風(fēng)險(xiǎn)。盡管如此，它們稀釋了負(fù)責(zé)任的人或企業(yè)代理這一核心原則，因此成為令人不安的先例。

當(dāng)事故發(fā)生時(shí)誰將被追究責(zé)任？汽車制造商們在責(zé)任問題解決之前是不愿意營銷自動駕駛車輛的。但是目前，法律將判定自動駕駛車輛的制造商為大多數(shù)事故負(fù)責(zé)。如果讓司機(jī)為一起他們無法在很短時(shí)間內(nèi)掌握方向盤的事故負(fù)責(zé)肯定會很不舒服。除了解決各種技術(shù)難題，發(fā)生事故后的責(zé)任和法律后果如何管理是完全自動駕駛車輛投入市場速度很慢的原因。在很多情況下，賠償責(zé)任的問題不能且不應(yīng)由生產(chǎn)商或工程師決定。立法機(jī)構(gòu)、法院、保險(xiǎn)機(jī)構(gòu)必須為此做出決定。

解決這些社會擔(dān)憂，一種可能的辦法是對完全自動化駕駛汽車提供無過錯保險(xiǎn)。如果自動駕駛汽車提供了真正的凈優(yōu)勢，那么立法機(jī)關(guān)可以制定政策，放松這一行業(yè)的發(fā)展。可以肯定，如果有一項(xiàng)立法可以減少自動化系統(tǒng)因?yàn)樵O(shè)計(jì)師和工程師有時(shí)無法預(yù)見的情況導(dǎo)致的系統(tǒng)故障和事故所承擔(dān)的責(zé)任，那么肯定會大大促進(jìn)整個(gè)機(jī)器人行業(yè)的發(fā)展。

實(shí)踐倫理學(xué)家和社會理論家對于減輕企業(yè)和個(gè)人的責(zé)任、問責(zé)制度，以及為越來越自動化的系統(tǒng)行為負(fù)責(zé)等引起的內(nèi)在危險(xiǎn)十分擔(dān)心。2010年，為了表達(dá)他們的擔(dān)心，提出了五項(xiàng)規(guī)則以重申人類不能逃脫對于計(jì)算機(jī)物品的設(shè)計(jì)、開發(fā)或部署造成的道德責(zé)任。50多名技術(shù)和道德領(lǐng)域相關(guān)的學(xué)者簽字表達(dá)對這五項(xiàng)規(guī)則的支持。其中，“規(guī)則1：設(shè)計(jì)、開發(fā)或部署計(jì)算機(jī)物品的人應(yīng)當(dāng)為該物品承擔(dān)道德責(zé)任。這項(xiàng)責(zé)任是與其他設(shè)計(jì)、開發(fā)、部署或知情情況下將該物件作為社會技術(shù)系統(tǒng)的一部分進(jìn)行使用的人共同承擔(dān)?！边@一條如果被寫進(jìn)法律，則有望改變現(xiàn)狀。

Q： 在您看來，如何防止技術(shù)失控？

A： 我在《科技失控》一書中，詳細(xì)探討了飛速的技術(shù)發(fā)展所引發(fā)的道德和倫理爭議，并指出技術(shù)本身可能逐漸成為脫離人類控制的強(qiáng)大力量，我希望科學(xué)界、產(chǎn)業(yè)界、投資界能夠真正將前沿科技的研究納入到監(jiān)管范疇之列，確保新技術(shù)的研究和應(yīng)用符合倫理基本原則，以真正實(shí)現(xiàn)技術(shù)服務(wù)于人而不是變成傷害人、瓦解社會的禍根。

應(yīng)當(dāng)繼續(xù)支持科技創(chuàng)新及創(chuàng)新成果投入應(yīng)用，但要加強(qiáng)上游預(yù)防，要控制存在潛在好處和風(fēng)險(xiǎn)的技術(shù)開發(fā)以及其投入社會使用的方式，對于加強(qiáng)新技術(shù)上游預(yù)防我有三大操作建議。首先，要建立負(fù)責(zé)任的工程設(shè)計(jì)文化。要讓科技、設(shè)計(jì)擔(dān)負(fù)對于人類社會的責(zé)任，最重要的就是完善相關(guān)的倫理和法律準(zhǔn)則，在新科技產(chǎn)品、服務(wù)的設(shè)計(jì)過程中確保其安全性，并對于失控等狀態(tài)下的責(zé)任作出預(yù)設(shè)。其次，建立靈活有效的監(jiān)督機(jī)制。這其中涉及政府監(jiān)管體系、非政府組織與相關(guān)行業(yè)組織共同參與的監(jiān)督體系，還要加大新聞媒體對于科技創(chuàng)新問題的議程把握能力。第三，響應(yīng)互聯(lián)網(wǎng)時(shí)代去中心化運(yùn)作的潮流要求，培育可以質(zhì)疑、制衡專家的知情公民。