曹建峰

2019年的《政府工作報告》首次提出“智能+”這一全新概念。并提出“深化大數(shù)據(jù)、人工智能等研發(fā)應用，壯大數(shù)字經(jīng)濟”，同時要求“加快在各行業(yè)各領(lǐng)域推進‘互聯(lián)網(wǎng)+”。兩會上科技熱度不減的同時，是社會各界對人工智能等前沿技術(shù)越來越多的倫理思考和探索。

科技倫理引起廣泛關(guān)注

《政府工作報告》在要求“加大基礎研究和應用基礎研究支持力度，強化原始創(chuàng)新，加強關(guān)鍵核心技術(shù)攻關(guān)”的同時，提出“加強科研倫理和學風建設”。表明國家對前沿科技領(lǐng)域的倫理建設的高度重視。

科技倫理也是人大代表和政協(xié)委員積極關(guān)注的話題，諸多建議案涉及大數(shù)據(jù)、人工智能等前沿技術(shù)的法律、倫理和社會問題。3月6日，馬化騰向全國人大提交了7份建議案，其中就包括《關(guān)于加強科技倫理建設 踐行科技向善理念的建議》。

馬化騰認為，科技倫理是創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略、數(shù)字中國建設、數(shù)字時代商業(yè)競爭的重要保障。他呼吁在全社會、全行業(yè)積極倡導“科技向善”“負責任創(chuàng)新”“創(chuàng)新與倫理并重”等理念。并建議加強科技倫理的制度化建設，針對相關(guān)新技術(shù)制定倫理準則并積極參與、推動新技術(shù)領(lǐng)域的全球治理；加快研究數(shù)據(jù)、人工智能等新興技術(shù)領(lǐng)域的法律規(guī)則問題；加強科技倫理的教育宣傳并鼓勵全社會踐行“科技向善”理念。

要言之，在科技創(chuàng)新進入深水區(qū)，經(jīng)濟社會全面數(shù)字化、智能化的今天，深入研究新技術(shù)應用及其影響，已經(jīng)成為擺在全人類面前的重大課題。在利用科技這一強大手段推動經(jīng)濟社會發(fā)展的時候，只有發(fā)揮好科技倫理對科技創(chuàng)新及其應用的調(diào)節(jié)、引導和規(guī)范作用，才能促使科技活動朝著更加有利于人類和人類社會的方向發(fā)展，實現(xiàn)科技向善的目的。在這個意義上，科技創(chuàng)新是手段，科技倫理是保障，科技向善是目的，三者相互配合協(xié)調(diào)，缺一不可。

科技倫理為科技創(chuàng)新及其應用劃定底線和邊界，以確保向上向善的發(fā)展方向

以史為鑒，創(chuàng)新而無倫理（innovation without ethics），就有可能導致廣泛的負面影響甚至災難性后果。如今，科技創(chuàng)新進入深水區(qū)，以新一代信息技術(shù)（大數(shù)據(jù)、人工智能、虛擬現(xiàn)實、IoT、5G等）和生物技術(shù)（基因編輯、神經(jīng)技術(shù)等）為代表的新技術(shù)加速發(fā)展并廣泛運用，有望重塑人類和人類社會。在這個過程中，各種不確定性和不可控因素將大大增大。

對于未來可能出現(xiàn)的通用人工智能和超級人工智能，如果不加約束地發(fā)展應用，就有可能威脅到人類整體的利益，已故的霍金和埃隆·馬斯克、比爾·蓋茨等都表達了類似的擔憂。這并非危言聳聽，國際社會已在積極推動AI倫理研究并爭取最大范圍的共識。因此，亟需為新技術(shù)應用劃定倫理底線和邊界，以確保向上向善的發(fā)展方向。

而且近些年來，突破倫理底線的行為時有發(fā)生，如去年11月底發(fā)生的基因編輯嬰兒事件，涉事者嚴重違反有關(guān)法律法規(guī)和倫理準則，實施國家明令禁止的以生殖為目的的人類胚胎基因編輯活動，在國內(nèi)外引發(fā)了強烈的譴責。這更是彰顯了科技倫理的重要性。

一方面，科技倫理可以使科學技術(shù)的應用得到明確的道德理性的引導，從而最大限度地減少出于邪惡目的利用科技成果的可能性；另一方面，作為道德理性的科技倫理又可以彌補單純的科技理性之不足，增強科技工作者對于科技開發(fā)之后果的道德責任感，從而以道德理性的自覺來最大限度地消解科技理性在社會負面作用上的不自覺。

顯然，新技術(shù)集群正在推動人類文明邁向新的階段，有人稱之為數(shù)字文明、智能文明、生命3.0等。然而正如基辛格所言，面對人工智能的興起，人們在哲學、倫理、法律、制度、理智等各方面都還沒做好準備。

人工智能等技術(shù)變革正在沖擊既有的世界秩序，我們卻無法完全預料這些技術(shù)的影響，而且這些技術(shù)可能最終導致我們的世界所依賴的各種機器為數(shù)據(jù)和算法所驅(qū)動，且不受倫理或哲學規(guī)范約束。所以需要新的倫理規(guī)范來對科技創(chuàng)新及其應用形成積極的引導、規(guī)范和約束，以保障智能社會不失序、不失范、不失常。

所以，面對新技術(shù)發(fā)展的不確定性，人們需要超越狹隘的技術(shù)向度和利益局限，加強對科技倫理的重視程度，通過預警性思考、廣泛的社會參與和多學科評估來充分討論可能存在的風險和危害，制定出切實可行的指導方針和倫理準則來引導、規(guī)范新技術(shù)研發(fā)應用，以更好地應對前沿領(lǐng)域技術(shù)應用可能引發(fā)的社會治理危機。

歐盟、英國、德國已在積極制定人工智能、自動駕駛等領(lǐng)域的倫理準則和指南，并推動相關(guān)國際標準、規(guī)則的制定。如今，我國的科技硬實力不斷得到提升，尤其是在互聯(lián)網(wǎng)領(lǐng)域呈現(xiàn)出活躍的創(chuàng)新發(fā)展氛圍，應加強相應的軟實力建設，加快研究啟動前沿領(lǐng)域的科技倫理建設，積極參與、主導新技術(shù)領(lǐng)域的全球治理，進一步增強我國在國際規(guī)則設定方面的影響力和主導性。

在技術(shù)占劣勢的情況下，歐盟希望能夠向國際社會輸出歐盟的人工智能價值觀，引領(lǐng)人工智能的發(fā)展方向，當然不是技術(shù)的發(fā)展方向，而是塑造人工智能在社會中的積極角色。

然而，占據(jù)技術(shù)高地的美國的人工智能政策卻是另一番景象，國家層面更多著力于技術(shù)發(fā)展和創(chuàng)新層面，較少談論所謂的人工智能倫理問題，對立法和監(jiān)管也更為謹慎。

比如，在美國交通部的自動駕駛政策中，自動駕駛汽車倫理問題曾被輕描淡寫地作為一個安全標準，但后來卻不再作為一項安全評估標準，被放置在了一邊。反倒是行業(yè)和私營企業(yè)對此較為關(guān)注，反映了美國一貫的行業(yè)自律思路。

反觀歐盟，其已經(jīng)開始急沖沖地制定人工智能法律和倫理規(guī)則，希望用正確的價值觀約束人工智能技術(shù)研發(fā)和應用。而美國僅有的幾個人工智能法律提案更多涉及如何促進技術(shù)創(chuàng)新和應用，如何通過設立人工智能技術(shù)咨詢委員會為政府和社會提供政策和戰(zhàn)略咨詢建議，等等，即使對自動駕駛汽車的監(jiān)管，也更多采取了事后監(jiān)管和行業(yè)自律的方式。

美國更多采取多利益相關(guān)方（multi-stakeholder）共同合作交流的機制，通過行業(yè)自律性質(zhì)的指南、最佳實踐等回應新技術(shù)帶來的挑戰(zhàn)。人工智能需要價值觀，也需要創(chuàng)新觀，恰如其分地平衡好兩者是人工智能政策制定的關(guān)鍵。

科技倫理在互聯(lián)網(wǎng)新技術(shù)治理中將發(fā)揮越來越重要的自律作用

2018年絕對稱得上是互聯(lián)網(wǎng)發(fā)展過程中的分水嶺，一些影響重大的事件讓人民開始反思互聯(lián)網(wǎng)的發(fā)展方向和潛在變革。如Facebook-劍橋分析數(shù)據(jù)丑聞成為當之無愧的年度事件，直指數(shù)據(jù)的泄露、濫用、不正當二次利用等突出問題。此外，算法歧視、假新聞、信息繭房、人工智能濫用等問題也得到持續(xù)的關(guān)注。對此，存在加強監(jiān)管、制定立法的呼聲。

但正如北京大學法學院教授、副院長薛軍在《數(shù)字經(jīng)濟立法與執(zhí)法應當審慎、包容》一文中所言，由于技術(shù)以及商業(yè)模式快速發(fā)展和迭代，草率的立法，不可能期待會產(chǎn)生正面的效果；除了法律之外，也完全可以通過國家標準、行業(yè)公約、最佳實踐、技術(shù)指南等“軟法”性質(zhì)的規(guī)范來調(diào)整數(shù)字經(jīng)濟領(lǐng)域的事項。

國內(nèi)外的互聯(lián)網(wǎng)科技公司也在積極思考如何通過技術(shù)手段來解決技術(shù)應用帶來的問題，加強平臺整理。比如YouTube利用內(nèi)容識別措施來主動打擊其分享平臺上的盜版內(nèi)容，F(xiàn)acebook利用人工智能識別假新聞、暴恐、色情等非法活動和內(nèi)容，都取得了顯著的效果。

因此，作為對技術(shù)應用的“軟法”規(guī)制，可以通過科技倫理來對科技行業(yè)的狹隘的技術(shù)向度和利益局限進行糾偏和矯正。而且考慮到當前技術(shù)發(fā)展的特征，科技倫理在預防和緩解新技術(shù)、新業(yè)務帶來的風險挑戰(zhàn)方面將發(fā)揮越來越重要的作用。因為法律規(guī)范本身具有滯后性，難以跟上技術(shù)發(fā)展的步伐，造成許多規(guī)范真空地帶，而科技倫理可以更好地發(fā)揮事前引導作用，將技術(shù)發(fā)展引向向上向善的健康發(fā)展軌道。

另一方面，科技倫理水平直接衡量著科技發(fā)展的成熟度，完善的科技倫理制度意味著能夠更好地防范、緩解科技發(fā)展應用帶來的負面影響，從而營造積極健康的發(fā)展氛圍。所以美國等西方國家的科技行業(yè)都具有較為完善的科技倫理相關(guān)的自律管理機制，主流科技企業(yè)內(nèi)部建立倫理審查機制，行業(yè)組織積極制定行業(yè)標準，通過多種倫理自律措施防范技術(shù)濫用和其他風險挑戰(zhàn)。

尤其是近幾年來，谷歌、微軟、Facebook、DeepMind等科技公司多舉措加強人工智能倫理的自律建設，包括發(fā)起成立行業(yè)組織（比如Partnership on AI），成立倫理部門（比如倫理委員會），提出人工智能倫理和技術(shù)相關(guān)的原則、準則、指南、最佳實踐等，加強人工智能倫理與社會研究，等等。

就我國而言，當前需要加強科技倫理的制度化建設，發(fā)揮科技倫理的行業(yè)自律作用，通過倫理審查、自律組織、行業(yè)標準、最佳實踐、技術(shù)指南等方式來支持、促進行業(yè)自律，以確保科技發(fā)展應用的正確方向。而立法與執(zhí)法應當堅持審慎、包容的指導思想，

前沿技術(shù)領(lǐng)域的社會治理離不開跨學科研究

44年前的阿西洛馬重組DNA會議彰顯了科學共同體在應對新技術(shù)發(fā)展的不確定性決策中的重要作用?，F(xiàn)代科學技術(shù)與經(jīng)濟社會以異乎尋常的速度整合和相互建構(gòu)，但其高度的專業(yè)化、知識化和技術(shù)化使圈外人很難對其中的風險和不確定性有準確的認知和判斷，沒有來自科學共同體內(nèi)部的風險預警和自我反思，任何一種社會治理模式都很難奏效。而這需要科研人員具有良好的科技倫理意識。但當前我國各級各類教育中普遍欠缺科技倫理教育，這在某種程度上導致我國個別不良科研人員和企業(yè)倫理意識淡薄，在技術(shù)研發(fā)與應用的各個環(huán)節(jié)沒有很好地把握倫理邊界，才會導致發(fā)生基因編輯嬰兒、數(shù)據(jù)和算法濫用、惡意競爭等倫理事件。

因此需要通過完善的科技倫理教育機制來使科研人員進行科技倫理的熏陶、探索與反思，從“他律”走向“自律”，秉持向上向善之心，追求至善，不僅僅局限于把技術(shù)和產(chǎn)品搞出來，而是更多地思考他們開發(fā)的技術(shù)和產(chǎn)品的廣泛社會影響，肩負起科技進步和社會發(fā)展的責任，確保未來方向。

在另一個層面，只有通過科技倫理教育宣傳增進科研人員和社會公眾在倫理上的自覺，使其不僅僅考慮狹隘的經(jīng)濟利益，而且對技術(shù)發(fā)展應用的潛在影響及其防范進行反思和進行預警性思考（precautionary thinking），才有可能通過廣泛社會參與和跨學科研究的方式來實現(xiàn)對前沿技術(shù)的良好治理。

科技倫理推動互聯(lián)網(wǎng)發(fā)展從獲取用戶注意力向促進用戶數(shù)字福祉轉(zhuǎn)變

如今，中國以8億網(wǎng)民成為全球最大互聯(lián)網(wǎng)市場，互聯(lián)網(wǎng)對個人生活影響越來越大，但卻可能給個人帶來諸如網(wǎng)絡過度使用、信息繭房等負面影響。

相關(guān)研究已經(jīng)開始思考數(shù)字技術(shù)可能會對我們的健康、思維、自主性等產(chǎn)生什么樣的負面影響，尤其是數(shù)字技術(shù)對未成年人的潛在影響。此外，隨著個性化推薦算法在互聯(lián)網(wǎng)領(lǐng)域的廣泛應用，人們也開始擔心推薦算法可能給用戶帶來網(wǎng)絡過度使用、信息繭房、算法偏見等負面影響。

比如，限制用戶對信息的自由選擇，將用戶置于算法建立起來的泡沫之中，只接觸到自己喜歡或認同的內(nèi)容，從而可能給用戶造成信息繭房、自我封閉和偏見，進而影響用戶的思維模式并可能扭曲用戶的認知，并不利于用戶的長遠發(fā)展。

互聯(lián)網(wǎng)創(chuàng)新的發(fā)展模式需要從獲取用戶注意力向促進用戶數(shù)字福祉轉(zhuǎn)變。

數(shù)字福祉（digital wellbeing）有兩大內(nèi)涵，一方面是人人都可享受到數(shù)字技術(shù)帶來的便利和紅利，最大化地實現(xiàn)普惠和賦能；另一方面是促進個人對數(shù)字技術(shù)和網(wǎng)絡服務的高質(zhì)量使用，減小、防止數(shù)字技術(shù)對個人的負面影響。我們看到，互聯(lián)網(wǎng)科技公司已在積極踐行數(shù)字福祉理念。

比如，Android P版推出的Dashboard功能，通過統(tǒng)計用戶的屏幕時間，幫助用戶控制手機和網(wǎng)絡使用，防止過度沉迷，實現(xiàn)數(shù)字福祉（digital wellbeing）。iOS12推出了“屏幕使用時間”功能，同樣意在幫助用戶將手機和網(wǎng)絡使用控制在合理的限度，防止過度使用。Facebook則發(fā)布了“數(shù)字福祉”工具，允許用戶監(jiān)測自己花在社交網(wǎng)絡上的時間并設定時長限制，同時更容易地關(guān)閉推送通知。

總之，科技倫理要求科技公司不僅關(guān)注互聯(lián)網(wǎng)創(chuàng)新，更要關(guān)注如何在創(chuàng)新過程中通過創(chuàng)新來促進用戶的數(shù)字福祉，并依循“經(jīng)由設計的數(shù)字福祉”（digital wellbeing by design）理念，將對用戶數(shù)字福祉的保障和促進融入到產(chǎn)品和服務的設計中去。

科技倫理最終是要實現(xiàn)數(shù)字信任（digital trust），踐行科技向善

信任是一切社會的基礎，數(shù)字信任是數(shù)字社會的基礎，需要依靠社會習俗、倫理道德、法律規(guī)范等一起來協(xié)同構(gòu)建，以保障數(shù)字經(jīng)濟社會的健康發(fā)展。數(shù)字信任體現(xiàn)在四個維度：一是安全的維度，產(chǎn)品服務安全可靠，包括網(wǎng)絡安全、個人隱私安全等；二是透明的維度，保障用戶的參與和知情；三是責任的維度，確保相關(guān)主體負責任地提供產(chǎn)品服務，并為其行為承擔責任；四是倫理的維度，秉持正確的價值觀，不作惡。在數(shù)字文明下，科技倫理旨在維護、促進數(shù)字信任，呼吁踐行科技向善，讓大數(shù)據(jù)、人工智能等數(shù)字技術(shù)最大程度地造福于人類和人類社會。

在人工智能研發(fā)應用方面，騰訊提出并倡導人工智能“四可”理念，即可用、可靠、可知、可控（英文簡寫為ARCC，寓意“方舟”）。正如傳說中拯救人類文明的諾亞方舟一樣，人工智能領(lǐng)域的ARCC也將在未來的人工智能時代尤其是可能到來的AGI和ASI時代，確保人類與機器之間友好、和諧的關(guān)系，最大化地促進人類的發(fā)展，并避免潛在負面影響。

最后，作為總結(jié)，需要再次重申，科技創(chuàng)新是手段，科技倫理是保障，科技向善是目的，三者配合才能確保向善向上的發(fā)展方向，最大化促進人類福祉。在數(shù)字技術(shù)廣泛滲透和創(chuàng)新技術(shù)加速涌現(xiàn)的今天，我們需要更多的倫理關(guān)切和預警性思考，來實現(xiàn)技術(shù)、人、社會之間的良性互動和可持續(xù)發(fā)展。