習近平總書記指出：“科技是發(fā)展的利器，也可能成為風險的源頭。要前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風險、倫理挑戰(zhàn)，完善相關法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架?！?/p>

科技倫理是開展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，是促進科技事業(yè)健康發(fā)展的重要保障。如果說創(chuàng)新是發(fā)展的“引擎”，倫理則是約束不合理發(fā)展的“剎車”，兩者缺一不可。如何加強科技倫理治理，推進科技強國建設？如何塑造科技向善的文化理念和保障機制，為增進人類福祉、推動構建人類命運共同體提供有力科技支撐？

主持人： 陳 瑜 《文匯報》記者

嘉 賓： 成素梅 上海社科院哲學所副所長、研究員

張春美 中共上海市委黨校哲學教研部教授

楊慶峰 中國科協(xié)-復旦大學科技倫理與人類未來研究院教授

主持人：習近平總書記指出：“科技是發(fā)展的利器，也可能成為風險的源頭。要前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風險、倫理挑戰(zhàn)，完善相關法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架?！苯陙?，我國科技創(chuàng)新水平不斷提升，越來越多的前沿領域闖入“無人區(qū)”，面臨的科技倫理挑戰(zhàn)也日益增多。在這樣的背景下，如何深刻認識科技倫理治理的重要意義？

成素梅：隨著新一輪技術革命的不斷深化，科技創(chuàng)新成為社會發(fā)展的核心驅動力，科技專家成為文明轉型的推動者，科技產(chǎn)品成為社會生活的塑造者。然而，科技革命在從只能改變?nèi)说耐獠孔匀贿M展到有能力改變?nèi)说膬?nèi)部自然，并以銳不可當之勢將人類社會帶入智能化發(fā)展階段的進程中，其所帶來的倫理挑戰(zhàn)，正在將社會變成倫理實驗場，有可能將人類推向被毀滅的危險邊緣。因此，我們迫切需要提高風險預判能力和認知能力，使科技倫理治理真正成為科技創(chuàng)新鏈條中的一個必要環(huán)節(jié)或核心維度。

從技術及其應用層面來看，加強科技倫理治理能夠促進科技健康發(fā)展，完善科技創(chuàng)新體制，減少創(chuàng)新過程中潛在的系統(tǒng)性風險，避免濫用和技術異化，防范公共安全風險，保障人類福祉，保護個人權益，維護社會公平，促進可持續(xù)發(fā)展，提升公眾對科技及其產(chǎn)品的信任度。從國際、國家和社會監(jiān)管層面來看，加強科技倫理治理有助于促進國際合作，促進多邊對話與合作，共同應對全球性問題，達成“人類命運共同體”的國際共識。從文化層面來看，加強科技倫理治理有助于重新審視人類的共同價值，增進相互理解，平衡科技創(chuàng)新與人類價值保護之間可接受的結合點，化解乃至規(guī)避文化沖突，推動科技文明與人文精神的深度融合，塑造具有人文關懷的科技創(chuàng)新范式。

張春美：推進科技倫理治理，對于規(guī)避科技倫理風險，走向“有溫度的科技文明”具有重要意義，可從三個層面來把握：在技術層面，倫理治理通過制定倫理規(guī)范、設定特定的“技術禁區(qū)”（如禁止基因編輯用于人類增強）、重建創(chuàng)新主體道德使命感，構建技術失控的防御之盾，遏制技術濫用帶來的系統(tǒng)性風險；在社會層面，倫理治理通過開發(fā)倫理風險評估模型、構建敏捷監(jiān)管框架和倫理審查制度，科學配置資源和保護脆弱群體，規(guī)避“創(chuàng)新-監(jiān)管”的滯后性陷阱，實現(xiàn)科技創(chuàng)新與風險控制的動態(tài)平衡；在個體層面，倫理治理通過倫理教育和培訓，提升決策者倫理能力，培育大眾科技倫理素養(yǎng)；通過公眾參與式治理，推動社會形成“科技向善”的集體認知，彰顯人類主體性。從根本上講，科技倫理治理是科技與人文交融交匯結出的碩果，更是擺脫“科技巨人、道德侏儒”的良方，必將在推進科技向善的實踐中照亮人性光輝。

楊慶峰：近年來，生物科技、基因技術等領域發(fā)展取得突破，一些在這些領域相對落后的國家放松了對科技發(fā)展的監(jiān)管，意圖通過松綁來促進發(fā)展，由此也加劇了人們對未知的、長期的科技安全和倫理方面的擔憂。這種情況下，科技倫理治理的作用要重新理解。對科技倫理治理意義的認識要結合科技發(fā)展的具體情況來認識，要意識到對于技術發(fā)展的認知變化。換句話說，促進或抑制某種科技發(fā)展的總體態(tài)度將決定科技倫理治理的未來形態(tài)。

主持人：從黨的十九屆四中全會提出“健全科技倫理治理體制”，到2022年3月我國首個國家層面的科技倫理治理指導性文件《關于加強科技倫理治理的意見》印發(fā)實施，再到黨的二十屆三中全會明確提出“加強科技倫理治理”……近年來，我國高度重視科技倫理治理工作并取得顯著成效。如何進一步健全科技倫理治理體制機制，護航科技強國建設？

張春美：在中國，科技倫理治理已納入國家治理戰(zhàn)略，這體現(xiàn)了黨和政府對科技倫理治理的行動自覺。建設科技強國，必須補齊科技倫理治理短板，健全科技倫理治理體制機制，實現(xiàn)科技與倫理比翼齊飛。

一是推進科技倫理的法治化。倫理原則和規(guī)范僅僅是一種軟約束，要將抽象的倫理規(guī)范化為具體實踐，需要以適當?shù)姆绞椒椒?，將科技倫理原則、規(guī)范轉化為具有剛性約束力的法律規(guī)定。要以專業(yè)化的立法，構建倫理治理架構和監(jiān)管流程，設置科技創(chuàng)新的緩沖區(qū)，確立創(chuàng)新“有所為和有所不為”的邊界、規(guī)范和準則。對于具有重大倫理挑戰(zhàn)和社會影響的前沿技術，可通過立法頒發(fā)許可證或設定行為標準，確保創(chuàng)新與倫理協(xié)同推進。

二是推進科技倫理審查規(guī)范化。倫理審查是監(jiān)督倫理原則執(zhí)行情況的重要建制。當下，迫切需要加強審查機構、審查流程的規(guī)范化建設。機構方面，確立科技倫理委員會多元化和獨立性的組織結構，明確其設立標準和運行機制，擺脫將委員會當成研究機構“形象工程”的行政化做法。流程方面，設計倫理評估程序，制定倫理清單，細化倫理審查規(guī)則和標準，建立實時監(jiān)測與糾偏機制，完善問責與補償制度，實現(xiàn)“社會問責”與“質量控制”的結合。

三是推進科技倫理教育制度化。強化科技倫理通識課程體系建設，培養(yǎng)科技倫理人才隊伍；加強科技倫理管理機構相關人員的科技倫理培訓，提升決策者的倫理能力；發(fā)揮科技類社會團體作用，推動科技倫理深入人心。概言之，完善科技倫理治理機制，旨在尊重倫理的基本價值，推進科技創(chuàng)新“既快且穩(wěn)”發(fā)展，為科技強國建設構建技術與人文相協(xié)調的創(chuàng)新生態(tài)。

成素梅：健全科技倫理治理體制既是搶占科技革命制高點的必由之路、落實科技強國戰(zhàn)略的必然要求、樹立有作為勇?lián)敶髧蜗蠛吞嵘龂H話語權的重要支撐，也是促進科技創(chuàng)新與社會發(fā)展相協(xié)調的新維度、應對重大科技風險的新途徑，更是維護國家安全和貢獻中國智慧的新手段。

健全科技倫理治理體制需要“硬約束”與“軟引導”相結合，有效監(jiān)管和文化塑造相結合?！坝布s束”是指為新興科技創(chuàng)新和應用劃出倫理紅線（比如，明確人工智能、基因編輯、神經(jīng)工程等前沿技術的倫理界限，建立行業(yè)性的倫理預警機制等）；“軟引導”是指以監(jiān)管和激勵等多種方式引導健康的科技創(chuàng)新行為（比如，將倫理治理深度融入國家創(chuàng)新體系，實質性地激勵“科技強國”與“向善創(chuàng)新”相統(tǒng)一的企業(yè)行為，設立倫理擔當創(chuàng)新獎，進行倫理合規(guī)認證等）；有效監(jiān)管是指將政府、社會、行業(yè)、企業(yè)、市場、公眾等多方力量整合起來，在科技創(chuàng)新鏈條中，形成預防-執(zhí)行-反饋-改進相協(xié)調、適應性評估和動態(tài)優(yōu)化相結合的監(jiān)管機制，杜絕形式主義和過度干預，不斷填補監(jiān)管空白等；文化塑造是指借助社會活動、行為規(guī)范、教育培訓等形式，促進科技創(chuàng)新的利益相關者自覺樹立鐵肩擔道義的倫理意識，營造尊重倫理和崇尚責任的科技文化氛圍。

楊慶峰：從倫理性來看，建設科技強國是為了中華民族偉大復興和確保民生福祉的最優(yōu)路徑。此處的倫理性也包括科技倫理治理機制，如何確?？萍枷蛏?、科技發(fā)展的人民指向維度。因此，科技倫理機制體制建設對于科技強國建設有兩方面作用：一方面是科技強國建設具有人民指向，要強調以人為本的科技實踐和關注數(shù)字福祉；另一方面，建設性的科技倫理有助于科技的健康發(fā)展，而健康發(fā)展的科技是科技強國建設的重要保障。從現(xiàn)實來看，如今，我國正在不斷推進科技倫理治理機制自上而下的制度框架的完善，接下來更重要的是如何讓這種觀念框架深入人心，尤其讓科技倫理意識扎根于每個人心中。

主持人：科技倫理問題往往跨越國界，需要全球范圍內(nèi)的合作與對話。習近平總書記強調，“要深度參與全球科技治理，貢獻中國智慧，塑造科技向善的文化理念，讓科技更好增進人類福祉，讓中國科技為推動構建人類命運共同體作出更大貢獻”。如何進一步加強國際合作，為全球科技倫理治理貢獻中國智慧？

成素梅：當代科技發(fā)展正在將人類社會從工業(yè)文明轉向智能文明。智能文明既是科學-技術-社會-人文高度糾纏的文明，也是深度拷問人性的文明。文明轉型過程中所新生的科技倫理問題是全人類共同面臨的倫理挑戰(zhàn)。這也是包括中國在內(nèi)的主要科技大國、國際組織和重要智庫紛紛前瞻性地出臺科技倫理治理條例，努力將文明躍遷所面臨的倫理危機轉化為發(fā)展契機的原因所在。

中國具有追求人與自然、人與人、人與社會和諧發(fā)展的悠久歷史，擁有深厚的倫理文化傳統(tǒng)和獨特的倫理思想體系，并將其作為社會治理的有效手段，形成了“以德治國”或“為政以德”實踐傳統(tǒng)，以及以儒家為核心的東亞文化圈。在科技突飛猛進的當下，我國應該在以各種形式積極參與聯(lián)合國教科文組織、世界衛(wèi)生組織、國際科學理事會等國際組織發(fā)起的科技倫理治理活動中，將中國的“天人合一”“和諧共生”“科技向善”“責任至上”等倫理理念推向世界，推動建立科技倫理治理的多邊合作機制，平衡國家主權和全球倫理治理之間的關系，包容不同文化背景下的倫理差異，發(fā)起成立“全球科技倫理治理聯(lián)盟”，促進各國就重大科技倫理治理問題展開友好對話，在“一帶一路”框架下創(chuàng)建科技倫理治理協(xié)作機制，彰顯中國在科技倫理治理領域內(nèi)的卓越領導力。

張春美：展開負責任的科技倫理治理實踐，不是僵化封閉的自說自話，而應以開放的姿態(tài)，在世界性與本土化的統(tǒng)一中，為全球科技倫理治理貢獻中國智慧。第一，積極參與并主導全球科技倫理治理框架的構建，搶占規(guī)則制定制高點。積極參與國際組織治理，倡議國際科技倫理規(guī)則制定。倡導建立包容性國際對話平臺，促進國際交流合作。建立高層對話機制，協(xié)調跨國倫理爭議，推動全球倫理標準的統(tǒng)一。第二，構建中國的科技治理體系以輻射全球。充分關注科技倫理治理的中國問題，歸納科技倫理治理的中國經(jīng)驗，拓展中國科技倫理治理的知識譜系、話語形態(tài)和思想類型，總結科技倫理治理的中國方案，為全球科技倫理治理提供中國范本。第三，融合中華倫理文明與全球治理。在國際合作與文化融合中，一方面，要澄清國外對我國科技倫理的文化誤解，防范“文化和價值觀屏障”。另一方面，通過批判性吸收西方理論，結合中國實踐，將中華文化傳統(tǒng)倫理智慧融入現(xiàn)代治理，促進科技倫理的“中國化轉向”。

楊慶峰：科技倫理問題跨越國界、需要全球范圍的合作與對話。法國巴黎AI峰會、英國布萊切利AI峰會、韓國首爾AI峰會以及上海人工智能大會等都是國際性的會議。在科技倫理治理的國際合作中，構建人類命運共同體、以人為本、和諧共生、科技向善、智能向善等都是近年來中國貢獻給國際科技倫理治理的智慧。我們期待著中國推出自己的人工智能法，盡快形成完備的法律-倫理-制度的治理體系。

主持人：人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量。習近平總書記高度重視人工智能技術的發(fā)展和治理，提出“以人為本、智能向善”的重要理念。黨的二十屆三中全會提出，“完善生成式人工智能發(fā)展和管理機制”“建立人工智能安全監(jiān)管制度”。當前DeepSeek的火爆，讓AI再次成為熱議焦點。如何應對人工智能發(fā)展中的倫理挑戰(zhàn)，構建負責任的人工智能治理體系？

張春美：首先，基礎研究要實現(xiàn)AI倫理治理的認知升維。全面梳理和分析AI倫理難題，把握“人與技術”關系面臨的新問題、新情況，找到AI倫理治理的核心問題，展開學理分析和研究。其次，借鑒已有的科技倫理治理成功經(jīng)驗，比如技術設計中的倫理嵌入、價值觀前置、規(guī)則制定等，探尋AI倫理治理的新路徑。再者，探索倫理治理的協(xié)同發(fā)展模式。這一模式涵蓋多元主體、多種文化和多重語境，以多方協(xié)調與合作為基礎，借助問題爭論、共同參與、尋求共識等途徑，加強跨界戰(zhàn)略協(xié)同，進行系統(tǒng)性生產(chǎn)并分享治理資源，建立價值共識與制度保障，推動AI倫理治理邁向更加包容、共享與合作的新時代。

楊慶峰：DeepSeek的火爆，伴生生成式信息滿天飛、生成式知識難以辨識等問題。在哲學史上，柏拉圖曾經(jīng)討論過文字是毒藥或解藥、利科討論過歷史是毒藥抑或解藥。如今，生成式人工智能給我們帶來相同的問題。如果它是一種毒藥，那么治理系統(tǒng)就要研制出相應的抗毒“血清”，來中和這種毒性?？傮w來說，我們可以《全球人工智能治理倡議》《人工智能全球治理上海宣言》中的原則為基礎，建立系統(tǒng)的、具有銜接性的和中國特色的人工智能治理體系框架。

重要的是，這個治理體系要務實，能針對產(chǎn)業(yè)和場景應用中出現(xiàn)的問題進行有效處置。另一方面，人工智能的發(fā)展離不開合理想象?？茖W史上，關于超級機器的思想實驗奠定了現(xiàn)代計算機科學的基礎。因此，人工智能治理也要保持想象力，不能完全對科幻說不。我們要警惕的是科幻敘事中的過度想象和娛樂至上給AI發(fā)展和治理造成的擾亂。

成素梅：DeepSeek作為人工智能發(fā)展的最新標志性事件，極大地彰顯了人工智能無法抗拒的強大影響力，印證了人機雙向賦智的巨大發(fā)展?jié)摿?。但我們必須同時意識到，這種發(fā)展?jié)摿Σ粌H導致了眾所周知的侵犯隱私、種族歧視、社會不公等倫理問題，有可能削弱人的自主性，模糊人機界限，增加難以預測的風險等倫理挑戰(zhàn)，而且更加嚴峻的是，向過去建立在人機二分基礎上的制度安排和法律法規(guī)等提出了框架性挑戰(zhàn)。

因此，我們在構建負責任的人工智能倫理治理體系時，除了明確責任主體、倡導算法透明、提供立法保障、構成蜂巢式倫理治理和正反面雙清單管理機制、形成應急預案、開發(fā)倫理“穿透式”監(jiān)管系統(tǒng)、成立跨學科倫理研判專家池、建立科技風險防控熔斷機制、加強倫理教育與培訓等一系列具體措施之外，更加重要的是，需要豐富我們的概念工具箱，加強面向未來發(fā)展的倫理框架研究；需要在智能機器成為普遍勞動力的文明轉折點，超越為發(fā)展經(jīng)濟而奮斗的思維習慣，開啟從勞動倫理優(yōu)位轉向休閑倫理優(yōu)位和讓休閑成為勞動境界的新啟程，前瞻性地營造有利人的全面發(fā)展的文化氛圍，真正踐行馬克思將自由時間作為衡量社會財富標準的理論愿景；需要探索針對復雜智能系統(tǒng)的免責賠付機制，從根本上擺脫算法問責困境和現(xiàn)有人工智能倫理治理原則的落地困境等。

總而言之，我們選擇通過科技創(chuàng)新來驅動社會發(fā)展，并不只是在選擇科技，還是在選擇人類文明的未來。圍繞智能機器主體性問題展開的討論，在很大程度上，也是關于人性未來的反思。我們必須既構建具有可操作性的科技倫理治理框架，也探索面向未來的倫理治理框架，通過“科技賦智-制度供給-倫理約束-文化塑造”四位一體策略，形成中國特色的科技倫理治理體制。

（摘自3月2日《文匯報》）