邢曉鳳

人工智能、基因編輯、ChatGPT、輔助生殖技術(shù)……科技創(chuàng)新的快速發(fā)展，使人類在越來越多的前沿探索闖入“無人區(qū)”，面臨的科技倫理挑戰(zhàn)也日益增多。很多人把科學(xué)技術(shù)比喻為雙刃劍和“潘多拉魔盒”，這些新技術(shù)在釋放技術(shù)紅利、造福人類的同時，也催生了新的科技倫理風(fēng)險和科技治理挑戰(zhàn)。

偉大的科技，還要有偉大的倫理。科技創(chuàng)新應(yīng)守好倫理“大門”，我們要堅持“科技倫理先行”，塑造科技向善的文化理念和保障機制，讓科技創(chuàng)新更有溫度和力度。把科技向善的文化理念融入我們的教育中，從小培養(yǎng)孩子“科技發(fā)展為人類服務(wù)”的價值取向，以人為本，做負責(zé)任、有誠信、有道德的科研，培養(yǎng)有使命感的科技后備人才?？萍紓惱硪曈蛳拢赖鲁蔀橐环N能力要求，科技倫理教育成為一項復(fù)雜、緊迫、艱巨的任務(wù)。如何在學(xué)校加強科技倫理教育？《教育家》雜志邀請多位資深專家進行研討——

議題一：如何在中小學(xué)階段開啟科技倫理啟蒙？

王湘蓉：當(dāng)下，已進入“深度科技時代”，如何在中小學(xué)階段開啟科技倫理啟蒙？科技倫理教育的本質(zhì)在于培養(yǎng)科技倫理觀，培養(yǎng)以人為本和科技向善的觀念是科技倫理教育的核心目的。那么，科技倫理教育的培養(yǎng)路徑有哪些？如何建立整體的科技倫理教育體系？

涂善東：科技倫理的概念要放在科技時代的角度來考慮。作為工科教師，我們積極倡導(dǎo)工程倫理教育，其價值取向與科技倫理是一樣的。工程科技的初心是造福人類，工程實踐確實改變了世界，但用得好就是正向的改變，用不好就是負面的改變，這就涉及工程倫理的教育問題，作為“全面工程教育”不可缺少的部分，需要嵌入教育的各個階段。

建議在中、小學(xué)階段做更多的正面引導(dǎo)?？梢苑秩齻€層次設(shè)置相應(yīng)的活動，一是鼓勵學(xué)生積極參與公益志愿活動，培養(yǎng)對殘疾人、老人、病人、弱者的同情心，提升對社會需求的認知；二是支持學(xué)生組織面向弱勢群體的社團乃至面向未來技術(shù)的研發(fā)機構(gòu)展開活動；三是鼓勵學(xué)生開發(fā)技術(shù)，幫助有困難的群體（比如開發(fā)智能拐杖、機器人助手、自動洗澡、醫(yī)工結(jié)合產(chǎn)品等），特別重視幫助窮人的技術(shù)，如：便宜的衣、食、住、行、交流的方式和工具，進而可望實現(xiàn)低碳生活方式。通過這些活動，讓學(xué)生們從小就知道科學(xué)技術(shù)的根本目的是以人為本、是為了創(chuàng)造人類更加美好的生活。

在大學(xué)層面，除了繼續(xù)中小學(xué)的正面教育，還要強調(diào)工程風(fēng)險的案例教學(xué)，建立可接受風(fēng)險和不可接受風(fēng)險的概念，從而理解工程科技倫理的重要性；應(yīng)將工程科技倫理嵌入教學(xué)和相關(guān)科技活動中。我上工程導(dǎo)論課時，常常給學(xué)生強調(diào)，作為一個工程師，不僅要懂得工程有好的一面，還要懂得工程有可能出現(xiàn)的風(fēng)險。所以工程師不能單純談技術(shù)實現(xiàn)，比技術(shù)更重要的是道德底線和職業(yè)操守。工程所系，社會福祉，人民安康，進入工程及其相關(guān)領(lǐng)域，都要恪守工程倫理和職業(yè)道德。“公眾安全，永在首位；履職專業(yè)，精益求精；言行如一，惟誠惟信；進取不懈，矢志創(chuàng)新。”這是我在2015年提出的“工科畢業(yè)生誓言”，我很高興看到，近年來在畢業(yè)季到來的時候，許多大學(xué)都組織畢業(yè)生們以此進行宣誓。

同時，社會公眾倫理水準(zhǔn)的提高，直接影響我們的科技倫理教育。因為教育不僅僅是在學(xué)校，家庭教育也非常重要，社會環(huán)境對孩子潛移默化的影響也無法回避。

王惠敏：學(xué)術(shù)不端也屬于科研倫理的范疇。學(xué)術(shù)不端行為發(fā)生的主要原因是他們沒有基本的學(xué)術(shù)誠信或科研誠信的概念。比如有學(xué)生投稿，遲遲沒得到答復(fù)，未經(jīng)咨詢就默認為期刊拒稿，于是另投了一家期刊，結(jié)果兩個期刊同時刊發(fā)了出來，造成重復(fù)投稿。我們學(xué)校開設(shè)科研倫理課程，就是要告訴學(xué)生應(yīng)該如何避免這種情況?，F(xiàn)在很多學(xué)校是用懲罰的手段來處理學(xué)術(shù)或科研不端行為。其實，我們更應(yīng)該引導(dǎo)學(xué)生怎樣做，保證朝著正確的方向，避免去觸碰一些紅線。目前在學(xué)校里，90%以上的學(xué)生沒有接觸過這方面的教育。一定要告訴學(xué)生如何才能避免在寫作中發(fā)生類似錯誤，而不是只靠查重界定。孟子曾提出，誠者天之道也，誠之者人之道也。中小學(xué)教育就要給學(xué)生灌輸學(xué)術(shù)誠信的觀念，讓學(xué)生形成一種習(xí)慣。在講學(xué)術(shù)誠信時，要把學(xué)術(shù)或科研誠信的核心價值觀傳遞給學(xué)生，包括誠實、開放性、公平性、可靠性等。不僅要對學(xué)生進行科技倫理教育，我們的老師和校長也要補上這一課。

彭耀進：目前，大多數(shù)教育從業(yè)者尚未將科技倫理納入科技研發(fā)和教育過程中，其中一個重要問題是沒有為科研人員提供科技倫理教育。如果一個實驗室的負責(zé)人高度重視科技倫理，那么實驗室的其他工作人員和學(xué)生也會重視。倫理爭議是科研過程中固有且不可避免的。我們需要認識到科技的雙重性，在推動人類社會發(fā)展的同時，也可能引發(fā)潛在的倫理爭議、社會風(fēng)險和法律沖突。

將科技倫理教育融入科研和知識教育過程中，需要我們不斷反思潛在的社會影響和倫理問題，而非提供絕對標(biāo)準(zhǔn)的答案。通過教育，我們可以培養(yǎng)學(xué)生的批判性思維和信息素養(yǎng)，鼓勵他們參與現(xiàn)實世界中可能涉及倫理和政策討論的話題。

因此，我們需要創(chuàng)造一個良好的環(huán)境氛圍。一方面，應(yīng)當(dāng)加大對于有違倫理的科研行為的懲罰力度，以表明對倫理準(zhǔn)則的嚴肅態(tài)度。另一方面，應(yīng)加強對負責(zé)任創(chuàng)新的科學(xué)家的鼓勵和保護。我們應(yīng)該總結(jié)那些在科技倫理方面樹立了典范的科學(xué)家經(jīng)驗，同時推動我國科技倫理教育機制和環(huán)境的完善。只有這樣，我們才能夠?qū)崿F(xiàn)科技與倫理的和諧發(fā)展，并確?？萍紕?chuàng)新為社會帶來更大的利益。

議題二：當(dāng)前科技倫理教育的困境有哪些，如何突破？

王湘蓉：培養(yǎng)學(xué)生的科技倫理觀念是一項重要、緊迫、艱巨的教育任務(wù)，在教學(xué)中，如何培養(yǎng)學(xué)生的科技倫理素養(yǎng)？當(dāng)前科技倫理教育的困境有哪些，如何突破？

王惠敏：歐美非常強調(diào)公眾參與，在社會層面上要加強科技倫理教育的宣傳或者科普工作，可以利用一些媒體、博物館、展覽館等讓公眾有更多的了解。我們國家現(xiàn)在有一些比較大的項目，像腦計劃或者新藥開發(fā)的大項目可以多跟公眾介紹，也更容易得到公眾的理解和支持，對一些新的科學(xué)技術(shù)的開發(fā)都能夠得到大家的支持，同時把倫理概念傳輸給老百姓。技術(shù)不可避免地會帶來個人隱私泄露的問題，以及人的身份認識，科技倫理并不僅僅是為科技發(fā)展保駕護航，還應(yīng)該跟科技同時發(fā)展、同時進步?？茖W(xué)技術(shù)發(fā)展所涉及的倫理問題，應(yīng)該是倫理學(xué)家、科學(xué)家、法律學(xué)家一起去做研究，我們的很多教育，還要基于我們把最新的研究成果跟最新的科學(xué)進步同時傳授給所有相關(guān)人員。

龐建新：很多人問，人工智能，未來會不會取代人？會不會造成嚴重的失業(yè)問題？我們在做人工智能教育時，應(yīng)該樹立什么樣的價值觀或者基本準(zhǔn)則。一是讓大家了解人工智能或者機器人技術(shù)發(fā)展的歷史，對人類帶來了正向的作用；二是要懂得去判別人工智能，給大家?guī)淼暮锰幣c壞處；三是要懂得如何應(yīng)用人工智能技術(shù)去解決生活中的各種問題；四是要鼓勵或者倡導(dǎo)用人工智能的技術(shù)和機器人技術(shù)為我們的美好生活做貢獻。

現(xiàn)在對于人工智能新技術(shù)，有一些負面的口徑。我們在做技術(shù)時，面臨很多挑戰(zhàn)?，F(xiàn)實生活中有很多人工智能將超越人類、人工智能會使人失業(yè)、機器人未來要殺人等負面宣傳，電影、電視中大量的宣傳，比如星球大戰(zhàn)、終結(jié)者等，無限放大機器人的能力，這種影響已深入人心，使很多企業(yè)在市場宣傳推廣時遇到很多困難，在市場宣傳教育上花費的精力也會更多。人工智能技術(shù)給人類帶來的正面影響很多，比如給人類社會帶來進步、給大家生活帶來便捷。同時，可能引起風(fēng)險的部分，可以通過技術(shù)的進步、規(guī)范使用流程和法律手段去抑制。

科技倫理的發(fā)展進度跟技術(shù)發(fā)展是有落差的?，F(xiàn)在技術(shù)發(fā)展的速度超過了法律、倫理道德，以及人們的認知，很容易失控。要解決這個問題，只能依賴于行業(yè)的自律、從業(yè)者的自律，這就對教育提出了很大的挑戰(zhàn)。

議題三：我們應(yīng)該教育學(xué)生堅守什么樣的倫理價值？

王湘蓉：面對科技產(chǎn)品的各種不確定性，我們該如何解決科技倫理教育的問題？在這樣的實踐背景下，我們應(yīng)該教育學(xué)生堅守什么樣的倫理價值？人工智能在各領(lǐng)域，尤其是教育領(lǐng)域應(yīng)該如何合理運用？評判的標(biāo)準(zhǔn)是什么？

龐建新：大家提到機器人，我們突出人的屬性，但實際上是中文翻譯的問題。機器人（Robot）是一種能夠半自主或全自主工作的智能機器。我們做機器人的時候，也會有很多倫理上的挑戰(zhàn)。比如美國一個老太太因為孤獨把亞馬遜的智能音箱作為自己的伴侶。日本一些年輕人跟機器人結(jié)婚。大家就會思考這個問題，AI機器人跟人的關(guān)系是什么？現(xiàn)在出生率本身就很低，大家結(jié)婚的意愿也很低，未來大家不愿意跟人結(jié)婚了，跟機器結(jié)婚，是不是會對人類文明產(chǎn)生巨大沖擊，所以需要從更高維度去理解，就是人類跟人工智能的關(guān)系到底是什么？是應(yīng)該授予它權(quán)利，還是只授予它義務(wù)？對行業(yè)的發(fā)展會帶來什么影響？我們希望把機器人當(dāng)成我們的家人嗎？20世紀(jì)80年代比爾·蓋茨提出要讓家家戶戶都有機器人，讓機器人成為家庭成員、家庭的管家，機器人是人們忠實的伙伴。那么從這個意義上說，機器人一旦被確認是人，就要給他權(quán)利與義務(wù)，賦予他充分的信任。作為企業(yè)來說，科技倫理是讓我們的科技創(chuàng)新能夠為人類社會服務(wù)，創(chuàng)造更多正面的價值，非常重要的就是要自我約束。技術(shù)的發(fā)展肯定會超過規(guī)則、法律的發(fā)展，很多時候要靠自我約束。

孫茂松：近幾年國際上高度重視人工智能倫理規(guī)范。人工智能可能會導(dǎo)致人類文明形態(tài)發(fā)生變化，這就必然會產(chǎn)生倫理問題。2012年以來，人工智能在一些比較專用的領(lǐng)域取得了成功，比如人臉識別等，引發(fā)了關(guān)于科技倫理的初步討論。而2022年橫空出世的ChatGPT代表了通用人工智能的新發(fā)展，機器已經(jīng)掌握了相當(dāng)高的人類語言能力，更是把人工智能倫理推到了迫在眉睫的地步。形勢逼人，我們必須有所動作。如要盡快把國際上和國內(nèi)已經(jīng)形成的人工智能倫理的若干共識審視、凝練并發(fā)布出來，加強宣傳。再如應(yīng)在大學(xué)本科教育、研究生教育中開設(shè)科技倫理課程，向?qū)W生講授人工智能倫理的基本原則，加強引導(dǎo)。

目前在人工智能倫理具體問題的界定上，還是不太明確。這方面需要搜集、整理一批典型案例，由人工智能專家和倫理專家一起界定出在人工智能各類具體實踐和應(yīng)用場景中，哪些做法是適當(dāng)?shù)模男┯质怯羞`科技倫理的，從而把科技倫理的基本原則具體化，增加其可操作性。比如，通用人工智能對數(shù)字經(jīng)濟帶來的巨大助推作用將是十分顯著的，但其可能帶來的負面影響也特別明顯，是一把鋒利的雙刃劍。這其實是智能工具所具有的本質(zhì)屬性，它能在智力層面幫助人類，但同時也可能以一種不恰當(dāng)?shù)姆绞浇槿肴祟惿鐣@就需要我們努力發(fā)揮它的長處、謹慎規(guī)避它的短處。

對智能工具，應(yīng)該教育學(xué)生樹立正確的使用觀念，而不能簡單地禁用。我們討論科技倫理問題，目的是讓科技更好地為人類服務(wù)。特別是人工智能，作為人的智力延伸，更好地造福于人類，在這個過程中，我們需要規(guī)范好人和機器之間的關(guān)系。

彭耀進：我們絕大部分的科研其實是有一定的底線共識的，但是有一些很難去明確劃分界限。在一些具有倫理爭議性的科技領(lǐng)域，在進行科研時，我們就需要遵守一系列程序性規(guī)范，其中包括法律法規(guī)及標(biāo)準(zhǔn)。我們在做科研時，許多方面都涉及程序性倫理問題，例如在研究開始之前獲取生物材料時需要知情同意和倫理審查，在研究過程中要遵守什么規(guī)范、原則、做到什么程度應(yīng)該把實驗停下來，國內(nèi)、國際合作時，當(dāng)注意什么，都涉及程序性的倫理問題。

另一個重要原則是公平公正。在科研初期，就應(yīng)考慮所開發(fā)的技術(shù)或產(chǎn)品是否能夠造福更廣泛的人群。2023年3月，在倫敦舉行的第三屆人類基因組編輯國際峰會上，公平公正獲取的問題是討論最多的話題之一。例如，在基因治療領(lǐng)域，癌癥的基因治療方法非常昂貴，如何解決高昂的費用問題成為人們關(guān)注的焦點。解決這個問題可以從技術(shù)層面著手。

此外，還需要平衡收益和風(fēng)險，進行風(fēng)險控制。新興科技的特點之一就是不確定性和風(fēng)險。面對各種不確定性，我們應(yīng)以負責(zé)任的態(tài)度推動科技的發(fā)展。同時，科學(xué)家、倫理學(xué)家、法學(xué)家以及公共政策制定者等不同主體應(yīng)共同參與和協(xié)同治理，這是一種非常重要的理念性改變。科技倫理教育的核心在于向公眾或社會群體傳授兩類知識，一是科學(xué)知識，二是與科技倫理相關(guān)的知識，以提高整個社會的科技倫理意識，推動高質(zhì)量和可持續(xù)的科技發(fā)展，最終增進人類福祉。

王湘蓉：今天我們談了科技倫理教育的問題，各位老師都對科技倫理教育表達了自己獨到的觀點，包括一些共識性的觀點?？萍紓惱韱栴}已經(jīng)引起了各界的重視，從小在孩子的心中種下正確的價值觀，未來我們的科技倫理治理體系會更加規(guī)范、完善，從而實現(xiàn)科技向善，讓科技更好地為人類服務(wù)。