劉晶瑤

前段時間，電影《奧本海默》上映。讓人印象深刻的，不只是蘑菇云騰起的烈焰、城市文明被瞬間摧毀，核戰(zhàn)爭的幽靈驅(qū)之不散，更是籠罩在物理學家身上，令其終身無法擺脫的陰影——“一邊拯救世界、一邊毀滅世界”的爭議。影片透過原子彈之父一生的糾結(jié)，深刻反思了科技倫理的重要性。

無論是科學家，還是政府和社會，都必須深刻意識到，科技發(fā)展的目的不是為一人、一城、一國攫取利益，而應(yīng)當是造福全社會、增進全人類福祉。

日前，十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，意在規(guī)范科學研究、技術(shù)開發(fā)等科技活動的科技倫理審查工作，強化科技倫理風險防控，促進負責任創(chuàng)新。

有人說過，“技術(shù)具有兩面性：行善與威懾。在全部歷史中它都給我們帶來了福與禍?！杯h(huán)顧生活的日常，不少領(lǐng)域?qū)萍嫉臑E用，已經(jīng)打開了“潘多拉的魔盒”——算法濫用導(dǎo)致個人隱私泄露，“AI換臉”成為新型詐騙手段，科技與狠活引發(fā)食品安全憂慮……加強對科學研究和技術(shù)開發(fā)活動的全過程倫理監(jiān)管，目的正在于錨定正確發(fā)展方向，通過建立剛性治理體系，對不負責任的研究和失序，加以有效遏制和規(guī)避。

《科技倫理審查辦法（試行）》的出臺，將著重解決科技倫理審查職責不明確、程序不規(guī)范、機制不健全等問題。其重點之一就是，要求建立需要開展專家復(fù)核的科技活動清單制度，對可能產(chǎn)生較大倫理風險挑戰(zhàn)的新興科技活動實施清單管理。其中包括具有輿論社會動員能力和社會意識引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)，面向存在安全、人身健康風險等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)等。

與此同時也應(yīng)當看到，加強審查絕不等于束縛創(chuàng)新，而是警惕失序，規(guī)避倫理風險，將倫理考量貫穿于科研發(fā)展全流程。請記住，“科技向善”的關(guān)鍵還是“人類向善”，唯有堅守道德底線，把穩(wěn)倫理舵，才能揚好科技帆。