本刊特約記者 巨云鵬

10月1日起，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》（以下簡稱《條例》）正式施行。作為人工智能領(lǐng)域在國內(nèi)的首部省級地方性法規(guī)，早在制定階段，《條例》就受到了產(chǎn)業(yè)界、法律界等多方關(guān)注。

談起人工智能，很多人的最初印象是電影里的場景：具備超級智慧的計算機(jī)系統(tǒng)無所不知，“鋼筋鐵骨”的人形機(jī)器人無所不能，人類和人工智能產(chǎn)生巨大的矛盾……

而在上海這部法規(guī)中，明確《條例》所稱人工智能，是指利用計算機(jī)或者計算機(jī)控制的機(jī)器模擬、延伸和擴(kuò)展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結(jié)果的理論、方法、技術(shù)及應(yīng)用系統(tǒng)；人工智能產(chǎn)業(yè)，則是指人工智能技術(shù)研發(fā)和應(yīng)用所涉及的軟硬件產(chǎn)品開發(fā)和生產(chǎn)、系統(tǒng)應(yīng)用、集成服務(wù)等，包括關(guān)鍵基礎(chǔ)元器件產(chǎn)業(yè)、智能軟件產(chǎn)業(yè)、智能終端產(chǎn)業(yè)，以及人工智能技術(shù)在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域融合應(yīng)用帶動的相關(guān)行業(yè)。

從立法的角度看，這些定義是制定法律條文的必然邏輯要求，但透過這些條文也可以一窺立法者對人工智能及相關(guān)產(chǎn)業(yè)的未來期待：更好地為人類服務(wù)。

明確人工智能產(chǎn)業(yè)發(fā)展相關(guān)行為底線

在許多有關(guān)人工智能的文學(xué)、電影作品中，人工智能與人類的關(guān)系往往是推動情節(jié)發(fā)展的主要因素，如電影《終結(jié)者》系列中的人工智能防御系統(tǒng)“天網(wǎng)”，《黑客帝國》系列中的“矩陣”，它們對人類的統(tǒng)治和威脅成為許多影迷心中的夢魘。

當(dāng)下的人工智能技術(shù)雖還不像電影中那樣“無所不能”，但智能家居、智能客服、人臉識別、廣告?zhèn)€性化推薦等應(yīng)用早已“飛入尋常百姓家”，無人駕駛、智能機(jī)器人等技術(shù)也愈發(fā)成熟。

“上海此次立法不是為人工智能立法，而是促進(jìn)人工智能產(chǎn)業(yè)發(fā)展的條例，立足點(diǎn)是促進(jìn)產(chǎn)業(yè)發(fā)展”，上海市人大常委會財經(jīng)委立法監(jiān)督處處長張震說，針對人工智能，在國際上暫時沒有綜合性單獨(dú)的立法，因?yàn)槿斯ぶ悄芴y、太新了，比如電子人格，能不能承認(rèn)出現(xiàn)了“智能人”？比如高階段的無人駕駛，如果出了車禍，算運(yùn)營商、制造商還是乘坐人的責(zé)任？“這些問題都很值得探討，對于地方立法來說可能超出了權(quán)限?！?/p>

雖然如此，但《條例》兼顧人工智能產(chǎn)業(yè)發(fā)展與安全可控，仍在條款中明確了人工智能產(chǎn)業(yè)發(fā)展相關(guān)行為底線，以保障人工智能產(chǎn)業(yè)健康、安全發(fā)展。

《條例》提出設(shè)立人工智能倫理專家委員會，履行6項(xiàng)職責(zé)，包括制定人工智能領(lǐng)域倫理規(guī)范指南，指導(dǎo)高校等開展人工智能領(lǐng)域倫理理論研究和探索，推動人工智能企業(yè)探索建立倫理安全治理制度，對涉及生命健康、公共安全等重點(diǎn)領(lǐng)域人工智能應(yīng)用的潛在風(fēng)險開展評估等。

“成立人工智能倫理專家委員會，制定倫理規(guī)范指南，開展倫理安全教育和宣傳，促進(jìn)人工智能產(chǎn)業(yè)在規(guī)范中發(fā)展，在發(fā)展中規(guī)范?！鄙虾Ｊ薪?jīng)信委副主任張英說。

《條例》還明確相關(guān)主體開展人工智能研發(fā)和應(yīng)用，應(yīng)當(dāng)遵守法律、法規(guī)規(guī)定，增強(qiáng)倫理意識，并不得從事6類禁止行為，包括提供危害國家安全或社會公共安全的產(chǎn)品和服務(wù)，提供危害用戶人身或者財產(chǎn)安全、侵害個人隱私或個人信息權(quán)益的產(chǎn)品和服務(wù)，提供因民族、種族、性別、年齡、職業(yè)和宗教信仰等歧視用戶的產(chǎn)品和服務(wù)，利用算法技術(shù)實(shí)施價格歧視或者消費(fèi)者欺詐等侵害消費(fèi)者權(quán)益的行為，利用深度合成技術(shù)實(shí)施國家禁止的行為，以及其他違反有關(guān)法律、法規(guī)和公序良俗的行為等。

為我國人工智能治理貢獻(xiàn)“上海方案”“上海智慧”

集成電路、生物醫(yī)藥、人工智能，是上海正在著力打造的三大先導(dǎo)產(chǎn)業(yè)。2021年，上海人工智能規(guī)上產(chǎn)值3056.8億元，同比增長17.2%，是2018年的2.28倍，產(chǎn)業(yè)人才也從2018年的10萬人提升到23萬人。

“上海通過制度供給引領(lǐng)新發(fā)展，發(fā)布人工智能五年規(guī)劃、算法行動計劃、標(biāo)準(zhǔn)體系等政策舉措，建設(shè)人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，開創(chuàng)了國內(nèi)多個‘第一’”，張英說，此次《條例》的表決通過，既為上海人工智能發(fā)展提供了有力保障，也為我國人工智能治理貢獻(xiàn)了“上海方案”“上海智慧”。

從《條例》具體內(nèi)容看，“上海方案”對人工智能產(chǎn)業(yè)發(fā)展有著清晰的路徑規(guī)劃和支持舉措。在“產(chǎn)業(yè)發(fā)展”一章，除一般性規(guī)定外，專設(shè)了“重點(diǎn)促進(jìn)”一節(jié)，針對芯片、智能機(jī)器人、智能網(wǎng)聯(lián)汽車、無人機(jī)、無人船等領(lǐng)域設(shè)計了一系列促進(jìn)措施：

——支持相關(guān)主體開展基于先進(jìn)架構(gòu)的高效能智能芯片設(shè)計創(chuàng)新，研制云端芯片和云端智能服務(wù)器，布局類腦芯片等，上海市發(fā)展改革、經(jīng)濟(jì)信息化部門應(yīng)當(dāng)推動自主技術(shù)智能芯片在算力基礎(chǔ)設(shè)施等重大項(xiàng)目中的應(yīng)用。

——推動智能機(jī)器人軟硬件系統(tǒng)標(biāo)準(zhǔn)化和模塊化建設(shè)，支持培育智能機(jī)器人系統(tǒng)集成商，鼓勵相關(guān)企業(yè)、產(chǎn)品使用方與金融機(jī)構(gòu)采用產(chǎn)品租賃、服務(wù)采購等方式，拓展智能機(jī)器人應(yīng)用場景。

——支持相關(guān)主體開展人工智能醫(yī)療器械關(guān)鍵技術(shù)研發(fā)，在智能輔助診斷算法、手術(shù)定位導(dǎo)航、融合腦機(jī)接口等方面加強(qiáng)攻關(guān)突破；加強(qiáng)人工智能醫(yī)療器械注冊審批相關(guān)指導(dǎo)服務(wù)，支持相關(guān)創(chuàng)新產(chǎn)品進(jìn)入國家創(chuàng)新醫(yī)療器械特別審批程序；支持探索符合條件的人工智能醫(yī)療器械在臨床應(yīng)用中的收費(fèi)模式。

上海市人大常委會法工委主任閻銳介紹，《條例》還圍繞提高經(jīng)濟(jì)發(fā)展質(zhì)量、城市生活品質(zhì)和現(xiàn)代化管理能力，進(jìn)一步加強(qiáng)人工智能在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域的規(guī)?；瘧?yīng)用，明確經(jīng)濟(jì)信息化部門組織制定人工智能示范應(yīng)用清單，并指導(dǎo)和督促相關(guān)各方予以落實(shí)；深化人工智能在制造、金融、商務(wù)、物流等經(jīng)濟(jì)領(lǐng)域的應(yīng)用；深化人工智能在互聯(lián)網(wǎng)、教育、醫(yī)療、養(yǎng)老等生活領(lǐng)域的應(yīng)用；深化人工智能在城市治理領(lǐng)域的應(yīng)用，加強(qiáng)智能感知、智能中樞和智慧司法建設(shè)，全面推進(jìn)城市治理中的人工智能場景應(yīng)用等。

注重促進(jìn)創(chuàng)新與防范風(fēng)險相統(tǒng)一，探索分級治理和沙盒監(jiān)管

上海在此次《條例》的制定和出臺過程中，聽取了包括人大代表、政協(xié)委員、法學(xué)專家、企業(yè)代表等多方面的意見。

“‘人工智能+’是個好事情，但我們也要考慮到，如果走偏了對于行業(yè)的負(fù)面影響，所以在促進(jìn)的同時，一定要劃出底線”，上海市政協(xié)委員、安杰律師事務(wù)所合伙人陳貴說，在產(chǎn)業(yè)扶持上，一定是扶持那些秉持“科技向善”的企業(yè)，而不是那些造成隱私泄露、危害人類安全的應(yīng)用。

據(jù)新華社報道，在歐盟委員會于2021年4月提出的一套人工智能法律框架中，按照風(fēng)險高低，將人工智能應(yīng)用場景分為“最低、有限、高、不可接受”4個風(fēng)險等級，等級越高的應(yīng)用場景，受到的限制越嚴(yán)格。

報道稱，高風(fēng)險應(yīng)用場景指可能對人們生命、生活造成嚴(yán)重影響的場景，如交通設(shè)備、教育培訓(xùn)、醫(yī)療輔助、信用評級等。歐盟委員會強(qiáng)調(diào)，所有遠(yuǎn)距離生物識別系統(tǒng)都被認(rèn)為具有高風(fēng)險，禁止執(zhí)法部門在公共場合使用這一技術(shù)，只有少數(shù)情況例外，如尋找失蹤兒童或防止個別恐怖襲擊、甄別犯罪分子和可疑人員等，這類應(yīng)用需得到司法部門或獨(dú)立機(jī)構(gòu)授權(quán)；而某些明顯威脅人們安全和生活以及侵犯人們權(quán)利的系統(tǒng)被劃為不可接受風(fēng)險的場景，包括利用人類行為來誤導(dǎo)用戶、違反其自由意志的應(yīng)用，如使用語音助手誘導(dǎo)未成年人做出危險行為的玩具等，這類應(yīng)用須禁止。

在上海這部《條例》的具體條款中，同樣也出現(xiàn)了不同風(fēng)險等級的表述：要求對高風(fēng)險的人工智能產(chǎn)品和服務(wù)實(shí)行清單式管理，遵循必要、正當(dāng)、可控等原則進(jìn)行合規(guī)審查；對中低風(fēng)險的人工智能產(chǎn)品和服務(wù)采用事前披露和事后控制的治理模式，促進(jìn)先行先試。具體辦法由上海市人民政府另行制定。

張英說，圍繞《條例》提出的“以人為本、科技向善”發(fā)展原則，上海將進(jìn)一步注重促進(jìn)創(chuàng)新與防范風(fēng)險相統(tǒng)一，探索分級治理和沙盒監(jiān)管，針對技術(shù)創(chuàng)新探索柔性監(jiān)管制度，研究出臺高風(fēng)險人工智能產(chǎn)品和服務(wù)清單等?！啊稐l例》的出臺，對上海加快打造人工智能世界級產(chǎn)業(yè)集群具有標(biāo)志性意義。我們將在上海市人大的指導(dǎo)監(jiān)督下，會同各部門抓好貫徹落實(shí)，也希望大家繼續(xù)關(guān)心人工智能產(chǎn)業(yè)發(fā)展?！睆堄⒄f。