欒群　張浩

隨著新一代信息技術(shù)為代表的數(shù)字技術(shù)發(fā)展，新一輪產(chǎn)業(yè)變革風(fēng)起潮涌，數(shù)字經(jīng)濟(jì)興起，成為新時(shí)代新經(jīng)濟(jì)的顯著特征。但是，同時(shí)也發(fā)生了泥沙俱下、沉滓泛起的現(xiàn)象，如近期換臉軟件ZAO，被查出存在違規(guī)收集用戶個(gè)人敏感信息、未清晰說(shuō)明個(gè)人信息處理規(guī)則、疑似不遵守隱私政策、在文件中設(shè)置不合理霸王條款等多項(xiàng)問(wèn)題，引發(fā)廣泛關(guān)注。更甚者，有販賣個(gè)人信息、進(jìn)行網(wǎng)絡(luò)詐騙等違法犯罪行為的情況出現(xiàn)。如何保證數(shù)字經(jīng)濟(jì)健康可持續(xù)發(fā)展、發(fā)展負(fù)責(zé)任的數(shù)字化，成為當(dāng)前亟需關(guān)注研究的問(wèn)題。

數(shù)字化是新經(jīng)濟(jì)的重要特征

黨中央高度重視數(shù)字戰(zhàn)略。2017年12月8日，中央政治局第二次集體學(xué)習(xí)，提出實(shí)施國(guó)家大數(shù)據(jù)戰(zhàn)略，加快建設(shè)數(shù)字中國(guó)。中共中央總書(shū)記習(xí)近平在主持學(xué)習(xí)時(shí)強(qiáng)調(diào)，大數(shù)據(jù)發(fā)展日新月異，我們應(yīng)該審時(shí)度勢(shì)、精心謀劃、超前布局、力爭(zhēng)主動(dòng)，深入了解大數(shù)據(jù)發(fā)展現(xiàn)狀和趨勢(shì)及其對(duì)經(jīng)濟(jì)社會(huì)發(fā)展的影響，分析我國(guó)大數(shù)據(jù)發(fā)展取得的成績(jī)和存在的問(wèn)題，推動(dòng)實(shí)施國(guó)家大數(shù)據(jù)戰(zhàn)略，加快完善數(shù)字基礎(chǔ)設(shè)施，推進(jìn)數(shù)據(jù)資源整合和開(kāi)放共享，保障數(shù)據(jù)安全，加快建設(shè)數(shù)字中國(guó)，更好服務(wù)我國(guó)經(jīng)濟(jì)社會(huì)發(fā)展和人民生活改善。2018年4月，全國(guó)網(wǎng)絡(luò)安全和信息化工作會(huì)議上，習(xí)近平總書(shū)記強(qiáng)調(diào)，要發(fā)展數(shù)字經(jīng)濟(jì)，加快推動(dòng)數(shù)字產(chǎn)業(yè)化，依靠信息技術(shù)創(chuàng)新驅(qū)動(dòng)，不斷催生新產(chǎn)業(yè)、新業(yè)態(tài)、新模式，用新動(dòng)能推動(dòng)新發(fā)展。要推動(dòng)產(chǎn)業(yè)數(shù)字化，利用互聯(lián)網(wǎng)新技術(shù)新應(yīng)用對(duì)傳統(tǒng)產(chǎn)業(yè)進(jìn)行全方位、全角度、全鏈條的改造，提高全要素生產(chǎn)率，釋放數(shù)字對(duì)經(jīng)濟(jì)發(fā)展的放大、疊加、倍增作用。2019年8月，習(xí)近平總書(shū)記向2019中國(guó)國(guó)際智能產(chǎn)業(yè)博覽會(huì)致賀信指出，當(dāng)前，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等為代表的現(xiàn)代信息技術(shù)日新月異，新一輪科技革命和產(chǎn)業(yè)變革蓬勃推進(jìn)，智能產(chǎn)業(yè)快速發(fā)展，對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、全球治理等方面產(chǎn)生重大而深遠(yuǎn)影響。

社會(huì)整體進(jìn)入數(shù)字化的新階段。1998年，美國(guó)商業(yè)部發(fā)布《浮現(xiàn)中的數(shù)字經(jīng)濟(jì)》研究報(bào)告，在IT技術(shù)擴(kuò)散和滲透的推動(dòng)下，對(duì)從工業(yè)經(jīng)濟(jì)走向數(shù)字經(jīng)濟(jì)的發(fā)展趨勢(shì)，做出了極富預(yù)見(jiàn)性的輪廓描述，可以稱為數(shù)字經(jīng)濟(jì)1.0時(shí)代。2017年1月，阿里研究院發(fā)布的《數(shù)字經(jīng)濟(jì)2.0》研究報(bào)告稱：經(jīng)過(guò)數(shù)字經(jīng)濟(jì)1.0時(shí)代以來(lái)的技術(shù)進(jìn)步、應(yīng)用滲透、商業(yè)創(chuàng)新和生態(tài)演化，數(shù)字經(jīng)濟(jì)的發(fā)展進(jìn)一步升級(jí)，邁入了以互聯(lián)網(wǎng)平臺(tái)為載體、以數(shù)據(jù)為驅(qū)動(dòng)的2.0時(shí)代，呈現(xiàn)出平臺(tái)化、數(shù)據(jù)化、普惠化的發(fā)展特征。根據(jù)電通安吉斯《2018年數(shù)字社會(huì)指數(shù)》和財(cái)新數(shù)聯(lián)2018年《中國(guó)數(shù)字經(jīng)濟(jì)指數(shù)》，中國(guó)民眾對(duì)于國(guó)內(nèi)數(shù)字經(jīng)濟(jì)發(fā)展前景普遍持樂(lè)觀態(tài)度，并在產(chǎn)業(yè)指數(shù)、溢出指數(shù)、融合指數(shù)和基礎(chǔ)指數(shù)上全面領(lǐng)先，而各省數(shù)字經(jīng)濟(jì)指數(shù)排序基本上也與發(fā)達(dá)程度正相關(guān)。

未來(lái)中國(guó)有望引領(lǐng)數(shù)字經(jīng)濟(jì)發(fā)展。2017年8月，麥肯錫發(fā)布的《中國(guó)數(shù)字經(jīng)濟(jì)如何引領(lǐng)全球新趨勢(shì)》報(bào)告稱：中國(guó)已成為數(shù)字創(chuàng)新企業(yè)的樂(lè)土，中國(guó)現(xiàn)已成為全球電子商務(wù)和數(shù)字化支付的領(lǐng)頭羊，孕育了全球1/3的獨(dú)角獸公司，中國(guó)已經(jīng)成為全球領(lǐng)先的數(shù)字技術(shù)投資國(guó)之一。報(bào)告指出，三大因素表明中國(guó)的數(shù)字化發(fā)展存在極大潛力，一是中國(guó)市場(chǎng)體量龐大，擁有可觀的年輕網(wǎng)民，為數(shù)字商業(yè)模式迅速投入商用創(chuàng)造了條件;二是資本雄厚的互聯(lián)網(wǎng)三大巨頭建立的豐富數(shù)字化生態(tài)圈如今正在不斷拓展延伸;三是中國(guó)政府對(duì)數(shù)字化企業(yè)和機(jī)構(gòu)的態(tài)度是“先試水、后監(jiān)管”，如今更成為數(shù)字化發(fā)展的積極推動(dòng)者。而從復(fù)旦大學(xué)數(shù)字與移動(dòng)治理實(shí)驗(yàn)室發(fā)布的2018年《中國(guó)地方政府?dāng)?shù)據(jù)開(kāi)放報(bào)告》“中國(guó)開(kāi)放數(shù)林指數(shù)”也可以看出，政府有意將數(shù)據(jù)開(kāi)放作為推動(dòng)全社會(huì)向數(shù)字化、智能化方向發(fā)展的抓手。近兩年來(lái)中央深改組通過(guò)《關(guān)于推進(jìn)公共信息資源開(kāi)放的若干意見(jiàn)》，發(fā)改委、工信部聯(lián)合印發(fā)《公共信息資源開(kāi)放試點(diǎn)工作方案》等，都表明了黨和政府對(duì)于數(shù)字化發(fā)展的積極姿態(tài)。

促進(jìn)負(fù)責(zé)任的數(shù)字經(jīng)濟(jì)發(fā)展

數(shù)據(jù)合規(guī)的規(guī)范體系已初步建立。數(shù)據(jù)技術(shù)的研發(fā)者、使用者及其他相關(guān)方，實(shí)際上都應(yīng)具有高度的社會(huì)責(zé)任感和自律意識(shí)，更應(yīng)嚴(yán)格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范。根據(jù)現(xiàn)在的侵權(quán)責(zé)任法、知識(shí)產(chǎn)權(quán)法、消費(fèi)者法、網(wǎng)絡(luò)安全法、電子商務(wù)法、廣告法等領(lǐng)域法規(guī)定，實(shí)際上已經(jīng)有了原則性的責(zé)任分配方案。2019年8月，《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》公布實(shí)施，對(duì)兒童群體的個(gè)人信息加強(qiáng)保護(hù)。對(duì)于已經(jīng)有的法律規(guī)范，當(dāng)事人當(dāng)然應(yīng)該遵守。但問(wèn)題在于，立法、司法、執(zhí)法之間的銜接要順暢，否則就給企業(yè)和公民守法帶來(lái)不必要的困擾，甚至適得其反;立法超前或責(zé)任過(guò)重，實(shí)際上對(duì)于產(chǎn)業(yè)發(fā)展初期不利，應(yīng)當(dāng)著力避免“一管就死、一放就亂”，特別是“一管就死”，因?yàn)榘l(fā)展既不能因噎廢食，也不能投鼠忌器。

數(shù)據(jù)合規(guī)是新經(jīng)濟(jì)時(shí)代的企業(yè)守法重點(diǎn)。黨的十九大報(bào)告提出，全面依法治國(guó)是國(guó)家治理的一場(chǎng)深刻革命，必須堅(jiān)持厲行法治，推進(jìn)科學(xué)立法、嚴(yán)格執(zhí)法、公正司法、全民守法。在信息技術(shù)和數(shù)字經(jīng)濟(jì)大行其道的今天，企業(yè)和公民數(shù)據(jù)合規(guī)的守法義務(wù)越來(lái)越重。既然數(shù)據(jù)已經(jīng)成為企業(yè)的基本生產(chǎn)資料，那么個(gè)人的數(shù)據(jù)權(quán)利就應(yīng)該是一種自然權(quán)利;對(duì)個(gè)人數(shù)據(jù)的濫用和侵害，侵犯的就不僅僅是無(wú)形財(cái)產(chǎn)權(quán)，還涉及人格和尊嚴(yán)。這實(shí)際上就是歐洲GDPR（《通用數(shù)據(jù)保護(hù)條例》）產(chǎn)生的內(nèi)在邏輯。但是企業(yè)的數(shù)據(jù)合規(guī)不是立法規(guī)定就完事那么簡(jiǎn)單，后續(xù)需要有一系列的配套舉措。如：企業(yè)若不遵守或做不到數(shù)據(jù)合規(guī)要求的風(fēng)險(xiǎn)是什么，如何做這一類的風(fēng)險(xiǎn)評(píng)估，如何設(shè)立企業(yè)數(shù)據(jù)合規(guī)的規(guī)范體系，通過(guò)什么程序和必要制度、措施進(jìn)行合規(guī)執(zhí)行，如何監(jiān)督企業(yè)數(shù)據(jù)合規(guī)并進(jìn)行必要的審計(jì)、信息公開(kāi)和懲戒等，這些都是需要花費(fèi)巨大精力和成本的。

發(fā)展是第一要?jiǎng)?wù)，也是第一責(zé)任。規(guī)范數(shù)字經(jīng)濟(jì)和加強(qiáng)數(shù)據(jù)治理，目的是健康可持續(xù)發(fā)展，即不是“不要GDP”，而是“不要帶血的GDP”。根據(jù)卡羅爾的企業(yè)社會(huì)責(zé)任金字塔，最頂層的是企業(yè)自行裁量的責(zé)任，其次是倫理和法律責(zé)任，但最基礎(chǔ)的是經(jīng)濟(jì)發(fā)展責(zé)任。如果沒(méi)有發(fā)展，其他的責(zé)任就是“空中樓閣”。數(shù)字經(jīng)濟(jì)可以分為兩個(gè)板塊，一是核心板塊ICT產(chǎn)業(yè)本身，二是拓展板塊ICT技術(shù)和產(chǎn)業(yè)在經(jīng)濟(jì)社會(huì)各領(lǐng)域的應(yīng)用。ICT信息和通信技術(shù)產(chǎn)業(yè)，是電信服務(wù)、信息服務(wù)、IT服務(wù)及應(yīng)用的有機(jī)結(jié)合。特別是隨著5G時(shí)代的到來(lái)，ICT產(chǎn)業(yè)本身及高級(jí)別的醫(yī)療、安防、智能制造和自動(dòng)駕駛應(yīng)用等，將會(huì)產(chǎn)生巨量的溢出效應(yīng)。在這些廣泛應(yīng)用中，數(shù)據(jù)的采集、存儲(chǔ)、處理、應(yīng)用、交易、出境、消除等環(huán)節(jié)，是保持?jǐn)?shù)字經(jīng)濟(jì)高速運(yùn)轉(zhuǎn)的關(guān)鍵，如果尺度不當(dāng)，會(huì)造成阻礙甚至倒退。

負(fù)責(zé)任數(shù)字化包含的原則

加強(qiáng)頂層設(shè)計(jì)，進(jìn)行綜合治理。2019年6月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了“負(fù)責(zé)任”的概念，明確人工智能治理應(yīng)該秉持8項(xiàng)基本原則：和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理。數(shù)據(jù)是人工智能的原材料，實(shí)際上在很大程度上可以將其視為數(shù)據(jù)的治理原則。另外，數(shù)字化過(guò)程包含技術(shù)創(chuàng)新、產(chǎn)業(yè)發(fā)展、信息安全、社會(huì)責(zé)任、虛擬經(jīng)濟(jì)等多領(lǐng)域要素內(nèi)容，既需要兼顧原則，也需要專業(yè)原則。應(yīng)當(dāng)著眼于構(gòu)建我國(guó)新時(shí)代經(jīng)濟(jì)競(jìng)爭(zhēng)新優(yōu)勢(shì)，培育經(jīng)濟(jì)發(fā)展新動(dòng)能和新勢(shì)能，以創(chuàng)新驅(qū)動(dòng)智能化發(fā)展為目標(biāo)，圍繞人工智能設(shè)計(jì)數(shù)據(jù)治理和數(shù)字化發(fā)展原則。

遵守法律法規(guī)，保障公共利益。在數(shù)據(jù)收集、研發(fā)、利用、存儲(chǔ)、交易等環(huán)節(jié)，遵守既有法律法規(guī)。特別是應(yīng)當(dāng)加強(qiáng)《網(wǎng)絡(luò)安全法》《電子商務(wù)法》《廣告法》等重點(diǎn)法律的實(shí)施與檢查。更重要的是，加快推進(jìn)大數(shù)據(jù)綜合試驗(yàn)區(qū)等地方立法先行先試，及時(shí)推廣制定相關(guān)法律，解決政府部門(mén)針對(duì)數(shù)據(jù)治理“不敢做”“不想做”“不會(huì)做”的問(wèn)題。應(yīng)當(dāng)要求企業(yè)在追求經(jīng)濟(jì)效益的同時(shí)兼顧社會(huì)效益，不得侵害公共利益，確保數(shù)據(jù)技術(shù)的開(kāi)發(fā)和利用符合人類長(zhǎng)遠(yuǎn)發(fā)展。

確保安全可靠，保護(hù)個(gè)人隱私。企業(yè)在數(shù)據(jù)研發(fā)和利用時(shí)，應(yīng)當(dāng)賦予產(chǎn)品或智能化系統(tǒng)一定程度的防御機(jī)制，以抵抗嚴(yán)重的網(wǎng)絡(luò)攻擊;同時(shí)還需制定應(yīng)急響應(yīng)計(jì)劃，使受影響的系統(tǒng)恢復(fù)到安全可靠的狀態(tài)，從而保證系統(tǒng)在整個(gè)生命期內(nèi)安全可靠。智能化產(chǎn)品或系統(tǒng)的數(shù)據(jù)采集和使用，應(yīng)當(dāng)尊重個(gè)人的隱私權(quán)，相關(guān)企業(yè)應(yīng)當(dāng)設(shè)計(jì)一套保護(hù)用戶隱私的機(jī)制，防止個(gè)人隱私及相關(guān)數(shù)據(jù)遭到濫用。加強(qiáng)企業(yè)隱私政策評(píng)估工作并形成長(zhǎng)效機(jī)制，對(duì)于保護(hù)廣大消費(fèi)者個(gè)人信息和隱私安全不啻善事。2017年，網(wǎng)信辦、工信部、公安部、國(guó)標(biāo)委4部門(mén)組成專家工作組，對(duì)一些企業(yè)網(wǎng)絡(luò)產(chǎn)品和服務(wù)的隱私政策展開(kāi)評(píng)估。但是，目前互聯(lián)網(wǎng)企業(yè)的隱私政策普遍冗長(zhǎng)復(fù)雜，仍然未能充分發(fā)揮其告知和規(guī)制作用。

提高算法透明度，明晰體系責(zé)任。隨著智能化產(chǎn)品和系統(tǒng)越來(lái)越多，大數(shù)據(jù)“殺熟”、算法歧視、算法圍城等現(xiàn)象日益突出，越來(lái)越多的問(wèn)題都指向“算法黑箱”。特別是隨著有執(zhí)法權(quán)或公共裁量權(quán)的機(jī)構(gòu)（如信用評(píng)級(jí)）廣泛采用智能系統(tǒng)，由系統(tǒng)來(lái)決定一個(gè)人是不是“合格的人”成為普遍現(xiàn)象。設(shè)計(jì)研發(fā)主體應(yīng)采用科學(xué)的方法驗(yàn)證智能系統(tǒng)，定期評(píng)估和測(cè)試其是否會(huì)輸出歧視性結(jié)果，并鼓勵(lì)各主體公布測(cè)試情況。人工智能的決策和計(jì)算結(jié)果應(yīng)具備可重現(xiàn)能力，即系統(tǒng)可根據(jù)過(guò)去導(dǎo)致某決策的輸入重現(xiàn)計(jì)算過(guò)程。建立可解讀的系統(tǒng)，能夠使人工智能變得可控、可被監(jiān)管。而一旦系統(tǒng)導(dǎo)致任何嚴(yán)重后果，可通過(guò)重現(xiàn)計(jì)算過(guò)程追溯問(wèn)題源頭。同時(shí)，企業(yè)應(yīng)當(dāng)在人工智能決策引發(fā)的相關(guān)責(zé)任之后，首先進(jìn)行企業(yè)自查以確定基本責(zé)任歸屬關(guān)系，之后再將基本責(zé)任歸屬關(guān)系映射到法律法規(guī)之中。