鄒依凝

摘 要：黨的十九大報(bào)告提出要建設(shè)智慧社會(huì)，引發(fā)了我們對(duì)數(shù)字人權(quán)的思考。智慧社會(huì)下的人工智能除了滿足人們對(duì)美好發(fā)展的需要，也產(chǎn)生了諸如算法黑箱、算法歧視、隱私侵犯、數(shù)字溝泓等與人權(quán)問題緊密相關(guān)、亟待解決的問題。以此為切入點(diǎn)，立足智慧社會(huì)發(fā)展的客觀現(xiàn)實(shí)和人性訴求，從人工智能治理中數(shù)字人權(quán)的保護(hù)現(xiàn)狀、存在問題、促進(jìn)發(fā)展幾個(gè)方面出發(fā)，在數(shù)字人權(quán)保護(hù)機(jī)制等方面進(jìn)行深刻研究，進(jìn)而為其發(fā)展提供法治化保障。

關(guān)鍵詞：智慧社會(huì);人工智能;數(shù)字人權(quán);法治保障

1 人工智能治理中數(shù)字人權(quán)的保護(hù)現(xiàn)狀

“智慧社會(huì)就是數(shù)字化、網(wǎng)絡(luò)化、智能化深度融合的社會(huì)”，在此時(shí)期智能互聯(lián)網(wǎng)也蓬勃發(fā)展，產(chǎn)生了諸如人工智能、云計(jì)算等新時(shí)代的產(chǎn)物，利用算法、代碼等技術(shù)，人們可以突破物理疆域的限制，跨越了 “虛擬，現(xiàn)實(shí)” 的兩重空間和人的 “生物，數(shù)字” 的雙重屬性，實(shí)現(xiàn)了數(shù)字身份及行為的遠(yuǎn)程臨場。

1.1 虛擬—現(xiàn)實(shí)雙重空間的交互發(fā)展

如今數(shù)字社會(huì)的快速進(jìn)步和人工智能技術(shù)的迅速發(fā)展，背后是一場信息革命，即從工業(yè)社會(huì)向信息社會(huì)的轉(zhuǎn)型，它以網(wǎng)絡(luò)技術(shù)的發(fā)展為依托，締造了一個(gè)超越空間的新型社會(huì)，促進(jìn)了互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能的交融發(fā)展，引導(dǎo)人們進(jìn)入了信息化和智慧化的生活。人們從現(xiàn)實(shí)的物理空間走進(jìn)了虛擬的電子空間，網(wǎng)上交易、群聊通信、學(xué)習(xí)娛樂，人工智能的發(fā)展使人們通過網(wǎng)絡(luò)連接的方式就可以形成生活的方方面面，從而導(dǎo)致虛擬—現(xiàn)實(shí)雙重空間的交互發(fā)展的現(xiàn)狀。

1.2 生物—信息雙重屬性的疊加融合

隨著人工智能的迅猛發(fā)展，現(xiàn)實(shí)與虛擬的交互，國家和社會(huì)的混同，海量數(shù)據(jù)的相互交換，通過網(wǎng)絡(luò)中留下的一串串?dāng)?shù)字腳印，形成了每個(gè)人特有的“數(shù)據(jù)畫像”。這樣，人們就在天然的生物屬性之外，獲得了數(shù)字屬性，從“生物人類”邁向“數(shù)字人類”，塑造了數(shù)字時(shí)代中生物-信息的雙重人性。可以說，在智能互聯(lián)網(wǎng)時(shí)代，海量數(shù)據(jù)不斷融合，網(wǎng)絡(luò)個(gè)人信息涵蓋了從搖籃到墳?zāi)沟乃兴饺松?，就這樣，一個(gè)“數(shù)字人”正在漸漸涌現(xiàn)。在這種情況下，數(shù)字鴻溝、算法黑箱、算法歧視等問題在不斷發(fā)展，這實(shí)際上是復(fù)制和控制了通過數(shù)字渠道連續(xù)獲得的數(shù)字信息。人們的個(gè)人興趣、購買習(xí)慣等正在被一條條數(shù)據(jù)描繪著，源源不斷的匯入大數(shù)據(jù)分析中，從而構(gòu)成一個(gè)具有雙重屬性的社會(huì)信息網(wǎng)絡(luò)。

1.3 算法權(quán)力的邊界模糊

在數(shù)字時(shí)代，有關(guān)公民的個(gè)人信息轉(zhuǎn)換成代碼數(shù)據(jù)儲(chǔ)存在網(wǎng)絡(luò)空間中，人們不得不置身于大數(shù)據(jù)的虛擬空間中，公民逐漸成為一整個(gè)信息共同體，而為了社會(huì)經(jīng)濟(jì)的整體發(fā)展，相對(duì)的又不得不賦予平臺(tái)一些“準(zhǔn)公權(quán)力”，如規(guī)則制定權(quán)、審查權(quán)、管理權(quán)和處分權(quán)等。因此，數(shù)據(jù)和信息成為重要的新型資產(chǎn)，而算法也從最初的“提煉自這個(gè)世界，來源于這個(gè)世界”，轉(zhuǎn)向“開始塑造這個(gè)世界”。而網(wǎng)絡(luò)服務(wù)提供者利用人工智能等技術(shù)手段對(duì)這些數(shù)據(jù)進(jìn)行系統(tǒng)的整理分析，從而對(duì)這些相關(guān)個(gè)人或群體及其行為得出相應(yīng)的推斷，比如一些商業(yè)群體就會(huì)通過對(duì)海量數(shù)據(jù)的分析得出個(gè)人的喜好、需要后對(duì)用戶投放精準(zhǔn)推送并因此獲取巨大的商業(yè)利益。可以說，在“數(shù)據(jù)化+智能化”的“互聯(lián)網(wǎng)+”時(shí)代，正是由于嵌入了數(shù)字和人工智能的元素，傳統(tǒng)的權(quán)利和義務(wù)發(fā)生了根本的變化。

2 人工智能治理中數(shù)字人權(quán)保護(hù)存在的問題

2.1 算法崛起帶來法律挑戰(zhàn)

人工智能的發(fā)展，使得“信息”成了數(shù)字社會(huì)中的關(guān)鍵因素，信息化重組帶來的風(fēng)險(xiǎn)幾乎貫穿整個(gè)社會(huì)的演進(jìn)發(fā)展，信息不再受到主權(quán)國家的絕對(duì)控制，而由條條信息數(shù)據(jù)的算法也越來越多的應(yīng)用在決策和輔助場合。但是，算法黑箱、算法歧視等都暗含在算法的崛起之下。2018年的“Facebook丑聞”事件中，劍橋分析作為一家大數(shù)據(jù)分析公司，通過數(shù)據(jù)分析定義不同用戶，其中成為“可說服者”的用戶會(huì)成為平臺(tái)的重點(diǎn)分析對(duì)象，平臺(tái)會(huì)對(duì)其社交媒體活動(dòng)信息做大數(shù)據(jù)分析，并以此計(jì)算出最容易讓他們轉(zhuǎn)變心意的廣告方式，進(jìn)而進(jìn)行準(zhǔn)對(duì)性的廣告投放。平臺(tái)及網(wǎng)絡(luò)服務(wù)提供者正是運(yùn)用算法來幫助甚至直接決定人們的決策權(quán)，這直接侵犯了人類決策的知情權(quán)。

2.2 “公共暴露”侵犯個(gè)人隱私

自20世紀(jì)初開始，從“對(duì)隱私權(quán)的侵犯已經(jīng)不需要物理的、強(qiáng)制性侵入”，到“隱私的合理期待”（公共暴露），隱私權(quán)保障逐漸由住宅擴(kuò)展到公共場所、從強(qiáng)調(diào)“場所”轉(zhuǎn)向關(guān)注“人”。在當(dāng)今社會(huì)，人們頻繁的通過網(wǎng)絡(luò)數(shù)據(jù)的方式完成生活中的各種交互，大數(shù)據(jù)、云計(jì)算、人工智能等越來越多的滲透在日常生活中的方方面面。因此，人們逐漸陷入了海量數(shù)據(jù)的漩渦中，失去了對(duì)個(gè)人信息權(quán)力的掌控。另一方面，隨著大數(shù)據(jù)分析的發(fā)展，人們可以根據(jù)大數(shù)據(jù)的推薦選擇自己需要的產(chǎn)品，但是這其中卻摻雜了過多的第三方意愿。比如說，商家可以通過刷單、購買權(quán)重等方式提高自己在平臺(tái)中的搜索地位從而讓自己成為消費(fèi)者的選擇，在這種不知不覺中，人們自以為的需求產(chǎn)品其實(shí)變成了根據(jù)大數(shù)據(jù)運(yùn)算后結(jié)合商家利益的推薦產(chǎn)品，人們正在慢慢失去自己的自主選擇權(quán)。

與此同時(shí)，在當(dāng)下的數(shù)字社會(huì)的發(fā)展中網(wǎng)絡(luò)空間也逐漸成了人們生活的“第二個(gè)空間”，通過網(wǎng)絡(luò)空間的技術(shù)架構(gòu)，網(wǎng)絡(luò)犯罪實(shí)現(xiàn)了“全球脫域”而游走在世界各地。而隨著互聯(lián)網(wǎng)時(shí)代網(wǎng)民基本素質(zhì)的整體提升和網(wǎng)絡(luò)技術(shù)門檻的逐漸降低，“公共暴露”的范圍逐漸擴(kuò)大，這在某一方面來說使得新型網(wǎng)絡(luò)犯罪更多，犯罪者通過一些簡單的技術(shù)鏈接就可以獲取到人們的個(gè)人信息并進(jìn)而將其用作犯罪的道具，致使新型網(wǎng)絡(luò)犯罪率逐年升高，進(jìn)一步侵害個(gè)人隱私權(quán)。據(jù)2019年公安部數(shù)據(jù)顯示，全國最大訪客營銷案中的犯罪嫌疑人非法獲取和儲(chǔ)存公民個(gè)人相關(guān)信息約1000萬余條。面對(duì)上述新型網(wǎng)絡(luò)犯罪行為，如果可以提前設(shè)防，就可以防患于未然，保護(hù)公民個(gè)人信息和社會(huì)安全。

2.3 算法權(quán)力偏頗引發(fā)數(shù)字溝鴻

一般情況下，代碼提供者會(huì)根據(jù)法律及倫理道德等多方面結(jié)合的實(shí)際要求提供具有提前約束力的代碼規(guī)則供社會(huì)公共使用。此外，網(wǎng)絡(luò)服務(wù)提供者也會(huì)在用戶接入前提前設(shè)計(jì)相關(guān)用戶協(xié)議以約束網(wǎng)民個(gè)體、網(wǎng)絡(luò)組織等活動(dòng)，以達(dá)到穩(wěn)定網(wǎng)絡(luò)秩序的預(yù)期功效。在實(shí)際操控中，普遍的情況是，代碼設(shè)計(jì)者及網(wǎng)絡(luò)服務(wù)提供者擁有對(duì)代碼系統(tǒng)的絕對(duì)控制權(quán)，通過提前審查等方式管理網(wǎng)絡(luò)秩序，履行信息網(wǎng)絡(luò)安全管理的公法義務(wù)。但是，“內(nèi)容過濾軟件則會(huì)限制用戶的自由瀏覽、溝通及表達(dá)?！贝a設(shè)計(jì)者和網(wǎng)絡(luò)服務(wù)提供者在實(shí)踐中為了降低成本、獲取更高利益、逃避監(jiān)管責(zé)任等原因，其中立性越發(fā)偏失，比如，通過提升點(diǎn)擊率和知名度，可以擴(kuò)展用戶份額以及增加廣告收入，這是服務(wù)商的主要經(jīng)營方式，為此目的，利益驅(qū)使下的服務(wù)商不惜犧牲公民權(quán)利和公共利益。實(shí)際網(wǎng)絡(luò)生活中，不顧他人隱私權(quán)肆意炒作、利用網(wǎng)絡(luò)用戶個(gè)人注冊(cè)信息進(jìn)行不當(dāng)牟利等情況數(shù)不勝數(shù)。在大數(shù)據(jù)時(shí)代，掌握信息流不只是掌握現(xiàn)金流，更可能意味著一種“信息獨(dú)裁”?？梢哉f，普通公眾基本上無法得知自己在多大程度上、哪一方面被掌控，信息不對(duì)稱的現(xiàn)象普遍而廣泛，形成了實(shí)實(shí)在在的“數(shù)字溝泓”。