智能互聯(lián)網(wǎng)時(shí)代的深度法律變革,是一個(gè)沒有預(yù)設(shè)藍(lán)圖和結(jié)果的探索過程,但這并不表明它混沌無序;相反,它呈現(xiàn)了從工業(yè)社會(huì)邁向信息社會(huì)的制度轉(zhuǎn)型升級(jí)的趨向。
其一,數(shù)據(jù)的公平占有與合理使用。實(shí)踐中,主要是商家和政府在運(yùn)用數(shù)據(jù)挖掘技術(shù)來實(shí)施對(duì)原始數(shù)據(jù)的抓取、整理、分類、匹配和賦值,并據(jù)此為客戶設(shè)計(jì)和提供相應(yīng)的產(chǎn)品與服務(wù),或者建立起規(guī)范新技術(shù)的社會(huì)管理模式。此時(shí),就會(huì)形成基于數(shù)據(jù)資源的利益關(guān)系和社會(huì)關(guān)系?!叭绻苊鈨r(jià)值和權(quán)力落到少數(shù)人手中,我們就必須設(shè)法平衡數(shù)字平臺(tái)(包括行業(yè)平臺(tái))的效益與風(fēng)險(xiǎn),確保其開放性,并為協(xié)作式創(chuàng)新提供機(jī)會(huì)。”因此,在數(shù)據(jù)原生者、衍生者、交易者、使用者等角色之間,誰是這些數(shù)據(jù)權(quán)利的主體、數(shù)據(jù)權(quán)利義務(wù)如何分配、如何公平占有數(shù)據(jù)和抑制數(shù)據(jù)壟斷、如何合理使用數(shù)據(jù)、數(shù)據(jù)權(quán)利和個(gè)人隱私受到侵犯時(shí)如何進(jìn)行救濟(jì)等,都是必須回答的時(shí)代課題。
其二,數(shù)據(jù)闡釋的價(jià)值判斷。大數(shù)據(jù)分析離不開分析者的技術(shù)取舍(如數(shù)據(jù)清理、數(shù)據(jù)集成、數(shù)據(jù)變換、數(shù)據(jù)歸約)、數(shù)據(jù)賦值和數(shù)據(jù)闡釋,而“數(shù)據(jù)闡釋并不是理性的,這不能測量,也沒有是非對(duì)錯(cuò)的終極判斷。闡釋永遠(yuǎn)是主觀的,是依賴直覺的,而且也與周邊環(huán)境緊密相關(guān)。同樣的數(shù)據(jù)在不同的環(huán)境內(nèi)容中可以有截然不同的意義,這些意義并非數(shù)據(jù)所固有,而是人們?cè)谔囟ōh(huán)境中分析數(shù)據(jù)并將意義賦予了數(shù)據(jù)”。受此影響,面對(duì)相同的數(shù)據(jù)材料常常形成不同的算法,并得出對(duì)問題的不同解釋和不同的行動(dòng)方案。這樣,數(shù)據(jù)闡釋就不再是一個(gè)技術(shù)問題,而是內(nèi)含著一定的價(jià)值判斷,潛藏著不同的利益訴求和權(quán)利主張,需要構(gòu)建相應(yīng)的數(shù)據(jù)正義觀予以指引。
首先,代碼規(guī)制的正當(dāng)性與合理性。在互聯(lián)網(wǎng)創(chuàng)生之初,網(wǎng)絡(luò)自由主義者曾宣稱要拒絕國王、總統(tǒng)和投票,他們只堅(jiān)信基本的共識(shí)和運(yùn)行的代碼。但事實(shí)上,網(wǎng)絡(luò)空間從來都不是沒有規(guī)矩的“自然狀態(tài)”。其中,在知識(shí)產(chǎn)權(quán)、隱私和言論自由等方面,制定標(biāo)準(zhǔn)和編寫代碼就是一種新型的規(guī)制形式和控制力量。這就要求代碼必須有一定程度的開放與透明,以至于“開源代碼的斗爭不亞于爭取民主的斗爭,不亞于反對(duì)國家權(quán)力可能被濫用的斗爭”,它已成為“開放社會(huì)的基礎(chǔ)”,從而使代碼規(guī)制能夠保持必要的正當(dāng)性與合理性。
其次,代碼編寫的價(jià)值偏好。從技術(shù)上看,程序員按照設(shè)定任務(wù)(應(yīng)用)來編寫源代碼(源程序),并經(jīng)由編譯程序轉(zhuǎn)換為目標(biāo)代碼或可執(zhí)行代碼,進(jìn)而指揮計(jì)算機(jī)的每一個(gè)動(dòng)作以解決某個(gè)算術(shù)或邏輯問題。因此,在代碼編寫中就必然會(huì)帶有程序員(或雇主)的思想理念,在這里并沒有中間立場。代碼編寫的背后,是代碼所圈定的商業(yè)利益和政府管理模式,而廣大客戶或服務(wù)對(duì)象則處于話語權(quán)缺失狀態(tài)和弱勢地位,在商業(yè)建模面前只有選擇“用”或“不用”的權(quán)利,這無疑都會(huì)或隱或顯地制造和加劇社會(huì)等差與不公平。因此,抑制代碼編寫的價(jià)值偏好就成為實(shí)現(xiàn)代碼正義的必然要求。
再次,對(duì)“惡意代碼”的控制。在商業(yè)利益和不良動(dòng)機(jī)的誘惑下,仍存在著大量的內(nèi)核套件、流氓軟件、勒索軟件、間諜軟件、病毒軟件等“惡意代碼”程序,嚴(yán)重破壞了互聯(lián)網(wǎng)秩序并侵犯了用戶的合法權(quán)益。據(jù)此,必須開發(fā)新的惡意代碼分析、控制技術(shù),并扼制惡意代碼編寫者的技術(shù)回應(yīng),從而控制“惡意代碼”軟件的泛濫,維護(hù)代碼正義和網(wǎng)絡(luò)秩序。
一是算法偏見或歧視。大數(shù)據(jù)、人工智能的廣泛應(yīng)用,促使一些制造商和商業(yè)平臺(tái)通過運(yùn)用數(shù)據(jù)挖掘和算法,來對(duì)用戶進(jìn)行“量身解讀”和行為模式歸納,從而做出有針對(duì)性的“私人定制”和提供個(gè)性化服務(wù),并承諾算法的客觀性、精準(zhǔn)性、可靠性。這樣,用戶就把決策權(quán)交給了商業(yè)算法。然而,美國一些警務(wù)實(shí)踐表明,算法設(shè)計(jì)者對(duì)犯罪威脅或風(fēng)險(xiǎn)預(yù)測、違規(guī)自動(dòng)監(jiān)控等的相關(guān)性賦值與權(quán)衡帶有偏見乃至錯(cuò)誤。在我國,同樣存在著“數(shù)據(jù)殺熟”、算法偏見或歧視的問題。由于商家有選擇的、利益至上的營銷方案,這種算法偏見會(huì)在事實(shí)上形成一個(gè)“鄙視鏈”,嚴(yán)重侵蝕了社會(huì)公平和正義。
二是算法黑箱。“互聯(lián)網(wǎng)+”、大數(shù)據(jù)和人工智能的加速融合發(fā)展,使“人類正在進(jìn)入一切皆可計(jì)算的時(shí)代”。事實(shí)上,商家以算法為銷售工具的趨向已經(jīng)勢不可擋,各種建模和算法很可能已經(jīng)巧妙地“將你的生活轉(zhuǎn)化成他人的商機(jī)”。在公共政策或公共服務(wù)自動(dòng)化中的算法設(shè)計(jì)中,“程序員們被賦予了過多的決策權(quán),而且不受到任何審查”,不僅算法黑箱和錯(cuò)誤不可避免,甚至還可能出現(xiàn)失控的“算法自主”現(xiàn)象。這樣,就需要努力推進(jìn)算法的透明性、公開性和建立算法審計(jì)機(jī)制,讓“那些對(duì)結(jié)果抱有懷疑的人可以掀開‘引擎蓋子’看個(gè)究竟”,而如何通過算法審計(jì)機(jī)制,來讓算法遵循“善法”,就成為維護(hù)算法正義的重要方面。
在智能互聯(lián)網(wǎng)社會(huì),互聯(lián)網(wǎng)平臺(tái)、數(shù)據(jù)公司等新興商業(yè)組織塑造著全新的經(jīng)濟(jì)業(yè)態(tài)、商業(yè)模式和交易規(guī)則,成為日益重要的新型法律關(guān)系主體,它具有此前法律關(guān)系主體所不可想象的“準(zhǔn)立法權(quán)”“準(zhǔn)行政權(quán)”和“準(zhǔn)司法權(quán)”。淘寶、京東、騰訊等每年都會(huì)處理數(shù)十萬件糾紛。更為重要的是,人工智能技術(shù)的飛速進(jìn)步,開啟了人機(jī)共處的新時(shí)代,從而不斷沖擊我們賴以建立傳統(tǒng)世界的那些確定性。由此,智能機(jī)器人是不是“人”的問題就日顯突出。
在全球信息化的秩序轉(zhuǎn)型中,電子技術(shù)把所有交易模式都融入到一個(gè)巨大的系統(tǒng)之中,數(shù)據(jù)、代碼、算法、炒信平臺(tái)侵犯的法益、虛擬財(cái)產(chǎn)等新的法律客體以及財(cái)產(chǎn)類型不斷出現(xiàn)。這使得學(xué)界曾經(jīng)公認(rèn)的“凡是人以外的不具有精神、意識(shí)的生物歸屬于物,是為權(quán)利的客體。主客體之間這種不可逾越的鴻溝”現(xiàn)在發(fā)生動(dòng)搖。傳統(tǒng)法律關(guān)系主體、客體范疇的定義、內(nèi)涵、外延、法律屬性等均遭受著重大的沖擊和挑戰(zhàn)。
一是新型權(quán)利大量出現(xiàn),突破了既有的權(quán)利義務(wù)范疇所能界定與證明的范圍。這些新型權(quán)利義務(wù)(權(quán)責(zé))關(guān)系,尤其是區(qū)塊鏈、比特幣、自動(dòng)駕駛等的數(shù)字化、智能化發(fā)展,難以在既有理論和制度的框架內(nèi)得到證明和實(shí)踐。以自動(dòng)駕駛造成的交通事故為例,它會(huì)涉及汽車制造商、軟件開發(fā)商、程序員、汽車所有者、交通事故當(dāng)事人,“可能的肇事者鏈變得越來越長,而且很難再被一一辨析清楚。此外,軟件由成百上千名程序員編寫,無時(shí)無刻不在更新”,其結(jié)果很可能是“所有人都會(huì)被控告”卻“最后無人擔(dān)責(zé)”。而智能系統(tǒng)面對(duì)危急時(shí)的復(fù)雜路況——當(dāng)交通肇事無可避免時(shí),是優(yōu)先保護(hù)婦女兒童還是老人、車內(nèi)乘客還是路人、少數(shù)人還是多人?倘若要將人類倫理轉(zhuǎn)換成智能系統(tǒng)的決策程序和算法,其所涉及的權(quán)利義務(wù)(權(quán)責(zé))關(guān)系將更是傳統(tǒng)理論及其制度實(shí)踐所無法回答和解決的,理論和制度的創(chuàng)新迫在眉睫。
二是傳統(tǒng)權(quán)利義務(wù)關(guān)系因嵌入數(shù)字化、智能化要素而發(fā)生了根本性改變。智能互聯(lián)網(wǎng)使得數(shù)據(jù)、代碼、算法和建模嵌入了社會(huì)關(guān)系和社會(huì)生活之中,導(dǎo)致“一方面權(quán)利被擴(kuò)大,另一方面權(quán)利被削弱”。區(qū)塊鏈應(yīng)用領(lǐng)域中的智能合約,帶來了透明、安全、高效、去中心化的信任共識(shí)機(jī)制,但“危險(xiǎn)在于沒有人能確保該算法設(shè)計(jì)準(zhǔn)確,尤其是當(dāng)它與眾多算法交互時(shí)”,人們只能接受算法的決策和承擔(dān)相應(yīng)的后果。這些并不是簡單的新生事物利弊問題,其深層正是傳統(tǒng)權(quán)利義務(wù)屬性的改變、放大和限縮,展現(xiàn)著“被賦權(quán)和剝奪權(quán)利”兩者間相互作用的趨勢。
三是權(quán)利義務(wù)分配及其實(shí)現(xiàn)方式不斷被解構(gòu)和重構(gòu)。首先,法權(quán)觀念的更新與重構(gòu)。移動(dòng)互聯(lián)網(wǎng)使人們迎來一個(gè)“無分享不生活”的時(shí)代,“過去既求所有又求所用的消費(fèi)觀念,變成了不求所有但求所用”。隨著發(fā)展方式從獨(dú)享經(jīng)濟(jì)邁向分享經(jīng)濟(jì),那些關(guān)注財(cái)產(chǎn)的實(shí)體性、當(dāng)下性,強(qiáng)調(diào)占有、控制與積累的傳統(tǒng)法權(quán)觀念受到重大沖擊,而注重信息財(cái)產(chǎn)的虛擬性、衍生性和未來性,強(qiáng)調(diào)分享、利用與流通的全新法權(quán)觀念則悄然興起。近年來迅速崛起的短租平臺(tái)、分時(shí)度假等新業(yè)態(tài)、新模式,塑造著共享模式的權(quán)利義務(wù)關(guān)系和實(shí)現(xiàn)方式,傳統(tǒng)法律制度對(duì)此難以有效處理,法律制度和社會(huì)秩序的順應(yīng)變革就成為必然。
其次,法權(quán)界定的難題日益增多。任何時(shí)代的法律,都會(huì)遭遇到新社會(huì)關(guān)系中的法權(quán)界定難題,但它是少量的、偶發(fā)的。而當(dāng)今的普惠金融P2P模式、眾籌模式、網(wǎng)絡(luò)名譽(yù)侵權(quán)乃至一些互聯(lián)網(wǎng)犯罪等,則是批量的、經(jīng)常性出現(xiàn)的。它們所帶來的新的交易形式、利益關(guān)系、責(zé)任歸屬和救濟(jì)方式等問題,都難以再沿用以往的權(quán)利義務(wù)關(guān)系理論和制度安排,其法益性質(zhì)與范圍也難以厘清,這些法權(quán)界定的難題都需要理論和制度上的創(chuàng)新來解決。
再次,通過軟件植入實(shí)現(xiàn)了對(duì)既有權(quán)利義務(wù)關(guān)系的即時(shí)改寫。網(wǎng)約車、搶票軟件的興起,其實(shí)質(zhì)是憑借數(shù)字化、智能化技術(shù)實(shí)現(xiàn)了在現(xiàn)有制度中的“植入”。這些“植入”,一方面,通過“創(chuàng)造性破壞”提供了社會(huì)進(jìn)步的便捷與福利;另一方面,也直接“改寫”了既有出租車管理制度、購票制度中的相關(guān)權(quán)利義務(wù)關(guān)系。這些都使得既有權(quán)利義務(wù)的分配格局被打破,權(quán)利義務(wù)的實(shí)現(xiàn)方式也被更改,制度規(guī)范的效力就難免出現(xiàn)危機(jī),迫使政府不得不進(jìn)行回應(yīng)和變革。
其一,私權(quán)利與公權(quán)力的同步增長。網(wǎng)絡(luò)空間帶來了空前的自由空間和自我賦權(quán),但各國都在憑借技術(shù)手段來規(guī)制互聯(lián)網(wǎng),并導(dǎo)致“監(jiān)控國家的誕生”。因此,盡管互聯(lián)網(wǎng)帶來的好處是如此驚人,但“在20世紀(jì)的所有發(fā)明中,它是對(duì)個(gè)人生活侵犯得最厲害的”,自由與控制、私權(quán)利與公權(quán)利是雙向運(yùn)動(dòng)的。
其二,私權(quán)利扁平化與私權(quán)力崛起相交織。在智能互聯(lián)網(wǎng)時(shí)代,一方面,“集中化的時(shí)代已經(jīng)過去,現(xiàn)在的世界充滿了更多的商機(jī),以及更加分散的事物”,呈現(xiàn)分布式、多中心、人性化的分享發(fā)展趨勢,消費(fèi)大眾及其權(quán)利日益碎片化、扁平化;另一方面,平臺(tái)經(jīng)濟(jì)成為當(dāng)今社會(huì)的主導(dǎo)形態(tài),這些商業(yè)平臺(tái)基于自身利益和運(yùn)營需要,制定了各種交易程序、交易規(guī)則和糾紛解決機(jī)制,而這些程序和規(guī)則呈現(xiàn)在消費(fèi)者面前的,主要是概括性同意與否而不是菜單式選擇。于是,平臺(tái)就具有了自身運(yùn)營的管理權(quán)和政府轉(zhuǎn)加的公法審查權(quán),形成了日益龐大的、具有某種公權(quán)特征的私權(quán)力。而“所謂的平臺(tái)效應(yīng)也在加劇利益和價(jià)值向少部分人手中集中”。
其三,公權(quán)力、私權(quán)力與私權(quán)利之間的復(fù)雜博弈。社會(huì)權(quán)力的崛起改變了傳統(tǒng)的國家與社會(huì)的二元對(duì)立框架,形成了智能互聯(lián)網(wǎng)時(shí)代的公權(quán)力—私權(quán)力—私權(quán)利三元博弈新格局,這就改變了以往國家與社會(huì)、權(quán)力與權(quán)利的關(guān)系結(jié)構(gòu)與系統(tǒng)功能?!耙环N形式的權(quán)力或許被摧毀了,但另一種正在取代它”,這意味著邁向多元治理的結(jié)構(gòu)性轉(zhuǎn)向,會(huì)引發(fā)法律關(guān)系的深刻變革。
其一,法律行為后果上的重大差異。在千百年來的現(xiàn)實(shí)空間中,人們的法律行為主要發(fā)生在可接觸、可知情、可理解的人與人、人與物之間;而如今,網(wǎng)絡(luò)虛擬空間則是具有扁平性、匿名性、分布性、流動(dòng)性的無限場域,是“一個(gè)與現(xiàn)實(shí)世界有些相似的世界,是一個(gè)既存在于現(xiàn)實(shí)世界,又存在于現(xiàn)實(shí)世界之外的無法界定的地方”。這樣,法律行為的社會(huì)影響就會(huì)被無限量放大,甚至?xí)l(fā)生實(shí)質(zhì)性改變。同一法律行為在虛實(shí)不同空間中的不同行為后果,是因?yàn)樾袨榈谋憩F(xiàn)形態(tài)和社會(huì)影響程度發(fā)生了根本改變。
其二,法律行為的動(dòng)機(jī)、目的和因果關(guān)系復(fù)雜難辨。由于網(wǎng)絡(luò)虛擬空間具有扁平化、自由化、匿名化等特殊屬性,發(fā)生其中的法律行為的動(dòng)機(jī)、目的和因果關(guān)系呈現(xiàn)出快速流變性、深度隱蔽性和邊界模糊性,對(duì)很多法律行為都難以套用傳統(tǒng)理論和司法實(shí)踐經(jīng)驗(yàn)來應(yīng)對(duì)。其中電子化、信息化、數(shù)據(jù)化且虛實(shí)交錯(cuò)的意思表示、行為表現(xiàn)、證據(jù)鏈條和因果關(guān)系就顯得十分復(fù)雜。
其三,社會(huì)行動(dòng)方式上的深刻改變?!熬W(wǎng)絡(luò)空間不是一個(gè)同質(zhì)的場所,在各種不同網(wǎng)址上發(fā)現(xiàn)的群體和活動(dòng)都是獨(dú)具特征的,因而每一區(qū)域都會(huì)發(fā)展一套獨(dú)特的規(guī)則?!毕鄳?yīng)地,價(jià)值觀念和行為方式也出現(xiàn)了巨大分化,社會(huì)交往更加自由、便捷和展現(xiàn)個(gè)性,使得特定的人群不再一致,一致的人群不再特定,這就使得集體行動(dòng)的成本大幅降低,而動(dòng)員能力卻急劇提升,促進(jìn)了互聯(lián)網(wǎng)運(yùn)動(dòng)和亞文化的擴(kuò)展與繁榮。因此,互聯(lián)網(wǎng)一定程度地從技術(shù)上突破了代議民主的限制條件,使直接行動(dòng)、直接參與、直接民主成為可欲的目標(biāo),但網(wǎng)絡(luò)民粹主義和多數(shù)人的暴政相互助長也成為了它的副產(chǎn)品,甚至還會(huì)扭曲民主的精神實(shí)質(zhì)和現(xiàn)實(shí)途徑。
首先是意思銜接。自工業(yè)時(shí)代以來,人們就一直跟機(jī)器打交道,包括自動(dòng)化的機(jī)器。然而,智能機(jī)器人與以往機(jī)器的根本不同在于,它們被賦予了人工智能(算法),在人類的設(shè)計(jì)規(guī)劃下接替人類的一些工作。于是,人類的研判和決策就通過智能機(jī)器人得到了廣泛延伸。此時(shí),算法黑箱、算法自主、智能機(jī)器人的深度學(xué)習(xí)等問題,就使得一些法律上的意思表示出現(xiàn)了人機(jī)銜接問題,機(jī)器人自主學(xué)習(xí)則是人類智慧的技術(shù)延伸,它“破壞了機(jī)械和有機(jī)之間的界限”,會(huì)出現(xiàn)連程序員都無法理解的高度不確定性和難以控制性。這種“不按套路出牌”的自主學(xué)習(xí),已遠(yuǎn)超行為人可以理解和預(yù)知的范圍,會(huì)給法律行為的認(rèn)定帶來重大挑戰(zhàn)。
其次是行為協(xié)同。隨著智能互聯(lián)網(wǎng)的深度發(fā)展,“計(jì)算機(jī)系統(tǒng)從一種工具變成了代理人”,甚至在勞動(dòng)力與服務(wù)業(yè)等很多方面都已經(jīng)取代了人類?!凹热徽J(rèn)識(shí)到計(jì)算機(jī)已經(jīng)取代了那些本該具有道德約束的人類服務(wù)人員,再去避免談及對(duì)計(jì)算機(jī)系統(tǒng)類似的道德約束就顯得不合適了?!敝匀绱?,很大程度上是因?yàn)槿藱C(jī)共處背景下的行為混同。人機(jī)配合、協(xié)同和傳遞的問題,在理論和實(shí)踐上對(duì)法律行為理論和制度提出了挑戰(zhàn)。
再次是后果混同?!半S著機(jī)器在普通人的生活和工作中的普及,通過機(jī)器使行為和責(zé)任脫鉤日益成為普遍現(xiàn)象。越來越多的人將失敗的責(zé)任轉(zhuǎn)嫁到機(jī)器身上?!痹诶弥悄軝C(jī)器人的醫(yī)療事故、自動(dòng)駕駛的交通事故、智能交易的重大失誤、無人機(jī)誤判恐怖分子錯(cuò)殺平民等問題上,“誰來為機(jī)器的行為負(fù)責(zé)”,是技術(shù)故障、操作不當(dāng)、還是設(shè)計(jì)缺陷?遺憾的是,“我們都知道一個(gè)產(chǎn)品可以追蹤屬于哪個(gè)廠家,但程序是不一定的,有可能是由眾多的人共同開發(fā)的,程序的產(chǎn)生可能無法追蹤到某個(gè)具體的個(gè)人或組織”。這樣,人機(jī)共處和協(xié)同所產(chǎn)生的后果問題就陷入了困境,人機(jī)混合必然要求進(jìn)行相應(yīng)的理論創(chuàng)新和制度重構(gòu)。