摘要：智慧社會(huì)的到來(lái)，不僅帶給人們生活上的福利與進(jìn)步，同時(shí)，也帶來(lái)了高風(fēng)險(xiǎn)社會(huì)，人工智能帶來(lái)的規(guī)制挑戰(zhàn)、算法決策過(guò)程的突出難題、基層執(zhí)法司法智能化的難度與風(fēng)險(xiǎn)等，就成為基層社會(huì)治理所面臨的時(shí)代問(wèn)題。因此，亟需確立智慧社會(huì)治理的新理念、新思維，按照雙重空間的生產(chǎn)生活方式、智慧社會(huì)的生活邏輯，推動(dòng)現(xiàn)代性法律體系向智慧性法律體系的轉(zhuǎn)型升級(jí)，進(jìn)而探索智慧治理的新機(jī)制、新策略，塑造智慧社會(huì)的新型基層治理秩序。

關(guān)鍵詞：智慧社會(huì);大數(shù)據(jù);人工智能;社會(huì)治理;法治秩序

作者簡(jiǎn)介：馬長(zhǎng)山，華東政法大學(xué)教授、博士生導(dǎo)師（上海 ?201620）

基金項(xiàng)目：研究闡釋黨的十九大精神國(guó)家社科基金專項(xiàng)課題 “新時(shí)代共建共治共享的社會(huì)治理法治化機(jī)制研究”（18VSJ033）

DOI編碼：10.19667/j.cnki.cn23-1070/c.2019.05.011

當(dāng)今正在發(fā)生的信息革命，堪稱人類有史以來(lái)最深刻的技術(shù)革命，它引發(fā)了生產(chǎn)和生活關(guān)系的重大而深刻的變革。“歷史已經(jīng)向我們表明重大的技術(shù)變遷會(huì)導(dǎo)致社會(huì)和經(jīng)濟(jì)的范式轉(zhuǎn)換?！?目前，世界各國(guó)對(duì)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等新技術(shù)發(fā)展帶來(lái)的重大機(jī)遇和風(fēng)險(xiǎn)都予以高度重視和積極應(yīng)對(duì)，我國(guó)近年也先后發(fā)布了《國(guó)家信息化發(fā)展戰(zhàn)略綱要》（2016.7）、《“十三五”國(guó)家信息化規(guī)劃》（2016.12）、《新一代人工智能發(fā)展規(guī)劃》（2017.7）、《推進(jìn)互聯(lián)網(wǎng)協(xié)議第六版（IPv6）規(guī)模部署行動(dòng)計(jì)劃》（2017.11）等指導(dǎo)性文件，進(jìn)行積極的戰(zhàn)略部署和創(chuàng)新發(fā)展的升級(jí)換代，中共十九大又提出了智慧社會(huì)建設(shè)的總體發(fā)展戰(zhàn)略，這樣，我們必將迎來(lái)一個(gè)日新月異的智慧發(fā)展時(shí)代。然而，智慧社會(huì)在帶給人們生活進(jìn)步與福利的同時(shí)，已經(jīng)變成了一個(gè)高風(fēng)險(xiǎn)的社會(huì)，并產(chǎn)生了很多亟需認(rèn)真對(duì)待和切實(shí)解決的治理問(wèn)題。

一、基于數(shù)據(jù)和代碼的秩序風(fēng)險(xiǎn)

工業(yè)革命和現(xiàn)代化進(jìn)程，無(wú)疑曾給人類帶來(lái)了豐裕生活和空前繁榮，然而，它畢竟仍是在物理空間里來(lái)從事物質(zhì)文明和精神文明產(chǎn)品的生產(chǎn)的，因而，只是拓展了人類在物理空間中的活動(dòng)能力和創(chuàng)造水平，其最基本的生產(chǎn)要素自然是勞動(dòng)者和生產(chǎn)資料，具體表現(xiàn)為勞動(dòng)、資本、土地和企業(yè)家才能等。而進(jìn)入智能互聯(lián)網(wǎng)時(shí)代之后，形成了物理（現(xiàn)實(shí)）/電子（虛擬）的雙重空間，它深刻地改變了以往的生產(chǎn)方式和生活方式?！爱a(chǎn)品與服務(wù)、分銷體系、定價(jià)方法以及廣告與促銷模式均從原本集群、聚合式的商業(yè)權(quán)力體系中剝離出來(lái)，放棄滿足各類需求的經(jīng)濟(jì)結(jié)構(gòu)，轉(zhuǎn)而向小型、分化、具體及定制平臺(tái)進(jìn)行一對(duì)一式運(yùn)營(yíng)”，1并開(kāi)始全面向去中心化的分布式升級(jí)，形成了以信息（包括知識(shí)和數(shù)據(jù)）為資源、以網(wǎng)絡(luò)為基礎(chǔ)平臺(tái)的全新經(jīng)濟(jì)形態(tài)。從生產(chǎn)、交換到消費(fèi)，整個(gè)鏈條中的自動(dòng)化生產(chǎn)、市場(chǎng)分析、營(yíng)銷策略和大眾消費(fèi)，都高度依賴信息流動(dòng)、數(shù)據(jù)挖掘和智能算法，這就促發(fā)了數(shù)據(jù)流動(dòng)與共享，編織出跨越企業(yè)邊界的全新資源網(wǎng)絡(luò)、生態(tài)網(wǎng)絡(luò)和價(jià)值網(wǎng)絡(luò)，打造了智能化、場(chǎng)景化的商業(yè)環(huán)境?；诖?，掌握了數(shù)據(jù)，就意味著掌握了資本和財(cái)富;掌握了算法（Algorithm），就意味著掌握了話語(yǔ)權(quán)和規(guī)制權(quán)。就是說(shuō)，數(shù)據(jù)和算法已成為每一個(gè)人都參與生產(chǎn)的，明顯不同于自然資源的新的社會(huì)資源和生產(chǎn)要素，2在一定條件下甚至還成為一種智慧發(fā)展時(shí)代的全新生產(chǎn)力和生產(chǎn)關(guān)系，使得工商業(yè)時(shí)代以來(lái)的生產(chǎn)生活方式和社會(huì)價(jià)值觀發(fā)生了深刻改變，同時(shí)也帶來(lái)了全新的秩序風(fēng)險(xiǎn)。

首先，對(duì)世界認(rèn)知方法的改變。在大數(shù)據(jù)、云計(jì)算時(shí)代，人們不再依賴于隨機(jī)采樣，而是能夠進(jìn)行大量信息采集和全樣本的數(shù)據(jù)分析;人們對(duì)同一問(wèn)題也不再苛求單一的精確度和因果關(guān)系，而是更多地關(guān)注相關(guān)關(guān)系和接受多個(gè)可能的答案。這樣，一方面，很多舊有的習(xí)慣將被顛覆，很多舊有的制度將面臨挑戰(zhàn);3另一方面，大數(shù)據(jù)分析必然“會(huì)引導(dǎo)實(shí)踐的方向，是從屬于建構(gòu)需要的”，4而每個(gè)問(wèn)題可能都不會(huì)只有一個(gè)答案，為此，人們必須能夠接受混亂和不確定性。5這樣，人們的價(jià)值判斷和正義觀會(huì)受到重大沖擊，進(jìn)而對(duì)國(guó)家治理體系和社會(huì)治理秩序都會(huì)產(chǎn)生深刻的影響。

其次，數(shù)據(jù)對(duì)生活的量化和解析。在互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、人工智能等交融發(fā)展的推動(dòng)下，社會(huì)生產(chǎn)和日常生活獲得智慧化的巨大進(jìn)步，生產(chǎn)效率和生活質(zhì)量均獲得了極大提高。人們會(huì)認(rèn)為，有足夠數(shù)據(jù)就可了解生活，一切皆可量化。然而，它也會(huì)產(chǎn)生一些令人擔(dān)憂的問(wèn)題。有學(xué)者就指出，如果大數(shù)據(jù)所獲得的信息是片面的或者漫無(wú)邊際的、支離破碎的，那么它們就沒(méi)有多少意義，根本不可能直接用于任何量化的分析。搞不好還可能會(huì)發(fā)生現(xiàn)實(shí)生活被裁剪、社會(huì)情景被忽視、主體建構(gòu)被抹煞、生活意義被取消的情況，因此，必須對(duì)數(shù)據(jù)和信息加以界定、 定義、分類和賦值，給信息賦予特定的人類意義，進(jìn)而把不同的定義轉(zhuǎn)換為可計(jì)算的數(shù)值。6這樣，才能避免數(shù)據(jù)量化和解析對(duì)生活本質(zhì)的侵蝕，更好地發(fā)揮其智慧治理的作用和價(jià)值。

再次，日常生活的建?；Ｖ悄芑ヂ?lián)網(wǎng)的優(yōu)勢(shì)就在于場(chǎng)景定制和程序建模，從而形成一套算法來(lái)提供智能化的產(chǎn)品和服務(wù)。它既包括提供某一類產(chǎn)品或服務(wù)的通用性建模，也包括針對(duì)特定對(duì)象來(lái)“量身定制”的個(gè)性化建模。由于企業(yè)能夠通過(guò)互聯(lián)網(wǎng)平臺(tái)來(lái)直接“面對(duì)”市場(chǎng)和消費(fèi)者，使得產(chǎn)品生產(chǎn)和服務(wù)從原來(lái)的標(biāo)準(zhǔn)化、規(guī)?；?，逐步轉(zhuǎn)型為“以人為中心”的個(gè)性化、定制化，形成了以消費(fèi)為主導(dǎo)、去中介化、彰顯服務(wù)的新商業(yè)模式和生活方式。然而，它在根本上仍是一種智能建模方式，仍是通過(guò)采集信息、數(shù)據(jù)分析、設(shè)計(jì)算法來(lái)歸納不同人的具體適用模式，進(jìn)而個(gè)性化地“推薦”給特定消費(fèi)者。事實(shí)上，無(wú)論是通用性建模，還是個(gè)性化建模，都難免隱藏著算法和商業(yè)價(jià)值的誘導(dǎo)甚至主導(dǎo)，猶如商家曾人為創(chuàng)造出來(lái)的“雙十一購(gòu)物狂歡節(jié)”，實(shí)質(zhì)上是以消費(fèi)為主導(dǎo)的方式來(lái)主導(dǎo)消費(fèi)。更重要的是，自動(dòng)駕駛、智能產(chǎn)品設(shè)計(jì)、智能醫(yī)療方案、智能合約、智能裁判等等，其建?；療o(wú)一不是以建構(gòu)主義為主導(dǎo)的過(guò)程。人們?nèi)諠u依賴各種算法，甚至都可以用AI來(lái)開(kāi)發(fā)AI，那么，人們享受自動(dòng)化的便捷舒適其實(shí)是“只能被動(dòng)接受結(jié)果”，1而獲得個(gè)性化服務(wù)的背后，則是商業(yè)建模和算法對(duì)消費(fèi)者的塑造。于是，讓人們感到焦慮的是，“一旦權(quán)力從人類手中交給算法，人文主義的議題就可能慘遭淘汰。只要我們放棄了以人為中心的世界觀，而秉持以數(shù)據(jù)為中心的世界觀，人類的健康和幸福看來(lái)也不再那么重要”。2可見(jiàn)，日常生活走向建?；谌藗兊纳罘绞街凶⑷肓烁嗟募夹g(shù)理性，進(jìn)而出現(xiàn)了“淪落為單純的數(shù)字人類，而非人類”的社會(huì)風(fēng)險(xiǎn)。3這無(wú)疑是智慧發(fā)展時(shí)代的社會(huì)治理所面臨的一個(gè)重要挑戰(zhàn)，需要予以積極應(yīng)對(duì)。

二、人工智能帶來(lái)的規(guī)制挑戰(zhàn)

智能互聯(lián)網(wǎng)作為全面升級(jí)的新一代互聯(lián)網(wǎng)模式，有效地將智能融入到互聯(lián)網(wǎng)中，“所有的信息資源都能夠被智能的計(jì)算機(jī)軟件實(shí)體所識(shí)別和處理，并且這些軟件實(shí)體能夠自治地、主動(dòng)地在網(wǎng)絡(luò)中漫游，具有很好的適應(yīng)性和可靠性，能夠代替用戶完成各種工作，并為用戶提供豐富的服務(wù)”，4從而，實(shí)現(xiàn)了經(jīng)濟(jì)結(jié)構(gòu)、經(jīng)營(yíng)業(yè)務(wù)、商業(yè)模式和基本理念上的全面革新。正因如此，“智能互聯(lián)網(wǎng)將徹底改造所有傳統(tǒng)行業(yè)，AI是核心驅(qū)動(dòng)力”，5人們甚至開(kāi)始預(yù)測(cè)高度不確定、高度奇異性的“奇點(diǎn)”來(lái)臨時(shí)間和社會(huì)狀態(tài)。6但無(wú)論如何，它確實(shí)憑借眾多顛覆性創(chuàng)新深刻地塑造著當(dāng)今的智慧社會(huì)，也會(huì)帶來(lái)一定的法律問(wèn)題和治理問(wèn)題。

其一，人機(jī)交互關(guān)系的復(fù)雜性。人工智能技術(shù)的飛速進(jìn)步，又開(kāi)啟了人機(jī)共處的新世界，盡管目前“人類和機(jī)器還不能很好地相處，然而他們將越來(lái)越多地分享同一個(gè)世界”，從而“正在破壞我們賴以建立此前世界的那些確定性”。7為此，智能機(jī)器人是不是“人”的問(wèn)題就日顯突出。2017年10月沙特授予一名“女性”人工智能機(jī)器人以“公民”身份，就立刻引起全球關(guān)注且爭(zhēng)議頗多，然而，鑒于智能機(jī)器人自主意識(shí)方面的技術(shù)飛躍和它在商業(yè)活動(dòng)及社會(huì)文化生活中扮演越來(lái)越重要的角色，“在不久的將來(lái)，會(huì)繼續(xù)延用產(chǎn)品安全法去處理人工自主體問(wèn)題”。8而隨著人工智能的飛速發(fā)展，人機(jī)共處、人機(jī)合作將越來(lái)越多地成為生活常態(tài)，人機(jī)交互場(chǎng)景也隨之成為社會(huì)關(guān)系和社會(huì)治理的一個(gè)新面向?；诖?，“從一個(gè)角度來(lái)看，我們創(chuàng)造的機(jī)器人貌似只是機(jī)器而已;而從另一個(gè)角度看，它們似乎是復(fù)雜而具有適應(yīng)性的實(shí)體，甚至可能對(duì)我們?cè)诘赖玛P(guān)心的問(wèn)題有著或多或少的敏感性”。而“大規(guī)模取代人類勞動(dòng)力的智能機(jī)器的出現(xiàn)，無(wú)疑將會(huì)引發(fā)人類身份認(rèn)知的危機(jī)”。1因此，人們嘗試著采取自上而下和自下而上的方式來(lái)塑造AMAs（人工道德智能體）的道德判斷，“通過(guò)模擬持不同倫理觀點(diǎn)的主體之間的互動(dòng)，去補(bǔ)充科幻中猜測(cè)性的思想實(shí)驗(yàn)，用可檢驗(yàn)的社會(huì)和認(rèn)知模式補(bǔ)充哲學(xué)也將成為可能”。 2更為重要的是，人工智能一旦成為“人”，機(jī)器人（電子人）權(quán)利義務(wù)、法律責(zé)任與自然人的權(quán)利義務(wù)和法律責(zé)任如何分配和負(fù)擔(dān)，則無(wú)疑是個(gè)重大難題，民事、刑事上都是如此。可見(jiàn)，人工智能機(jī)器人能否具有“人”的主體地位，是一個(gè)十分復(fù)雜且關(guān)乎人類命運(yùn)的重大問(wèn)題，至少目前還不能匆忙讓它成為一個(gè)法律上的“人”;但它又不能簡(jiǎn)單等同于過(guò)去的死的機(jī)器，而是“活”的智能體，會(huì)產(chǎn)生擬人化的社會(huì)關(guān)系和倫理問(wèn)題。這樣，對(duì)人工智能機(jī)器人就不能簡(jiǎn)單加以判斷和處置，否則，將會(huì)給社會(huì)治理秩序帶來(lái)巨大的風(fēng)險(xiǎn)和挑戰(zhàn)，只能通過(guò)探索智慧發(fā)展時(shí)代的新規(guī)則、新策略來(lái)加以應(yīng)對(duì)。

其二，人工智能發(fā)展對(duì)現(xiàn)有制度框架的突破。人工智能的快速發(fā)展，并不僅僅是對(duì)人工的簡(jiǎn)單替代，而會(huì)對(duì)當(dāng)下的社會(huì)倫理、規(guī)范制度、國(guó)家治理和社會(huì)秩序帶來(lái)十分明顯的難題和挑戰(zhàn)。在民事領(lǐng)域，“在民事主體法、著作權(quán)法、侵權(quán)責(zé)任法、人格權(quán)法、交通法、勞動(dòng)法等諸多方面與現(xiàn)有法律制度形成沖突，凸顯法律制度產(chǎn)品供給的缺陷”;3在刑事領(lǐng)域，人們常常會(huì)習(xí)慣性地沿用傳統(tǒng)物理空間的刑事法律思維來(lái)對(duì)待網(wǎng)絡(luò)空間發(fā)生的案件，大眾點(diǎn)評(píng)百度案按不正當(dāng)競(jìng)爭(zhēng)處理、《刑七》將盜竊游戲裝備案按非法獲取計(jì)算機(jī)系統(tǒng)數(shù)據(jù)罪處理，兩高司法解釋關(guān)于網(wǎng)絡(luò)誹謗和尋釁滋事的“擴(kuò)展性”處理，這就難免會(huì)出現(xiàn)很多理論上說(shuō)不清、實(shí)踐中又很尷尬的問(wèn)題;在行政和司法領(lǐng)域，智慧政務(wù)、智慧司法、智慧檢務(wù)的應(yīng)用場(chǎng)景日益增多，人工智能輔助決策甚至人工智能獨(dú)立決策的情況會(huì)日漸普遍，這就形成了人類理性與技術(shù)理性、人類決策與機(jī)器判斷、計(jì)算邏輯與法律邏輯的交互結(jié)果，現(xiàn)有制度設(shè)定的權(quán)利義務(wù)關(guān)系、規(guī)則程序、責(zé)任歸屬、救濟(jì)方式等等都會(huì)面臨嚴(yán)峻考驗(yàn)。

其三，人工智能發(fā)展也會(huì)增加犯罪控制的壓力。信息科技無(wú)疑促進(jìn)了社會(huì)進(jìn)步、增加了社會(huì)財(cái)富，但同時(shí)也給一些高智商違法犯罪活動(dòng)提供了條件和可乘之機(jī)。在當(dāng)今信息時(shí)代，出現(xiàn)了一大批網(wǎng)絡(luò)技術(shù)、數(shù)字技術(shù)和人工智能技術(shù)領(lǐng)域的全新犯罪類型，如網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)金融犯罪、盜竊信息數(shù)據(jù)、網(wǎng)絡(luò)誹謗、網(wǎng)絡(luò)販毒甚至恐怖活動(dòng)等等，而人工智能技術(shù)的交融應(yīng)用則使這些犯罪更加智能化，甚至出現(xiàn)了被國(guó)際社會(huì)所禁止的“殺人機(jī)器人”。這不僅增加了犯罪的多樣性、復(fù)雜性和技術(shù)性，也由于“集復(fù)雜性與緊密性于一體的系統(tǒng)更容易成為那些間諜、犯罪分子以及追求極大破壞性的極端分子的選擇目標(biāo)”，4嚴(yán)重地威脅著人們的生命財(cái)產(chǎn)安全和社會(huì)秩序。很多犯罪集團(tuán)十分龐雜，難以找到和區(qū)分主犯、從犯、幫助犯;很多犯罪活動(dòng)難以找到犯罪證據(jù)，一時(shí)不能偵破;很多犯罪穿越虛實(shí)雙重空間，打破了物理空間的級(jí)別管轄和地域管轄;等等。這些無(wú)疑給智慧社會(huì)治理中的犯罪控制和規(guī)制秩序帶來(lái)了全新挑戰(zhàn)。因此，亟需轉(zhuǎn)換思維方式、強(qiáng)化治理機(jī)制和規(guī)制體系來(lái)積極應(yīng)對(duì)，進(jìn)而塑造智慧社會(huì)的治理秩序。

三、算法決策過(guò)程中的突出困境

隨著智慧社會(huì)的到來(lái)，算法在社會(huì)生活中的作用和影響越來(lái)越大?！八惴Q定了信息增長(zhǎng)的秩序，同時(shí)它貫穿了經(jīng)濟(jì)系統(tǒng)的所有組成部分和流程，支撐并控制系統(tǒng)中各種經(jīng)濟(jì)活動(dòng)以及所形成的各種經(jīng)濟(jì)關(guān)系，決定了經(jīng)濟(jì)系統(tǒng)的秩序?！?1于是人們看到，從開(kāi)車到股票交易、再到公司人員配置等一些列重大決策權(quán)，正在“從人手中轉(zhuǎn)移到算法手中”。2為此，一些理想主義者則樂(lè)觀地?cái)嘌?，“過(guò)去的人文主義呼吁著：‘聆聽(tīng)自己內(nèi)心的聲音！而現(xiàn)在的數(shù)據(jù)主義則呼吁：‘聆聽(tīng)算法的意見(jiàn)！”3這樣，智慧社會(huì)治理的很多決策，將轉(zhuǎn)移到算法手中，算法甚至憑借自動(dòng)化決策的發(fā)展趨勢(shì)而日漸占據(jù)主角地位。然而，一旦算法成為社會(huì)治理過(guò)程中價(jià)值和利益天平上的砝碼，那么，問(wèn)題就不再是數(shù)據(jù)的簡(jiǎn)單計(jì)算和生活的簡(jiǎn)單建模。事實(shí)上，恰恰出現(xiàn)了一些非常值得人們警醒的重要問(wèn)題和突出困境。

一是算法黑箱問(wèn)題。它“是指一種晦澀難懂的技術(shù)，人們?cè)谶\(yùn)用這種技術(shù)時(shí)無(wú)須任何了解，只要輸入數(shù)據(jù)，就能得到結(jié)果。其需求分析（解決什么問(wèn)題）——設(shè)計(jì)算法（人怎么做）——編寫(xiě)程序（計(jì)算機(jī)怎么做）——調(diào)試維護(hù)（做得更好）——發(fā)布運(yùn)行（實(shí)際應(yīng)用）的整個(gè)技術(shù)操作過(guò)程并不透明，這其中必然會(huì)包含著“不穩(wěn)定、不公平和不勞而獲的因素”，4此時(shí)，保持算法的合理性、公正性和預(yù)先承諾自然十分關(guān)鍵，否則，算法偏見(jiàn)或者歧視就很容易被掩蓋。如亞馬遜和淘寶等電商網(wǎng)站上“猜你喜歡”等推薦欄和各種優(yōu)惠券，都是通過(guò)個(gè)性化的算法來(lái)確定用戶的消費(fèi)能力高低并推薦的，低消費(fèi)能力的用戶，看到的基本都是底端打折的產(chǎn)品推薦;消費(fèi)者要么“進(jìn)入”要么抬腳“走人”?？梢?jiàn)，設(shè)計(jì)者在“撰寫(xiě)這些劇本”時(shí)就可能帶有某種意圖而“想為自己的設(shè)計(jì)賦予特定的職能”。5這意味著，信息科學(xué)技術(shù)在帶給人類進(jìn)步福祉的同時(shí)，也難免會(huì)產(chǎn)生一定的困擾和問(wèn)題，算法黑箱不僅容易侵蝕消費(fèi)者權(quán)利、危及社會(huì)誠(chéng)信與公平，也給智慧社會(huì)的治理秩序帶來(lái)一定的阻力和風(fēng)險(xiǎn)。

二是算法錯(cuò)誤。我們知道，算法是指對(duì)某個(gè)或某些問(wèn)題解決方案的步驟描述，代表著用系統(tǒng)方法來(lái)描述解決問(wèn)題的策略機(jī)制。由于其計(jì)算過(guò)程系“取某個(gè)值或值的集合作為輸入并產(chǎn)生某個(gè)值或值的集合作為輸出”，6因此，相同的任務(wù)（應(yīng)用）可以運(yùn)用不同的算法來(lái)完成，但卻因其正確性、容錯(cuò)性和效率性的不同而存在優(yōu)劣之別，算法錯(cuò)誤也就在所難免。也就是說(shuō)，我們編寫(xiě)算法并把它輸入機(jī)器，等待它引發(fā)的自動(dòng)動(dòng)作（比如購(gòu)買(mǎi)股市的股票），人們很容易相信并被動(dòng)地接受這些計(jì)算結(jié)果，但其“危險(xiǎn)在于沒(méi)有人能確保該算法設(shè)計(jì)準(zhǔn)確，尤其是當(dāng)它與眾多算法交互時(shí)”。7在公共事務(wù)上，隨著人臉識(shí)別、犯罪預(yù)測(cè)系統(tǒng)、人工智能司法輔助系統(tǒng)等的快速發(fā)展，日益升級(jí)的自動(dòng)化系統(tǒng)也已經(jīng)由簡(jiǎn)單的行政管理工具變成了主要的“決策者”，算法做出判斷的正確率大幅提高，執(zhí)行各項(xiàng)規(guī)則時(shí)的嚴(yán)厲程度也遠(yuǎn)非人類所能比，但“一旦它們做出了錯(cuò)誤的決定，其造成的后果就很有可能是駭人聽(tīng)聞的”。8盡管人類對(duì)此有事后矯正的渠道和方式，然而事實(shí)表明，“機(jī)器在學(xué)習(xí)過(guò)程中可能會(huì)重新建立起我們當(dāng)前已經(jīng)修正的隱含在數(shù)據(jù)中的偏見(jiàn)”。9在這種情況下，就會(huì)帶來(lái)嚴(yán)重的不公平對(duì)待、非正義、甚至是嚴(yán)重的不良后果，因此，如何規(guī)制算法、控制算法錯(cuò)誤、防范算法風(fēng)險(xiǎn)，就成為實(shí)現(xiàn)算法正義的重要內(nèi)容，也是推進(jìn)智慧社會(huì)治理的重要?jiǎng)恿椭巍?/p>

三是算法自主。人類決策具有千百年積淀下來(lái)的道德基礎(chǔ)，而算法決策則是一種基于計(jì)算過(guò)程而實(shí)現(xiàn)的輸入/輸出關(guān)系，一旦算法主宰就會(huì)嚴(yán)重侵蝕人的主體性。而隨著人工智能的進(jìn)一步發(fā)展，深達(dá)幾百層的人工神經(jīng)網(wǎng)絡(luò)在發(fā)現(xiàn)模式、做出結(jié)論方面的能力已經(jīng)超過(guò)了人類?！拔覀兿胍私獾目腕w或現(xiàn)象，必須依靠機(jī)器得出的結(jié)果。然而，對(duì)于機(jī)器怎么建模、如何求解的過(guò)程，則是人們無(wú)從得知、也無(wú)法理解和解釋的?！贝藭r(shí)，“你只需要給泛型算法提供輸入數(shù)據(jù)，然后它就會(huì)根據(jù)那些數(shù)據(jù)建立自己的邏輯”。1這樣，就出現(xiàn)了算法自主或者算法的異化現(xiàn)象，也正是“由于無(wú)法了解我們所創(chuàng)造的一切，因此我們很難留意到道德問(wèn)題，也很難保證所有操作都符合道德標(biāo)準(zhǔn)”。2當(dāng)人工智能廣泛應(yīng)用于公共決策、經(jīng)濟(jì)分析、司法判斷、智慧服務(wù)等領(lǐng)域時(shí)，就會(huì)給社會(huì)治理帶來(lái)嚴(yán)重的問(wèn)題和挑戰(zhàn)，甚至還可能有失控的風(fēng)險(xiǎn)。因此，如何讓算法遵循“善法”，保持“善法”的主體性和目的性，3就成為維護(hù)算法正義、促進(jìn)智慧社會(huì)基層治理的重要方面。

四、執(zhí)法司法智能化的瓶頸制約

隨著人工智能的快速發(fā)展，世界各國(guó)都在利用人工智能來(lái)加速產(chǎn)業(yè)升級(jí)和治理能力現(xiàn)代化，以獲得信息革命時(shí)代的競(jìng)爭(zhēng)優(yōu)勢(shì)。我國(guó)也已經(jīng)適時(shí)啟動(dòng)了智慧社會(huì)、智慧司法建設(shè)進(jìn)程，因此，執(zhí)法司法的智能化將是一個(gè)必然趨勢(shì)。從目前來(lái)看，主要體現(xiàn)在兩方面的技術(shù)進(jìn)展：一方面是通過(guò)智能系統(tǒng)來(lái)輔助司法。如法院和檢察院等司法機(jī)關(guān)推廣適用數(shù)據(jù)化的證據(jù)標(biāo)準(zhǔn)，通過(guò)大數(shù)據(jù)、人工智能的深度應(yīng)用，把統(tǒng)一的證據(jù)標(biāo)準(zhǔn)鑲嵌到辦案程序之中，促進(jìn)同案同判和司法公正;另一方面是實(shí)現(xiàn)法律的代碼轉(zhuǎn)換。其實(shí)，近年來(lái)很多信息化、自動(dòng)化的高新技術(shù)已經(jīng)不斷地應(yīng)用到司法執(zhí)法領(lǐng)域（如電子交警、辦案系統(tǒng)等）之中。

然而，隨著智能互聯(lián)網(wǎng)的進(jìn)一步發(fā)展，從中央到地方、從中樞到基層的司法執(zhí)法過(guò)程與機(jī)制，將逐漸由信息化、自動(dòng)化升級(jí)為智能化。尤其是通過(guò)規(guī)則的代碼轉(zhuǎn)換和算法建模，使其由法律的“外在”控制轉(zhuǎn)變?yōu)榧夹g(shù)的“內(nèi)在”控制，實(shí)現(xiàn)司法執(zhí)法過(guò)程的智能判斷、規(guī)則適用執(zhí)行和裁量處理。于是，立足于以往單一物理空間和人力執(zhí)法司法的法律思維與法律方法，必然難以適應(yīng)司法執(zhí)法智能化的新形勢(shì)、新要求和新任務(wù)，亟需進(jìn)行適時(shí)的深度變革，以滿足雙重空間、人機(jī)混同條件下司法執(zhí)法智能化的客觀需要。這就會(huì)涉及如何用數(shù)量、概率和邏輯來(lái)表達(dá)和定義善、惡、權(quán)利、義務(wù)、公正等倫理范疇，通過(guò)這種代碼轉(zhuǎn)換使人的倫理變成程序化的機(jī)器倫理。4例如自動(dòng)駕駛技術(shù)的發(fā)展，就需要“我們必須將社會(huì)行為嵌入到這些汽車當(dāng)中”，進(jìn)行雙重意義的編碼——“我們必須將意圖寫(xiě)入法律，同時(shí)寫(xiě)入控制機(jī)器的軟件”。5當(dāng)然，它難免會(huì)有失片面與偏頗，因此，“在人工智能日益代替人類進(jìn)行各種決策的時(shí)代，設(shè)計(jì)出驗(yàn)證、證實(shí)、知情同意、 透明性、可責(zé)性、救濟(jì)、責(zé)任等方面的機(jī)制，對(duì)于削弱或者避免機(jī)器歧視、確保公平正義，是至關(guān)重要的”。6與此相應(yīng)，計(jì)量法學(xué)也開(kāi)始逐步走向計(jì)算法律學(xué)，致力于探索法律規(guī)則代碼化的形式表達(dá)與推理。這無(wú)疑會(huì)推進(jìn)法律思維和法律方法的革命性變革，“就像活字印刷術(shù)要求一個(gè)修訂版的人類一樣，計(jì)算機(jī)也會(huì)提出這樣的要求”。7但另一方面，在從工商業(yè)社會(huì)向智慧社會(huì)轉(zhuǎn)型的過(guò)程中，基層社會(huì)卻充盈著傳統(tǒng)、現(xiàn)代性和后現(xiàn)代性的諸多問(wèn)題甚至沖突，將社會(huì)規(guī)則轉(zhuǎn)化為代碼規(guī)制、將社會(huì)倫理嵌入進(jìn)智能系統(tǒng)的瓶頸明顯增多，通過(guò)執(zhí)法司法智能化來(lái)回應(yīng)基層社會(huì)治理的難度和風(fēng)險(xiǎn)大大增加，智慧社會(huì)基層治理所面臨的挑戰(zhàn)也更為嚴(yán)峻。因此，應(yīng)繼續(xù)創(chuàng)新體制機(jī)制來(lái)予以有效應(yīng)對(duì)。

五、消解問(wèn)題之本：探索智慧治理的新機(jī)制、新策略

無(wú)疑，法律自古就發(fā)揮著規(guī)范秩序和控制風(fēng)險(xiǎn)的重要作用，但從沒(méi)有像今天這樣面臨眾多的挑戰(zhàn)和風(fēng)險(xiǎn)。2017年7月20日國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》就明確指出，“人工智能發(fā)展的不確定性也帶來(lái)新挑戰(zhàn)。人工智能是影響面廣的顛覆性技術(shù)，可能帶來(lái)改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則等問(wèn)題，將對(duì)政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。在大力發(fā)展人工智能的同時(shí)，必須高度重視可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展?！币虼?，需要“制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范，開(kāi)展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等法律問(wèn)題研究，建立追溯和問(wèn)責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等”。這無(wú)疑代表了智慧社會(huì)的發(fā)展要求與基本方向，基于此，我們需要在法律體系的變革重塑和推進(jìn)智慧社會(huì)治理的進(jìn)程中，通過(guò)代碼規(guī)制、算法審計(jì)、規(guī)范標(biāo)準(zhǔn)等方式，嵌入體系化、制度化的風(fēng)險(xiǎn)控制機(jī)制。

首先，確立智慧社會(huì)治理的新理念、新思維。人類社會(huì)有史以來(lái)，一直生活在自然給定的物理空間中，但信息革命的到來(lái)，讓人類在物理空間外開(kāi)辟了廣闊無(wú)垠的電子空間，從此進(jìn)入了雙重空間（物理/電子、現(xiàn)實(shí)/虛擬）的生活時(shí)代，人們的生產(chǎn)生活、社會(huì)行為和日常交往都是在虛實(shí)同構(gòu)的場(chǎng)景中展開(kāi)的，智慧生活和智慧治理也變得日益基層化、普遍化、日?；?。這樣，就亟需跳出傳統(tǒng)單一物理空間的思維習(xí)慣，確立雙重空間與智慧治理的新理念和新思維，按照雙重空間的生產(chǎn)生活、行為邏輯，融入和加持建模、算法、代碼等方式來(lái)設(shè)計(jì)規(guī)制方案，應(yīng)對(duì)智慧社會(huì)基層治理的難題與挑戰(zhàn)，從而構(gòu)建有效的智慧治理秩序。與此同時(shí)，也要充分認(rèn)識(shí)智慧社會(huì)的高風(fēng)險(xiǎn)屬性，積極探索智慧治理的風(fēng)險(xiǎn)評(píng)估機(jī)制，努力抑制“一切皆可計(jì)算”所帶來(lái)的技術(shù)理性控制與人文精神流失，守住“以人為本”的價(jià)值底線。只有這樣，才能更好地推進(jìn)智慧社會(huì)的治理秩序，實(shí)現(xiàn)新時(shí)代的“數(shù)字正義”。

其次，探索智慧社會(huì)的基層治理體制與機(jī)制。面對(duì)人工智能帶來(lái)的規(guī)制挑戰(zhàn)、算法決策的突出困境以及執(zhí)法司法智能化的諸多問(wèn)題，我們固然不能消極回避和等待，但更不能試圖沿用工商業(yè)時(shí)代的慣常方式，“簡(jiǎn)單粗暴”地把這些挑戰(zhàn)和問(wèn)題“拉回”“鎖定”在物理空間的規(guī)制框架內(nèi)。1目前，各地的基層治理網(wǎng)格化就明顯帶有這種傾向，一些地方不是致力于探索順應(yīng)智慧時(shí)代發(fā)展的基層治理新機(jī)制，而是借用全新的技術(shù)手段來(lái)打造“維穩(wěn)”和“控制”的網(wǎng)格布局，它所實(shí)現(xiàn)的只是傳統(tǒng)治理方式的信息化、自動(dòng)化和智能化，而不是反映智慧社會(huì)訴求和生活邏輯的制度創(chuàng)新，因而，偏離了智慧社會(huì)治理的自身目標(biāo)，長(zhǎng)此以往必將會(huì)加大社會(huì)風(fēng)險(xiǎn)，甚至產(chǎn)生危機(jī)。因此，亟需扭轉(zhuǎn)這種傾向，切實(shí)按照雙重空間的生產(chǎn)生活方式、社會(huì)關(guān)系和行為邏輯，來(lái)改造現(xiàn)有的法律規(guī)制體系，推動(dòng)立足工商業(yè)時(shí)代的現(xiàn)代性法律體系向立足信息時(shí)代的智慧性法律體系的轉(zhuǎn)型升級(jí)。比如，新浪微博訴脈脈不正當(dāng)競(jìng)爭(zhēng)案就昭示，對(duì)數(shù)據(jù)采取何種法律保護(hù)方式成為解決案件的關(guān)鍵，而以新型的數(shù)據(jù)財(cái)產(chǎn)（權(quán)利保護(hù)）進(jìn)路取代以往的法益保護(hù)（商業(yè)秘密）、行為保護(hù)（不正當(dāng)競(jìng)爭(zhēng)）進(jìn)路才更為有效。2更重要的是，我們應(yīng)加快構(gòu)建一體融合的法律體系，圍繞人工智能的法律規(guī)制、算法決策的風(fēng)險(xiǎn)防控、執(zhí)法司法智能化的難題瓶頸等等，來(lái)積極探索智慧社會(huì)的治理新機(jī)制。這無(wú)疑是一個(gè)長(zhǎng)期的、復(fù)雜的、艱難的探索過(guò)程，需要全社會(huì)的共同努力，從而建立起智慧化的基層治理秩序。

再次，探索適應(yīng)智慧社會(huì)發(fā)展要求的規(guī)制策略。面對(duì)網(wǎng)絡(luò)化、數(shù)字化和智能化的快速交融發(fā)展，人們對(duì)目不暇接的技術(shù)進(jìn)步和新業(yè)態(tài)“破窗”一時(shí)難以迅速反應(yīng)，政府監(jiān)管部門(mén)也更多地關(guān)注它們所產(chǎn)生的風(fēng)險(xiǎn)后果，嘗試出臺(tái)新政策、新法規(guī)來(lái)加以控制和防范。然而，這仍然是一種傳統(tǒng)規(guī)制策略，仍是一種立足物理空間規(guī)則立場(chǎng)的外在的規(guī)制，沒(méi)有進(jìn)入新業(yè)態(tài)的運(yùn)行邏輯內(nèi)部，規(guī)制的是代碼和算法的后果，而不是代碼和算法過(guò)程的本身。這就難以有效應(yīng)對(duì)人工智能挑戰(zhàn)、算法決策困境和執(zhí)法司法智能化難題。因此，需要實(shí)現(xiàn)智慧時(shí)代的法律規(guī)制轉(zhuǎn)向，通過(guò)代碼法律化，把行業(yè)的代碼技術(shù)規(guī)則上升為法律化規(guī)則，實(shí)現(xiàn)“技術(shù)法律化”;同時(shí)，通過(guò)法律代碼化，把法律規(guī)則轉(zhuǎn)換成代碼，并以代碼來(lái)規(guī)制代碼，實(shí)現(xiàn)“法律技術(shù)化”。這樣，就形成了雙向構(gòu)建的規(guī)制策略，從而為塑造智慧社會(huì)的新型基層治理秩序奠定堅(jiān)實(shí)基礎(chǔ)、提供有力保障。

[責(zé)任編輯 李宏弢]

Governance Problems in Intelligent Society and Their Resolution

MA Chang-shan

Abstract： ?The arrival of smart society not only brings people welfare and progress in life， but also brings high-risk society， in which the regulation challenge brought by artificial intelligence， the prominent problem of algorithm decision-making process， the difficulty and risk of grassroots law enforcement and judicial intelligentization have become the Times problems faced by grassroots social governance. Therefore， establishing new concept and thinking wisdom of social governance is in urgent need. According to production way of life and life logic of smart society in dual space， promote the transformation from the modern legal system to intellectual legal system， and then explore the new mechanisms and strategies of smart governance and finally create a new social order of grassroots governance in smart society.

Key words： ?smart society， big data， artificial intelligence， social governance， rule of law order