劉哲

最近看了《未來(lái)簡(jiǎn)史》和《真實(shí)的人類》，確實(shí)有一種不寒而栗的感覺(jué)。當(dāng)人工智能獲得統(tǒng)治地位之后，人類向何處去？

對(duì)此，我問(wèn)過(guò)馮象老師，如果人工智能獲得統(tǒng)治地位之后，那未來(lái)的法律豈不是算法？馮老師說(shuō)：很可能就是。

對(duì)于赫拉利來(lái)說(shuō)，生物體與機(jī)器的區(qū)別不過(guò)就是生化算法與電子算法的區(qū)別，不同社會(huì)制度之間的本質(zhì)區(qū)別也就是集約算法和分散算法的區(qū)別。

搞了幾年公訴信息化，對(duì)此有點(diǎn)感受。法律、訴訟規(guī)則再厲害，都沒(méi)有統(tǒng)一辦案系統(tǒng)厲害，因?yàn)樗^對(duì)剛性，系統(tǒng)對(duì)流程怎么規(guī)定的，你就只能怎么操作，模版怎么寫，很多人都會(huì)直接照辦。個(gè)別模版有誤，就會(huì)產(chǎn)生批量性錯(cuò)誤。流程永遠(yuǎn)是剛性的，過(guò)不去就過(guò)不去，沒(méi)有這個(gè)流程，很多承辦人就不會(huì)辦案子了。到底是應(yīng)該遵守法律還是應(yīng)該遵守流程？在系統(tǒng)算法面前，只有唯一的答案。這就是算法的力量。

比如說(shuō)，修改后的訴訟規(guī)則取消了公安機(jī)關(guān)撤回移送審查起訴的規(guī)定，但由于系統(tǒng)還留有相應(yīng)流程和文書，還有部分人會(huì)照舊處理。再比如，網(wǎng)約車新規(guī)出臺(tái)之后，先不說(shuō)是否合理，事實(shí)上很難執(zhí)行，因?yàn)槠脚_(tái)沒(méi)有做出相應(yīng)調(diào)整。只要平臺(tái)調(diào)整，分分鐘就搞定。

法律與算法已經(jīng)開(kāi)始了較量。

我曾經(jīng)說(shuō)過(guò)，辦案系統(tǒng)并不僅僅是工具，它就是規(guī)則本身。它是精細(xì)化的、具體化的、絕對(duì)剛性的規(guī)則，因?yàn)闉橐粋€(gè)個(gè)案修改算法幾乎是不可能的，個(gè)別根據(jù)授權(quán)進(jìn)行的信息調(diào)整其實(shí)也是算法的一部分。

最近很火的大數(shù)據(jù)，比如量刑系統(tǒng)，如果系統(tǒng)基于幾千萬(wàn)份判決算出一個(gè)量刑參考建議，你敢不執(zhí)行？你想知道其中的算法過(guò)程么，那你將永遠(yuǎn)別想弄明白，因?yàn)檫@已經(jīng)遠(yuǎn)遠(yuǎn)超越了你的認(rèn)知能力。你想超越這個(gè)算法建議進(jìn)行量刑，那算法一定會(huì)要求你進(jìn)行詳細(xì)說(shuō)明，在這種情況下如果上級(jí)法院給你改了，你就有的瞧了。所以在算法面前最好乖乖的，你按算法，上級(jí)法院也按算法，大家相安無(wú)事。即使錯(cuò)了，也是算法錯(cuò)了。目前，檢察機(jī)關(guān)希望研發(fā)的量刑建議系統(tǒng)可能也將面臨這個(gè)問(wèn)題。

據(jù)推測(cè)，無(wú)人駕駛普及以后，可能會(huì)禁止人類司機(jī)上路，因?yàn)榕c人工智能相比人類具有更大的不確定性，容易受情緒、性格等因素影響。都是人工智能，馬路跟火車道差不多，偶爾可能會(huì)有系統(tǒng)故障，但幾乎不會(huì)有擁堵和交通事故。

目前，司法機(jī)關(guān)要進(jìn)一步人工智能化，智慧法院、智慧公訴，輕微案件自動(dòng)生成審查報(bào)告，自動(dòng)生成起訴書、判決書。如果這樣的話，是否可以麻煩將危險(xiǎn)駕駛的人類直接送到監(jiān)獄，因?yàn)檫@個(gè)路程中，刑期已經(jīng)計(jì)算好了，在路上可以自動(dòng)宣判。

哦，對(duì)了。不允許人類司機(jī)上路的。我說(shuō)的其實(shí)就是那些違法上路的司機(jī)，而不是酒駕的司機(jī)。在未來(lái)，只要是人類司機(jī)，不管你喝不喝酒，都是危險(xiǎn)駕駛。是否喝酒對(duì)人工智能來(lái)說(shuō)沒(méi)有本質(zhì)區(qū)別。人類帶來(lái)的問(wèn)題將是因?yàn)樵黾硬淮_定性而容易導(dǎo)致交通人工智能系統(tǒng)過(guò)載，造成系統(tǒng)癱瘓，影響系統(tǒng)的穩(wěn)定性將成為重罪。因?yàn)橄到y(tǒng)的穩(wěn)定是社會(huì)穩(wěn)定的基石，以后的維穩(wěn)工作主要是維護(hù)系統(tǒng)的穩(wěn)定。

赫拉利說(shuō)了，大多數(shù)人類個(gè)體將對(duì)社會(huì)系統(tǒng)失去意義。

誰(shuí)有意義呢？

就是那些制造算法的人。這些人就是赫拉利說(shuō)的神人。

這些人有沒(méi)有腦機(jī)接口，是否通過(guò)基因編輯等進(jìn)行生化算法改良，我不知道?？傊麄冞€沒(méi)有被人工智能代替，他們還要為人工智能編制核心程序。他們的創(chuàng)造性，人工智能還無(wú)法通過(guò)機(jī)器學(xué)習(xí)的方式獲得。

他們編制的算法不是在驅(qū)動(dòng)幾臺(tái)機(jī)器，他們將通過(guò)人工智能驅(qū)動(dòng)整個(gè)社會(huì)的運(yùn)轉(zhuǎn)。

這就是未來(lái)之法。

傳統(tǒng)意義的法律是規(guī)范人類行為，是社會(huì)規(guī)則的基礎(chǔ)?？傮w來(lái)看，法的進(jìn)化過(guò)程是越來(lái)越深入的融入社會(huì)生活進(jìn)程，從漢謨拉比法典到羅馬法，從宗教法則到拿破侖法典，從商君之法到大清刑律，從判例法到日益繁多的成文法，從國(guó)內(nèi)法、海商法到國(guó)際法，法律變得越來(lái)越無(wú)孔不入。急劇變化的社會(huì)在加速推動(dòng)法律的演化，很多傳統(tǒng)社會(huì)能夠容許的風(fēng)險(xiǎn)，在現(xiàn)代社會(huì)已經(jīng)轉(zhuǎn)化為犯罪行為，法律的邊界在不斷膨脹。但即使如此，法律也只是社會(huì)規(guī)則的一部分，很多還要依靠倫理、道德、習(xí)俗、文化，甚至生態(tài)法則來(lái)約束。這些都是人類社會(huì)自然演進(jìn)的產(chǎn)物。

但是未來(lái)之法將與這些都不相同，它將直接將技術(shù)規(guī)則與行為規(guī)范合二為一。將由神人創(chuàng)制底層算法，由人工智能自行完善具體算法，由具體算法管理社會(huì)。是的，我們的法律實(shí)際上就是數(shù)學(xué)規(guī)則。它除了物理定律管不了，將規(guī)范人類的一切行為?？纯次覀冎苓叺闹悄芑瘧?yīng)用，你的自由選擇還有多少。

這一天是否會(huì)到來(lái)？物科學(xué)、人工智能的很多趨勢(shì)表明，這很有可能成為現(xiàn)實(shí)。對(duì)了，我們的自由意志哪去了，我們的意識(shí)呢？根據(jù)赫拉利的分析，這些就是生化算法。所謂的內(nèi)心聲音只是神經(jīng)元的放電反映。所謂的自由意志，只是一個(gè)幻覺(jué)。就是說(shuō)生命與非生命并沒(méi)有本質(zhì)的區(qū)別，如果有的話只是算法不同。

所謂科技驅(qū)動(dòng)未來(lái)，其實(shí)驅(qū)動(dòng)的是人類的命運(yùn)。沒(méi)有誰(shuí)是不能替代的，包括人類自身。法律是人類行為的準(zhǔn)則，但如果人類只聽(tīng)人工智能的，那法律只規(guī)范人工智能就好了，所以未來(lái)的法律很有可能就是一堆算法。

當(dāng)然這些都只是對(duì)未來(lái)的假設(shè)，眼下算法還遠(yuǎn)遠(yuǎn)不能替代人，但可以很大程度上將人類從重復(fù)智力勞動(dòng)中解放出來(lái)，就像機(jī)械將人從重復(fù)體力勞動(dòng)中解放出來(lái)一樣，這是人類生產(chǎn)力的第二次解放。其深遠(yuǎn)影響可能會(huì)遠(yuǎn)遠(yuǎn)超過(guò)第一次解放運(yùn)動(dòng)。這也是人類進(jìn)化的必由之路，也就是赫拉利說(shuō)的智人通往神人之路。因此，今年政法工作格外重視科技發(fā)展，某種程度上說(shuō)2017年應(yīng)該是中國(guó)科技司法的元年。這也不奇怪，因?yàn)槿斯ぶ悄芗磳⒂瓉?lái)爆發(fā)期，我們也是跟上世界潮流了，難怪《未來(lái)簡(jiǎn)史》中文版出的這么快。

人工智能之于司法就是一個(gè)大風(fēng)口。雷軍說(shuō)：只要站在風(fēng)口，豬也能飛起來(lái)。難怪很多奇奇怪怪的人也在談司法現(xiàn)代化，各種大數(shù)據(jù)，各種智能，各種術(shù)語(yǔ)，拿出各種炫酷圖表，各種看不懂……

風(fēng)要起了。為避免以后的凌亂，有必要說(shuō)幾句：

不要忘了，人才是互聯(lián)網(wǎng)的第一維度。這里的人，是每個(gè)人，至少是大多數(shù)人，而不是個(gè)別人。當(dāng)你拿出各種數(shù)據(jù)說(shuō)有用的時(shí)候，不要忘了你在說(shuō)對(duì)誰(shuí)有用。如果互聯(lián)網(wǎng)只是服務(wù)領(lǐng)導(dǎo)決策的工具，那它永遠(yuǎn)做不大。

智慧司法的目的是為了節(jié)省人力，而不是費(fèi)力、吃力，否則就是浪費(fèi)司法資源，必須從服務(wù)的角度考慮問(wèn)題。

智慧司法的背后是邏輯。必須要先想清楚，才能干明白。必須要有完整的解決方案，切忌盲目上馬，司法現(xiàn)代化要避免搞形象工程，否則同樣是勞民傷財(cái)。

智慧司法的目標(biāo)應(yīng)該是人的提升。很多算法路徑是為了實(shí)現(xiàn)傻瓜系統(tǒng)，力圖打造一鍵判決什么的。什么起訴書、判決書自動(dòng)生成，證據(jù)材料自動(dòng)審查判斷或者參考什么的。有些是不錯(cuò)的，可以省卻一些重復(fù)勞動(dòng)。但是這隱藏了兩個(gè)可怕的隱患：一是算法錯(cuò)誤怎么辦；二是就算算法錯(cuò)了你也不知道怎么錯(cuò)的。即使是概率性的，比如說(shuō)60%的相似案件都判了。但是我們不禁要問(wèn)，這個(gè)相似的度有多大，如何判斷？這個(gè)數(shù)據(jù)樣本的采集是否具備代表性和科學(xué)性，由誰(shuí)判斷？如果我們盲目相信數(shù)據(jù)，很容易被帶進(jìn)溝里。當(dāng)我們抽取掉案件的細(xì)節(jié)而進(jìn)行歸類的時(shí)候，我們也抽取掉了案件的語(yǔ)境?？咳瞬蝗缈考?，在利用輔助辦案系統(tǒng)的時(shí)候，你要進(jìn)一步提升自己的辦案能力和識(shí)別能力，才能判斷出哪些是人工智能的誤差，否則這個(gè)誤差就會(huì)轉(zhuǎn)變?yōu)樵┘馘e(cuò)案，而且可能是批量的。這樣是不是更累？但是相比于省掉的重復(fù)勞動(dòng)，還好吧。只是我們必須牢記一點(diǎn)，在機(jī)器進(jìn)化的同時(shí)我們要先行加速進(jìn)化，否則就會(huì)從依賴機(jī)器變成機(jī)器的奴隸。也正因此，開(kāi)發(fā)辦案輔助型系統(tǒng)的同時(shí)，也要加速開(kāi)發(fā)能力驅(qū)動(dòng)型的系統(tǒng)，比如北京的出庭管理系統(tǒng)。

大數(shù)據(jù)不是萬(wàn)能的，不要過(guò)高估計(jì)目前人工智能的能力，不要拜數(shù)據(jù)教。目前的人工智能還處于較低水平，遠(yuǎn)沒(méi)有實(shí)現(xiàn)對(duì)自然語(yǔ)言的真正理解，更不要說(shuō)司法應(yīng)用。司法不僅要理解法，還要理解人。司法不是機(jī)械的法律要件適配，三段論判斷，它需要對(duì)現(xiàn)實(shí)生活的深刻洞察和人性的深度理解，才能做出符合法律精神的判斷。大數(shù)據(jù)能夠比較類似的案例，但是它一定會(huì)過(guò)濾掉那些不相似的、看似不重要的細(xì)節(jié)，而它們有可能至關(guān)重要。算法畢竟是人算出來(lái)的，算法設(shè)計(jì)者的局限性就是這個(gè)系統(tǒng)的局限性。而同時(shí)兼?zhèn)湄S富司法經(jīng)驗(yàn)和高超技術(shù)研發(fā)能力的人幾乎沒(méi)有，如果兩類人互相配合，同樣可能會(huì)發(fā)生溝通、理解上的差異，因此系統(tǒng)很難完美，人工智能自我學(xué)習(xí)能力也有限。因此，不要不著邊際的提出系統(tǒng)開(kāi)發(fā)需求，看起來(lái)高大上的系統(tǒng)可能存在非常嚴(yán)重的隱患。這個(gè)隱患由于帶有技術(shù)性，因而有著很大的迷惑性，將很難為外行察覺(jué)，但是結(jié)果將是災(zāi)難性的。

智慧司法不僅是科技驅(qū)動(dòng)司法，更是創(chuàng)新驅(qū)動(dòng)司法，更是科學(xué)思維驅(qū)動(dòng)公訴，是模式化的升級(jí)，而不僅僅是科技外掛。未來(lái)之法絕不僅僅是算法說(shuō)了算，最終依靠的仍然是人。

編輯：黃靈 yeshzhwu@foxmail.com