薛林蔚 王 哲 高亞男

（溫州大學(xué)，浙江 溫州32500）

一、問(wèn)題的提出

在人工智能時(shí)代，會(huì)出現(xiàn)人格權(quán)保護(hù)風(fēng)險(xiǎn)，知識(shí)產(chǎn)權(quán)保護(hù)風(fēng)險(xiǎn)，數(shù)據(jù)財(cái)產(chǎn)保護(hù)風(fēng)險(xiǎn)和侵權(quán)責(zé)任風(fēng)險(xiǎn)。[1]政府合同治理中，會(huì)存在以下五個(gè)風(fēng)險(xiǎn)：一是逆向選擇，二是道德風(fēng)險(xiǎn)，三是尋租風(fēng)險(xiǎn)，四是責(zé)任風(fēng)險(xiǎn)，五是政治風(fēng)險(xiǎn)。[2]人工智能一般分為三個(gè)階段，弱人工智能，強(qiáng)人工智能和超人工智能。[3]在弱人工智能階段，人工智能通過(guò)對(duì)信息的收集，來(lái)輔助幫助政府委托人進(jìn)行決策，看政府合同簽訂到履行是否存在重大的風(fēng)險(xiǎn)，是否需要采取必要的措施。而到了強(qiáng)人工智能階段，人工智能在不斷深度學(xué)習(xí)后，可以模仿政府委托人的思維模式，對(duì)出現(xiàn)問(wèn)題的政府合同作出決策，強(qiáng)人工智能不斷發(fā)展，到了超人工智能，這時(shí)候人工智能不僅是作出決策，而且會(huì)創(chuàng)造一套比較好的方案去處理出現(xiàn)問(wèn)題的政府合同。

目前，我們處在的階段是在弱人工智能向強(qiáng)人工智能發(fā)展階段，人工智能輔助監(jiān)管為主，獨(dú)立決策為輔的階段。所以在這個(gè)階段，人工智能還不能完全獨(dú)立，所以不會(huì)出現(xiàn)人格權(quán)風(fēng)險(xiǎn)，即侵犯人工智能人格的風(fēng)險(xiǎn)。而在人工智能參與政府合同監(jiān)管時(shí)，人工智能并不需要其創(chuàng)作作品，亦不會(huì)出現(xiàn)人工智能知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)。在人工智能運(yùn)用于政府合同監(jiān)管時(shí)，最有可能出現(xiàn)數(shù)據(jù)財(cái)產(chǎn)風(fēng)險(xiǎn)和侵權(quán)責(zé)任風(fēng)險(xiǎn)。在應(yīng)對(duì)數(shù)據(jù)財(cái)產(chǎn)風(fēng)險(xiǎn)，政府需要對(duì)代理人和相對(duì)人進(jìn)行評(píng)價(jià)，而且要對(duì)一些資金的信息予以公開(kāi)，這可能會(huì)侵害到代理人和相對(duì)人的數(shù)據(jù)隱私。而在侵權(quán)責(zé)任風(fēng)險(xiǎn)中，應(yīng)對(duì)政府合同的逆向選擇風(fēng)險(xiǎn)、道德風(fēng)險(xiǎn)、尋租風(fēng)險(xiǎn)、責(zé)任風(fēng)險(xiǎn)和政治風(fēng)險(xiǎn)都會(huì)存在。因?yàn)樵趹?yīng)對(duì)政府合同上述五種風(fēng)險(xiǎn)時(shí)，人工智能的介入，可能會(huì)造成代理人或相對(duì)人權(quán)益的侵害。這些原因可能是數(shù)據(jù)輸入的不真實(shí)，或是人工智能本身設(shè)計(jì)時(shí)評(píng)價(jià)程序的缺陷。

具體而言，個(gè)人或組織在政府合同中充當(dāng)?shù)慕巧谴砘蛳鄬?duì)人。人工智能收集數(shù)據(jù)時(shí)，需要對(duì)代理人或相對(duì)人的各種信息進(jìn)行匯總，代理人的各種信息大多是公開(kāi)的，如人工智能將這些收集的數(shù)據(jù)不當(dāng)泄露，并不會(huì)直接對(duì)代理人或相對(duì)人造成一定的影響，但在信息匯總后得出的結(jié)論可能是不利于代理人或相對(duì)人。就相當(dāng)于人工智能對(duì)這些代理人或是相對(duì)人進(jìn)行了負(fù)面評(píng)價(jià)，這些代理人或是相對(duì)人是相對(duì)較差的，這個(gè)評(píng)價(jià)對(duì)代理人或相對(duì)人日后參與其他的政府合同或是社會(huì)上的經(jīng)濟(jì)活動(dòng)，是有較大的影響的。在政府層面，人工智能所做的是收集數(shù)據(jù)信息，幫助政府進(jìn)行決策和監(jiān)管。如果這些信息一旦泄露，例如在應(yīng)對(duì)道德風(fēng)險(xiǎn)中，公民發(fā)現(xiàn)政府不能按約履行政府合同；在尋租風(fēng)險(xiǎn)中，公民發(fā)現(xiàn)政府官員有腐敗現(xiàn)象；在應(yīng)對(duì)責(zé)任風(fēng)險(xiǎn)中，公民發(fā)現(xiàn)政府選擇的相對(duì)人在履行政府合同出了問(wèn)題，政府監(jiān)管不力；在應(yīng)對(duì)政治風(fēng)險(xiǎn)中，公民發(fā)現(xiàn)政府在了解民意后未遵循民意，這就可能使得公民對(duì)政府整體評(píng)價(jià)為沒(méi)有信用的政府，或是不值得信任的政府。這就會(huì)造成政府的信任危機(jī)。

二、應(yīng)對(duì)交叉風(fēng)險(xiǎn)措施分析

（一）做好政府信息公開(kāi)工作

政府合同以及人工智能合同監(jiān)管工作之所以會(huì)存在多重風(fēng)險(xiǎn)，政府方面的信息不對(duì)等與公開(kāi)不全面是一大原因。加強(qiáng)政府信息公開(kāi)，將權(quán)力的行使過(guò)程置于陽(yáng)光之下，不僅是政府自我約束確立的一種制度安排，而且是公民可以參與的監(jiān)督行政權(quán)力的一種方式。[4]在目前的弱人工智能階段，人工智能還僅僅只能夠通過(guò)算法來(lái)歸納學(xué)習(xí)合同監(jiān)管方式，無(wú)論是算法的正當(dāng)性還是輸出結(jié)果的正確性，事實(shí)上還是由政府工作人員來(lái)決定。由于政府與人工智能開(kāi)發(fā)者之間是平等的買(mǎi)賣(mài)合同關(guān)系，開(kāi)發(fā)者對(duì)于政府具體如何使用人工智能來(lái)進(jìn)行行政工作，輸出結(jié)果是否得到正確實(shí)施都不知情，此時(shí)仍然需要合同相對(duì)人對(duì)行政合同監(jiān)管工作提出質(zhì)疑，啟動(dòng)對(duì)于人工智能工作的追溯程序并要求政府信息公開(kāi)，從而讓人工智能及其操作者得到有效監(jiān)管。至于政府方面，自然應(yīng)當(dāng)提前做好信息公開(kāi)工作，積極與開(kāi)發(fā)者進(jìn)行聯(lián)系，將人工智能系統(tǒng)設(shè)計(jì)為可視化系統(tǒng)，幫助合同相對(duì)人理解人工智能的處理過(guò)程與結(jié)果，提升政府公信力。另外，由于政府合同涉及政府各個(gè)部門(mén)的不同職能，許多合同還存在職權(quán)交叉或聯(lián)合的情況，因此政府進(jìn)行信息公開(kāi)工作時(shí)應(yīng)當(dāng)做到整合各部門(mén)共同參與的項(xiàng)目合同，將合同各個(gè)環(huán)節(jié)的行政主體整理分類(lèi)記錄，確保人工智能合同監(jiān)管的透明度與權(quán)威性。

（二）努力做到監(jiān)管系統(tǒng)的處理程序可視化

算法的本質(zhì)是邏輯推理，監(jiān)管系統(tǒng)輸出的監(jiān)管結(jié)果清晰明確，但其過(guò)程往往難以監(jiān)督，監(jiān)管人員向軟件公司索要源代碼進(jìn)行分析既費(fèi)時(shí)費(fèi)力又缺乏相應(yīng)理論知識(shí)，不具有可行性。因此應(yīng)當(dāng)督促軟件公司相關(guān)人員嘗試對(duì)監(jiān)管軟件的運(yùn)行過(guò)程進(jìn)行可視化嘗試，在何環(huán)節(jié)通過(guò)何判斷最終導(dǎo)向何結(jié)果，這個(gè)可視化不必以計(jì)算機(jī)語(yǔ)言的精確度為準(zhǔn)，只要能夠從自然語(yǔ)言的角度達(dá)到推理的合理性即可。人工智能系統(tǒng)在政府合同監(jiān)管中必須以工作原理能夠以較為通俗或直觀的方式進(jìn)行闡明為前提，否則在行政訴訟與行政監(jiān)督階段必然將遭受極大阻力，合同相對(duì)人也難以得到對(duì)于系統(tǒng)的有效預(yù)期，將會(huì)有損于政府公信力。當(dāng)然，軟件運(yùn)行過(guò)程的可視化是一個(gè)相當(dāng)具有難度的項(xiàng)目，也可能導(dǎo)致軟件預(yù)算成本的大幅上升，這在政府的采購(gòu)過(guò)程中是無(wú)法避開(kāi)的現(xiàn)實(shí)難題，因此該項(xiàng)僅僅是作為一個(gè)可能的嘗試，由監(jiān)管單位與軟件公司進(jìn)行洽談確定最終的方案。

（三）監(jiān)管系統(tǒng)需要定期進(jìn)行維護(hù)升級(jí)

目前的監(jiān)管系統(tǒng)僅僅對(duì)應(yīng)弱人工智能，對(duì)于輸入的合同具備一定的聯(lián)想與學(xué)習(xí)能力，但還不足以達(dá)到自我學(xué)習(xí)更新不需要外部幫助的地步，因此仍然需要軟件公司長(zhǎng)期跟進(jìn)，隨著法律法規(guī)的更新對(duì)系統(tǒng)進(jìn)行維護(hù)，這有助于延長(zhǎng)系統(tǒng)的使用壽命，也能夠保證合同監(jiān)管系統(tǒng)輸出結(jié)果的正確性，并能幫助系統(tǒng)收獲質(zhì)量更高的分析樣本數(shù)據(jù)庫(kù)，最終通過(guò)不斷收集分析數(shù)據(jù)使監(jiān)管結(jié)論與意見(jiàn)更具有使用價(jià)值，因此是一個(gè)良性循環(huán)的過(guò)程。

（四）要做好合同監(jiān)管系統(tǒng)數(shù)據(jù)庫(kù)的保護(hù)與備份

要做好合同監(jiān)管系統(tǒng)數(shù)據(jù)庫(kù)的保護(hù)與備份工作。目前全國(guó)司法系統(tǒng)都在推進(jìn)無(wú)紙化辦公工程，無(wú)紙化能夠提高工作效率，也能夠?qū)崿F(xiàn)節(jié)約環(huán)保，但必須警惕電子化辦公可能帶來(lái)的一些問(wèn)題，例如數(shù)據(jù)泄露或者斷電等原因?qū)е碌臄?shù)據(jù)丟失。因此對(duì)于合同監(jiān)管系統(tǒng)這類(lèi)以政府合同為監(jiān)管目標(biāo)的系統(tǒng)，更要做好保密性與安全性工作，由政府部門(mén)牽頭，軟件公司承接，為系統(tǒng)設(shè)計(jì)一個(gè)較為妥善的保護(hù)方案，包括數(shù)據(jù)庫(kù)的儲(chǔ)存轉(zhuǎn)移以及斷電數(shù)據(jù)保護(hù)等方面。在目前紙質(zhì)檔案管理與無(wú)紙化辦公更替的關(guān)口，采用紙質(zhì)檔案?jìng)浞菀彩且环N可以選擇的較低成本妥協(xié)方案，并可以在技術(shù)更為成熟之后全部轉(zhuǎn)為電子化管理。沒(méi)有保護(hù)程序的數(shù)據(jù)相當(dāng)于無(wú)根之木，是不能夠承接監(jiān)管這種具有高度保密性特點(diǎn)的工作的，因此必須做好相關(guān)工作，助力政府合同監(jiān)管安全。此外對(duì)于被采集數(shù)據(jù)的公民來(lái)說(shuō)，政府合同監(jiān)管系統(tǒng)的安全性更加重要。公民的信息要做到及時(shí)處理，對(duì)于需要留存的信息做好保護(hù)工作，對(duì)于已經(jīng)失去作用的信息要進(jìn)行徹底銷(xiāo)毀。

（五）要做好人工智能系統(tǒng)侵權(quán)時(shí)的追責(zé)

由于人工智能系統(tǒng)在中國(guó)目前尚處于初級(jí)階段，相關(guān)開(kāi)發(fā)者的經(jīng)驗(yàn)稍顯稚嫩，對(duì)于面向政府合同監(jiān)管的系統(tǒng)開(kāi)發(fā)工作經(jīng)驗(yàn)更是少之又少，因此相關(guān)系統(tǒng)出現(xiàn)問(wèn)題是有較大可能的。在人工智能系統(tǒng)作出錯(cuò)誤分析或者結(jié)論，導(dǎo)致侵害政府合同相對(duì)人甚至公民的利益時(shí)如何進(jìn)行侵權(quán)的追責(zé)工作是事實(shí)存在的難題。筆者認(rèn)為在目前的弱人工智能階段，人工智能僅僅作為分析工具存在，自身是不可能承擔(dān)任何責(zé)任的。生產(chǎn)者擔(dān)當(dāng)人工智能產(chǎn)品的“啟蒙”，理應(yīng)適用嚴(yán)格責(zé)任。使用者與生產(chǎn)者不同，他們不介入人工智能系統(tǒng)的設(shè)計(jì)與生產(chǎn)過(guò)程，也完全不掌握算法、程序或指令，因而無(wú)必要對(duì)系統(tǒng)自身缺陷承擔(dān)責(zé)任，僅需依據(jù)各自的注意義務(wù)范圍，承擔(dān)有限的過(guò)錯(cuò)責(zé)任。[5]但如果進(jìn)入強(qiáng)人工智能時(shí)代后，人工智能就將獲得承擔(dān)責(zé)任的義務(wù)，此時(shí)政府的責(zé)任轉(zhuǎn)變?yōu)閷?duì)于雇員的侵權(quán)行為向受害人承擔(dān)侵權(quán)責(zé)任，隨后政府有權(quán)向人工智能進(jìn)行追償，而開(kāi)發(fā)者作為人工智能的制造者其承擔(dān)責(zé)任與否則取決于人工智能的侵權(quán)行為是否基于自身完全的獨(dú)立意志還是受到開(kāi)發(fā)者的影響而決定，開(kāi)發(fā)者承擔(dān)責(zé)任必須以人工智能受其影響為前提。

三、結(jié)語(yǔ)

政府合同已是政府管理社會(huì)事務(wù)比較普遍的模式，其有著巨大的優(yōu)勢(shì)，能充分調(diào)動(dòng)社會(huì)資源，參與到公共事務(wù)的管理和建設(shè)當(dāng)中。在政府合同監(jiān)管過(guò)程中，常見(jiàn)有五大風(fēng)險(xiǎn)：逆向選擇風(fēng)險(xiǎn)、道德風(fēng)險(xiǎn)、尋租風(fēng)險(xiǎn)、責(zé)任風(fēng)險(xiǎn)、政治風(fēng)險(xiǎn)。而人工智能應(yīng)用過(guò)程中，其本身也會(huì)出現(xiàn)風(fēng)險(xiǎn)，常見(jiàn)有四大風(fēng)險(xiǎn)：人格權(quán)風(fēng)險(xiǎn)，知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)，數(shù)據(jù)財(cái)產(chǎn)風(fēng)險(xiǎn)和侵權(quán)責(zé)任風(fēng)險(xiǎn)。這就出現(xiàn)了交叉風(fēng)險(xiǎn)，鑒于目前處于弱人工智能階段，所以最有可能是數(shù)據(jù)財(cái)產(chǎn)風(fēng)險(xiǎn)和侵權(quán)責(zé)任風(fēng)險(xiǎn)與政府合同常見(jiàn)五大交叉風(fēng)險(xiǎn)。為了應(yīng)對(duì)這些出現(xiàn)的新的交叉風(fēng)險(xiǎn)，要做好信息公開(kāi)。努力做到監(jiān)管系統(tǒng)的處理程序可視化。監(jiān)管系統(tǒng)需要定期進(jìn)行維護(hù)升級(jí)。要做好合同監(jiān)管系統(tǒng)數(shù)據(jù)庫(kù)的保護(hù)與備份。要做好人工智能系統(tǒng)侵權(quán)時(shí)的追責(zé)。