涂雨欣 楊玲 尹雪
(西北大學(xué)法學(xué)院,陜西 西安 710000)
根據(jù)2020年2月25日國務(wù)院《關(guān)于依法科學(xué)精準(zhǔn)做好新冠肺炎疫情防控工作的通知》,健康碼是行政機(jī)關(guān)綜合判斷個人健康風(fēng)險等級,獲得出行、復(fù)工資格的法定證明,是出于風(fēng)險預(yù)防的目的對個人信息處理并進(jìn)行自動化行政評級的行為,其內(nèi)嵌了自動化的程式標(biāo)準(zhǔn),是應(yīng)急狀態(tài)下算法行政在全國范圍內(nèi)的全新嘗試。
健康碼作為政府的數(shù)字工具,其運(yùn)行主要依托市場主流應(yīng)用程序,通過線上采集授碼、線下核驗信息掃碼兩條路線,根據(jù)行政機(jī)關(guān)已程式化的評判標(biāo)準(zhǔn)對疫情防控大數(shù)據(jù)庫的信息進(jìn)行處理,最終呈現(xiàn)出“紅黃綠”三種不同健康狀態(tài)。在這種運(yùn)行機(jī)制下,政府部門是數(shù)據(jù)的控制方,為行政治理提供數(shù)據(jù)技術(shù)的企業(yè)則是數(shù)據(jù)的處理方,而公民則是數(shù)據(jù)的提供方,維系三方的核心在于企業(yè)根據(jù)行政機(jī)關(guān)設(shè)定的評判標(biāo)準(zhǔn)[1]而提供的算法。
從健康碼的使用目的來看,其出于風(fēng)險防控的目的,維護(hù)的是社會的公共利益,具有合法性;但從使用手段來看,健康碼是一種自動化的行政評級,前期的信息收集和評級后的控制措施都帶有一定強(qiáng)制性,公民個人信息保護(hù)、信息處理誤判等風(fēng)險是否超越了法律保護(hù)的界限仍有待考量。
由于全國各地健康碼的運(yùn)行機(jī)制大致相同,故以西安市的適用現(xiàn)狀為例進(jìn)行調(diào)研分析。宏觀角度而言,健康碼在西安市的落實進(jìn)展順利。在通過問卷的形式對西安市不同年齡段的市民進(jìn)行走訪調(diào)研后發(fā)現(xiàn),對西安市健康碼的實際效果評價中。超過80%的被訪者認(rèn)為在疫情防護(hù)過程中西安市健康碼發(fā)揮了實際效果,但仍有10.28%的被訪者認(rèn)為西安市健康碼的實際效果有限。
鑒于適用效果評價呈現(xiàn)出多樣化的選擇,故對西安市健康碼存在的風(fēng)險與實際局限進(jìn)行深入考察。
1.算法自動化決策地風(fēng)險
由于算法標(biāo)準(zhǔn)、原始數(shù)據(jù)等原因形成的思維處理慣性,進(jìn)而使得算法系統(tǒng)在自動化決策過程中出現(xiàn)帶有偏向性的結(jié)果[1]。除卻程序設(shè)計的偏差產(chǎn)生的偏見外,人工智能自動化決策也伴隨其他類型偏見,容易無端放大某些風(fēng)險要素,或者由于算法程序本身的局限性得出與實際不符的結(jié)論。
2.個人信息的保護(hù)面向
疫情防控過程中健康碼的生成方式是動態(tài)碼,然而健康碼所包含的信息不僅是呈現(xiàn)的個人身份信息和健康信息,還包括交通出行記錄、通信記錄、家庭住址等個人敏感信息。這些龐大的信息在數(shù)據(jù)傳輸、管理的過程中難以避免地在系統(tǒng)后臺聚集,增加了信息泄露地風(fēng)險[2]。
3.健康碼誤判的救濟(jì)途徑不暢通
作為疫情期間公民出行的法定證明,健康碼呈現(xiàn)的不同結(jié)果對應(yīng)著不同的管控措施,而出現(xiàn)誤判的黃碼和紅碼時,配套的解決措施卻并不完善。同時,公民對于現(xiàn)有健康碼誤判的救濟(jì)渠道知悉度低,疫情管控下趨于被動,特別是對于多地往返人員而言,各地健康碼管理措施不一,盡管全國推進(jìn)健康的互認(rèn)機(jī)制②,但還沒有統(tǒng)一高效的申訴或救濟(jì)渠道,這亦是擺在各地健康碼互認(rèn)機(jī)制推進(jìn)面前的問題。
“算法偏見”作為人工智能領(lǐng)域所固有的缺陷,雖無法完全消除,但可以通過提前預(yù)防和事后的應(yīng)對措施來規(guī)避。具體而言,健康碼在算法程序的構(gòu)建方面應(yīng)當(dāng)重視算法公正,既需要保證程序的公正,還需要在具體的數(shù)據(jù)選取方面做到公正合理。另一方面,涉及對“算法偏見”的事后應(yīng)對與協(xié)調(diào),可以采用“算法程序”的自我糾錯和漏洞修復(fù)功能,以此將損失和影響降到最低。
公民的個人信息兼具人格和財產(chǎn)利益,在算法治理的模式下,公民的數(shù)字人格更加被重視。因此,健康碼在控制處理公民個人信息時更應(yīng)加強(qiáng)相應(yīng)的保護(hù)措施。
首先,知情同意原則是個人信息保護(hù)的基本原則,即數(shù)據(jù)控制者在處理個人信息時,應(yīng)當(dāng)履行告知義務(wù),尊重公民的知情權(quán),讓使用健康碼的公民明確自身的權(quán)利范圍以及個人信息的利用目的和范圍。
其次,行政機(jī)關(guān)在依據(jù)健康碼治理的過程中也需要遵循比例原則[3],反映在健康碼運(yùn)行的合比例性審視,則須經(jīng)適當(dāng)性、必要性和均衡性的三重審度,例如對公民敏感信息的采集需要把握好個人信息保護(hù)的邊界[4],對不必要采集的信息不予采集,兼顧好防疫目標(biāo)和相對人的利益。
在健康碼運(yùn)行中存在“算法偏見”、數(shù)據(jù)報錯等風(fēng)險,這給疫情防控工作中信息的收集與識別帶來不便,同時也給公民帶來困擾。如何規(guī)避和進(jìn)行救濟(jì),關(guān)鍵在于完善風(fēng)險防控及報錯問責(zé)機(jī)制。
健康碼的風(fēng)險防控有賴于算法程序的精準(zhǔn)調(diào)配和工作人員的嚴(yán)密審核。一方面,健康碼需要在不斷地試錯中加強(qiáng)數(shù)據(jù)運(yùn)算的精準(zhǔn)度,同時輔之以算法程序的自我糾錯功能。另一方面,配套的人工的救濟(jì)渠道是有必要的,但人工救濟(jì)渠道也需明確好權(quán)責(zé)界限[5],責(zé)任主體根據(jù)不同的責(zé)任類型進(jìn)行責(zé)任承擔(dān)。
當(dāng)前,全國多個地方在嘗試健康碼的升級轉(zhuǎn)型。安徽“安康碼”添加政務(wù)服務(wù)事項、一碼通辦等新功能;杭州健康碼上線了醫(yī)院預(yù)約掛號和“健康證明”功能。健康碼在“后疫情時代”的轉(zhuǎn)型發(fā)展是必然趨勢,西安市健康碼也需要盡快建設(shè)體系性制度,將之?dāng)U展到政務(wù)服務(wù)、醫(yī)療健康、交通出行等領(lǐng)域。
健康碼應(yīng)盡快建設(shè)體系性制度,充分利用現(xiàn)有健康碼建設(shè)和應(yīng)用的良好形勢,將防疫健康信息碼升級為多功能信息碼,既能夠有效地提升政務(wù)服務(wù)效率和水平,助力“放管服”改革取得新突破,也能促進(jìn)信息技術(shù)與其他領(lǐng)域的更深層次結(jié)合。
其次,國家層面做好頂層設(shè)計,為政府職能轉(zhuǎn)變、釋放數(shù)據(jù)紅利、促進(jìn)數(shù)字經(jīng)濟(jì)和實體經(jīng)濟(jì)融合發(fā)展指明方向。具體到健康碼的升級,可以作為后疫情時期數(shù)據(jù)經(jīng)濟(jì)的一個突破口,在新一輪產(chǎn)業(yè)變革中進(jìn)行謀劃,先從地方試點探索開始,鼓勵地方立法和政策創(chuàng)新,處理好各方關(guān)系,穩(wěn)步拓展數(shù)據(jù)應(yīng)用場景,推動健康碼與政府治理融合、與服務(wù)業(yè)融合,與產(chǎn)業(yè)融合,從而催生更多數(shù)據(jù)經(jīng)濟(jì)商機(jī)[6]。
在算法行政背景下,健康碼的適用有效提升了政府的行政管理效率,也讓算法治理在實踐中接受公眾的檢視。健康碼在后疫情時代該何去何從?目前,由杭州市政府牽頭的多地政府提出在疫情常態(tài)化之后拓展健康碼應(yīng)用的建議[7]。但無論是健康碼的升級轉(zhuǎn)型,還是常態(tài)化管理路徑的探索,都需要我們從科技、民生、法律等多重視角考量分析。
注釋:
①參見市場監(jiān)管總局(標(biāo)準(zhǔn)委)發(fā)布《個人健康信息碼》系列國家標(biāo)準(zhǔn)。
②參見《關(guān)于深入推進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”“五個一”服務(wù)行動的通知》。