編譯 胡德良

英國宣布要建立一個(gè)新的數(shù)據(jù)倫理中心，這是一件受歡迎的事情。但是，我們必須確保該中心要有能力解決其所認(rèn)定的倫理問題。

叫停研發(fā)殺手機(jī)器人的活動(dòng)引起了人們對(duì)自動(dòng)武器危害的關(guān)注

數(shù)據(jù)無處不在。然而，數(shù)據(jù)會(huì)讓我們的生活變得更好，還是會(huì)使我們處于危險(xiǎn)之中呢？近幾個(gè)月來，人們已經(jīng)搞清楚的一點(diǎn)是，雖然不斷擴(kuò)大的數(shù)據(jù)所呈現(xiàn)的機(jī)會(huì)是很多的，但是所造成的威脅也很多。因此，我們需要更加合理地管控?cái)?shù)據(jù)——針對(duì)如何利用和開發(fā)這種新技術(shù)出臺(tái)一套指導(dǎo)原則，這么做是因?yàn)閿?shù)據(jù)誤用會(huì)帶來威脅，會(huì)致使公眾反對(duì)此類創(chuàng)新。

包括優(yōu)步公司和莫里森公司在內(nèi)的企業(yè)發(fā)生了數(shù)據(jù)泄漏，這已經(jīng)成為頭條新聞。但是，以自身的商業(yè)應(yīng)用為目的而開發(fā)人工智能和查明信息，在這種情況下企業(yè)能夠以何種方式合法地使用數(shù)據(jù)，這一點(diǎn)并沒有較為廣泛地公開化。

對(duì)于人工智能潛在的軍事用途，來自各方面的擔(dān)憂不斷加劇，以致20000多名研究人員最近簽署了一封警告信，警告政策制定者要當(dāng)心自動(dòng)武器的危害，因?yàn)檫@些自動(dòng)武器能夠利用運(yùn)算法則來襲擊具體的目標(biāo)。我了解到開發(fā)這些技術(shù)相對(duì)容易和廉價(jià)，這是令人震驚的。對(duì)自動(dòng)無人機(jī)進(jìn)行編程，可以使其搜尋目標(biāo)的特征，而且可以在沒有監(jiān)視的情況下從遠(yuǎn)處對(duì)其進(jìn)行控制……所有這一切都是通過數(shù)據(jù)驅(qū)動(dòng)的運(yùn)算法則實(shí)現(xiàn)的。

如果這就是市場的發(fā)展所致，那么很可能需要進(jìn)一步加強(qiáng)有力的管控和監(jiān)督了。我們需要一套倫理和管理法規(guī)，不僅僅是為了數(shù)據(jù)保護(hù)，而是為了讓社會(huì)群眾擁有真正的發(fā)言權(quán)，讓他們?nèi)ソㄗh各個(gè)組織能夠怎樣利用我們的數(shù)據(jù)來獲得優(yōu)勢，不管是商業(yè)優(yōu)勢、政治優(yōu)勢還是其他方面的優(yōu)勢。畢竟，那是我們的數(shù)據(jù)，保護(hù)人民必須是重中之重。在數(shù)據(jù)立法背后，對(duì)原則的公共保證是關(guān)鍵。因此，以人們可以理解的方式來傳達(dá)這種保證很重要。

我樂意接受最近由英國科學(xué)院和皇家學(xué)會(huì)所做的一份有關(guān)數(shù)據(jù)管控的報(bào)告，他們在這些問題上已經(jīng)做了認(rèn)真的工作。該報(bào)告涵蓋了制定數(shù)據(jù)管控措施所需要的環(huán)境，解釋了社會(huì)正在以何種方式發(fā)生變化，為何制定數(shù)據(jù)政策一定要考慮“數(shù)據(jù)相關(guān)爭議”帶來的風(fēng)險(xiǎn)，一定要考慮具有警告意義的歷史故事——“廣泛采用新技術(shù)會(huì)增加公眾的焦慮感，或者會(huì)導(dǎo)致激烈的公共爭議”之類的故事。報(bào)告還闡述了什么叫數(shù)據(jù)管控原則，需要利用這些原則來明確地制定所有形式的數(shù)據(jù)管控措施，確保數(shù)據(jù)具有可信性，要相信對(duì)整體數(shù)據(jù)的管理和使用。透明度是關(guān)鍵：允許問責(zé)制的存在，使任何引入的管控法規(guī)都具有合法性。

正值英國脫歐之時(shí)，局面混亂不堪，但英國仍然提出要建立一個(gè)新的數(shù)據(jù)倫理中心，這是一項(xiàng)迎合了英國技術(shù)行業(yè)呼聲的新發(fā)展，因此備受歡迎。

英國科學(xué)院和皇家學(xué)會(huì)認(rèn)為，首要的數(shù)據(jù)管控原則應(yīng)該是“促進(jìn)人類的繁榮昌盛”。對(duì)于某些人來講，這個(gè)說法可能聽起來有點(diǎn)理想化了，但是他們認(rèn)為應(yīng)該支持?jǐn)?shù)據(jù)治理和管控的觀點(diǎn)是正確的。這些觀點(diǎn)如下：保護(hù)個(gè)人和集體權(quán)益；確保在數(shù)據(jù)管理和數(shù)據(jù)利用影響下的交易具有透明性、可解釋性和包容性；找出最佳實(shí)踐案例，從中吸取成功的經(jīng)驗(yàn)和失敗的教訓(xùn)；加強(qiáng)現(xiàn)有的民主管理。

該報(bào)告還提倡由一個(gè)新的機(jī)構(gòu)來管理整個(gè)數(shù)據(jù)格局，而不是僅僅管理某些部門和領(lǐng)域的數(shù)據(jù)。這樣才會(huì)在符合上面列出的這些原則的情況下支持?jǐn)?shù)據(jù)管理權(quán)的移交，并提出改進(jìn)建議。該機(jī)構(gòu)在對(duì)話中將會(huì)具有包容性，而且也擁有獨(dú)立性，同時(shí)又與不同的社區(qū)相連。

有跡象表明，該報(bào)告所提的建議并未被忽視。正值英國脫歐之時(shí)，局面混亂不堪，預(yù)算在一定程度上也受到了影響，但英國仍然提出要建立一個(gè)新的數(shù)據(jù)倫理中心，這是一項(xiàng)迎合了英國技術(shù)行業(yè)呼聲的新發(fā)展，因此備受歡迎。然而，這樣一個(gè)中心的資金來源并不明確。對(duì)于提議的數(shù)據(jù)倫理中心，政府的概述如下：“這是世界上首個(gè)能夠在人工智能和數(shù)據(jù)驅(qū)動(dòng)技術(shù)領(lǐng)域確保安全創(chuàng)新和倫理創(chuàng)新的咨詢機(jī)構(gòu)?！钡?，該機(jī)構(gòu)是否擁有當(dāng)前數(shù)據(jù)格局所需要的管控優(yōu)勢或權(quán)力呢？就其地位跟信息專員辦公室（ICO）的關(guān)系而言，這個(gè)新機(jī)構(gòu)可能會(huì)產(chǎn)生進(jìn)一步的問題，有可能會(huì)遇到近年來信息專員辦公室本身所經(jīng)歷的管控影響力不足的問題。我們需要確保英國科學(xué)院和皇家學(xué)會(huì)所設(shè)想的多元化的、包容性的和教育性的管控機(jī)構(gòu)能夠取得成效，并且需要確保其有能力帶來變革。

那么，為了使公民免受數(shù)據(jù)使用不當(dāng)可能造成的公共傷害，《數(shù)據(jù)保護(hù)法案》目前正在通過議會(huì)審核，該法案還將需要什么附加條款呢？我們拭目以待。作為全黨派議會(huì)數(shù)據(jù)分析小組的主席，我聽到過無數(shù)組織為了更加有效地進(jìn)行民事保護(hù)而發(fā)起運(yùn)動(dòng)的情況，還聽說過數(shù)據(jù)驅(qū)動(dòng)的營銷組織將數(shù)據(jù)當(dāng)作搖錢樹、利用數(shù)據(jù)打開潛在商機(jī)的情況。毫不奇怪，公眾對(duì)于其個(gè)人數(shù)據(jù)可能被用于哪些領(lǐng)域感到擔(dān)憂，并且對(duì)數(shù)據(jù)立法持懷疑態(tài)度，特別是最近媒體對(duì)有關(guān)面部生物識(shí)別技術(shù)等問題的報(bào)道，更是讓人憂心忡忡。就在今年夏天，維權(quán)機(jī)構(gòu)“老大哥觀察組織”（Big Brother Watch）報(bào)道說，倫敦大都會(huì)警察局提議，試用帶有人臉識(shí)別軟件的相機(jī)來掃描諾丁山狂歡節(jié)上人群的臉部，這樣是為了給他們提個(gè)醒，讓他們知道他們所懼怕的人可能會(huì)出來鬧事。這種人工智能軟件創(chuàng)造了面部特征的生物識(shí)別運(yùn)算法則，這對(duì)警方可能是有幫助的，但是議會(huì)對(duì)于數(shù)據(jù)的這種用法沒有進(jìn)行過任何討論。從法律的角度來看，警方?jīng)]有做任何錯(cuò)事，但是可以理解的是這樣利用人工智能使一些人感到非常不自在。除此之外，該技術(shù)不能代表正常維持治安的未來，而且目前準(zhǔn)確度的欠缺使這種方法存在風(fēng)險(xiǎn)，有許多匹配出現(xiàn)錯(cuò)誤，這意味著在未經(jīng)無辜的人們許可的情況下正在生成他們的面部生物特征。

因此，我們需要解決一系列的倫理難題。在數(shù)據(jù)方面，有些人會(huì)本能地懷疑國家機(jī)構(gòu)，其他人會(huì)對(duì)私營部門的數(shù)據(jù)使用情況保持謹(jǐn)慎態(tài)度。對(duì)于運(yùn)算法則引導(dǎo)下的自動(dòng)武器不存在任何審查，這一情況應(yīng)該引起各方的關(guān)注。議會(huì)跟公眾一起制定更加合理的數(shù)據(jù)倫理規(guī)則，出臺(tái)保障每個(gè)人安全的管控措施，這是至關(guān)重要的。

此前，我們已經(jīng)看到在不了解公眾需要充分參與決策、需要權(quán)衡風(fēng)險(xiǎn)和收益的情況下，創(chuàng)新技術(shù)被商業(yè)利益所推動(dòng)時(shí)會(huì)產(chǎn)生怎樣的結(jié)果。由于新技術(shù)提出了類似的難題，我們需要正確的政治體系和倫理體系來幫助確保每個(gè)人都能受益。作為政治家，我們有責(zé)任出臺(tái)數(shù)據(jù)管控措施，使人們保持健康和安全，這是放在第一位的。如果想要利用大數(shù)據(jù)來真正地“促進(jìn)人類的繁榮昌盛”，提高人們的生活質(zhì)量和工作質(zhì)量，就必須要先保護(hù)人民的利益，而不是保護(hù)商業(yè)利益。