本力

《當(dāng)世界史的指針逆轉(zhuǎn)之時(shí)》

（德）馬庫斯·加布里爾著

時(shí)晨譯

廣東人民出版社，2023年2月

微軟公司創(chuàng)始人比爾·蓋茨近日在其個(gè)人博客“Gates Notes”上發(fā)表了一篇題為《人工智能時(shí)代已經(jīng)開啟》的博文。一如當(dāng)年預(yù)言互聯(lián)網(wǎng)時(shí)代到來的《未來之路》，文中描繪的前景不免令人神往。

尤其讓人心潮澎湃的是，比爾·蓋茨說，“1980年首次看到圖形用戶界面以來，OpenAI的GPT人工智能模型是我所見過的最具革命性的技術(shù)進(jìn)步。”當(dāng)然，文中也提到了一些眾所周知的風(fēng)險(xiǎn)：“我明白為什么——它引發(fā)了關(guān)于勞動(dòng)力、法律體系、隱私、偏見等一系列尖銳問題。同時(shí)人工智能也會(huì)犯事實(shí)性錯(cuò)誤并產(chǎn)生幻覺?！?h3>進(jìn)步與退步之間

很少有人知道，就在這場人工智能（以下簡稱“AI”）新時(shí)代的狂歡到來之際，微軟已然將其AI部門中的倫理和社會(huì)團(tuán)隊(duì)裁撤。本來，作為數(shù)字經(jīng)濟(jì)從未缺席的弄潮兒，微軟一直以在技術(shù)倫理方面的遠(yuǎn)見卓識(shí)而為人稱道。2018年，微軟出版了《未來計(jì)算》一書，其中提出了人工智能開發(fā)的六大倫理原則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。同年，微軟公開發(fā)布了報(bào)告《未來基石——人工智能的社會(huì)倫理和角色》。為確保AI等新一代信息技術(shù)的發(fā)展更加負(fù)責(zé)且符合倫理道德方面的要求，微軟長期擁有一支倫理和社會(huì)團(tuán)隊(duì)，并在2020年達(dá)到30人的規(guī)模。但在2022年10月，該團(tuán)隊(duì)已經(jīng)縮減到7人，2023年被全部裁撤。

這種矛盾很像偉大的哲學(xué)家維特根斯坦所提出的：一方面，道德總是被人類當(dāng)作梯子，得到好處就踢掉它；另一方面，人的一生就是一場道德拼爭，就是一場與自己本性的戰(zhàn)斗——努力去做一個(gè)更好的人。

毋庸諱言，這是個(gè)技術(shù)驅(qū)動(dòng)、價(jià)值退縮的大時(shí)代，筆者早在2017年曾用“在進(jìn)步與退步之間”來形容這種窘境。最近讀到德國當(dāng)代新銳哲學(xué)家馬庫斯·加布里爾教授的《當(dāng)世界史的指針逆轉(zhuǎn)之時(shí)》一書，更意識(shí)到這種變化并非局部，而是在全球范圍、諸多領(lǐng)域都出現(xiàn)了逆轉(zhuǎn)的趨勢。

筆者“在進(jìn)步與退步之間”一文中更多表達(dá)的是：要接受和應(yīng)對(duì)科學(xué)與人文這兩種文化的對(duì)立，以及“逆全球化”加劇的事實(shí)，并看到“進(jìn)步是不可避免的”長期趨勢。而加布里爾教授的判斷簡直石破天驚，那就是“歐洲各國正密切回望19世紀(jì)的模式，并不約而同地加快了回歸的步伐”。至于美國，他認(rèn)為本身就是“以各種方法效仿19世紀(jì)的歐洲模式”，這種奇跡般重現(xiàn)可以用“擬態(tài)”形容。當(dāng)然，在他看來，日本等發(fā)達(dá)國家也概莫能外，都是“擬態(tài)”回歸19世紀(jì)歐洲的優(yōu)等生。

19世紀(jì)當(dāng)然象征著人類文明的輝煌，科技進(jìn)步、文化昌盛、秩序井然。不過不幸的是，這種發(fā)達(dá)和強(qiáng)大也孕育出了20世紀(jì)的兩次世界大戰(zhàn)。加布里爾的言下之意是，人類在汲取20世紀(jì)慘痛歷史教訓(xùn)中所取得的巨大進(jìn)步正在逐步喪失。

“數(shù)字化”是這個(gè)世界最近幾十年最重要的潮流，信息技術(shù)帶來的變革和進(jìn)步正在深刻改變著人類社會(huì)。但是，在釋放出巨大生產(chǎn)力和效率的同時(shí)，其負(fù)面影響也不容回避。例如，互聯(lián)網(wǎng)廣泛應(yīng)用后，信息的真實(shí)性以及社交媒體對(duì)人的控制備受質(zhì)疑，“我們與事實(shí)（或真實(shí)）之間的關(guān)系不斷發(fā)生著變化，現(xiàn)實(shí)和非現(xiàn)實(shí)的界限已變得非常模糊”。

后真相所產(chǎn)生的問題不僅僅是人們得到了一些虛假的、帶著情緒的，甚至包藏禍心、極端化的信息，更可怕的是人類在認(rèn)知層面上的退化。出于迎合而不是啟發(fā)人們，偏執(zhí)、膚淺信息越來越多，社會(huì)越來越失去共識(shí)，公共空間越來越成為極端化言論的舞臺(tái)。

凱文·凱利的《失控》被譽(yù)為互聯(lián)網(wǎng)浪潮的經(jīng)典之作，但“數(shù)字化”還帶來了權(quán)力的“失控”。奈飛在2020年推出的熱門紀(jì)錄片《監(jiān)視資本主義：智能陷阱》揭開了硅谷精英們良心遭受譴責(zé)的秘密。這其中除了虛假信息泛濫、大數(shù)據(jù)操縱公眾、社交媒體上癮等技術(shù)倫理問題，硅谷高科技公司利用平臺(tái)優(yōu)勢，源源不斷地收集和挖掘人們的原始行為數(shù)據(jù)，并從商業(yè)目的出發(fā)操弄用戶的行為，也被認(rèn)為是對(duì)社會(huì)的巨大威脅。不應(yīng)忘記，技術(shù)也是一種權(quán)力，而且由于技術(shù)的復(fù)雜性，這是非常不易受約束的權(quán)力。在推崇企業(yè)技術(shù)賦能的同時(shí)，也需要多關(guān)注“用戶失能”的問題。

多數(shù)人可能認(rèn)為數(shù)字化的過程以及數(shù)字化背后的現(xiàn)代性是一種全面的進(jìn)步。但是現(xiàn)代化其實(shí)很容易被權(quán)力濫用，這個(gè)進(jìn)步背后有一個(gè)重大的破壞性問題。比如，兩次世界大戰(zhàn)就是系統(tǒng)地將工業(yè)化、現(xiàn)代化的進(jìn)步成果用于戰(zhàn)爭。

重拾人的主體地位

《當(dāng)世界史的指針逆轉(zhuǎn)之時(shí)》一書認(rèn)為，世界回歸19世紀(jì)，表面原因似乎是信息技術(shù)和數(shù)字經(jīng)濟(jì)對(duì)現(xiàn)當(dāng)代人類文明和社會(huì)進(jìn)步的沖擊，借“看不見的手”繞過了一個(gè)世紀(jì)以來形成的國際治理、隱私安全、勞工福利、媒體倫理甚至未成年人保護(hù)等方面的措施，但深層次的決定性因素還在于經(jīng)濟(jì)，尤其是唯科學(xué)論的統(tǒng)計(jì)型世界觀。

當(dāng)然，加布里爾對(duì)統(tǒng)計(jì)型世界觀的批評(píng)并非對(duì)統(tǒng)計(jì)學(xué)有偏見，而是質(zhì)疑當(dāng)前無孔不入的指標(biāo)、概率和算法思維。他認(rèn)為將價(jià)值觀置于統(tǒng)計(jì)學(xué)依據(jù)之下，這是一種純粹的后現(xiàn)代主義思想，進(jìn)而批評(píng)與之相關(guān)的新自由主義“是舍棄人存在的理論系統(tǒng)”。如此，假科學(xué)為名，人類不愛思考、惰性認(rèn)同的問題便被盲目地?zé)o限放大。

該書給出的答案是重拾人的主體地位，經(jīng)濟(jì)制度的目標(biāo)應(yīng)該是提升人性而不是統(tǒng)計(jì)數(shù)字。具體的方向是重新思考道德意義，并明確指出“道德企業(yè)將決定22世紀(jì)的政治結(jié)構(gòu)”。還提出了一個(gè)烏托邦式的建議：“不能雇傭?qū)Ｓ貌┺恼搧砝孟M(fèi)者和生產(chǎn)者信息差的經(jīng)濟(jì)學(xué)者，必須雇傭倫理學(xué)者”。

這不免讓人想起黃仁宇先生在《萬歷十五年》一書中所提出的一個(gè)根本問題：“要從技術(shù)的角度看歷史，而不是從道德的角度檢討歷史”。如歷史學(xué)家王家范先生所言：中國歷代沒有能“在數(shù)目字上管理”，缺乏中層的技術(shù)操作環(huán)節(jié)，是妨礙向現(xiàn)代化順利轉(zhuǎn)型的重要癥結(jié)。

數(shù)目字管理不正是統(tǒng)計(jì)型世界觀的一種說法嗎？而與之相對(duì)應(yīng)的被黃仁宇先生質(zhì)疑的“道德的角度”，又恰恰成為加布里爾極力推崇的當(dāng)務(wù)之急。黃仁宇的思路和加布里爾所推崇的方向可謂背道而馳，世界史的指針真的逆轉(zhuǎn)了？

這里需要搞清楚兩個(gè)問題。其一涉及對(duì)現(xiàn)代化與道德關(guān)系的理解。吉登斯認(rèn)為，脫嵌是理解現(xiàn)代性的關(guān)鍵。與傳統(tǒng)的狩獵時(shí)代以及游牧社會(huì)、農(nóng)業(yè)社會(huì)不同，脫嵌機(jī)制把社會(huì)關(guān)系和信息交流從具體的時(shí)空情境中提取出來，但與此同時(shí)又為它們重新植入提供新的機(jī)會(huì)。這也正是我們今天的諸多幸福和很多不幸的來源。例如，貨幣就是一種典型的脫嵌機(jī)制，脫嵌制度極大地拓展了時(shí)間空間限制，但它需要建立在信任的基礎(chǔ)上——對(duì)抽象能力的信任和專家系統(tǒng)的信任。這種信任正是以現(xiàn)代化了的道德為基礎(chǔ)，而且有會(huì)計(jì)、法律、信息等制度和技術(shù)保障。這就不難理解，脫嵌機(jī)制為當(dāng)今世界提供了大面積的安全，但是創(chuàng)造出來的新型風(fēng)險(xiǎn)也足以令人生畏。一言蔽之，類似啟蒙運(yùn)動(dòng)與工業(yè)革命的關(guān)系，技術(shù)的現(xiàn)代化和道德的現(xiàn)代化并不矛盾，而是相互支持。

其二，人文思維和科學(xué)的導(dǎo)向并不一樣。在近現(xiàn)代科學(xué)的大發(fā)展之前，人類其實(shí)長期生活在一個(gè)有著崇高意義和道德目的的生機(jī)勃勃的世界里。但是現(xiàn)在，需要賦予意義并且通過感官、情感、情緒體驗(yàn)理解的人文思維被推翻了。與我們在暢想未來的人工智能時(shí)代相映成趣的是，人文主義者認(rèn)為，我們已經(jīng)變成了神經(jīng)連線、基因編碼的機(jī)器人。只是，這些人文主義者全然沒有影響力和話語權(quán)。因此，與把英國作為統(tǒng)計(jì)型世界觀的反面教材不同，加布里爾認(rèn)為，“除了純粹統(tǒng)計(jì)、經(jīng)濟(jì)戰(zhàn)爭和博弈論，美國一直有著一整套非常保守的價(jià)值體系。從整體上看，美國委實(shí)是個(gè)強(qiáng)有力的保守國家?！?/p>

回到本文開篇談到的，比爾·蓋茨對(duì)人工智能時(shí)代的預(yù)言和微軟公司裁撤倫理團(tuán)隊(duì)。雖然看起來有些矛盾，但也許這兩個(gè)方面的言行正是一盤棋。只不過，一個(gè)是戰(zhàn)略上的，另一個(gè)是戰(zhàn)術(shù)上的。戰(zhàn)略上需要為股東和利潤負(fù)責(zé)，戰(zhàn)術(shù)上是為人類和社會(huì)負(fù)責(zé)。戰(zhàn)略上“形勢比人強(qiáng)”，戰(zhàn)術(shù)上卻“從善如登”。這很難不讓人想起茨威格說的那番話：“我們共同的理想主義，我們進(jìn)步中必然產(chǎn)生的那種樂觀主義使得我們低估和忽視了我們共同的危險(xiǎn)?！?/p>

在沸騰狂熱之中，我們聽到了另一種聲音。近日，圖靈獎(jiǎng)得主約書亞·本吉奧和埃隆·馬斯克為首的1000多位知名人士聯(lián)名發(fā)公開信呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)。

他們提出了一系列問題：“我們必須問自己：我們應(yīng)該讓機(jī)器充斥我們的信息渠道，散布宣傳和不實(shí)信息嗎？我們應(yīng)該自動(dòng)化所有工作，包括那些令人滿意的工作嗎？我們應(yīng)該發(fā)展可能最終比我們更多、更聰明、更先進(jìn)、取代我們的非人類智能嗎？我們應(yīng)該冒失去對(duì)文明的控制的風(fēng)險(xiǎn)嗎？”

因此，筆者贊同《當(dāng)世界史的指針逆轉(zhuǎn)之時(shí)》一書對(duì)人工智能時(shí)代的倫理學(xué)轉(zhuǎn)向的判斷，普及倫理學(xué)與培養(yǎng)倫理人才刻不容緩，我們需要調(diào)整位置，把事關(guān)人類文明未來的倫理作為戰(zhàn)略甚至成為更高的行動(dòng)綱領(lǐng)，而把技術(shù)和利潤置于其之下。

（編輯：臧博）