嚴(yán)傳紅

美國萊斯大學(xué)貝勒醫(yī)學(xué)院副教授基尼維拉·艾倫在美國科學(xué)促進(jìn)會(huì)2019年年會(huì)上發(fā)出警告：數(shù)以千計(jì)的科學(xué)家用來分析數(shù)據(jù)的機(jī)器學(xué)習(xí)技術(shù)，正在產(chǎn)生具有誤導(dǎo)性且常常是完全錯(cuò)誤的結(jié)果。這種機(jī)器學(xué)習(xí)系統(tǒng)使用量的激增正在導(dǎo)致一場(chǎng)“科學(xué)危機(jī)”。

機(jī)器學(xué)習(xí)已被用于研究科學(xué)和醫(yī)學(xué)數(shù)據(jù)與某些現(xiàn)象之間的關(guān)系，如基因與疾病之間的關(guān)聯(lián)性等。機(jī)器學(xué)習(xí)一旦發(fā)現(xiàn)病人基因與疾病特征之間存在特定聯(lián)系，研究人員可能就會(huì)對(duì)相應(yīng)的發(fā)現(xiàn)提供合理的科學(xué)解釋。但在艾倫看來，這并不意味著那些發(fā)現(xiàn)就是正確的。他認(rèn)為，軟件識(shí)別的是只存在于數(shù)據(jù)集中的東西，而非真實(shí)世界中的模式。

一項(xiàng)分析表明，在全世界開展的所有生物醫(yī)學(xué)研究中，有多達(dá)85%的研究都是在白費(fèi)工夫，20年來這種危機(jī)愈演愈烈。之所以會(huì)出現(xiàn)這種情況，是因?yàn)閷?shí)驗(yàn)的設(shè)計(jì)并不完善，無法確?？茖W(xué)家們不會(huì)自欺欺人——只想得到自己想要的結(jié)果。按照那位女博士的說法，機(jī)器學(xué)習(xí)系統(tǒng)和大數(shù)據(jù)集群的使用加重了這場(chǎng)危機(jī)，因?yàn)闄C(jī)器學(xué)習(xí)算法是專門為在數(shù)據(jù)集群中尋找“有趣”的東西而開發(fā)的，所以當(dāng)它們?cè)诖罅康臄?shù)據(jù)中進(jìn)行搜索時(shí)，將不可避免地找到一種模式，可這并不能代表科學(xué)的真正發(fā)現(xiàn)。

應(yīng)用一種有缺陷的人工智能技術(shù)，居然會(huì)導(dǎo)致“科學(xué)危機(jī)”？這不禁讓人感嘆：在幾乎所有的編碼知識(shí)都能夠即刻獲取，且計(jì)算機(jī)可以解決極其復(fù)雜的問題，幫助尋找最合理答案的時(shí)候，相較于教授真理、技術(shù)和答案，傳授創(chuàng)造力、判斷力和解決問題的能力要困難得多。我覺得，人們很有可能已然變成計(jì)算機(jī)控制的木偶，被機(jī)器的判斷所束縛，乃至思維模式都已被重塑而不自知。近年來，已有多位學(xué)者就此問題發(fā)出了警示。

《哈佛商業(yè)評(píng)論》原執(zhí)行主編尼古拉斯·卡爾在《淺?。夯ヂ?lián)網(wǎng)如何毒化了我們的大腦》一書中指出，所有的信息技術(shù)都會(huì)帶來一種智能倫理。印刷圖書讓我們進(jìn)入聚精會(huì)神的狀態(tài)，從而促進(jìn)深度思維和創(chuàng)造性思維的發(fā)展。相比之下，融多種不同類型信息于一屏的互聯(lián)網(wǎng)多媒體技術(shù)，鼓勵(lì)我們蜻蜓點(diǎn)水般地從多種信息來源中廣泛采集碎片化的信息。此時(shí)，我們很可能已經(jīng)開始失去其他的思維方式，特別是那些需要持續(xù)的注意力，需要集中精神的思維方式，以及那些需要沉思、反思和內(nèi)省的思維方式。而這種精神層面的改變?cè)诮逃?chuàng)新、文學(xué)、藝術(shù)，甚至在精神健康方面已經(jīng)產(chǎn)生了很多實(shí)際的后果。

美國芝加哥大學(xué)教授詹姆斯·A·埃文斯發(fā)表于《科學(xué)》上的文章就提醒學(xué)者：在以往印刷刊物上的文章紛紛實(shí)現(xiàn)數(shù)字化并傳到互聯(lián)網(wǎng)上的過程中，學(xué)者們對(duì)發(fā)表日期更近的文章的引用頻率呈現(xiàn)出不斷上升的趨勢(shì)，可用信息范圍日益加寬。然而，這卻導(dǎo)致了閱讀和引用、科學(xué)和學(xué)問的日趨狹窄。為什么呢？

按照埃文斯的分析，像搜索引擎這樣的自動(dòng)化信息過濾工具往往會(huì)成為文章聲望的放大器。在什么信息重要，什么信息不重要上，這種過濾工具建立起了一種輿論觀點(diǎn)，然后又持續(xù)不斷地強(qiáng)化這種觀點(diǎn)。此外，跟隨超鏈接一路前行輕松便捷，也導(dǎo)致在網(wǎng)上進(jìn)行調(diào)查研究的那些人“會(huì)跳過很多相關(guān)程度不高的文章”。所以，學(xué)者們找到由搜索器為我們“規(guī)劃”了排序的“主流觀點(diǎn)”的速度越快，他們“遵從這種觀點(diǎn)，從而導(dǎo)致在更少的篇幅中引用更多內(nèi)容”的可能性就越大。

這又意味著什么呢？按照一位中國學(xué)者的解讀，就是不知不覺地把讀者引向了主流觀點(diǎn)，加快了意見統(tǒng)一，使結(jié)論和想法變窄?！伴喿x內(nèi)容的多樣化遭遇阻礙，這對(duì)思想的獨(dú)立、開放、創(chuàng)新是不可忽視的威脅。”

韓國學(xué)者李焌楨也注意到：互聯(lián)網(wǎng)上片面的信息推送系統(tǒng)會(huì)妨礙我們進(jìn)行其他角度的思考，攔截了可能偶然遇到的多種信息，只是重復(fù)加深自己已相信的事實(shí)。漸漸地，在我們的生活里就只會(huì)出現(xiàn)那些自己期望的信息。當(dāng)所有的人都只依賴搜索引擎探索信息時(shí)，就會(huì)有越來越多的人對(duì)事物持相同的觀點(diǎn)，而且這種觀點(diǎn)會(huì)加速擴(kuò)散。最終，其他觀點(diǎn)迅速消亡，從而使人們的選擇更狹隘，思維更封閉。

如此下去，可以想見，我們的世界很有可能被數(shù)據(jù)左右，因?yàn)閷?duì)數(shù)字技術(shù)的盲目依賴改變了社會(huì)變化的形態(tài)，人們的想法會(huì)越來越依賴于機(jī)器的判斷，進(jìn)而產(chǎn)生深層的社會(huì)影響，讓人們滑入一個(gè)自我封閉的陷阱里，就如英國學(xué)者彼得·斯科特-摩根所憂心的那樣——“通往極端的狹隘”。