在“算法”控制的社會(huì)，我們?nèi)绾紊妫?/h1>
2022-07-23 15:00:55宗祁
世界文化 2022年6期
宗祁
在日本動(dòng)畫作品《心理測(cè)量者》中，當(dāng)時(shí)的社會(huì)可以分析出每個(gè)人未來能從事何種職業(yè)，從而對(duì)他們“因材施教”，同時(shí)也可以分析出哪些人會(huì)成為罪犯，然后未雨綢繆，對(duì)其進(jìn)行鏟除。這樣的社會(huì)“愿景”，也許在我們的未來也能通過“算法”實(shí)現(xiàn)。如今，我們的搜索歷史、購物歷史甚至運(yùn)動(dòng)和健康數(shù)據(jù)，全都被各大平臺(tái)收集、分析。針對(duì)每個(gè)人不同喜好的信息被推送到我們面前。在算法面前，我們沒有秘密，也許網(wǎng)絡(luò)和機(jī)器比我們的伴侶還要了解我們。
這也意味著，科技公司和技術(shù)精英所擁有的權(quán)力空前巨大。如果網(wǎng)絡(luò)賬號(hào)被封禁，我們現(xiàn)實(shí)中的生活也會(huì)受到很大影響；我們購買的網(wǎng)絡(luò)服務(wù)可能被隨意更改，比如增加廣告、額外付費(fèi)、數(shù)據(jù)被販賣，等等?！端惴ǖ牧α浚喝祟惾绾喂餐妗返淖髡呓苊住に_斯坎德（英國學(xué)者、作家和執(zhí)業(yè)大律師）指出，過去百年，技術(shù)在爆炸式增長，但政治卻依舊“古典”，面向未來社會(huì)的規(guī)范、法律、哲學(xué)思考都顯得十分稀缺，科幻小說都要比現(xiàn)有的政治學(xué)、政治哲學(xué)對(duì)思考未來有用得多。杰米同時(shí)著眼于人文和科學(xué)，為現(xiàn)在和未來的人類提出并嘗試回答這樣的問題：在越來越被人工智能和算法“控制”的社會(huì)中，我們?nèi)绾伪ＷC實(shí)踐自由、公正的社會(huì)理念？我們要防范什么？未來的政治有哪些更多的可能性？
谷歌最新開發(fā)的AI繪圖軟件Disco Diffusion的智能和精美引起了許多人的關(guān)注，有些人在暢想，也許未來簡單的商業(yè)設(shè)計(jì)、插圖需求可以直接交由AI來完成。此前，最受關(guān)注的人工智能技術(shù)可能是自動(dòng)駕駛，它已經(jīng)在較大范圍內(nèi)被使用，雖然一度引發(fā)過很多爭議，但越來越多的人已經(jīng)漸漸習(xí)慣了在某些時(shí)刻“解放雙手”，將駕駛交給汽車本身。
人工智能（AI）興起于1943年，如今它是最炙手可熱也最重要的研究領(lǐng)域之一。它在語言識(shí)別、翻譯、撰寫新聞或收益報(bào)告等方面的技術(shù)已經(jīng)逐步被應(yīng)用于日常，滲透到醫(yī)療、法律、體育、金融等各個(gè)領(lǐng)域。在很多方面，AI甚至超過了人類專業(yè)人員，比如在各種棋類比賽中，人工智能已經(jīng)擊敗了最杰出的人類；牛津大學(xué)的研究者們發(fā)明了一種準(zhǔn)確率高達(dá)93%的人工智能 “讀唇語”系統(tǒng)，相比之下，專業(yè)唇語翻譯人員的正確率只有60%。雖然很多技術(shù)現(xiàn)在看起來還只是人們的暢想，如機(jī)器人替代醫(yī)生給我們做外科手術(shù)，但人工智能確實(shí)正在飛快地融入或刷新著我們的生活。
當(dāng)前人工智能最重要的子領(lǐng)域是機(jī)器學(xué)習(xí)。如果AI已經(jīng)可以超越人類，那么把“創(chuàng)造新的AI”這件事交給AI自身來做，似乎也沒什么不合理。杰米·薩斯坎德寫道：“在某個(gè)特定的時(shí)刻后，‘我們不再需要為計(jì)算機(jī)編程’，而是靠‘它們自己給自己編程’?！绷硪粋€(gè)很容易被人們忽視的技術(shù)是“算力”——計(jì)算機(jī)芯片處理數(shù)據(jù)的能力?！叭缃?，普通智能手機(jī)都比當(dāng)年送阿姆斯特朗上月球的阿波羅導(dǎo)航計(jì)算機(jī)的算力更強(qiáng)。”
捕捉、記錄和儲(chǔ)存數(shù)據(jù)的技術(shù)也在增強(qiáng)?！叭绻压雀枰惶熘刑幚淼臄?shù)據(jù)印成書，其高度要大于地球與月球間距離的一半?！薄端惴ǖ牧α俊分杏涗浀?，奧地利隱私維權(quán)人士Max Schrems要求查看Facebook存儲(chǔ)的有關(guān)他個(gè)人的數(shù)據(jù)，結(jié)果得到了一份有1222頁的文件，其中包括他早已在該平臺(tái)刪除的信息。
網(wǎng)站和設(shè)備每天都在取得和存儲(chǔ)著海量的信息，不僅如此，真實(shí)存在的物品也在記錄和存儲(chǔ)著你的信息，比如汽車傳感器，它上傳汽車的性能數(shù)據(jù)給制造商；GPS時(shí)刻追蹤記錄著我們的行蹤。人類的動(dòng)作、話語、行為、關(guān)系、情感和信念將越來越多地留下永久或半永久的數(shù)字標(biāo)記。
今天，大多數(shù)人已經(jīng)接受自己的網(wǎng)絡(luò)足跡被各大購物、音樂、個(gè)性化推薦網(wǎng)站所監(jiān)控這個(gè)無法抵抗的事實(shí)，但在未來，當(dāng)我們的生活越來越與人工智能、算法結(jié)合，很可能我們會(huì)受到全方位的“監(jiān)控”。想象我們的“智能冰箱”在我們深夜開門拿蛋糕時(shí)自動(dòng)上鎖，或者對(duì)我們大喊“別吃了”；“智能窗簾”自動(dòng)調(diào)節(jié)室內(nèi)的光線；甚至，機(jī)器可以監(jiān)測(cè)到我們的情緒，哪種眼神蘊(yùn)含著感情，通過分析動(dòng)作、音調(diào)，可以確定兩個(gè)人之間是什么關(guān)系，等等。
在電影《銀翼殺手》的小說原型《仿生人會(huì)夢(mèng)見電子羊嗎》中，人們通過服用藥物來控制或達(dá)到不同的情緒，拒絕服藥而選擇自己調(diào)節(jié)情緒的人反倒會(huì)被看作異類。如果技術(shù)可以為我們選擇最適合我們自己的光線、食物、運(yùn)動(dòng)甚至交往對(duì)象，那我們是否還需要對(duì)“自我”進(jìn)行反思和把控？我們是否還能產(chǎn)生機(jī)器分配給我們之外的需求？
算法和技術(shù)正在飛快地融入和改變我們的生活，但卻極少有對(duì)它們的限制和管控，這是十分危險(xiǎn)的。
首先，技術(shù)本身并不具有道德，它忠實(shí)地呈現(xiàn)社會(huì)上最大多數(shù)與其互動(dòng)過的人的面貌，比如，在谷歌的搜索框輸入“同性戀”，后面會(huì)自動(dòng)接上“為什么聲音總是很奇怪”。這并非因?yàn)楣雀杷阉魇瞧缫曂詰俚?，而是因?yàn)楹芏鄬?duì)同性戀有偏見的人搜索了這個(gè)問題，谷歌的算法自動(dòng)把高頻搜索問題呈現(xiàn)給所有用戶。
技術(shù)不會(huì)考慮道德或教化的需要，同時(shí)，它也不會(huì)對(duì)信息進(jìn)行篩選。以往，權(quán)威的媒體和“專業(yè)從事過濾工作”的記者、作家、編輯幾乎決定著大眾會(huì)收到何種信息，越是知名、權(quán)威的平臺(tái)，其內(nèi)容往往越是優(yōu)質(zhì)、專業(yè)、保證準(zhǔn)確的。但如今，根據(jù)算法推薦呈現(xiàn)給人們的信息往往只遵循“流量”的規(guī)律：點(diǎn)贊最多的消息、評(píng)論最多的消息往往被更多人看到。我們已經(jīng)很熟悉通過“引戰(zhàn)”吸引流量這種方式，而這已經(jīng)影響了政治，在政治宣傳中，政客們通常不在意一些言論是否反智、是否錯(cuò)誤，只要它們足夠有煽動(dòng)力，就會(huì)被傳播開來。
在一些重大的自然或人為災(zāi)害事件中，雖然網(wǎng)絡(luò)允許我們接收一手信息，但我們也真切地體會(huì)到專業(yè)調(diào)查記者的篩選和可信的一手報(bào)道的重要性。
此外，算法根據(jù)我們的“喜好”進(jìn)行推送的特質(zhì)讓人們愈加封閉在相同觀點(diǎn)的小圈子里，用網(wǎng)絡(luò)用語來說，就是“圈地自萌”，這也導(dǎo)致與主流觀點(diǎn)相悖的言論越來越難以被發(fā)出?！叭绻阒琅u(píng)某位政客會(huì)讓你泡著的酒吧陷入可怕的沉默，或者在社交媒體上引發(fā)一場‘推特風(fēng)暴’，對(duì)你進(jìn)行人身攻擊，那么你在發(fā)表批評(píng)意見時(shí)恐怕就會(huì)三思而后行了。”最后，如果利用算法對(duì)某些信息和關(guān)鍵字進(jìn)行屏蔽和封禁，其影響也將是巨大的。
算法正在用篩選信息的方式影響著我們（或下一代）認(rèn)識(shí)世界的方法，但這可能只是它初步的影響。在未來，我們可能像編程好的NPC（游戲中行動(dòng)和話語都被設(shè)定好的角色）一樣，只能在一定范圍內(nèi)做出行動(dòng)選擇。
如果想向朋友分享一首歌或一個(gè)電視劇，但朋友不是網(wǎng)站會(huì)員，就無法播放它；汽車在自動(dòng)駕駛模式下可能被設(shè)定為無法加速行駛。美國前總統(tǒng)奧巴馬曾將25部美國經(jīng)典電影送給英國前首相戈登·布朗，但布朗回到倫敦后卻發(fā)現(xiàn)這些電影無法在英國DVD機(jī)上播放：“禁止播放的命令已由其制造商和發(fā)行商編成代碼寫到DVD中，以保護(hù)其商業(yè)利益，并實(shí)施版權(quán)法賦予的權(quán)力，這被稱為數(shù)字權(quán)限管理（DRM）”——世界上最有“權(quán)勢(shì)”的兩個(gè)人也無法突破算法設(shè)定的規(guī)則。
算法的“強(qiáng)制性”已經(jīng)初步顯現(xiàn)出來：我們無法做出在規(guī)定范圍之外的選擇。數(shù)字技術(shù)的關(guān)鍵是，它只能根據(jù)編寫它的代碼操作。它與法律不同，人們可以打破法律（雖然要承擔(dān)被懲罰的風(fēng)險(xiǎn)），但大多數(shù)人無法打破代碼。
古代社會(huì)用重刑威懾人們，而進(jìn)入現(xiàn)代，“懲罰的‘必然性’已經(jīng)取代了懲罰的強(qiáng)度”，隨著國家執(zhí)法機(jī)關(guān)的控制力的增強(qiáng)，人們知道犯法大概率會(huì)被抓，因此都避免違法；而在未來，由代碼參與的法律“將迫使人類無法違反法律，而非簡單地事后懲罰”。
以往只有部分官方機(jī)構(gòu)才能要求我們做事，而現(xiàn)在，各種網(wǎng)絡(luò)平臺(tái)都在“強(qiáng)迫”我們：如果我們不點(diǎn)擊“同意服務(wù)條款”，就無法使用它；平臺(tái)可以販賣搜集到的所有個(gè)人數(shù)據(jù)；可以更改它的服務(wù)（如加入廣告或要求額外付費(fèi)，甚至封禁某些賬號(hào)）。人們對(duì)此無法抗議，只能選擇被動(dòng)接受或不再使用該軟件。
如今，政府可以要求一些公司提供某些用戶的資料。谷歌曾收到1萬多份政府索取資料的請(qǐng)求，并履行了其中的93%。在未來，當(dāng)算法更進(jìn)一步融入我們的生活，網(wǎng)站是否可以協(xié)助監(jiān)管恐怖分子、戀童癖者的活動(dòng)，并主動(dòng)報(bào)告？警察是否能直接取得犯罪分子的智能門鎖密碼？如果我們的朋友犯了重罪，我們是否會(huì)因?yàn)榕c他的聊天記錄而被“盯上”？
杰米·薩斯坎德認(rèn)為，雖然我們的社會(huì)中技術(shù)呈爆炸式增長，但人文學(xué)科尤其是政治理論的進(jìn)步卻滯后得多。那些掌握技術(shù)的精英和資本，正在掌握著前所未有的巨大權(quán)力。我們的政治組織架構(gòu)應(yīng)該如何更好地適應(yīng)技術(shù)的發(fā)展？
更切實(shí)也更緊要的是，反對(duì)大型科技公司的壟斷，保證人們對(duì)使用哪個(gè)平臺(tái)有多種選擇?！熬S護(hù)自由的最佳方式是確保人們可以根據(jù)自己喜好的代碼在不同的系統(tǒng)之間移動(dòng)?！钡缃竦木W(wǎng)絡(luò)平臺(tái)極其依靠用戶數(shù)量的支撐：如果只有少量用戶使用谷歌，那這個(gè)平臺(tái)一文不值。平臺(tái)建立初期的用戶積累非常重要和艱難，同時(shí)也不可避免地助長了壟斷的滋生。在過去20年，近四分之三的行業(yè)集中度上升……近80%的手機(jī)社交媒體流量都是在曾經(jīng)的Facebook旗下的平臺(tái)運(yùn)行，谷歌的移動(dòng)軟件Android占據(jù)了智能手機(jī)逾四分之三的市場份額，Alphabet（谷歌母公司）、亞馬遜和Facebook三家公司的總價(jià)值竟與加拿大的國民生產(chǎn)總值大體相當(dāng)。
資本會(huì)不斷創(chuàng)造新的資本，積累自身，行業(yè)巨頭手中的資源讓他們有多種手段去鞏固自己的地位。因此，相關(guān)反壟斷法亟待面向科技公司進(jìn)行完善。
在我國，微信平臺(tái)集聊天、視頻、付款、閱讀文章、購物、訂票等各種功能于一身，而且微信可以直接作為賬號(hào)登錄許多其他網(wǎng)站，這固然方便，但如果微信賬號(hào)被封禁，也將會(huì)給生活帶來極大的不便。
算法不應(yīng)由科技公司單方面控制，應(yīng)允許更多的“個(gè)性化定制”，未來能寫代碼的人會(huì)越來越多，一些軟件應(yīng)允許任何人按照他或她認(rèn)為合適的方式修改代碼。
此外，科技公司數(shù)據(jù)交易對(duì)個(gè)人的補(bǔ)償遠(yuǎn)遠(yuǎn)低于其數(shù)據(jù)的價(jià)值，這就好像工廠主在剝削工人的勞動(dòng)力——科技公司在剝削我們個(gè)人信息的價(jià)值?！癋acebook用戶已然成為歷史上最大的無薪勞動(dòng)者群體?！?/p>
與此同時(shí)，科技將逐漸取代人工來從事腦力或體力活動(dòng)，更多的人選擇智能語音轉(zhuǎn)寫而不再雇傭速記員，選擇翻譯軟件而不是專業(yè)翻譯；未來，人工智能可能逐漸取代記者、出租車司機(jī)、財(cái)務(wù)人員等。到那時(shí)將會(huì)有很多人面臨失業(yè)?；诖朔N憂慮，“全民基本收入”（Universal Basic Income）的提議一度引起很多人的關(guān)注。在這種理念下，收入和工作兩件事并不需要聯(lián)系在一起，人類社會(huì)充滿了人們共同創(chuàng)造的東西，尤其是在算法的時(shí)代，人們貢獻(xiàn)著數(shù)據(jù)而沒有報(bào)酬。人們應(yīng)有權(quán)去享受現(xiàn)代科技帶來的繁榮，而不必低價(jià)販賣自己的勞動(dòng)力，何況沒人愿意購買？也許，是時(shí)候從為了工作而勞動(dòng)，到為了發(fā)揮創(chuàng)造力而勞動(dòng)了。人們?yōu)榱伺d趣、社區(qū)或同輩認(rèn)同而做的事和所能迸發(fā)的創(chuàng)造力，往往要超出靠金錢購買時(shí)所提供的。然而，在操作層面，“全民基本收入”的可行性仍需論證與完善，目前也只是一種理想的生活愿景罷了。
一些人提議要增強(qiáng)國家權(quán)力對(duì)資本的監(jiān)督，比如，要有專門人員對(duì)科技公司的算法運(yùn)行機(jī)制進(jìn)行審核；監(jiān)管算法推送中的種族主義、恐同等不公正因素，人工予以矯正。有人提議應(yīng)采用“用益權(quán)”的形式來管理科技公司，這種權(quán)力體系一般用在土地的使用上，國家擁有土地，但使用權(quán)可以賣給個(gè)人；比起完全國有化，它可以讓公司保留大部分利潤，而減少壟斷，讓小公司在創(chuàng)業(yè)初始也可以使用大公司擁有的技術(shù)。但要警惕此舉會(huì)造成國家權(quán)力的擴(kuò)張。
科技進(jìn)步帶給人類社會(huì)許多考驗(yàn)，也給予了更多的可能性，能否去應(yīng)對(duì)、怎樣去應(yīng)對(duì)，這份政治答卷可能成為未來人類生存的關(guān)鍵。
猜你喜歡
我校新增“人工智能”本科專業(yè)西安航空學(xué)院學(xué)報(bào)(2022年2期)2022-07-04 07:45:42 基于MapReduce的改進(jìn)Eclat算法成都信息工程大學(xué)學(xué)報(bào)(2019年4期)2019-11-04 00:56:02 Travellng thg World Full—time for Rree閱讀與作文(英語初中版)(2019年8期)2019-08-27 03:59:25 2019：人工智能商界(2019年12期)2019-01-03 06:59:05 進(jìn)位加法的兩種算法小學(xué)生學(xué)習(xí)指導(dǎo)(低年級(jí))(2018年11期)2018-12-03 05:05:00 人工智能與就業(yè)IT經(jīng)理世界(2018年20期)2018-10-24 02:38:24 算法初步兩點(diǎn)追蹤中學(xué)生數(shù)理化·高一版(2017年9期)2017-12-19 12:15:15 數(shù)讀人工智能小康(2017年16期)2017-06-07 09:00:59 基于增強(qiáng)隨機(jī)搜索的OECI-ELM算法西安工程大學(xué)學(xué)報(bào)(2016年6期)2017-01-15 14:09:28 下一幕，人工智能！南風(fēng)窗(2016年19期)2016-09-21 16:51:29
宗祁
在日本動(dòng)畫作品《心理測(cè)量者》中，當(dāng)時(shí)的社會(huì)可以分析出每個(gè)人未來能從事何種職業(yè)，從而對(duì)他們“因材施教”，同時(shí)也可以分析出哪些人會(huì)成為罪犯，然后未雨綢繆，對(duì)其進(jìn)行鏟除。這樣的社會(huì)“愿景”，也許在我們的未來也能通過“算法”實(shí)現(xiàn)。如今，我們的搜索歷史、購物歷史甚至運(yùn)動(dòng)和健康數(shù)據(jù)，全都被各大平臺(tái)收集、分析。針對(duì)每個(gè)人不同喜好的信息被推送到我們面前。在算法面前，我們沒有秘密，也許網(wǎng)絡(luò)和機(jī)器比我們的伴侶還要了解我們。
這也意味著，科技公司和技術(shù)精英所擁有的權(quán)力空前巨大。如果網(wǎng)絡(luò)賬號(hào)被封禁，我們現(xiàn)實(shí)中的生活也會(huì)受到很大影響；我們購買的網(wǎng)絡(luò)服務(wù)可能被隨意更改，比如增加廣告、額外付費(fèi)、數(shù)據(jù)被販賣，等等?！端惴ǖ牧α浚喝祟惾绾喂餐妗返淖髡呓苊住に_斯坎德（英國學(xué)者、作家和執(zhí)業(yè)大律師）指出，過去百年，技術(shù)在爆炸式增長，但政治卻依舊“古典”，面向未來社會(huì)的規(guī)范、法律、哲學(xué)思考都顯得十分稀缺，科幻小說都要比現(xiàn)有的政治學(xué)、政治哲學(xué)對(duì)思考未來有用得多。杰米同時(shí)著眼于人文和科學(xué)，為現(xiàn)在和未來的人類提出并嘗試回答這樣的問題：在越來越被人工智能和算法“控制”的社會(huì)中，我們?nèi)绾伪ＷC實(shí)踐自由、公正的社會(huì)理念？我們要防范什么？未來的政治有哪些更多的可能性？
谷歌最新開發(fā)的AI繪圖軟件Disco Diffusion的智能和精美引起了許多人的關(guān)注，有些人在暢想，也許未來簡單的商業(yè)設(shè)計(jì)、插圖需求可以直接交由AI來完成。此前，最受關(guān)注的人工智能技術(shù)可能是自動(dòng)駕駛，它已經(jīng)在較大范圍內(nèi)被使用，雖然一度引發(fā)過很多爭議，但越來越多的人已經(jīng)漸漸習(xí)慣了在某些時(shí)刻“解放雙手”，將駕駛交給汽車本身。
人工智能（AI）興起于1943年，如今它是最炙手可熱也最重要的研究領(lǐng)域之一。它在語言識(shí)別、翻譯、撰寫新聞或收益報(bào)告等方面的技術(shù)已經(jīng)逐步被應(yīng)用于日常，滲透到醫(yī)療、法律、體育、金融等各個(gè)領(lǐng)域。在很多方面，AI甚至超過了人類專業(yè)人員，比如在各種棋類比賽中，人工智能已經(jīng)擊敗了最杰出的人類；牛津大學(xué)的研究者們發(fā)明了一種準(zhǔn)確率高達(dá)93%的人工智能 “讀唇語”系統(tǒng)，相比之下，專業(yè)唇語翻譯人員的正確率只有60%。雖然很多技術(shù)現(xiàn)在看起來還只是人們的暢想，如機(jī)器人替代醫(yī)生給我們做外科手術(shù)，但人工智能確實(shí)正在飛快地融入或刷新著我們的生活。
當(dāng)前人工智能最重要的子領(lǐng)域是機(jī)器學(xué)習(xí)。如果AI已經(jīng)可以超越人類，那么把“創(chuàng)造新的AI”這件事交給AI自身來做，似乎也沒什么不合理。杰米·薩斯坎德寫道：“在某個(gè)特定的時(shí)刻后，‘我們不再需要為計(jì)算機(jī)編程’，而是靠‘它們自己給自己編程’?！绷硪粋€(gè)很容易被人們忽視的技術(shù)是“算力”——計(jì)算機(jī)芯片處理數(shù)據(jù)的能力?！叭缃?，普通智能手機(jī)都比當(dāng)年送阿姆斯特朗上月球的阿波羅導(dǎo)航計(jì)算機(jī)的算力更強(qiáng)。”
捕捉、記錄和儲(chǔ)存數(shù)據(jù)的技術(shù)也在增強(qiáng)?！叭绻压雀枰惶熘刑幚淼臄?shù)據(jù)印成書，其高度要大于地球與月球間距離的一半?！薄端惴ǖ牧α俊分杏涗浀?，奧地利隱私維權(quán)人士Max Schrems要求查看Facebook存儲(chǔ)的有關(guān)他個(gè)人的數(shù)據(jù)，結(jié)果得到了一份有1222頁的文件，其中包括他早已在該平臺(tái)刪除的信息。
網(wǎng)站和設(shè)備每天都在取得和存儲(chǔ)著海量的信息，不僅如此，真實(shí)存在的物品也在記錄和存儲(chǔ)著你的信息，比如汽車傳感器，它上傳汽車的性能數(shù)據(jù)給制造商；GPS時(shí)刻追蹤記錄著我們的行蹤。人類的動(dòng)作、話語、行為、關(guān)系、情感和信念將越來越多地留下永久或半永久的數(shù)字標(biāo)記。
今天，大多數(shù)人已經(jīng)接受自己的網(wǎng)絡(luò)足跡被各大購物、音樂、個(gè)性化推薦網(wǎng)站所監(jiān)控這個(gè)無法抵抗的事實(shí)，但在未來，當(dāng)我們的生活越來越與人工智能、算法結(jié)合，很可能我們會(huì)受到全方位的“監(jiān)控”。想象我們的“智能冰箱”在我們深夜開門拿蛋糕時(shí)自動(dòng)上鎖，或者對(duì)我們大喊“別吃了”；“智能窗簾”自動(dòng)調(diào)節(jié)室內(nèi)的光線；甚至，機(jī)器可以監(jiān)測(cè)到我們的情緒，哪種眼神蘊(yùn)含著感情，通過分析動(dòng)作、音調(diào)，可以確定兩個(gè)人之間是什么關(guān)系，等等。
在電影《銀翼殺手》的小說原型《仿生人會(huì)夢(mèng)見電子羊嗎》中，人們通過服用藥物來控制或達(dá)到不同的情緒，拒絕服藥而選擇自己調(diào)節(jié)情緒的人反倒會(huì)被看作異類。如果技術(shù)可以為我們選擇最適合我們自己的光線、食物、運(yùn)動(dòng)甚至交往對(duì)象，那我們是否還需要對(duì)“自我”進(jìn)行反思和把控？我們是否還能產(chǎn)生機(jī)器分配給我們之外的需求？
算法和技術(shù)正在飛快地融入和改變我們的生活，但卻極少有對(duì)它們的限制和管控，這是十分危險(xiǎn)的。
首先，技術(shù)本身并不具有道德，它忠實(shí)地呈現(xiàn)社會(huì)上最大多數(shù)與其互動(dòng)過的人的面貌，比如，在谷歌的搜索框輸入“同性戀”，后面會(huì)自動(dòng)接上“為什么聲音總是很奇怪”。這并非因?yàn)楣雀杷阉魇瞧缫曂詰俚?，而是因?yàn)楹芏鄬?duì)同性戀有偏見的人搜索了這個(gè)問題，谷歌的算法自動(dòng)把高頻搜索問題呈現(xiàn)給所有用戶。
技術(shù)不會(huì)考慮道德或教化的需要，同時(shí)，它也不會(huì)對(duì)信息進(jìn)行篩選。以往，權(quán)威的媒體和“專業(yè)從事過濾工作”的記者、作家、編輯幾乎決定著大眾會(huì)收到何種信息，越是知名、權(quán)威的平臺(tái)，其內(nèi)容往往越是優(yōu)質(zhì)、專業(yè)、保證準(zhǔn)確的。但如今，根據(jù)算法推薦呈現(xiàn)給人們的信息往往只遵循“流量”的規(guī)律：點(diǎn)贊最多的消息、評(píng)論最多的消息往往被更多人看到。我們已經(jīng)很熟悉通過“引戰(zhàn)”吸引流量這種方式，而這已經(jīng)影響了政治，在政治宣傳中，政客們通常不在意一些言論是否反智、是否錯(cuò)誤，只要它們足夠有煽動(dòng)力，就會(huì)被傳播開來。
在一些重大的自然或人為災(zāi)害事件中，雖然網(wǎng)絡(luò)允許我們接收一手信息，但我們也真切地體會(huì)到專業(yè)調(diào)查記者的篩選和可信的一手報(bào)道的重要性。
此外，算法根據(jù)我們的“喜好”進(jìn)行推送的特質(zhì)讓人們愈加封閉在相同觀點(diǎn)的小圈子里，用網(wǎng)絡(luò)用語來說，就是“圈地自萌”，這也導(dǎo)致與主流觀點(diǎn)相悖的言論越來越難以被發(fā)出?！叭绻阒琅u(píng)某位政客會(huì)讓你泡著的酒吧陷入可怕的沉默，或者在社交媒體上引發(fā)一場‘推特風(fēng)暴’，對(duì)你進(jìn)行人身攻擊，那么你在發(fā)表批評(píng)意見時(shí)恐怕就會(huì)三思而后行了。”最后，如果利用算法對(duì)某些信息和關(guān)鍵字進(jìn)行屏蔽和封禁，其影響也將是巨大的。
算法正在用篩選信息的方式影響著我們（或下一代）認(rèn)識(shí)世界的方法，但這可能只是它初步的影響。在未來，我們可能像編程好的NPC（游戲中行動(dòng)和話語都被設(shè)定好的角色）一樣，只能在一定范圍內(nèi)做出行動(dòng)選擇。
如果想向朋友分享一首歌或一個(gè)電視劇，但朋友不是網(wǎng)站會(huì)員，就無法播放它；汽車在自動(dòng)駕駛模式下可能被設(shè)定為無法加速行駛。美國前總統(tǒng)奧巴馬曾將25部美國經(jīng)典電影送給英國前首相戈登·布朗，但布朗回到倫敦后卻發(fā)現(xiàn)這些電影無法在英國DVD機(jī)上播放：“禁止播放的命令已由其制造商和發(fā)行商編成代碼寫到DVD中，以保護(hù)其商業(yè)利益，并實(shí)施版權(quán)法賦予的權(quán)力，這被稱為數(shù)字權(quán)限管理（DRM）”——世界上最有“權(quán)勢(shì)”的兩個(gè)人也無法突破算法設(shè)定的規(guī)則。
算法的“強(qiáng)制性”已經(jīng)初步顯現(xiàn)出來：我們無法做出在規(guī)定范圍之外的選擇。數(shù)字技術(shù)的關(guān)鍵是，它只能根據(jù)編寫它的代碼操作。它與法律不同，人們可以打破法律（雖然要承擔(dān)被懲罰的風(fēng)險(xiǎn)），但大多數(shù)人無法打破代碼。
古代社會(huì)用重刑威懾人們，而進(jìn)入現(xiàn)代，“懲罰的‘必然性’已經(jīng)取代了懲罰的強(qiáng)度”，隨著國家執(zhí)法機(jī)關(guān)的控制力的增強(qiáng)，人們知道犯法大概率會(huì)被抓，因此都避免違法；而在未來，由代碼參與的法律“將迫使人類無法違反法律，而非簡單地事后懲罰”。
以往只有部分官方機(jī)構(gòu)才能要求我們做事，而現(xiàn)在，各種網(wǎng)絡(luò)平臺(tái)都在“強(qiáng)迫”我們：如果我們不點(diǎn)擊“同意服務(wù)條款”，就無法使用它；平臺(tái)可以販賣搜集到的所有個(gè)人數(shù)據(jù)；可以更改它的服務(wù)（如加入廣告或要求額外付費(fèi)，甚至封禁某些賬號(hào)）。人們對(duì)此無法抗議，只能選擇被動(dòng)接受或不再使用該軟件。
如今，政府可以要求一些公司提供某些用戶的資料。谷歌曾收到1萬多份政府索取資料的請(qǐng)求，并履行了其中的93%。在未來，當(dāng)算法更進(jìn)一步融入我們的生活，網(wǎng)站是否可以協(xié)助監(jiān)管恐怖分子、戀童癖者的活動(dòng)，并主動(dòng)報(bào)告？警察是否能直接取得犯罪分子的智能門鎖密碼？如果我們的朋友犯了重罪，我們是否會(huì)因?yàn)榕c他的聊天記錄而被“盯上”？
杰米·薩斯坎德認(rèn)為，雖然我們的社會(huì)中技術(shù)呈爆炸式增長，但人文學(xué)科尤其是政治理論的進(jìn)步卻滯后得多。那些掌握技術(shù)的精英和資本，正在掌握著前所未有的巨大權(quán)力。我們的政治組織架構(gòu)應(yīng)該如何更好地適應(yīng)技術(shù)的發(fā)展？
更切實(shí)也更緊要的是，反對(duì)大型科技公司的壟斷，保證人們對(duì)使用哪個(gè)平臺(tái)有多種選擇?！熬S護(hù)自由的最佳方式是確保人們可以根據(jù)自己喜好的代碼在不同的系統(tǒng)之間移動(dòng)?！钡缃竦木W(wǎng)絡(luò)平臺(tái)極其依靠用戶數(shù)量的支撐：如果只有少量用戶使用谷歌，那這個(gè)平臺(tái)一文不值。平臺(tái)建立初期的用戶積累非常重要和艱難，同時(shí)也不可避免地助長了壟斷的滋生。在過去20年，近四分之三的行業(yè)集中度上升……近80%的手機(jī)社交媒體流量都是在曾經(jīng)的Facebook旗下的平臺(tái)運(yùn)行，谷歌的移動(dòng)軟件Android占據(jù)了智能手機(jī)逾四分之三的市場份額，Alphabet（谷歌母公司）、亞馬遜和Facebook三家公司的總價(jià)值竟與加拿大的國民生產(chǎn)總值大體相當(dāng)。
資本會(huì)不斷創(chuàng)造新的資本，積累自身，行業(yè)巨頭手中的資源讓他們有多種手段去鞏固自己的地位。因此，相關(guān)反壟斷法亟待面向科技公司進(jìn)行完善。
在我國，微信平臺(tái)集聊天、視頻、付款、閱讀文章、購物、訂票等各種功能于一身，而且微信可以直接作為賬號(hào)登錄許多其他網(wǎng)站，這固然方便，但如果微信賬號(hào)被封禁，也將會(huì)給生活帶來極大的不便。
算法不應(yīng)由科技公司單方面控制，應(yīng)允許更多的“個(gè)性化定制”，未來能寫代碼的人會(huì)越來越多，一些軟件應(yīng)允許任何人按照他或她認(rèn)為合適的方式修改代碼。
此外，科技公司數(shù)據(jù)交易對(duì)個(gè)人的補(bǔ)償遠(yuǎn)遠(yuǎn)低于其數(shù)據(jù)的價(jià)值，這就好像工廠主在剝削工人的勞動(dòng)力——科技公司在剝削我們個(gè)人信息的價(jià)值?！癋acebook用戶已然成為歷史上最大的無薪勞動(dòng)者群體?！?/p>
與此同時(shí)，科技將逐漸取代人工來從事腦力或體力活動(dòng)，更多的人選擇智能語音轉(zhuǎn)寫而不再雇傭速記員，選擇翻譯軟件而不是專業(yè)翻譯；未來，人工智能可能逐漸取代記者、出租車司機(jī)、財(cái)務(wù)人員等。到那時(shí)將會(huì)有很多人面臨失業(yè)?；诖朔N憂慮，“全民基本收入”（Universal Basic Income）的提議一度引起很多人的關(guān)注。在這種理念下，收入和工作兩件事并不需要聯(lián)系在一起，人類社會(huì)充滿了人們共同創(chuàng)造的東西，尤其是在算法的時(shí)代，人們貢獻(xiàn)著數(shù)據(jù)而沒有報(bào)酬。人們應(yīng)有權(quán)去享受現(xiàn)代科技帶來的繁榮，而不必低價(jià)販賣自己的勞動(dòng)力，何況沒人愿意購買？也許，是時(shí)候從為了工作而勞動(dòng)，到為了發(fā)揮創(chuàng)造力而勞動(dòng)了。人們?yōu)榱伺d趣、社區(qū)或同輩認(rèn)同而做的事和所能迸發(fā)的創(chuàng)造力，往往要超出靠金錢購買時(shí)所提供的。然而，在操作層面，“全民基本收入”的可行性仍需論證與完善，目前也只是一種理想的生活愿景罷了。
一些人提議要增強(qiáng)國家權(quán)力對(duì)資本的監(jiān)督，比如，要有專門人員對(duì)科技公司的算法運(yùn)行機(jī)制進(jìn)行審核；監(jiān)管算法推送中的種族主義、恐同等不公正因素，人工予以矯正。有人提議應(yīng)采用“用益權(quán)”的形式來管理科技公司，這種權(quán)力體系一般用在土地的使用上，國家擁有土地，但使用權(quán)可以賣給個(gè)人；比起完全國有化，它可以讓公司保留大部分利潤，而減少壟斷，讓小公司在創(chuàng)業(yè)初始也可以使用大公司擁有的技術(shù)。但要警惕此舉會(huì)造成國家權(quán)力的擴(kuò)張。
科技進(jìn)步帶給人類社會(huì)許多考驗(yàn)，也給予了更多的可能性，能否去應(yīng)對(duì)、怎樣去應(yīng)對(duì)，這份政治答卷可能成為未來人類生存的關(guān)鍵。
猜你喜歡
西安航空學(xué)院學(xué)報(bào)(2022年2期)2022-07-04 07:45:42
成都信息工程大學(xué)學(xué)報(bào)(2019年4期)2019-11-04 00:56:02
閱讀與作文(英語初中版)(2019年8期)2019-08-27 03:59:25
商界(2019年12期)2019-01-03 06:59:05
小學(xué)生學(xué)習(xí)指導(dǎo)(低年級(jí))(2018年11期)2018-12-03 05:05:00
IT經(jīng)理世界(2018年20期)2018-10-24 02:38:24
中學(xué)生數(shù)理化·高一版(2017年9期)2017-12-19 12:15:15
小康(2017年16期)2017-06-07 09:00:59
西安工程大學(xué)學(xué)報(bào)(2016年6期)2017-01-15 14:09:28
南風(fēng)窗(2016年19期)2016-09-21 16:51:29