Emma+Pierson+陳哲震

柯潔與阿爾法狗的大戰(zhàn)成為這幾天刷屏的事件，馬克·扎克伯格在斯坦福大學(xué)的演講也讓他成為了這個世界上最性感的理工男。

這些事件再次印證了，人工智能和計算機(jī)算法儼然已經(jīng)成為了這個地球上最受人艷羨、人人都想分一杯羹的領(lǐng)域。

計算機(jī)算法，這個與人工智能最密切相關(guān)的領(lǐng)域，面臨著與人工智能一樣的雙面境遇。一方面，計算機(jī)科學(xué)至上的觀念在硅谷盛行，作為計算機(jī)工程專業(yè)學(xué)生的理工男受到社會的瘋狂膜拜，不管是工作面試還是工資對比，理工男顯然要比人文男吃香得多。然而，計算機(jī)算法卻在一定程度上加劇了社會差距，沖動的算法甚至還有可能陷社會于不義。

誠然，人工智能、計算機(jī)算法是未來發(fā)展的趨勢，但我們真的放心將我們的未來交到現(xiàn)在這群“理工男”手中嗎？現(xiàn)今社會對理工男的膜拜是否真的對這個社會、這個世界的未來有益呢？為了免于未來受其束縛，作為普通人的我們又該做出哪些改變？在人工智能尚未發(fā)展成熟的現(xiàn)在，這些問題值得所有人考慮。

作為一名計算機(jī)學(xué)科的博士，我酷愛大數(shù)據(jù)。但我并沒有把數(shù)據(jù)看得太過神圣，因?yàn)槲覍W(xué)到的一切知識，都是通過數(shù)據(jù)而得來的，不管是性，還是莎士比亞。一些把數(shù)學(xué)神圣化了的人也因此憤怒反駁過我。

十幾歲的時候，我在斯坦福大學(xué)學(xué)會了計算機(jī)算法，通過這種優(yōu)雅又致命的武器，我可以在互聯(lián)網(wǎng)上找出最危險的通緝犯，也可以透過人們在網(wǎng)上的發(fā)言察覺到他對政府的不滿。

計算機(jī)科學(xué)的確很奇妙。但問題在于，硅谷的許多人認(rèn)為計算機(jī)科學(xué)超越一切。比如招聘會上，那些面試員態(tài)度很鮮明，他們只對計算機(jī)科學(xué)背景的人感興趣；比如工資對比，計算機(jī)工程專業(yè)學(xué)生明顯要比其他非工程專業(yè)高出不少；再比如，當(dāng)人文學(xué)科的學(xué)生透露自己的專業(yè)時，他們會受到質(zhì)疑與不屑。

我曾見過一些杰出的計算機(jī)科學(xué)家對自己正在研究的人群表示出可悲的無知，我對他們進(jìn)行了當(dāng)面嘲笑。我曾見過一些軍事科學(xué)家以孩童般的熱情向人展示自己創(chuàng)新研制的殺傷性武器，卻對這些武器的目標(biāo)攻擊人群閉口不談。

世界上最恐怖的事情莫過于，科學(xué)家可以就如何槍擊同類進(jìn)行一場學(xué)術(shù)對話，卻無法給出這樣做的理由。

許多計算機(jī)學(xué)科專家對非技術(shù)性研究方法不甚了解，充滿蔑視，這種狀況令人擔(dān)憂。而在我的日常工作中，會不斷遇到代碼無法解決的問題。

在在線教育平臺 Coursera 擔(dān)任程序員時，我編寫了一個算法，可以參考用戶性別對其推薦相應(yīng)課程，但公司并沒有將其投入使用，因?yàn)槲覀儼l(fā)現(xiàn)，這個算法根本不會向女性用戶推薦計算機(jī)科學(xué)課程。

事實(shí)證明，計算機(jī)算法加劇了社會差距，其影響已經(jīng)擴(kuò)散到包括刑事司法和信用評分在內(nèi)的社會各個領(lǐng)域。這其實(shí)是一個兩難困境，拿刑事司法領(lǐng)域來說，一個滿足了基本統(tǒng)計需求的算法，更有可能將黑人被告判為高危罪犯，即使這些黑人不會再犯。

對此問題我表示無能為力，因?yàn)槲以谒惴ń滩睦镎也坏浇鉀Q辦法。而在塔-內(nèi)西斯·科特斯關(guān)于制度歧視或者米歇爾·亞歷山大關(guān)于大規(guī)模監(jiān)禁的著作里，我或許會找到相關(guān)事實(shí)。

我的個人編程項(xiàng)目也出現(xiàn)了同樣棘手的倫理問題。我是否應(yīng)該編寫一個程序，來下載厭食癥咨詢網(wǎng)站上公布的數(shù)千名患進(jìn)食障礙的青少年的聯(lián)系方式？又是否應(yīng)該編寫一個程序，在各大高校的論壇上匿名發(fā)帖，說自己有自殺傾向，來調(diào)查一下哪所高校的師生最支持自殺呢？

順便說一句，我的答案是“不”。計算機(jī)的偉大與危險之處都在于，它可以把你的奇思妙想變成現(xiàn)實(shí)，并且影響他人。一個沖動的想法經(jīng)過計算機(jī)編程后，可能會傷害成千上萬的人。

或許，如果讓計算機(jī)科學(xué)家負(fù)責(zé)他們最擅長的編碼，把管控產(chǎn)品的任務(wù)交給其他人，辦事效率是不是會更高？事實(shí)上，這遠(yuǎn)遠(yuǎn)不夠。

程序員編程的速度往往十分驚人，而且行業(yè)內(nèi)幕不為外人所知。等到相關(guān)法規(guī)出臺時，可能數(shù)百萬人已經(jīng)受到了傷害。在其他專業(yè)領(lǐng)域，人們上崗之前往往要接受道德培訓(xùn)。部分原因在于，對于像醫(yī)生和律師這樣的職業(yè)來說，職業(yè)道德極其重要，尤其是在無人監(jiān)管的情況之下。

此外，需要有計算機(jī)科學(xué)家的幫助才能制定相關(guān)行業(yè)法規(guī)，因?yàn)樗麄冇斜匾募夹g(shù)專業(yè)知識。如果你對詞嵌入（word embedding）一竅不通，又如何能規(guī)范詞嵌入領(lǐng)域的算法歧視現(xiàn)象呢？

以下是一些具體做法。

首先，大學(xué)應(yīng)該擴(kuò)大計算機(jī)科學(xué)專業(yè)學(xué)生的知識培訓(xùn)范圍。我曾調(diào)查過八所頂尖學(xué)府的計算機(jī)本科課程體系，發(fā)現(xiàn)大多數(shù)學(xué)校并不要求學(xué)生學(xué)習(xí)計算機(jī)科學(xué)中的倫理與社會問題（盡管有些學(xué)校會提供相關(guān)選修課程）。

這類課程確實(shí)不太好教，計算機(jī)科學(xué)家們也往往不夠重視。他們不習(xí)慣非定向思維，對自己的數(shù)學(xué)能力非常自信，并且相信實(shí)用主義可以解決一切問題。但無論如何，大學(xué)還是要勇于嘗試。

教授需要讓學(xué)生對計算機(jī)科學(xué)充滿敬畏；要讓學(xué)生知道，他們掌握的技能不僅可以使自己發(fā)家致富，還會毀滅生命；還要教他們學(xué)會謙卑，讓學(xué)生明白，數(shù)學(xué)能力再優(yōu)秀，大千世界里他們還有很多未知的事情。

通過學(xué)習(xí)社會類課程，程序員危害社會的可能性會有所降低，而且可能會因此造福社會。算法交易等領(lǐng)域?qū)ι鐣m無大用，但是回報可觀，因此許多頂尖學(xué)府在這些領(lǐng)域投入了大量技術(shù)型人才進(jìn)行研究。

斯坦福大學(xué)的計算機(jī)學(xué)科專家吳恩達(dá)同時也是 Coursera 的聯(lián)合創(chuàng)始人，他在斯坦福大學(xué)招聘時對眾學(xué)子勸誡道：“你必須問自己為何要學(xué)習(xí)計算機(jī)科學(xué)。很多學(xué)生可能會回答，因?yàn)槲铱梢栽O(shè)計出最流行的社交媒體應(yīng)用……而我認(rèn)為，我們可以創(chuàng)造出意義更大的東西。”

科技公司也應(yīng)當(dāng)采取一些措施。企業(yè)應(yīng)該反思一下自己產(chǎn)品中的社會和倫理問題。比如，谷歌和微軟研究了算法歧視，F(xiàn)acebook 調(diào)查了回音室效應(yīng)，這些都值得稱贊。

Facebook 用1010萬用戶行為數(shù)據(jù)解釋“回音室”效應(yīng)

當(dāng)外部研究者評估產(chǎn)品影響時，企業(yè)應(yīng)該積極配合，盡量說明自己的算法工作原理，在數(shù)據(jù)使用協(xié)議允許的范圍內(nèi)適當(dāng)公布數(shù)據(jù)。（研究人員還應(yīng)允許在不被起訴的情況下進(jìn)行算法檢測。）

招聘面試時的問題也不應(yīng)只局限于計算機(jī)算法，還應(yīng)考察對方的社會倫理知識。同時，學(xué)生也應(yīng)該學(xué)會如何應(yīng)答招聘經(jīng)理的提問（微軟的 CEO 曾在技術(shù)采訪中被問到，如果看到一個嬰兒躺在十字路口他會怎么做，而他的答案當(dāng)然不是常人都能想到的將嬰兒抱起）。

企業(yè)應(yīng)該雇傭一些被自家產(chǎn)品侵犯過的人群或者非產(chǎn)品目標(biāo)用戶的人群，他們的臉部可能無法被計算機(jī)視覺系統(tǒng)識別，他們的笑容可能無法被 emoji 表情捕捉，他們的簡歷可能跟公司不大相關(guān)，他們的住房選擇可能受到了公司政策的限制，他們可能深陷網(wǎng)絡(luò)巨魔的圈套（企業(yè)為網(wǎng)絡(luò)巨魔提供了平臺，卻沒有加以有效控制）。招聘一些其他領(lǐng)域科學(xué)家進(jìn)公司來，讓他們參加午餐會談，使其對公司原有的世界觀造成沖擊。

傾聽這些非計算機(jī)領(lǐng)域科學(xué)家的意見，可能會減緩硅谷的發(fā)展腳步，因?yàn)椴煌澜缬^的碰撞難免產(chǎn)生分歧。但是，當(dāng)有人提出理性的反對聲音時，適當(dāng)放慢腳步只會有益無害。在今天這個數(shù)字戰(zhàn)場會決定總統(tǒng)選舉輸贏的時代里，科技巨頭們需要放緩自己前進(jìn)的步伐，不忘初心。