陳茜

騰訊在21歲之際，宣布對(duì)外“迭代”使命愿景：用戶為本，科技向善。這是2018年“930架構(gòu)”調(diào)整后，騰訊在價(jià)值觀體系的一次升級(jí)，這也引發(fā)了來(lái)自各界學(xué)者的討論。

為什么在科技如此深刻影響人們生活的今天，要著重提出“向善”？數(shù)字經(jīng)濟(jì)在給中國(guó)帶來(lái)彎道超車機(jī)會(huì)的同時(shí)，也帶來(lái)一些問(wèn)題。諸如“攜程們”屢禁不止的大數(shù)據(jù)殺熟、滴滴順風(fēng)車“不作為”帶來(lái)的安全風(fēng)險(xiǎn)、考拉征信涉嫌非法緩存公民個(gè)人信息、百合佳緣斬不斷的婚戀黑產(chǎn)……科技在推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的同時(shí)，也露出它“惡”的那一面。今天商業(yè)洪流裹挾著來(lái)勢(shì)兇猛的科技浪潮，如何有邊界地創(chuàng)新，成為人們所關(guān)注的問(wèn)題。這時(shí)，正向而善意的價(jià)值觀力量正是我們需要呼吁的。這是面對(duì)未知世界的一種不得不做的選擇。

科技到底出了什么問(wèn)題必須要巨頭呼吁“向善”？具體到商業(yè)行為中又將如何向善？《商學(xué)院》記者分別采訪了中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任段偉文教授以及斯道資本執(zhí)行董事張矩，后者曾在Google從事多年技術(shù)工作，也是中國(guó)云計(jì)算發(fā)展的早期參與者。

科技向善：為創(chuàng)新搭建“倫理軟著陸機(jī)制”

關(guān)于為什么要在這時(shí)提出“科技向善”，段偉文指出，數(shù)字化時(shí)代技術(shù)迭代加快，很多應(yīng)用場(chǎng)景和結(jié)果無(wú)法預(yù)知，這種不確定性與工業(yè)時(shí)代相對(duì)緩慢而確定的變革相比，讓“技術(shù)是否向善”這一問(wèn)題變得更加重要。

客觀來(lái)看，一項(xiàng)創(chuàng)新技術(shù)的應(yīng)用，如果在一開(kāi)始就從倫理角度去審度，減少危害和風(fēng)險(xiǎn)，這是比較理想的狀態(tài)。但是，科技發(fā)展速度加快，一項(xiàng)創(chuàng)新技術(shù)究竟會(huì)帶來(lái)什么問(wèn)題和弊端，一開(kāi)始是不太明確。在這種不確定性面前，公眾會(huì)有一種倫理恐慌，比如人工智能、人臉識(shí)別等領(lǐng)域。問(wèn)題的關(guān)鍵不是創(chuàng)新做先手，還是倫理是先手，更重要的是建立一個(gè)不斷反饋、修正、迭代、更新的機(jī)制。

現(xiàn)代大量技術(shù)具有媒介性，既是社交網(wǎng)絡(luò)同時(shí)又是社交媒介。這比以往的技術(shù)會(huì)更直接地涉及到人的精神生活，比如尊嚴(yán)、隱私、安全等。所以，對(duì)“向善”問(wèn)題的重視，也與數(shù)字技術(shù)、網(wǎng)絡(luò)技術(shù)的傳播性有很大關(guān)系。企業(yè)面對(duì)這種不確定性也會(huì)有一定壓力。由于技術(shù)迭代速度快，如果缺乏前期的倫理介入，在運(yùn)行過(guò)程中出現(xiàn)問(wèn)題，導(dǎo)致社會(huì)輿論的壓力，甚至監(jiān)管層的介入，會(huì)導(dǎo)致產(chǎn)品服務(wù)難以運(yùn)行。這對(duì)于企業(yè)來(lái)說(shuō)是更大的損失，也是焦慮所在。他總結(jié)，現(xiàn)在強(qiáng)調(diào)“向善”的倫理維度，實(shí)際上是給新技術(shù)、產(chǎn)品和服務(wù)提供一個(gè)“倫理軟著陸機(jī)制”，避免引發(fā)隱性的、剛性的價(jià)值沖突。

“向善”需要內(nèi)部平衡和外部監(jiān)督

段偉文認(rèn)為，企業(yè)以科技向善為使命，意味著“善”成為評(píng)估技術(shù)、產(chǎn)品、服務(wù)的重要價(jià)值和維度。這意味著在進(jìn)行創(chuàng)新時(shí)，需要做利益權(quán)衡，要綜合技術(shù)和倫理的復(fù)合性。有一些產(chǎn)品在設(shè)計(jì)時(shí)也會(huì)通過(guò)AB測(cè)試等方法，來(lái)尋求商業(yè)價(jià)值的最大化，追求流量、點(diǎn)擊轉(zhuǎn)化率等，甚至為了這一目的而不惜犧牲用戶的相關(guān)權(quán)利。

這時(shí)，政府、公眾，以及媒體應(yīng)該有更強(qiáng)的權(quán)利意識(shí)，以及倫理道德上的價(jià)值敏感性。每一個(gè)人在使用新技術(shù)、新產(chǎn)品、新服務(wù)時(shí)，也要學(xué)會(huì)反思，權(quán)利是否被侵犯或者自己的行為侵犯了別人的權(quán)利。這需要公眾的覺(jué)悟，也需要媒體和社會(huì)的監(jiān)督和探討。

“跟做人一樣，向善是一種修為?！倍蝹ノ恼f(shuō)到。人在面臨抉擇時(shí)，也需要做價(jià)值權(quán)衡，在各種利益漩渦中糾結(jié)，甚至是“天人之戰(zhàn)”式的沖突。所以，在他看來(lái)，相對(duì)于人的向善，對(duì)于面向公眾的企業(yè)來(lái)說(shuō)，提出追求“向善”是相對(duì)簡(jiǎn)單的。雖然具體實(shí)踐會(huì)面臨困難，需要一步一步去實(shí)踐，一旦有這樣的使命感，會(huì)驅(qū)動(dòng)企業(yè)向這一方面努力。所以，從長(zhǎng)遠(yuǎn)來(lái)看，選擇這樣一個(gè)價(jià)值觀反而是最容易的一條路。

警惕以“善”為前提的隱性之惡

在斯道資本執(zhí)行董事張矩看來(lái)，從工業(yè)社會(huì)發(fā)展到信息社會(huì)，傳統(tǒng)物質(zhì)生產(chǎn)資料變?yōu)閿?shù)據(jù)，對(duì)于掌握上億用戶行為數(shù)據(jù)的互聯(lián)網(wǎng)巨頭，它們擁有巨量資產(chǎn)，同時(shí)也要肩負(fù)更大責(zé)任。同時(shí)，當(dāng)企業(yè)上市成為公眾企業(yè)后，接受更嚴(yán)格的監(jiān)管也是一種必然。無(wú)論是在信息披露上，還是在業(yè)務(wù)發(fā)展過(guò)程中，都應(yīng)該對(duì)公眾利益負(fù)責(zé)。

不過(guò)，張矩認(rèn)為，與以前不同的是，當(dāng)數(shù)據(jù)變?yōu)橘Y產(chǎn)，法律法規(guī)的框架也需要更新。因?yàn)?，新技術(shù)帶來(lái)的風(fēng)險(xiǎn)模糊，甚至未知，法律無(wú)法清晰明確給予定論。比如，美國(guó)Facebook侵犯隱私案件必須要不停舉辦聽(tīng)證會(huì)來(lái)審議。

互聯(lián)網(wǎng)本身是一個(gè)中性詞

張矩強(qiáng)調(diào)，科技，包括互聯(lián)網(wǎng)本身是一個(gè)中性詞，本質(zhì)上是通過(guò)信息傳播加速提升效率。目前信息過(guò)載的情況下，必然會(huì)對(duì)社會(huì)結(jié)構(gòu)產(chǎn)生影響。在出現(xiàn)問(wèn)題時(shí)，法律法規(guī)的滯后，導(dǎo)致我們需要以應(yīng)激性質(zhì)的道德審判充當(dāng)前鋒，采取一些臨時(shí)性方案加以遏制，缺乏系統(tǒng)性對(duì)策。這一問(wèn)題在全世界都存在。

他認(rèn)為，與Google當(dāng)年提出“不作惡”一樣，騰訊提出“科技向善”也是表達(dá)立場(chǎng)。這其中重要的意義，首先承認(rèn)了科技是中性的，并非是普遍意義上的褒義，科技需要用規(guī)則和價(jià)值判斷來(lái)規(guī)范。但是，如果僅僅從道德角度敦促一個(gè)企業(yè)做“向善”選擇，就會(huì)陷入一種模糊狀態(tài)。張矩指出，數(shù)字化時(shí)代與工業(yè)文明時(shí)代，技術(shù)的雙刃劍影響其實(shí)是類似的。

中國(guó)的飛速發(fā)展，讓人們剛剛享受到技術(shù)革命的紅利，擁有了現(xiàn)代化生活。大家對(duì)技術(shù)帶來(lái)的負(fù)面影響缺乏深刻體會(huì)，或者已經(jīng)忘記。在工業(yè)技術(shù)成熟期和普及期之前，維護(hù)勞動(dòng)者權(quán)益、保護(hù)環(huán)境、約束商業(yè)行為的法律法規(guī)不完善，諸如對(duì)工人的剝削、倫敦霧霾等社會(huì)問(wèn)題都曾經(jīng)發(fā)生過(guò)，不過(guò)我們現(xiàn)在已經(jīng)忘記。

與工業(yè)時(shí)代不同的是，這次信息技術(shù)革命發(fā)展速度更快。生產(chǎn)資料從物質(zhì)變?yōu)閿?shù)據(jù)后，在馬太效應(yīng)影響下，會(huì)形成巨大的數(shù)據(jù)壟斷企業(yè)，而技術(shù)普及也改變不了生產(chǎn)資料的擁有狀態(tài)。

“向善”責(zé)任無(wú)法推給用戶自覺(jué)

在張矩看來(lái)，數(shù)字化時(shí)代商業(yè)的一大特點(diǎn)是用戶大規(guī)模參與，共同構(gòu)成產(chǎn)品本身。而企業(yè)寄希望于用戶行為“向善”來(lái)確保安全發(fā)展，基本是無(wú)法實(shí)現(xiàn)的。同時(shí)，從經(jīng)濟(jì)學(xué)角度講，把責(zé)任推給終端用戶，而不是約束企業(yè)經(jīng)營(yíng)行為，這帶來(lái)的社會(huì)成本會(huì)非常高。試想，如果每個(gè)人在吃穿住用行時(shí)，都需要審核一下這些產(chǎn)品和服務(wù)是不是資質(zhì)齊全、合規(guī)，成本會(huì)非常高。只有企業(yè)去維護(hù)可信的環(huán)境，這樣成本才會(huì)最低。而當(dāng)企業(yè)承擔(dān)起這一責(zé)任，才能贏得更多用戶信賴，從而實(shí)現(xiàn)更大發(fā)展。這也是經(jīng)濟(jì)利益驅(qū)動(dòng)的結(jié)果，僅僅從道德上約束很難。

當(dāng)企業(yè)只是從道德上約束員工行為，一旦出現(xiàn)信息不對(duì)稱和利差，很容易滋生腐敗。越從道德上約束企業(yè)，尋租空間和利差就會(huì)越多。所以，還需要建立透明機(jī)制和競(jìng)爭(zhēng)環(huán)境，以及完善法律法規(guī)，這樣才能減少“做惡”的可能。

比起看得見(jiàn)的惡，隱性之惡更值得警惕

張矩強(qiáng)調(diào)，“科技向善”并非僅僅是利用科技來(lái)直接解決社會(huì)問(wèn)題，比如利用互聯(lián)網(wǎng)平臺(tái)籌資做公益，利用人臉識(shí)別技術(shù)尋找失蹤兒童，或者利用數(shù)字化技術(shù)保護(hù)文化遺產(chǎn)，更關(guān)鍵在于要從現(xiàn)有的產(chǎn)業(yè)體系和商業(yè)模式中，反思產(chǎn)品和服務(wù)帶來(lái)的廣泛社會(huì)影響。

游戲造成的沉迷問(wèn)題，短視頻內(nèi)容減弱人的專注力，電商、外賣平臺(tái)帶來(lái)的包裝污染問(wèn)題等。雖然，游戲、短視頻平臺(tái)都對(duì)用戶提醒可以設(shè)置“青少年模式”，但是，這種希望用戶主動(dòng)設(shè)置的選項(xiàng)引導(dǎo)效果有限，只是為了規(guī)避風(fēng)險(xiǎn)和責(zé)任。

對(duì)于平臺(tái)來(lái)說(shuō)，收集了用戶這么多數(shù)據(jù)，是有能力精準(zhǔn)判斷用戶是不是青少年。同時(shí)，游戲背后是大量心理學(xué)專家設(shè)計(jì)出引人入勝的沉浸感，普通用戶很難抗拒。作為負(fù)責(zé)任的企業(yè)，應(yīng)該設(shè)計(jì)讓出現(xiàn)沉迷的用戶走出來(lái)的強(qiáng)制機(jī)制，而不是讓用戶自主去做選擇。同時(shí)，外賣企業(yè)應(yīng)該減少塑料垃圾，甚至投資可回收材料，這是應(yīng)該承擔(dān)的責(zé)任。

在強(qiáng)調(diào)“科技向善”中，最被常提起的維度就是數(shù)據(jù)安全。張矩認(rèn)為，比保護(hù)數(shù)據(jù)和隱私更重要的問(wèn)題是，技術(shù)對(duì)人行為習(xí)慣的塑造，這將會(huì)帶來(lái)怎樣的影響是不可預(yù)估的。在他看來(lái)，技術(shù)更深遠(yuǎn)的影響，是對(duì)人和社會(huì)行為的影響，如果人不能與之適應(yīng)或者嘗試控制，就會(huì)變成很大潛在的問(wèn)題?！爸饔^作惡都是小惡，更大的惡，往往是在‘善的前提下，不知不覺(jué)而造成的不可挽回的后果?！睆埦卣f(shuō)。不過(guò)，人們對(duì)技術(shù)會(huì)有一種天然樂(lè)觀，會(huì)相信等出現(xiàn)問(wèn)題后，各種制度會(huì)慢慢迭代、適應(yīng)，最終風(fēng)險(xiǎn)被化解。

張矩認(rèn)為，因?yàn)楝F(xiàn)在技術(shù)發(fā)展太快，制度、法律、倫理、心智等都跟不上，只有這段時(shí)間很痛苦，等一系列配套措施逐漸完善，這種焦慮和恐懼就會(huì)淡弱。就如工業(yè)革命導(dǎo)致生產(chǎn)大發(fā)展后，羅斯福推行福利政策來(lái)解決勞資矛盾一樣。

以用戶需求為中心不能走偏

不可否認(rèn)，以用戶需求為導(dǎo)向，需求本身存在導(dǎo)向性問(wèn)題。張矩認(rèn)為，根據(jù)馬斯洛理論，用戶的需求是分層次的，精英們希望商業(yè)環(huán)境可以提高人的層次，而不是引誘人們下降一個(gè)層次，但是從商業(yè)化角度看，這件事不可避免。越低的需求層次就越容易控制和滿足。

以美容整形為例，如果以道德為標(biāo)準(zhǔn)來(lái)限制企業(yè)經(jīng)營(yíng)，就會(huì)產(chǎn)生黑市。張矩直言，一些問(wèn)題不是技術(shù)能解決，需要人們升級(jí)自我管理和修養(yǎng)，把一些需求漏洞給堵上，不然永遠(yuǎn)都會(huì)被人利用。即使不是正常利用，也可能是偷偷摸摸利用。在精英社會(huì)體系，高低層次的需求會(huì)呈現(xiàn)一個(gè)平衡態(tài)。但是以美國(guó)為例，隨著特朗普的上臺(tái)會(huì)產(chǎn)生一個(gè)逆轉(zhuǎn)。他所呼吁的訴求，層次越來(lái)越低，并且通過(guò)互聯(lián)網(wǎng)的傳播效應(yīng)，引發(fā)巨大影響和追隨。這也是很多美國(guó)人非常痛苦和悲觀的原因。

在張矩看來(lái)，呼吁人或者呼吁公司向善是營(yíng)造美好社會(huì)的途徑之一，但是絕對(duì)不會(huì)是解決問(wèn)題的辦法?！皬钠髽I(yè)與個(gè)人成長(zhǎng)角度看，企業(yè)要承擔(dān)社會(huì)責(zé)任，個(gè)體要講究誠(chéng)信、正直、尊重他人，這需要回歸到教育和社會(huì)治理體系的完善。當(dāng)人們開(kāi)始不僅僅在乎個(gè)人利益，而是主動(dòng)關(guān)照其他利益相關(guān)者利益時(shí)，才能實(shí)現(xiàn)從內(nèi)到外的向善。”