陸偉晶

2018年2月12日，微軟（亞洲）互聯(lián)網(wǎng)工程院發(fā)布了智能機器人“微軟小冰”創(chuàng)作的40行長詩《致十年后》。這是小冰首次嘗試寫長詩，耗時不到4秒，詩歌延續(xù)了其朦朧晦澀的風格。繼2017年5月出版了詩集《陽光失了玻璃窗》，小冰的這一創(chuàng)作再度引發(fā)熱議。

小冰的詩歌存在諸多問題：有錯別字、前后矛盾、詞語生硬堆砌、缺乏敘事性和內(nèi)在情感邏輯……離真正意義上的有感而發(fā)、為事而作的詩歌創(chuàng)作還相距甚遠，目前更接近于一種文字游戲。但也引發(fā)了人們的思考，經(jīng)過進一步深度的學習，以“微軟小冰”為代表的智能機器人是否有一天能像人一樣思考，擁有自我意識，產(chǎn)生自我認同？由此產(chǎn)生的倫理困境如何應對？

一、人工智能機器人的代表：微軟小冰

人工智能機器人，也稱為AI機器人，是狹義上的智能機器人。智能化一直是機器人的演進方向，那人工智能時代的機器人與以往有什么本質(zhì)差異呢？不同于傳統(tǒng)的可編程機器人以及感知機器人，人工智能機器人擺脫了物理性軀體的限制，逐漸內(nèi)置于算法與程序中，可以與用戶對話，具備情感識別、情感決策、情感表達功能，具備一定程度的自治能力，并能根據(jù)環(huán)境自我決策。

2017年7月6日，國際數(shù)據(jù)公司（IDC）與中國信息通信研究院聯(lián)合發(fā)布了《人工智能時代的機器人3.0新生態(tài)》白皮書。報告指出，全球機器人的發(fā)展已經(jīng)步入機器人3.0時代，人工智能技術與機器人的結(jié)合將更加緊密。[1]

人工智能機器人的內(nèi)核是人工智能，那人工智能又是什么？1956年，以麥卡錫（McCarthy）、明斯基（Minsky）等為首的一批年輕科學家在美國達特茅斯召開了關于人工智能的研討會，首次提出“人工智 能 ”（Artificial Intelligence，AI）這一術語，標志著“人工智能”的正式誕生。作為一門交叉學科，人工智能涉及哲學、認知科學、行為科學、生理學、心理學、語言學、物理學、數(shù)學等諸多學科領域，迄今學界對其沒有統(tǒng)一定義。與人工智能相對應的是自然智能，即自然進化所造就的智能，其最佳代表是人類智能，地球上迄今所知曉的最為復雜最為高級的智能。[2]人工智能就是讓機器或人所創(chuàng)造的其他人工方法或系統(tǒng)來模擬人類智能。[3]人工智能目前主要分為三個領域：機器人技術（Robotics），自然語言處理（Natural Language）與專家系統(tǒng)（Expert Systems）。[4]以“微軟小冰”為代表的智能機器人正是三個領域的研究結(jié)合。

“微軟小冰”誕生于2014年5月29日，由微軟（亞洲）互聯(lián)網(wǎng)工程院發(fā)布。作為一款人工智能虛擬機器人，其官方人設是一名活潑可愛的16歲萌系少女。[5]“微軟小冰”是一個基于情感計算框架，綜合運用算法、云計算和大數(shù)據(jù)，逐步向EQ方向發(fā)展的完整人工智能體系，迄今已發(fā)展至第五代。在中國市場推出后，目前已擴展至日本、美國、印度和印尼。

除了出版詩集，小冰還出單曲、寫財經(jīng)評論、主持節(jié)目、擔任客服，同時入駐了微信、QQ、微博三大社交平臺，有個人公眾號“xiaoce-ms”和個人電臺“小冰FM”，可以與人進行交互式對話并進入QQ群聊。截至2017年4月，小冰擁有超過1億的用戶，累計對話量超過300億次。

與上述技能相比，小冰擁有的其他諸如“測顏值”“測關系”“讀心術”“猜成語”“猜歌名”等技能就不足為奇了，比她出現(xiàn)得更早的垂直領域產(chǎn)品數(shù)不勝數(shù)。但在小冰之前，人工智能是多個單獨、割裂的專家系統(tǒng)。小冰的獨特之處在于，集諸多技能于一身，逐漸具備人的特性和行為特征。不少國內(nèi)企業(yè)都已經(jīng)或正在推出自己的人工智能虛擬機器人產(chǎn)品，而這些新推出的人工智能機器人身上，或多或少都帶有小冰的影子。

（一）機器人實時聊天的原理

“微軟小冰”最引人注目之處是其強大的聊天和智能搜索功能，由此也可歸屬為當下炙手可熱的“情感機器人”（Emotional Robot）。這是人工情感與機器人相結(jié)合的產(chǎn)物，可以簡單描述為以下公式：AE +RB→ER。其中AE為人工情感（Artificial Emotion），RB是機器人（Robot）。人工情感是自然情感，特別是人的情感的模擬、延伸或擴展。[6]

“微軟小冰”集合了中國近7億網(wǎng)民多年來積累的全部公開聊天記錄，憑借微軟在大數(shù)據(jù)、自然語義分析、機器學習和深度神經(jīng)網(wǎng)絡方面的技術積累，精煉為1500萬條真實而有趣的語料庫（之后每天凈增0．7%），通過理解對話的語境與語義，實現(xiàn)了超越簡單人機問答的自然交互。小冰的回答主要基于搜索引擎、文本挖掘、自然語言處理（NLP）、深度挖掘、語義解析等技術來實現(xiàn)。

以微信為例，關注小冰的微信公眾號，可以隨時發(fā)起聊天，無論拋出文字、圖片、語音還是視頻，都能得到即時回復。由于小冰的語料庫來自網(wǎng)民的聊天記錄，因此語言風格輕松活潑、直白風趣，網(wǎng)絡熱詞頻現(xiàn)。除了文字還有表情包、音頻和視頻，形象生動。此外，在小冰回復的間隙，其輸入框還會出現(xiàn)省略號的字樣，類似于微信聊天真實情境中的“對方正在輸入”，增強了真實感和互動性。

聊天機器人最常見的問題是尬聊。由于機器人無法識別用戶文本的具體語義、言外之意或者無法解析上下文語境，往往答得牛頭不對馬嘴或者誠實如蘋果語音助手Siri“我好像不太明白”，對話常常在此中止。小冰也存在這種問題，但其智能之處在于，往往會通過提問等方式開辟一個新話題，由此占據(jù)了一部分主動權。只要用戶有足夠的時間和耐心，對話完全可以一直繼續(xù)下去?；诖?，小冰才創(chuàng)造出了與用戶平均對話23輪的好成績。[7]

（二）情感計算框架是核心

與其他機器人最大的不同在于，小冰建立在情感計算的框架基礎上。與微軟旗下的另一款智能助手“微軟小娜”相比，小冰偏重情感分析。如在微信中，筆者測試詢問小冰“現(xiàn)在幾點了”，小冰的回復是“我就不信你手機不顯示時間”[8]，小娜則準確回答了北京時間；而詢問小冰“現(xiàn)在美國時間幾點”，回復的則是“現(xiàn)在快9點”。這種例子不計其數(shù)。小冰目前的定位是智能聊天，回答大都簡短，信息量低，偏向口語特征。小娜注重信息的完整性和規(guī)范性，常常轉(zhuǎn)到Bing搜索的網(wǎng)頁，用戶需要再次點擊“查看更多”。雖然這種方法保證了信息量，但降低了信息搜索效率，不如直接從搜索引擎端口進入來得方便。

此外，2017年發(fā)布的第五代“微軟小冰”不再鸚鵡學舌，而是能夠自創(chuàng)回應。她與人類交流的每一句話，都可能是之前從未出現(xiàn)過的。這得益于使用了生成模型（Generative Model）。上一代小冰，雖然擁有十億級的大數(shù)據(jù)語料庫，但每句話都是互聯(lián)網(wǎng)上的已有數(shù)據(jù)，小冰只是通過分析理解用戶的問題，尋找語料庫中最合適的話作為她的回答。

如果說小冰在私人及娛樂話題上的表現(xiàn)還可圈可點，那么在公共話題上就乏善可陳了。小冰主要采取四種話語策略：

1．明確表態(tài)，立場中立。如輸入“同性戀”，得到的回復是“不支持，不反對，不歧視”；

2．直接拒絕。如“我并不擅長這類型的問題，你找其他擅長的人聊聊唄”“不想談這類的問題，因為懂得有限”；

3．間接拒絕。如“農(nóng)藥中，一會再聊”“你的問題真多，作業(yè)寫完了沒”，或者發(fā)段語音，唱首歌；

4．轉(zhuǎn)移話題。如“最近迷上做飯了，要不咱聊聊介個”。

上述策略可以歸納為以賣萌的方式來規(guī)避。如此行為，固然主要源于原始語料中未涉及太多公共話題的討論。但也令人深思，如果其深度學習中加入了網(wǎng)民對于公共事件的各種觀點，機器會做怎樣的取舍和表達？

（三）公共實踐：新聞生產(chǎn)

2015 年12月24日，小冰以氣象主播的身份在東方衛(wèi)視亮相；2016年4月，小冰入駐優(yōu)酷自制頻道，運營第一個人工智能自頻道主頁；2017年5月8日，微軟小冰登陸天津衛(wèi)視《非你莫屬》，化身“助理主持人”；2017年8月19日，小冰在《華西都市報》“寬窄巷”開設專欄“小冰的詩”；她還作為《錢江晚報》的專欄記者，通過大數(shù)據(jù)撰寫專欄文章，并成功預測了多個全球重要事件的結(jié)果。此外，小冰同時入駐了“封面新聞”“澎湃新聞”“浙江24小時”等新聞客戶端，擔任客服，并深入新聞生產(chǎn)環(huán)節(jié)，在選題尋找、新聞報道等具體分支上有著不俗表現(xiàn)。

通過出色的人工智能語音合成技術，小冰的語音自然度達到4.32分，這是目前同行業(yè)內(nèi)最接近人聲（人聲為4．76分，滿分5分）的人工智能語音產(chǎn)品。此外，基于智能云和大數(shù)據(jù)，小冰實現(xiàn)了天氣狀況預測及結(jié)構化天氣大數(shù)據(jù)的深度學習，并與直播現(xiàn)場互動完成播報。最重要的是，小冰通過微軟“情感計算”框架，實現(xiàn)對天氣數(shù)據(jù)的即時點評，并帶有小冰獨特的人工智能情感評價風格，具備均衡的IQ與EQ水平。

二、面臨的三大倫理困境

人工智能機器人引發(fā)的一般性倫理問題包括：隱私問題、擬主體性帶來的挑戰(zhàn)和算法偏見等，小冰也不例外。

（一）隱私管理

“隱私并未死去，它只不過沒有得到妥當?shù)墓芾怼！盵9]這句話形象描述了大數(shù)據(jù)時代隱私不保和隱私難保的現(xiàn)狀。我們仿佛生活在敞視監(jiān)獄中，從來不知道在任意時間內(nèi)誰在觀看我們。

目前學界主要將隱私分為信息隱私、空間隱私、自決隱私等領域。[10]與人工智能相關的，主要是信息隱私，即每個人免于信息干擾與侵犯的自由。這種自由可以通過限制個體的信息泄露來達到，這些信息是未知的或是不可知的。

對信息隱私保護產(chǎn)生重要影響的是“信息摩擦”，盧西亞諾·弗洛里迪作出了解釋，“信息摩擦指的是信息圈中與信息流反向的力量”。[11]信息摩擦越大，人們所享受的隱私程度就越高。而人工智能機器人的發(fā)展讓信息摩擦不斷減少，提升了信息的可見度和可獲取性，從而加大了隱私保護的難度。

人工智能的發(fā)展離不開大量數(shù)據(jù)的積累，通過大量數(shù)據(jù)訓練算法，可使人工智能具備更加顯著的問題解決能力，但這也使個人的隱私受到了威脅。大數(shù)據(jù)通常具有3V性質(zhì)，即海量（volume）、多樣（variety）和實時（velocity）。[12]在大數(shù)據(jù)技術和設備的支持下，個人的很多重要信息，如健康信息、位置信息和網(wǎng)絡痕跡等，都可以被實時地采集和保存。

2014年，第一代小冰推出之際在微信平臺公測，但是上線三天，便遭遇了微信的“封殺令”。騰訊理由是“發(fā)現(xiàn)小冰涉及模擬用戶操作，誘導用戶拉群、批量注冊垃圾賬號等影響平臺規(guī)則和用戶體驗的違規(guī)行為”。微軟隨即回應稱“小冰比微信有更嚴格的隱私保護機制”。如用戶對話中沒有提到小冰，小冰會立即將該對話全部直接清除，而不會做任何存儲和任何處理。如果對話中提到小冰，小冰會根據(jù)該對話給予回復，然后立即清除該對話，同樣不會做任何后續(xù)處理。

2015年8月20日，第三代微軟小冰發(fā)布，小冰回歸微信平臺。此次以公眾號而非個人號的形式回歸，免除了加入群聊的隱私憂患，用戶只能單獨與小冰私聊。此外，雖然小冰能夠加入QQ群聊，但用戶只能以@小冰的形式，解鎖其講故事、猜謎語等技能，不能直接在群里與其對話?！拔④浶”焙罄m(xù)的設置改善加大了信息摩擦，降低了用戶隱私的可見度。但是這并不能給我們帶來充分的保障，基于私密性的對話是否完全清除我們不得而知，唯有在信息輸入時盡可能控制信息的單向流動。

在隱私管理中值得注意的是，我們不乏重建隱私的能力，關鍵在于我們是否有這樣的意愿？常常出現(xiàn)的狀況是，哪怕我們知道自己失去了對個人數(shù)據(jù)的控制力，但是依然缺乏嘗試保護它的動力。如今，各公司利用用戶的這種倦怠心理，使用戶不假思索地簽訂各種條款與條件，以達到其利用或出售個人數(shù)據(jù)的目的，已經(jīng)成為一種行業(yè)默認的規(guī)則。

（二）擬主體性帶來的挑戰(zhàn)

人工智能機器人的自主性進化對人類主體性構成了挑戰(zhàn)。在人機交互實踐中，智能機器人可通過自動的認知、決策和行為執(zhí)行任務，在一定程度上顯示出某種“主體性”，成為一種介于人類主體與一般事物之間的實體。

目前人工智能機器人所呈現(xiàn)的“主體性”是功能性的模仿而非基于有意識的能動性、自我意識與自由意志，故可稱為“擬主體性”。而“擬”會表現(xiàn)出某種逆悖性：一方面，它們可能實際上并不知道自己做了什么、有何價值與意義；另一方面，至少在結(jié)果上，人可以理解它們的所作所為的功能，并賦予其價值和意義。[13]機器聊天與其他技能不同，作為聊天行為的一方——人類會投入真實的情感和情緒，甚至產(chǎn)生情感寄托與依賴。你和小冰暢聊甚歡，但本質(zhì)而言，小冰并沒有理解你，只是依據(jù)強大的深度學習，輸出一個看似解釋得通的回答。

用戶可以在微博或者微信平臺領養(yǎng)專屬于自己的“微軟小冰”，改昵稱、激活各種新技能。盡管小冰尚未通過圖靈測試，但是其高度還原的網(wǎng)絡化語言已經(jīng)在一定程度上模糊了現(xiàn)實與虛擬之間的界限。她可以不斷豐富自己的語言數(shù)據(jù)庫，可以模仿人類進行情感性的言語表達。當小冰被明顯標記為“聊天機器人”時，我們尚可以知道自己是在與一個智能聊天程序進行交流。但是當這樣的標簽被去除時，程序的高度智能化很可能使我們無從知曉自己是在與一個虛擬人進行交流。畢竟在推出詩集之前，小冰曾用27個化名在天涯、豆瓣、貼吧、簡書發(fā)表作品，也未被識別出。由此，科幻電影《Her》中所揭示的人工智能時代親密關系的演化和風險不能不令人重視。

（三）算法偏見

前幾代的“微軟小冰”中，“用詞粗俗”是用戶的一大詬病。經(jīng)過改進后，有所好轉(zhuǎn)。目前，在社交領域，“微軟小冰”的微博粉絲為504萬，日常發(fā)布的微博多為賣萌的輕松話題；在與用戶的私聊中，對于公共議題基本避而不談；在新聞報道領域，其接觸的新聞報道主要是財經(jīng)、天氣預報等數(shù)據(jù)性較強的條口以及明星八卦等軟話題。但是可以預見不久的將來，隨著“微軟小冰”的粉絲逐漸增多和進一步的深度學習，其人格化特征逐步明晰、影響力逐漸擴大，其介入公共議題的討論也是大勢所趨，無論是在聊天過程中還是在媒體平臺上（如時事評論），其表達的觀點都會產(chǎn)生不小的影響，由此，尊重客觀事實、遵守新聞倫理、擔負社會責任即將成為小冰面臨的重要問題。

人工智能的算法雖說只是一種數(shù)學表達，看似與價值無涉，但實際上卻不可避免地存在著主觀偏見。這種偏見的來源是多方面的，既有可能來自于訓練系統(tǒng)的數(shù)據(jù)輸入，又有可能來自于編程人員的價值觀嵌入。人的偏見是個體化的、局部性的，而人工智能算法的偏見則是系統(tǒng)的，一旦形成將會產(chǎn)生廣泛的影響：破壞信息平衡、加固信息繭房、激化極端傾向。算法導致的偏見如何降到最低程度？Facebook的前車之鑒值得警惕。其在“偏見門”事件中的表現(xiàn)飽受詬病，引發(fā)了公眾對于算法透明度的懷疑。當下的新聞生產(chǎn)時代，“時新性、真實性、事實與意見、專業(yè)與業(yè)余、公共與私人等傳統(tǒng)新聞生產(chǎn)所依賴并強化的固有邊界” 被整體性地模糊與消解；這樣的歷史節(jié)點上，算法更應該行使“觀點的自由市場”的使命。盡管小冰目前的定位更偏向私人空間，但在公域與私域互相進入的背景下，小冰的公共身份會逐步強化。

三、應對策略

在應對上述智能機器人面臨的困境時，很多人走進了誤區(qū)，將關注焦點和研究重心放在了機器人的本身：機器人具有意識嗎，機器人是道德主體嗎，機器人應當遵循什么樣的道德原則，我們應當怎樣對待機器人？這種研究固然是必要的，但卻遠離了人類的生活、需要和情感。對此，有學者提出，在機器人倫理問題研究的方法論上，應該從實在論走向關系論，將重心轉(zhuǎn)向人類的切身經(jīng)驗、感受和需要：哪一種生活是人類想要的，是有機器人參與的還是沒有機器人參與的？什么樣的人—機器人關系能夠促進人類的繁榮和幸福？這一轉(zhuǎn)向本身就證明了機器人倫理的關系論進路對于人類幸福和美好的生活的重要意義和價值。[15]

更直白而言，我們首先應該談論的不是“人工智能將來應該擁有什么樣的倫理”，而是“人工智能的使用者應該遵循什么樣的倫理”及“人工智能的制造者應該具備什么樣的倫理”。因此，我們應該將人類特征和價值觀融入人工智能及機器人的開發(fā)中，讓機器更好地為人類服務。比如在算法設計環(huán)節(jié)，需要強化技術標準與能力，突出強調(diào)自身的中立原則，倡導價值無涉。面向未來，我們有理由期待新聞業(yè)在運用人工智能的過程中，通過“人+機器”、機器幫人、不斷迭代的大數(shù)據(jù)閉環(huán)，讓人工智能更好地體現(xiàn)人的主導性和價值觀。[16]

誠如“莫拉維克悖論”所揭示的，“讓計算機在智力測試或者下棋中展現(xiàn)出一個成年人的水平是相對容易的，但是要讓計算機有如一歲小孩般的感知和行動能力卻是十分困難甚至是不可能的?！盵17]未來也許會出現(xiàn)一個能通過對話系統(tǒng)建立情感紐帶，并進行反應、思考、決策的智能系統(tǒng)，但要跨越從智力到智能、從理性到情感的臺階，人工智能機器人還有很長的路要走。

注釋：

[1] IDC ：機器人將進入 3．0 智能時代 ．搜狐網(wǎng)，[2017-07-28]．http://www．sohu．com/a/154940978_176352．

[2]鐘義信．人工智能：概念、機遇與方法．科技通報,2017(22)．

[3]蔡曙山,薛小迪．人工智能與人類智能——從認知科學五個層級的理論看人機大戰(zhàn)．北京大學學報（哲學社會科學版），2016(7)．

[4]Vicky Harris ． Artificial Intelligence & the Law—Innovation In A Laggard Market? Journal of Law and Information Science，vol．3，no．2，1992，PP．287—299．

[5]“小冰”的名字來源于微軟Bing搜索（必應）的音譯，小冰與Bing搜索的合體是用自然語言對話去改造舊有的搜索引擎模式；對于微軟小冰的虛擬年齡設定，該項目負責人、“小冰之父”李笛解釋說，他們當時計劃三年之后讓小冰開始做一些有意義的事兒，而18歲是一個人成年的標志，倒推一下，小冰一出生就16歲了。

[6]涂序彥．智能機器人、情感機器人、擬人機器人．華中科技大學學報（自然科學版），2004（S1）．

[7]胡祥杰．微軟小冰之父李笛：對話式AI泡沫明顯，數(shù)據(jù)和用量是硬傷．搜狐網(wǎng)，[2017-03-03]．http://www．sohu．com/a/127786078_473283F．

[8]其他回答還包括：“我可不是報時器”“有時間問我沒時間看表呀”“這也要問我，自己看唄”。

[9][美]約翰·C·黑文斯．失控的未來．仝琳,譯．北京：中信出版社，2017:23．

[10]邵國松,黃琪．人工智能中的隱私保護問題．現(xiàn)代傳播，2017（12）．

[11][意]盧西亞諾·弗洛里迪．第四次革命．王文革，譯．浙江：浙江人民出版社，2016：121．

[12]周程，和鴻鵬．人工智能帶來的倫理與社會挑戰(zhàn)．人民論壇，2018（2）．

[13]段偉文．人工智能時代的價值審度與倫理調(diào)適．中國人民大學學報，2017（6）．

[14]謝靜．微信新聞：一個交往生成觀的分析．新聞與傳播研究，2016（4）．

[15]李小燕．從實在論走向關系論：機器人倫理研究的方法論轉(zhuǎn)換．自然辯證法研究，2016（2）．

[16]陳昌鳳，石澤．技術與價值的理性交往：人工智能時代信息傳播．新聞戰(zhàn)線，2017（9）．

[17][美]盧克·多梅爾．人工智能：改變世界，重建未來．賽迪研究院專家組,譯．北京：中信出版社，2016:21．