張?zhí)锟?/p>

隔墻有耳

使用蘋果手機或蘋果產品的人，都知道西瑞（Siri），她（姑且用“她”，因為是女音）是一位智能語音助手，能和用戶進行智能對話。不過，現(xiàn)在她的一種做法讓人驚出冷汗：西瑞被意外激活時，會記錄下來一些聲音，并在用戶不知情的情況下，發(fā)送給蘋果公司“評分員”進行人工評估。

毫無疑問，這是人工智能產生和觸發(fā)的倫理問題，直指人工智能的要害，即人工智能產品是否安全，以及能否保護公眾的個人隱私。

蘋果公司馬上進行了解釋。一是西瑞偷偷錄音并傳給第三者即“評分員”，是為了更好地改善西瑞的功能。二是錄音只是小部分西瑞被自動激活后的結果，而且這些錄音也只有1%被用于評級。三是被偷錄下來的音頻傳送給的第三者只是審核者（評分員），所有審核者都有義務遵守蘋果公司嚴格的保密要求。而且，這些偷錄的音頻時間也很短，通常只有幾秒鐘。也就是說，即便西瑞被激活偷偷錄音并傳給他人，也是可以保密的。

不過，事情并非那么簡單，現(xiàn)有的很多情況表明，西瑞偷錄用戶的聲音隱藏著極大的不安全性。一是西瑞很敏感很興奮，簡直就是一位躁動不安的懷春少女，尤其是手表中的西瑞，只要叫一聲西瑞或出現(xiàn)與西瑞發(fā)音相似的語音，她就會及時應答和被激活。2018年英國國防大臣加文·威廉森在議會發(fā)言中說到敘利亞（Syria）時，就激活了西瑞。

另外，西瑞偷錄下的音頻也并非如蘋果公司所稱的只有幾秒鐘，而是30秒之久，這個時長的錄音足以讓人準確分析出談話內容。

藏不住的隱私

偷偷錄音，其實是許多電子產品、智能軟件的共同做法。目前很多智能產品中都有語音助手，這些語音助手與使用者形成了親密關系，使用者不僅會讓它報時、查詢天氣等，還會跟語音助手聊天。

由于語音助手的智能化還不足以完全通過圖靈測試（一種對于機器的測試，如果機器通過圖靈測試則被認為具有人類智能），就使得用戶與它的聊天成為一件很有意思的事，它可能會答非所問，也可能會與用戶不在一個邏輯平臺，還可能以一種意想不到的答案來回復。凡此種種，都會讓用戶樂不可支，其功能有時相當于寵物狗或寵物貓，能緩解人們的心理壓力。

不過，大多數智能產品的語音助手也擔負著另一項任務：通過錄下與人們的談話過程，對談話的內容、語音、語速和語調等進行分析，對語音做標注和反饋，從而形成人工智能的深度學習算法，以幫助和進一步訓練語音助手，讓其更智能地與用戶通話、聊天。而且還可能通過大數據積累，有朝一日突破圖靈測試，提升人與語音助手交流的可靠性、邏輯性和理性，甚至還具有情感。這也正是人工智能的高級目標。

但是，在搜集和錄下用戶的語言和語音并進行分析時，智能產品的設計者和生產者并不會主動告訴用戶，而且還會把用戶的個人隱私泄露出去。

德國聯(lián)邦議院于2019年7月發(fā)布評估報告稱，美國亞馬遜公司的亞歷克薩（Alexa）語音系統(tǒng)對用戶有風險。亞馬遜公司回復稱，錄制用戶談話的目的是訓練亞歷克薩，以提升其語音服務的質量。盡管亞馬遜在其語音助手設置中增加了一個新選項——允許用戶選擇自己的錄音不被“人工分析”，但這一選項隱藏在隱私設置的子菜單中，不特別注意，往往留意不到，也就會默認可以錄音并用作人工分析的用途。

同樣，谷歌智能助手也在偷錄用戶的語音。據比利時弗拉芒廣播電視臺報道，已有超1000個谷歌智能助手錄音內容被泄露。

當然，偷錄也并非一無是處。2018年10月2日，沙特阿拉伯記者賈邁勒·卡舒吉在進入沙特駐土耳其伊斯坦布爾領事館后，再沒有出來。事后調查確認卡舒吉是在使館內被殺，案件偵破的線索之一就是卡舒吉手上所戴的蘋果手表。案發(fā)時手表中的西瑞被激活，私錄了一段音頻并傳出，進而幫助刑偵人員破案。

天黑請關手機

2018年，微軟發(fā)表了《未來計算》（The Future Computed）一書，其中提出了人工智能開發(fā)的六大倫理原則：公平、可靠和安全、隱私和保障、包容、透明、責任。其實，人工智能的倫理并非只是這6項，至少還應當有知情、同意。

智能產品中的語音助手私自和偷錄用戶的談話內容和語音，顯然是既違背了人工智能的可靠和安全、隱私和保障，但更直接的是違背了知情同意原則。面對這種情況該怎么辦呢？

一方面，政府部門可以依法要求智能手機的生產者停止偷錄用戶的語音。歐洲和美國的監(jiān)管機構和立法機構正在對谷歌、蘋果和亞馬遜進行調查，審核上述三家公司是否涉嫌侵犯用戶隱私，聘用專員聽取用戶使用電子助手時發(fā)出的指令。

另一方面，用戶和政府部門也可起訴手機生產者，法律依據就是歐盟2018年5月25日出臺的《通用數據保護條例》（GDPR）和其他國家關于通信保護和隱私保護的法律。在GDPR中，個人數據的處理有6項法律依據，其中之一就是“同意”。

GDPR第四條第十一款將“同意”定義為：“數據主體的同意是指，數據主體依照其意愿自由做出的、特定的、知情的、明確的指示。通過以聲明或清晰肯定的行為做出的該指示，數據主體表明其同意處理與其相關的個人數據。”現(xiàn)在看來，西瑞偷錄用戶音頻并送至第三方的行為，明顯違背了知情同意原則。

根據GDPR，愛爾蘭數據保護委員會2018年12月宣布，由于“Facebook發(fā)布了一系列用戶數據泄露的通知”，數千萬用戶的個人數據被分享到劍橋分析公司，“委員會”已在調查此案，并且會根據GDPR的規(guī)定對一家公司最高可處以占其全球收入4%的罰款，對Facebook來說，相當于超過15億美元。不過，“這只鞋子還未落地?！?/p>

“已經掉下來的鞋子”是，美國聯(lián)邦貿易委員會（FTC）對Facebook開出了50億美元的和解罰單，這也是FTC開出的史上最大罰單。原因也是，一年前，數千萬Facebook用戶的數據未經用戶知情同意，落入劍橋分析公司手中。盡管美國沒有相同的GDPR法律，但有其他相似的法律和規(guī)定。FTC指控Facebook違反了其2012年與FTC達成的和解令，即Facebook想收集和共享用戶數據，需要獲得消費者的明確同意，但是Facebook違背了知情同意原則。

蘋果的西瑞私自偷錄用戶的私密音頻并傳遞給第三方是否會受到起訴和調查，目前尚不知曉，而且即便鬧到法庭，可能也會一波三折，還會有激烈的攻防戰(zhàn)，但是西瑞的這種偷錄做法顯然已經違背了人工智能的基本倫理，需要有更強硬和詳盡的管理措施。

在問題還沒有解決之前而且又在使用蘋果產品的人該怎么辦呢？可以稍為寬心的是，目前蘋果已停止人工語音分析業(yè)務。但是，用戶也應當自己采取行動，加強隱私保護，比方說，做私密事時摘下蘋果手表或關機。