浙江經(jīng)貿(mào)職業(yè)技術學院 高雅斯，張先良

一、概述

（一）數(shù)字經(jīng)濟

數(shù)字經(jīng)濟指的是人類運用信息化手段通過大數(shù)據(jù)實現(xiàn)社會資源的快速優(yōu)化配置與再生以及經(jīng)濟高質(zhì)量發(fā)展的經(jīng)濟形態(tài)。目前我國已經(jīng)進入了數(shù)字經(jīng)濟時代，數(shù)據(jù)和知識產(chǎn)權成了重要的生產(chǎn)要素。[1]數(shù)字技術給社會發(fā)展帶來了新的活力，運用數(shù)字技術推動經(jīng)濟發(fā)展、改善社會治理體系、提高政府服務質(zhì)量和監(jiān)管能力、提高企業(yè)工作效率已經(jīng)成為社會發(fā)展新趨勢。數(shù)字經(jīng)濟的產(chǎn)生是基于成千上萬甚至數(shù)以億計的虛擬用戶人口，以數(shù)據(jù)和知識產(chǎn)權為核心，創(chuàng)造企業(yè)和社會價值的經(jīng)濟形勢。

（二）數(shù)字設計

數(shù)字設計（digitaldesign）是20世紀90年代“藝術”與“科技”進行結合后而產(chǎn)生的一種新的設計方式。在互聯(lián)網(wǎng)高度發(fā)達的時代，以“數(shù)據(jù)化”人工智能技術的發(fā)展，使得數(shù)字設計所涉及的學科、影響的領域愈加廣泛，例如廣告、影視、游戲、建筑、工業(yè)設計、紡織、醫(yī)療等領域。從以智能手機為代表的數(shù)字產(chǎn)品的出現(xiàn)到迅速普及，數(shù)字產(chǎn)品的即時傳播從影響當?shù)匦》秶袌鰯U大為擁有全球的受眾的媒介，數(shù)字設計對整個社會氛圍和個人生活的影響都非常深遠。

（三）設計倫理

“設計倫理”的概念最早是在維克多巴巴納克在《為真實的世界設計》中提出的，強調(diào)設計必須考慮人、環(huán)境、資源等因素，實現(xiàn)各種價值的統(tǒng)一平衡。2013年德國漢諾威工業(yè)博覽會上正式提出了第四次工業(yè)革命的概念，也就是所謂的工業(yè)4.0（Industry4.0）。我國從2015年5月，國務院正式印發(fā)《中國制造2025》部署全面推進實施制造強國戰(zhàn)略，到2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理”8條原則。從政策制定和執(zhí)行的進度可以看出，信息技術的發(fā)展從單純技術層面的重視，到技術與道德的并重，對新經(jīng)濟時代的設計倫理規(guī)范提出了新要求。

數(shù)字產(chǎn)品的人工智能化趨勢，使數(shù)字產(chǎn)品出現(xiàn)高智趨勢，給人與人、人與社會之間的關系帶來了巨大的挑戰(zhàn)。

傳統(tǒng)的“只重視使用價值和審美價值辯證統(tǒng)一的原則”，已經(jīng)無法作為復雜社會倫理問題的設計行為和設計現(xiàn)象的評價標準。道德價值作為“物”的評價標準，在數(shù)字產(chǎn)品設計的最終階段存在著一定程度的不可逆性，那么關于設計倫理的討論在人工智能產(chǎn)品的設計過程中時是無法避免的。

二、數(shù)字設計的設計倫理

（一）人工智能影響下的數(shù)字設計發(fā)展現(xiàn)狀

人工智能的發(fā)展無疑是信息科學中最令人期待的領域之一，同時計算機科學、神經(jīng)網(wǎng)絡等技術的發(fā)展，將人工智能應用到了更廣闊的領域中。這類技術的應用對各個交叉學科產(chǎn)生了深遠影響，例如社會學、心理學等，形成了新的知識網(wǎng)絡和學科體系。

在數(shù)字經(jīng)濟時代，科技公司已經(jīng)擁有成百上萬甚至數(shù)億的用戶群虛擬人口。政府、企業(yè)依靠虛擬人口的數(shù)據(jù)來優(yōu)化促進社會發(fā)展。而做為虛擬人口本身，他們在計算機、手機、平板等人工智能產(chǎn)品上所花費的時間已經(jīng)大大超過了他們所喜歡的城市空間，人工智能產(chǎn)品正在改變著人們的日常生活習慣、傳統(tǒng)居住環(huán)境甚至是思維模式。一方面信息處理效率的提高，使人們更為廣泛地參與到社會互動中；另一方面，知識冗余與信息轟炸制造出的選擇困境和需求支配困擾著用戶。

（二）數(shù)字產(chǎn)品設計的倫理挑戰(zhàn)

人類作為社會主體，使得機器一直處于從屬地位。從數(shù)字產(chǎn)品的初誕生到人工智能技術的加持，產(chǎn)品的服務對象始終是人。數(shù)字設計的受眾范圍的擴大，意味著產(chǎn)品設計、使用過程中會面臨各種各樣的問題，如高科技造假、技術使用的安全、數(shù)據(jù)安全等。這些潛在的隱患，無論在哪個行業(yè)都會遇到，只有當客觀認知到這些問題時，才能從數(shù)字設計的各個環(huán)節(jié)中尋找到適當?shù)慕鉀Q方案。

數(shù)字經(jīng)濟的競爭是一個無硝煙的戰(zhàn)場，無數(shù)企業(yè)的發(fā)展進入了成熟階段，科技巨頭的出現(xiàn)使企業(yè)并購速度加劇，行業(yè)壟斷現(xiàn)象不斷增多。壟斷地位的企業(yè)決定了行業(yè)的發(fā)展方向以及道德底線。作為行業(yè)引領者，壟斷企業(yè)對數(shù)據(jù)的使用方式?jīng)Q定了數(shù)據(jù)資源的生長方式是適度經(jīng)營還是野蠻生長。數(shù)據(jù)作為人工智能技術的資產(chǎn)、數(shù)字設計的核心要素，存在一定程度的粗放化運用。此現(xiàn)象主要體現(xiàn)在科技企業(yè)通過所運營的數(shù)字產(chǎn)品對用戶個人隱私數(shù)據(jù)的收集和利用，例如廣告追蹤、用戶數(shù)據(jù)的保密等。

在價值敏感設計（Value Sensitive Design/ASD）理論中，Batya Friedman提到了基于某些原始數(shù)據(jù)所帶來的不公平的現(xiàn)象：國家、社會組織中已存在的行為和態(tài)度偏見；某些工具設計缺陷導致的技術偏見以及某些用戶使用過程中的突發(fā)偏見。人工智能的特點之一是真實地記錄、描述原始數(shù)據(jù)的特征，將一些習以為常的問題暴露在數(shù)據(jù)中。但如果缺乏對數(shù)據(jù)的辨別能力，則會進一步放大已存在的偏見現(xiàn)象，加大社會的矛盾。例如2012年Facebook的一項研究試圖通過優(yōu)先考慮快樂或不愉快的新聞提要故事來分析“情緒傳染”。該公司沒有征求689,000名參與者的知情同意（而是依靠現(xiàn)有的服務條款），也沒有考慮對抑郁癥用戶的潛在影響。類似現(xiàn)象還有某些數(shù)字產(chǎn)品殺熟現(xiàn)象、某些行業(yè)的性別的差異以及社會缺乏對弱勢、少數(shù)特殊群體關注等。

（三）關于數(shù)字產(chǎn)品設計倫理問題的建議

政府和企業(yè)在數(shù)字產(chǎn)品設計中分別從被動和主動兩個方面影響著數(shù)字設計的倫理道德——數(shù)字產(chǎn)品道德底線的維護者和數(shù)字產(chǎn)品的決策者。政府所制定的法律法規(guī)作為道德的底線，決定著產(chǎn)品決策者的最低道德水平，因此政府在數(shù)據(jù)所有權和使用權上做出了明確的劃分和規(guī)定，設置了數(shù)據(jù)使用壁壘，有助于維護設計倫理。而企業(yè)作為數(shù)字設計的最終決策者，完整的道德評估系統(tǒng)標準，能有效規(guī)范數(shù)字設計的過程，將設計倫理融入數(shù)字產(chǎn)品設計的各個環(huán)節(jié)中，確保每個環(huán)節(jié)都能尊重數(shù)據(jù)地提供者。

作為設計師應具有職業(yè)道德，需要確保所設計的產(chǎn)品對世界有益。設計師作為人工智能產(chǎn)品創(chuàng)造的核心，在維護產(chǎn)品運營的過程中發(fā)揮著核心作用，而另一方面設計師不僅可以增強用戶體驗，還可以保護用戶。第一，數(shù)字設計師可以通過積極參與團隊內(nèi)部對話，倡導用戶需求，強調(diào)道德問題。設計團隊內(nèi)部的對話是關鍵性設計倫理問題得到解答的方式，通過設計師在團隊內(nèi)部的學習和討論，明確需要深入研究的領域，并在過程中反復思考道德的標準問題。第二，讓數(shù)字產(chǎn)品在訪問的無縫性和用戶的可訪問之間保持健康的平衡?，F(xiàn)階段，“智能化”“無人化”之類的無人工干預的人工智能產(chǎn)品對設計團隊來說很有吸引力，但是無人工干預的人工智能產(chǎn)品容易失去監(jiān)管。而可訪問的產(chǎn)品則可以吸引有好奇心的用戶了解產(chǎn)品在做什么、收集了哪些數(shù)據(jù)以及數(shù)據(jù)的去向。以此讓用戶能夠隨時監(jiān)督數(shù)據(jù)的使用規(guī)范。第三。數(shù)據(jù)設計師可以推動團隊的多元化，創(chuàng)造出具有包容性的產(chǎn)品。

三、結論

物聯(lián)網(wǎng)帶來的超連通浪潮，將技術嵌入了日常物體中，給整個社會帶來了一系列新的道德挑戰(zhàn)。我們的公共空間和家庭很快就會點綴著可以收聽我們所說的每個單詞的連接設備，或收集有關我們體重、愛好和財產(chǎn)等敏感數(shù)據(jù)。好處可能是驚人的——但濫用的風險也是如此。另外，政府通過對數(shù)據(jù)權利與權力的規(guī)定，明確數(shù)據(jù)權限；企業(yè)通過建立產(chǎn)品的道德評估標準，加強對產(chǎn)品的道德評估，規(guī)范產(chǎn)品的社會效益；數(shù)字設計師從創(chuàng)造到維護數(shù)字產(chǎn)品的過程中，維護數(shù)字產(chǎn)品各個流程進行的環(huán)境，設立積極的數(shù)據(jù)使用監(jiān)督和反饋機制，積極倡導設計道德倫理。從設計師個人的責任感輸出，到企業(yè)對智能產(chǎn)品的設計倫理評估，人們更應該考慮數(shù)字產(chǎn)品的社會、法律和道德影響。作為人類創(chuàng)造出來的人工智能產(chǎn)品，產(chǎn)品本身不具有道德感，產(chǎn)品的功能屬性可能會在使用過程中被用戶產(chǎn)生“誤讀”，但作為產(chǎn)品的研發(fā)企業(yè)來說，在設計和提供服務的同時，更應該去規(guī)避潛在被誤用或者濫用的情況，以實現(xiàn)數(shù)字環(huán)境的凈化以及數(shù)據(jù)經(jīng)濟的健康可持續(xù)發(fā)展。

相關鏈接

2018年10月，安徽省財政每年專項安排2億元支持數(shù)字經(jīng)濟項目；對總部新落戶安徽省的全國電子信息百強企業(yè)給予獎補200萬元；“數(shù)字經(jīng)濟領軍企業(yè)”將獲獎補100萬元……安徽省印發(fā)《支持數(shù)字經(jīng)濟發(fā)展若干政策》，全面支持數(shù)字經(jīng)濟各領域發(fā)展。

為深入貫徹國家數(shù)字經(jīng)濟發(fā)展戰(zhàn)略，安徽省出臺了含金量高的“數(shù)字經(jīng)濟政策”，主要包括十個方面內(nèi)容，具體包括支持數(shù)字技術創(chuàng)新，主要是支持建設工業(yè)互聯(lián)網(wǎng)創(chuàng)新中心；培育“互聯(lián)網(wǎng)+制造”示范，對制造業(yè)與互聯(lián)網(wǎng)融合、工業(yè)互聯(lián)網(wǎng)、大數(shù)據(jù)產(chǎn)業(yè)、軟件“鑄魂”工程等領域的國家級試點示范企業(yè)（項目）給予一次性獎補，最高100萬元。