劉瑞琳,陳 凡

(東北大學(xué)科學(xué)技術(shù)哲學(xué)研究中心,遼寧沈陽 110819)

技術(shù)設(shè)計(jì)的創(chuàng)新方法與倫理考量
——弗里德曼的價值敏感設(shè)計(jì)方法論述評

劉瑞琳,陳 凡

(東北大學(xué)科學(xué)技術(shù)哲學(xué)研究中心,遼寧沈陽 110819)

價值敏感設(shè)計(jì)是一種關(guān)于技術(shù)設(shè)計(jì)的創(chuàng)新理論方法,它從價值與技術(shù)設(shè)計(jì)相互作用的角度辯證地看待技術(shù)設(shè)計(jì)和社會環(huán)境,采用概念、經(jīng)驗(yàn)和技術(shù)調(diào)查的三重研究方法,強(qiáng)調(diào)技術(shù)設(shè)計(jì)過程中道德價值的輸入,致力于在技術(shù)設(shè)計(jì)階段有效解決技術(shù)中的倫理問題。價值敏感設(shè)計(jì)提倡設(shè)計(jì)師充分考量技術(shù)用戶及其他利益相關(guān)者的道德感受和價值訴求,具有很強(qiáng)的現(xiàn)實(shí)意義和一定的先進(jìn)性,但仍可能面臨某些質(zhì)疑。價值敏感設(shè)計(jì)的實(shí)踐應(yīng)用會受到技術(shù)中諸多復(fù)雜因素的影響,仍需要不斷地完善和發(fā)展。

技術(shù)設(shè)計(jì);價值敏感設(shè)計(jì);技術(shù)倫理;芭提雅·弗里德曼

信息系統(tǒng)的設(shè)計(jì)一直以來的研究旨趣在于維系人類亙古不變的價值,如隱私、所有權(quán)和財產(chǎn)權(quán)、物質(zhì)幸福、公正、通用性、自主性、知情同意、信任等,但信息系統(tǒng)對這些價值損益兼而有之。例如,旨在增強(qiáng)公民和國家安全而安裝于銀行、商場和機(jī)場的監(jiān)控攝像頭,往往侵害了個人隱私;網(wǎng)絡(luò)上的海量圖像和文字大大拓展了可用信息量,但由此帶來的知識侵權(quán)問題不容忽視。為了應(yīng)對信息技術(shù)人機(jī)交互領(lǐng)域的進(jìn)步和發(fā)展帶來的角色和利益關(guān)系的轉(zhuǎn)變,美國華盛頓大學(xué)信息學(xué)院教授芭提雅·弗里德曼(Batya Friedman)等于20世紀(jì)90年代前后提出一個在信息技術(shù)設(shè)計(jì)的早期階段解決倫理問題的方法,致力于提供一個“在設(shè)計(jì)過程中以原則性和全面性的方式詮釋和維系人的價值”[1]1的方法論體系來處理設(shè)計(jì)工作的上述價值維度,即價值敏感設(shè)計(jì)(value sensitive design),以期為其他研究人員和設(shè)計(jì)師的研究和方法體系的系統(tǒng)構(gòu)建提供足夠的細(xì)節(jié)參考[2]1。

一、弗里德曼的價值敏感設(shè)計(jì)研究歷程

弗里德曼是華盛頓大學(xué)信息學(xué)院教授、計(jì)算機(jī)科學(xué)研究所兼職教授、人性化工程研究所兼職教授及價值敏感設(shè)計(jì)研究實(shí)驗(yàn)室?guī)ь^人。1979年獲得美國加州大學(xué)伯克利分校學(xué)士學(xué)位,1988年獲得美國加州大學(xué)伯克利分校博士學(xué)位。2012年獲得SIG-CHI(special interest group on computer human interaction)社會貢獻(xiàn)獎。

弗里德曼的價值敏感設(shè)計(jì)研究首先在人機(jī)交互中發(fā)展,至今已經(jīng)被應(yīng)用于信息管理、人與機(jī)器人交互、計(jì)算機(jī)安全、土木工程、應(yīng)用哲學(xué)、土地使用和運(yùn)輸?shù)阮I(lǐng)域。價值敏感設(shè)計(jì)在弗里德曼的研究中一以貫之,得到了廣泛的使用和驗(yàn)證。

弗里德曼從20世紀(jì)90年代就已從事計(jì)算機(jī)技術(shù)設(shè)計(jì)和人類價值的相關(guān)研究。較早的相關(guān)研究文獻(xiàn)為1992年的《人類(人道)使用的計(jì)算機(jī)系統(tǒng)設(shè)計(jì)》和《人類主體與負(fù)責(zé)任計(jì)算:計(jì)算機(jī)系統(tǒng)設(shè)計(jì)的啟示》(1997年再版時更名為《人類價值和計(jì)算機(jī)技術(shù)設(shè)計(jì)》)。弗里德曼關(guān)于價值敏感性設(shè)計(jì)的敘述最早見于她1996年發(fā)表于《交互》(Interactions)雜志“看法”(perspective)欄目的《價值敏感性設(shè)計(jì)》。在這篇文章中,弗里德曼討論了兩個價值即用戶自主性和公正無偏見,總結(jié)了關(guān)于價值敏感設(shè)計(jì)重要性的幾點(diǎn)思考:對價值敏感設(shè)計(jì)實(shí)施的合理限制和價值敏感設(shè)計(jì)如何對經(jīng)濟(jì)授權(quán)作補(bǔ)充。

2000年之前弗里德曼的研究主題側(cè)重于計(jì)算機(jī)系統(tǒng)設(shè)計(jì)中的人為因素,如1992年《人類主體與負(fù)責(zé)任計(jì)算:計(jì)算機(jī)系統(tǒng)設(shè)計(jì)的啟示》,1995年《計(jì)算機(jī)系統(tǒng)中的偏見最小化》。

2000—2008年,弗里德曼主要關(guān)注網(wǎng)絡(luò)瀏覽器的安全性和人的價值,探討網(wǎng)頁瀏覽器設(shè)計(jì)中的價值敏感性,不斷完善關(guān)于價值敏感設(shè)計(jì)的理論與方法,并與多人合作,研究興趣擴(kuò)展至智能機(jī)器人及城市模擬和大型顯示器的科技屬性領(lǐng)域。如2002年的《火狐瀏覽器中的知情同意:價值敏感設(shè)計(jì)的實(shí)現(xiàn)》;2003年的《兒童與人工智能機(jī)器狗的互動編碼手冊——學(xué)前教育研究》(第二作者);2004年參與編著的《人機(jī)交互百科全書》中的“價值敏感設(shè)計(jì)”篇;2005年的《遠(yuǎn)程花園的人機(jī)對話所揭示的人與遙控機(jī)器人的互動》(第二作者);2008年參與編著的《信息與計(jì)算機(jī)倫理手冊》中的“價值敏感設(shè)計(jì)和信息系統(tǒng)”一章;2008年《未來的辦公窗口?——大屏幕新用途的現(xiàn)場分析》。

近幾年弗里德曼的研究逐漸轉(zhuǎn)向工業(yè)中的價值敏感設(shè)計(jì)和開放源代碼工具、移動計(jì)算、植入式醫(yī)療設(shè)備、泛在計(jì)算和計(jì)算機(jī)基礎(chǔ)設(shè)施等多維系統(tǒng)設(shè)計(jì)。如2006年的《開放源代碼許可的隱私增編的發(fā)展:工業(yè)中的價值敏感設(shè)計(jì)》;2010年的《患者、心臟起搏器、植入去纖顫器:人的價值和無線植入式醫(yī)療設(shè)備的安全性》(第三作者);2012年的The Envisioning Cards:A Toolkit for Catalyzing Humanistic and Technical Imagination。

二、價值敏感設(shè)計(jì)的哲學(xué)意蘊(yùn)

1.技術(shù)設(shè)計(jì)中的人類價值

價值本身具有多樣性,從不同的角度可區(qū)分出不同的價值,如從性質(zhì)上有正、負(fù)價值,從量上有大、小價值,從內(nèi)容上有經(jīng)濟(jì)價值、科學(xué)價值、文化價值、政治價值、體育價值和醫(yī)療價值等[3]。有些研究認(rèn)為倫理學(xué)應(yīng)被歸入價值理論體系中,但更普遍的看法是認(rèn)為倫理價值僅是倫理學(xué)的一個組成部分。各種看法的統(tǒng)一共識是價值不能與事實(shí)混為一談(事實(shí)/價值的區(qū)別),尤其是就邏輯意味而言,事實(shí)并不意味著價值。價值不僅來自于對外部世界的經(jīng)驗(yàn)描述,實(shí)質(zhì)上更依賴于人類文化環(huán)境內(nèi)的利益和愿望[2]2。價值敏感設(shè)計(jì)在探究價值時不僅考量人類的倫理價值訴求,也涉及技術(shù)領(lǐng)域的其他價值。

弗里德曼從具體化、外在化和相互作用三個角度論述了價值存在于技術(shù)設(shè)計(jì)中的方式。價值敏感設(shè)計(jì)是從相互作用的角度探討技術(shù)設(shè)計(jì)中的價值。

(1)具體化的角度

具體化的觀點(diǎn)認(rèn)為設(shè)計(jì)者將自身的意圖和價值觀嵌入技術(shù)中,技術(shù)應(yīng)用和開展的結(jié)果將決定使用者的特定行為。強(qiáng)硬派技術(shù)決定論認(rèn)為設(shè)計(jì)者和制作者帶入到工作中的意圖和傾向無形中必將化為技術(shù)的一部分,這一觀點(diǎn)備受詬病。溫和派的技術(shù)決定論則認(rèn)為,技術(shù)人工物本身并不能體現(xiàn)意圖或者意向,技術(shù)設(shè)計(jì)者也受組織、經(jīng)濟(jì)和政治力量的培養(yǎng)和影響;由于上述力量的存在,某一項(xiàng)特定技術(shù)一旦穩(wěn)定生根,對其的控制將困難重重。

(2)外在化的角度

外在化的觀點(diǎn)認(rèn)為經(jīng)濟(jì)、政治、種族、階級、年齡和宗教等社會力量影響和塑造了可實(shí)施的技術(shù);技術(shù)系統(tǒng)不是價值中立的,無一例外地偏向擁有經(jīng)濟(jì)和政治權(quán)力的人的利益。

(3)相互作用的角度

互動的立場認(rèn)為人類通過設(shè)計(jì)融入到技術(shù)之中的特征和屬性更易于支持或妨礙某個價值觀的實(shí)現(xiàn),技術(shù)的實(shí)際應(yīng)用取決于人類與其相互作用的目的。技術(shù)在創(chuàng)造和設(shè)計(jì)后,通過與技術(shù)使用者的相互作用,經(jīng)歷再創(chuàng)造和再設(shè)計(jì)的過程,得到不斷地改變和完善。相互作用的觀點(diǎn)認(rèn)為應(yīng)當(dāng)辯證地看待設(shè)計(jì)和社會環(huán)境,技術(shù)用戶已逐漸具備應(yīng)對和處理植入違背用戶本意的價值導(dǎo)向的技術(shù)的能力,目前存在兩種對立的觀點(diǎn),其中一方觀點(diǎn)是強(qiáng)調(diào)使用者如何在社會組織結(jié)構(gòu)背景下使用技術(shù),代表人物是W.J.奧里科夫斯基(Wanda J. Orlikowski)。奧里科夫斯基跟蹤觀察大型跨國咨詢公司中的兩個群體:技術(shù)人員和顧問,研究他們使用蓮花開發(fā)公司的Notes軟件①Lotus Software(蓮花公司,全名Lotus Development Corporation)是一家美國軟件公司,總部位于美國馬薩諸塞州波士頓。這家公司最著名的軟體是Lotus 1-2-3試算表軟體。1995年該公司被IBM以35億美元并購。以Lotus Notes為客戶端的Lotus Domino平臺為眾多企業(yè)所采納,是該公司的旗艦級產(chǎn)品。的情況。相比技術(shù)人員對該軟件的廣泛使用,顧問對其卻極少問津。奧里科夫斯基認(rèn)為造成上述現(xiàn)象的原因有三:第一,部分顧問對Notes軟件呈現(xiàn)的價值持懷疑態(tài)度;第二,“許多顧問因?yàn)椴恢朗褂肗otes軟件可以納入計(jì)時收費(fèi)項(xiàng)目中而不愿意花時間學(xué)習(xí)和使用”;第三,部分顧問擔(dān)心Notes軟件的協(xié)作屬性會威脅到他們在公司的獨(dú)立地位。因此,奧里科夫斯基提出了“技術(shù)結(jié)構(gòu)的視圖不是在給定的技術(shù)人工物中體現(xiàn),而是由技術(shù)使用者們反復(fù)的社會實(shí)踐活動來制定”[4]。

相互作用角度的另一方的觀點(diǎn)強(qiáng)調(diào)嵌入到技術(shù)設(shè)計(jì)中的屬性,以弗里德曼為代表,并形成了較完善的成果:價值敏感設(shè)計(jì)。價值敏感設(shè)計(jì)認(rèn)為技術(shù)具有強(qiáng)烈的道德和價值含義,技術(shù)的設(shè)計(jì)應(yīng)被前攝性地主動影響,應(yīng)考慮到設(shè)計(jì)過程中的人類價值,而不是僅僅在技術(shù)設(shè)計(jì)完成后作出反應(yīng)。價值敏感設(shè)計(jì)特別強(qiáng)調(diào)道德價值的輸入,涵蓋了隱私、信任、知情同意、尊重知識產(chǎn)權(quán)、通用性、無偏見、道德責(zé)任、義務(wù)、誠實(shí)和民主等價值,也涉及實(shí)用性的價值(如系統(tǒng)操作的簡易化)、公約(如標(biāo)準(zhǔn)化協(xié)議)和個人品味(如圖形化用戶界面中的顏色偏好)等[5]。

在2008年出版的《信息與計(jì)算機(jī)倫理手冊》中的“價值敏感設(shè)計(jì)和信息系統(tǒng)”一章的6.8節(jié)“系統(tǒng)設(shè)計(jì)通常涉及的人類價值(道德輸入)”里,弗里德曼等人給出了價值敏感設(shè)計(jì)中所涉及的13個價值及示例文獻(xiàn),包括9個基于道義論和因果道德取向的傳統(tǒng)價值:人類幸福、所有權(quán)和財產(chǎn)、隱私、公正、普適性、信任、自主性、知情同意、責(zé)任,4個人機(jī)交互領(lǐng)域里的非傳統(tǒng)價值:禮貌、身份、冷靜、環(huán)境可持續(xù)[2]18。

2.價值敏感設(shè)計(jì)的倫理和哲學(xué)基礎(chǔ)

弗里德曼認(rèn)為,道德論中的效果論、義務(wù)論和美德論同樣適用于分析和進(jìn)行技術(shù)設(shè)計(jì)。從效果論或者義務(wù)論的角度看,溫情和友好也許不屬于人類價值觀,畢竟一個人“熱心腸”的行為可能不是出于道德責(zé)任感;但是美德倫理學(xué)家基本上會認(rèn)為溫情和友好的確是人類價值,因?yàn)檫@些價值恰恰被認(rèn)為是道德人格的核心。當(dāng)然,友好、關(guān)懷和耐心等美德的秉持和實(shí)現(xiàn)通常不是強(qiáng)制性的,并不具備道德的義務(wù)性。

從道德認(rèn)識論中的懷疑論和道德相對論的角度,道德知識的反應(yīng)具有一定的相對性,沒有人可以定義真正的正確或錯誤,所以道德觀和價值觀僅是在技術(shù)設(shè)計(jì)中個人的最優(yōu)選擇。

弗里德曼認(rèn)為,技術(shù)設(shè)計(jì)應(yīng)充分吸取道德差異化和普適性兩種理論的可取之處,從中獲得更明智和更強(qiáng)大的方法,既要有普遍的道德價值觀的分析,也考慮這些價值在特定的時間和文化環(huán)境中的不同的表現(xiàn)形式[6]。

三、價值敏感設(shè)計(jì)的研究方法

價值敏感設(shè)計(jì)是一種假設(shè)設(shè)計(jì)過程并非中性的技術(shù)倫理學(xué)方法,它假設(shè)設(shè)計(jì)過程是負(fù)載價值和道德相關(guān)的,認(rèn)為出于倫理道德的相關(guān)考量對技術(shù)人工物世界的塑造產(chǎn)生了一定影響。價值敏感設(shè)計(jì)旨在以一種原則的和綜合的整體視角去說明貫穿設(shè)計(jì)過程的人的價值,采用一個綜合性的三重方法論,包括概念、經(jīng)驗(yàn)和技術(shù)研究的方法。

1.概念研究

概念的研究方法是對主要結(jié)構(gòu)和問題進(jìn)行哲學(xué)闡釋,目的是為了深入研究和分析與具體的技術(shù)設(shè)計(jì)相關(guān)的倫理價值,充分考慮某一個技術(shù)設(shè)計(jì)對直接和間接利益相關(guān)者的社會性影響。直接利益相關(guān)者指的是直接受計(jì)算機(jī)系統(tǒng)及其輸出影響的個人或組織;間接利益相關(guān)者指的是受信息系統(tǒng)使用所影響的所有其他各方,這部分利益相關(guān)者常常被設(shè)計(jì)者所忽視。弗里德曼認(rèn)為,這一階段需要考慮的問題主要有:哲學(xué)類文獻(xiàn)如何定義某些特定的價值(如信任、隱私、知情同意)?受此項(xiàng)設(shè)計(jì)影響的直接和間接利益相關(guān)者是誰?我們?nèi)绾卧诩夹g(shù)的設(shè)計(jì)、實(shí)施和使用中對相互矛盾的價值進(jìn)行權(quán)衡(如自主與安全,匿名與信任)?價值敏感設(shè)計(jì)在概念性研究的范疇下研究上述問題。

此外,還需要設(shè)定上述問題發(fā)生的歷史背景與現(xiàn)實(shí)背景,以及從整體上描述具體的技術(shù)設(shè)計(jì)問題。例如,弗里德曼等人分析網(wǎng)絡(luò)系統(tǒng)設(shè)計(jì)中的信任時,首先對信任這一價值進(jìn)行哲學(xué)概念化闡釋。他們提出,信任指的是即使信任者處于易遭受傷害的狀態(tài),仍然確信具備施害能力的被信任者不會傷害自己。信任有賴于信任者基于以下三種情形的評估:一是可能遭受的傷害;二是被信任者所具備的不對信任者施加傷害的善意;三是若超出信任關(guān)系界限之外傷害能否發(fā)生。

通過上述對信任這一價值的概念研究,弗里德曼等人能有效區(qū)分網(wǎng)絡(luò)系統(tǒng)中的信任有別于傳統(tǒng)的信任研究之處。美國計(jì)算機(jī)科學(xué)與通信局在《網(wǎng)絡(luò)空間的信任》中采取“信任”和“可信”來定義按預(yù)期執(zhí)行的信息系統(tǒng)應(yīng)具有的正確性、可靠性、安全性和可維持性等維度。這里的信任,是對機(jī)器預(yù)期性能的“信任”,這跟人與人之間的關(guān)系(可能是機(jī)器介導(dǎo)的)的信任明顯不同[7]。

2.實(shí)證研究

實(shí)證研究在概念研究基礎(chǔ)上,使用觀察、訪談、調(diào)查、實(shí)驗(yàn)操作、相關(guān)文件收集、用戶行為和人體生理測量等定量和定性方法,為概念研究中探討的價值因素提供必要的經(jīng)驗(yàn)數(shù)據(jù)支持,同時為某項(xiàng)設(shè)計(jì)的技術(shù)研究提供經(jīng)驗(yàn)數(shù)據(jù)的反饋,關(guān)注的是人們對技術(shù)人工物的應(yīng)對及技術(shù)在更大的社會背景中所處的位置。弗里德曼認(rèn)為,這一階段需要考慮的問題主要有:利益相關(guān)者怎樣理解互動語境下的個人價值觀?在設(shè)計(jì)權(quán)衡中利益相關(guān)者如何取舍互相矛盾的價值?預(yù)期和實(shí)際操作是否存在差異?技術(shù)組織如何在設(shè)計(jì)過程中影響對價值的考量(如組織的動機(jī)、訓(xùn)練和宣傳方法,以及獎勵結(jié)構(gòu)是什么)?

弗里德曼等人分析了信息系統(tǒng)設(shè)計(jì)中“可用性”這一特殊價值與人類道德價值的復(fù)雜關(guān)系模式:一種是能夠兼顧可用性和有益于某個道德價值(例如高可用性的電腦接口也可以增進(jìn)用戶自主性);另一種是以犧牲某個人類價值為前提的可用性(例如一個高可用性的監(jiān)視系統(tǒng)對隱私的侵害);第三種是有益于人類價值卻阻礙了可用性(例如為了保護(hù)用戶的知情同意權(quán),網(wǎng)頁瀏覽器要求用戶對單個cookie進(jìn)行操作,大大降低了瀏覽器的可用性);第四種是以支持某個價值為必要前提的可用性(例如為了保證美國全國大選網(wǎng)上投票系統(tǒng)的公正性,所有的適齡選民都必須會使用該投票系統(tǒng))。弗里德曼認(rèn)為,一個可行的信息系統(tǒng)的設(shè)計(jì)必須對可用性和人類道德價值作出權(quán)衡[1]3。

3.技術(shù)研究

技術(shù)研究是研究具體的技術(shù)設(shè)計(jì)細(xì)節(jié)與因素,從而能夠在具體的技術(shù)設(shè)計(jì)語境下促進(jìn)或者阻礙既定的價值。弗里德曼認(rèn)為在信息系統(tǒng)設(shè)計(jì)中,一個特定的技術(shù)更易于支持某類活動和某個道德價值,同時使其他活動和價值更難以實(shí)現(xiàn)。

技術(shù)研究著重于對信息技術(shù)系統(tǒng)的設(shè)計(jì)及對現(xiàn)有技術(shù)的性能的分析。對信息技術(shù)系統(tǒng)的設(shè)計(jì)是通過主動設(shè)計(jì)來支持概念研究中對價值的確定,分析既存的技術(shù)屬性與潛在的機(jī)制如何支持或阻礙價值的實(shí)現(xiàn);對現(xiàn)有技術(shù)的性能的分析涉及對現(xiàn)有技術(shù)的性能和基本機(jī)制如何支持或阻礙人類價值觀的回溯性分析。例如,某些以視頻為主的協(xié)同工作系統(tǒng)僅是粗略監(jiān)控辦公室設(shè)施,另一些系統(tǒng)則提供工作情形的詳細(xì)清晰影像,上述兩種系統(tǒng)的不同源于對個人隱私和群體中個人成員的存在與活動兩類價值的權(quán)衡的差異。關(guān)于對現(xiàn)有技術(shù)的性能的分析這一方面,弗里德曼認(rèn)為,技術(shù)的方法也可能涉及實(shí)證的活動,技術(shù)的方法關(guān)注的是技術(shù)本身,而實(shí)證的方法專注于人[8]。

四、價值敏感設(shè)計(jì)的考量與追問

價值敏感設(shè)計(jì)在有效處理技術(shù)使用中的道德問題和對技術(shù)進(jìn)行有效控制方面,具有很強(qiáng)的實(shí)踐意義和一定的先進(jìn)性,但因處于起步階段,目前還需面對質(zhì)疑和問題。

1.實(shí)踐意義和先進(jìn)性

(1)實(shí)踐意義

價值敏感設(shè)計(jì)具有主動性,主張?jiān)谠O(shè)計(jì)過程早期和整個過程中影響技術(shù)的設(shè)計(jì);拓展了人類價值觀的范疇,包含了所有的價值觀,尤其是道德輸入的價值觀;提出了獨(dú)特的綜合方法論,包括了概念、實(shí)證和技術(shù)研究;是強(qiáng)調(diào)互動性的理論,從具體化和抽象化兩個層面進(jìn)行研究,強(qiáng)調(diào)人們和社會系統(tǒng)對技術(shù)發(fā)展的影響,認(rèn)為新技術(shù)塑造(非生硬的決定)個體行為和社會系統(tǒng);利用道德認(rèn)識論來為設(shè)計(jì)提供一個原則性的方法,來維系涉及人類福祉、權(quán)利和公正等特定價值觀,對自主的道德個體或團(tuán)體秉承的價值觀進(jìn)行有效引導(dǎo)。

(2)先進(jìn)性

“社會和人的問題的妥善解決在很大程度上是目標(biāo)確定和價值選擇的問題,作為手段而非目的的科學(xué)和技術(shù)對此先天乏力。任何對人類事務(wù)進(jìn)行科學(xué)管理而制定的規(guī)劃,在目標(biāo)選擇的緊要關(guān)頭都大大地受到有關(guān)價值的不確定性、矛盾和沖突的限制。這些價值源出于確定的科學(xué)和技術(shù)領(lǐng)域之外的宗教、倫理和美學(xué)的思維方式和行為方式。”[9]價值敏感設(shè)計(jì)將倫理的和道德的考量等價值判斷帶入技術(shù)設(shè)計(jì)中,能有效避免、檢驗(yàn)和解決技術(shù)設(shè)計(jì)和應(yīng)用中面臨的種種有關(guān)價值的不確定性、矛盾和沖突等問題。

2.質(zhì)疑與可能的局限性

價值敏感設(shè)計(jì)特別強(qiáng)調(diào)道德輸入,主張將經(jīng)過權(quán)衡和篩選的道德價值預(yù)設(shè)于技術(shù)設(shè)計(jì)中,讓使用者的行為在使用技術(shù)時受到影響從而符合道德規(guī)范,由此,技術(shù)使用中的道德問題可能得到有效解決,以達(dá)到對技術(shù)進(jìn)行有效控制的目的?！凹夹g(shù)專家(可靠地)知曉所有與人類社會的生存和幸福有關(guān)的事物:人的需要、社會工程、經(jīng)濟(jì)計(jì)劃、國際關(guān)系、發(fā)明、教育等等”[9],那么負(fù)載著經(jīng)技術(shù)專家選定的道德價值和道德規(guī)范的技術(shù)是否就能決定人的道德取向和行為呢?技術(shù)哲學(xué)家埃呂爾早有先見之明:“技術(shù)(technique)需要可預(yù)見性,居然也需要一樣的預(yù)見的精確性。于是,技術(shù)戰(zhàn)勝人是必然的。對于技術(shù)而言,這是生和死的問題。技術(shù)必定把人變?yōu)榧夹g(shù)動物,即技術(shù)奴隸的首領(lǐng)。人的暢想在這種必然性面前破碎了;在面對技術(shù)的自主性時不會有人的自主性。個人不得不被技術(shù)塑造,或被消極地(通過理解人的技術(shù))塑造,或被積極地(通過使人適應(yīng)技術(shù)框架)塑造,以便擦去他的私人決定帶入組織機(jī)構(gòu)的完美設(shè)計(jì)中的污漬。”[10]技術(shù)統(tǒng)治主義認(rèn)為,技術(shù)所負(fù)載的獨(dú)特價值主宰著人類社會文化價值的變遷,如果技術(shù)設(shè)計(jì)者真的能夠把一定的價值觀念預(yù)設(shè)到技術(shù)產(chǎn)品之中,并能通過技術(shù)產(chǎn)品的使用來影響使用者的行為,那么技術(shù)設(shè)計(jì)者具備設(shè)定價值觀念和道德規(guī)范的權(quán)力和能力嗎?如果設(shè)計(jì)師的行為不受到一定法律和道德程序的規(guī)范,這是否會有“技術(shù)專家統(tǒng)治論”的嫌疑[11]?

另外,把價值敏感設(shè)計(jì)理論用到技術(shù)設(shè)計(jì)中并非易事,價值敏感設(shè)計(jì)如何被整合到現(xiàn)有的技術(shù)人工物設(shè)計(jì)研發(fā)的實(shí)踐中,往往受到使用者、使用環(huán)境等多方面因素的影響,技術(shù)的使用過程是不可控的,最終可能導(dǎo)致技術(shù)設(shè)計(jì)者原初目的與實(shí)際效果的偏差,甚至?xí)霈F(xiàn)事與愿違的結(jié)果。

瑪麗·L.卡明斯(Mary L.Cummings)教授認(rèn)為,價值敏感設(shè)計(jì)并不追求提供成熟的設(shè)計(jì)方法,在一定程度上,它可以被視為一個提高現(xiàn)有設(shè)計(jì)過程的工具,因?yàn)閮r值敏感設(shè)計(jì)遵循了一個常用工程方法的普遍應(yīng)用模式,它能夠很容易地納入已經(jīng)建立的設(shè)計(jì)過程[12]。

五、結(jié) 語

價值敏感設(shè)計(jì)能夠使道德規(guī)范和倫理價值在技術(shù)實(shí)踐中不斷應(yīng)用、預(yù)測、檢驗(yàn)與修正,有助于價值與技術(shù)設(shè)計(jì)實(shí)踐之間的平衡,有助于增強(qiáng)技術(shù)設(shè)計(jì)者的倫理意識和價值敏感性,使得設(shè)計(jì)者能夠設(shè)身處地地考量技術(shù)用戶和公眾及其他社會群體的道德感受和價值訴求,在設(shè)計(jì)語境中預(yù)設(shè)技術(shù)人工物的設(shè)計(jì)應(yīng)用和普及的種種可能性,有效實(shí)現(xiàn)了設(shè)計(jì)者與各個利益相關(guān)者的互動。盡管價值敏感設(shè)計(jì)仍需要不斷地完善和擴(kuò)充,但價值敏感設(shè)計(jì)是技術(shù)的利益相關(guān)者在技術(shù)設(shè)計(jì)開發(fā)的早期階段負(fù)責(zé)任地參與解決道德問題的一種比較合適的方法論,對中國的技術(shù)哲學(xué)和技術(shù)倫理學(xué)研究具有重要的借鑒價值,有助于中國特色的技術(shù)哲學(xué)研究。

[1]Friedman B,Kahn P H Jr,Borning A.Value Sensitive Design:Theory and Methods[R].Washington,D.C.: University of Washington,2002.

[2]Friedman B,Kahn P H Jr,Borning A.Value Sensitive Design and Information Systems[M]∥Himma K E, Tavani H T.The Handbook of Information and Computer Ethics.Hoboken:Wiley,2008.

[3]閆宏秀.技術(shù)進(jìn)步與價值選擇[D].上海:復(fù)旦大學(xué)哲學(xué)系,2003:43.

[4]Orilikowski W J.Using Technology and Constituting Structures:A Practice Lens for Studying Technology in Organizations[J].Organization Science,2000,11(4):404 -428.

[5]Friedman B.Value Sensitive Design[M]∥Bainbridge W S.Berkshire Encyclopedia of Human-computer Interaction.Berkshire:Berkshire Publishing Group, 2004:769.

[6]Friedman B,Kahn P H Jr.Human Values,Ethics,and Design[M]∥Jacko J,Sears A.The Human-computer Interaction Handbook.Mahwah:Lawrence Erlbaum Associates,2003:1182-1183.

[7]Friedman B,Kahn P H Jr,Howe D C.Trust online[J]. Communication of the ACM,2000,43(12):34-40.

[8]Yetim F.Bringing Discourse Ethics to Value Sensitive Design:Pathways Toward a Deliberative Future[J]. Transactions on Human-computer Interaction,2011,3 (2):135.

[9]李醒民.論技治主義[J].哈爾濱工業(yè)大學(xué)學(xué)報:社會科學(xué)版,2005,7(6):1-5.

[10]Roszac T.The Making of Counter Culture,Reflection on the Technocratic Society and Its Youthful Opposition[M]. New York:New York Doubleday Company,1968:6.

[11]張衛(wèi),王前.論技術(shù)倫理學(xué)的內(nèi)在研究進(jìn)路[J].科學(xué)技術(shù)哲學(xué)研究,2012,29(3):49.

[12]Cummings M L.Integrating Ethics in Design Through the Value-sensitive Design Approach[J].Science and EngineeringE thics,2006,12(4):701-705.

Innovative Approaches and Ethical Considerations of Technical Design A Review on B.Friedman’s Value Sensitive Design

LIU Rui-lin,CHEN Fan
(Research Center for Philosophy of Science and Technology,Northeastern University,Shenyang 110819,China)

As an innovative theoretical approach,value sensitive design dialectically views technical design and social context through the interaction between value and technical design.It employs a tripartite methodology,which consists of conceptual,empirical and technical investigations. Throughout the process of technical design,ethical import is emphasized and ethical issues are addressed.Value sensitive design advocates that designers should take full account of the moral feelings and value appeals of technical users and other stakeholders.Despite the obvious practical significance and some advantages,doubts and questions do exist.There is still a long way to go in that its application may be affected by the complex factors of technology.

technical design;value sensitive design;technological ethics;Batya Friedman

N 031

A

1008-3758(2014)03-0232-06

(責(zé)任編輯:李新根)

2013-08-23

劉瑞琳(1 9 8 6-),女,山東煙臺人,東北大學(xué)博士研究生,主要從事技術(shù)倫理學(xué)研究;陳 凡(1 9 5 4),男,遼寧沈陽人,東北大學(xué)教授,博士生導(dǎo)師,主要從事技術(shù)哲學(xué)、科技與社會(STS)研究。