數(shù)字經(jīng)濟(jì)背景下數(shù)字產(chǎn)品設(shè)計(jì)倫理問(wèn)題探究*

浙江經(jīng)貿(mào)職業(yè)技術(shù)學(xué)院 高雅斯，張先良

一、概述

（一）數(shù)字經(jīng)濟(jì)

數(shù)字經(jīng)濟(jì)指的是人類(lèi)運(yùn)用信息化手段通過(guò)大數(shù)據(jù)實(shí)現(xiàn)社會(huì)資源的快速優(yōu)化配置與再生以及經(jīng)濟(jì)高質(zhì)量發(fā)展的經(jīng)濟(jì)形態(tài)。目前我國(guó)已經(jīng)進(jìn)入了數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)和知識(shí)產(chǎn)權(quán)成了重要的生產(chǎn)要素。[1]數(shù)字技術(shù)給社會(huì)發(fā)展帶來(lái)了新的活力，運(yùn)用數(shù)字技術(shù)推動(dòng)經(jīng)濟(jì)發(fā)展、改善社會(huì)治理體系、提高政府服務(wù)質(zhì)量和監(jiān)管能力、提高企業(yè)工作效率已經(jīng)成為社會(huì)發(fā)展新趨勢(shì)。數(shù)字經(jīng)濟(jì)的產(chǎn)生是基于成千上萬(wàn)甚至數(shù)以?xún)|計(jì)的虛擬用戶(hù)人口，以數(shù)據(jù)和知識(shí)產(chǎn)權(quán)為核心，創(chuàng)造企業(yè)和社會(huì)價(jià)值的經(jīng)濟(jì)形勢(shì)。

（二）數(shù)字設(shè)計(jì)

數(shù)字設(shè)計(jì)（digitaldesign）是20世紀(jì)90年代“藝術(shù)”與“科技”進(jìn)行結(jié)合后而產(chǎn)生的一種新的設(shè)計(jì)方式。在互聯(lián)網(wǎng)高度發(fā)達(dá)的時(shí)代，以“數(shù)據(jù)化”人工智能技術(shù)的發(fā)展，使得數(shù)字設(shè)計(jì)所涉及的學(xué)科、影響的領(lǐng)域愈加廣泛，例如廣告、影視、游戲、建筑、工業(yè)設(shè)計(jì)、紡織、醫(yī)療等領(lǐng)域。從以智能手機(jī)為代表的數(shù)字產(chǎn)品的出現(xiàn)到迅速普及，數(shù)字產(chǎn)品的即時(shí)傳播從影響當(dāng)?shù)匦》秶袌?chǎng)擴(kuò)大為擁有全球的受眾的媒介，數(shù)字設(shè)計(jì)對(duì)整個(gè)社會(huì)氛圍和個(gè)人生活的影響都非常深遠(yuǎn)。

（三）設(shè)計(jì)倫理

“設(shè)計(jì)倫理”的概念最早是在維克多巴巴納克在《為真實(shí)的世界設(shè)計(jì)》中提出的，強(qiáng)調(diào)設(shè)計(jì)必須考慮人、環(huán)境、資源等因素，實(shí)現(xiàn)各種價(jià)值的統(tǒng)一平衡。2013年德國(guó)漢諾威工業(yè)博覽會(huì)上正式提出了第四次工業(yè)革命的概念，也就是所謂的工業(yè)4.0（Industry4.0）。我國(guó)從2015年5月，國(guó)務(wù)院正式印發(fā)《中國(guó)制造2025》部署全面推進(jìn)實(shí)施制造強(qiáng)國(guó)戰(zhàn)略，到2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理”8條原則。從政策制定和執(zhí)行的進(jìn)度可以看出，信息技術(shù)的發(fā)展從單純技術(shù)層面的重視，到技術(shù)與道德的并重，對(duì)新經(jīng)濟(jì)時(shí)代的設(shè)計(jì)倫理規(guī)范提出了新要求。

數(shù)字產(chǎn)品的人工智能化趨勢(shì)，使數(shù)字產(chǎn)品出現(xiàn)高智趨勢(shì)，給人與人、人與社會(huì)之間的關(guān)系帶來(lái)了巨大的挑戰(zhàn)。

傳統(tǒng)的“只重視使用價(jià)值和審美價(jià)值辯證統(tǒng)一的原則”，已經(jīng)無(wú)法作為復(fù)雜社會(huì)倫理問(wèn)題的設(shè)計(jì)行為和設(shè)計(jì)現(xiàn)象的評(píng)價(jià)標(biāo)準(zhǔn)。道德價(jià)值作為“物”的評(píng)價(jià)標(biāo)準(zhǔn)，在數(shù)字產(chǎn)品設(shè)計(jì)的最終階段存在著一定程度的不可逆性，那么關(guān)于設(shè)計(jì)倫理的討論在人工智能產(chǎn)品的設(shè)計(jì)過(guò)程中時(shí)是無(wú)法避免的。

二、數(shù)字設(shè)計(jì)的設(shè)計(jì)倫理

（一）人工智能影響下的數(shù)字設(shè)計(jì)發(fā)展現(xiàn)狀

人工智能的發(fā)展無(wú)疑是信息科學(xué)中最令人期待的領(lǐng)域之一，同時(shí)計(jì)算機(jī)科學(xué)、神經(jīng)網(wǎng)絡(luò)等技術(shù)的發(fā)展，將人工智能應(yīng)用到了更廣闊的領(lǐng)域中。這類(lèi)技術(shù)的應(yīng)用對(duì)各個(gè)交叉學(xué)科產(chǎn)生了深遠(yuǎn)影響，例如社會(huì)學(xué)、心理學(xué)等，形成了新的知識(shí)網(wǎng)絡(luò)和學(xué)科體系。

在數(shù)字經(jīng)濟(jì)時(shí)代，科技公司已經(jīng)擁有成百上萬(wàn)甚至數(shù)億的用戶(hù)群虛擬人口。政府、企業(yè)依靠虛擬人口的數(shù)據(jù)來(lái)優(yōu)化促進(jìn)社會(huì)發(fā)展。而做為虛擬人口本身，他們?cè)谟?jì)算機(jī)、手機(jī)、平板等人工智能產(chǎn)品上所花費(fèi)的時(shí)間已經(jīng)大大超過(guò)了他們所喜歡的城市空間，人工智能產(chǎn)品正在改變著人們的日常生活習(xí)慣、傳統(tǒng)居住環(huán)境甚至是思維模式。一方面信息處理效率的提高，使人們更為廣泛地參與到社會(huì)互動(dòng)中；另一方面，知識(shí)冗余與信息轟炸制造出的選擇困境和需求支配困擾著用戶(hù)。

（二）數(shù)字產(chǎn)品設(shè)計(jì)的倫理挑戰(zhàn)

人類(lèi)作為社會(huì)主體，使得機(jī)器一直處于從屬地位。從數(shù)字產(chǎn)品的初誕生到人工智能技術(shù)的加持，產(chǎn)品的服務(wù)對(duì)象始終是人。數(shù)字設(shè)計(jì)的受眾范圍的擴(kuò)大，意味著產(chǎn)品設(shè)計(jì)、使用過(guò)程中會(huì)面臨各種各樣的問(wèn)題，如高科技造假、技術(shù)使用的安全、數(shù)據(jù)安全等。這些潛在的隱患，無(wú)論在哪個(gè)行業(yè)都會(huì)遇到，只有當(dāng)客觀認(rèn)知到這些問(wèn)題時(shí)，才能從數(shù)字設(shè)計(jì)的各個(gè)環(huán)節(jié)中尋找到適當(dāng)?shù)慕鉀Q方案。

數(shù)字經(jīng)濟(jì)的競(jìng)爭(zhēng)是一個(gè)無(wú)硝煙的戰(zhàn)場(chǎng)，無(wú)數(shù)企業(yè)的發(fā)展進(jìn)入了成熟階段，科技巨頭的出現(xiàn)使企業(yè)并購(gòu)速度加劇，行業(yè)壟斷現(xiàn)象不斷增多。壟斷地位的企業(yè)決定了行業(yè)的發(fā)展方向以及道德底線(xiàn)。作為行業(yè)引領(lǐng)者，壟斷企業(yè)對(duì)數(shù)據(jù)的使用方式?jīng)Q定了數(shù)據(jù)資源的生長(zhǎng)方式是適度經(jīng)營(yíng)還是野蠻生長(zhǎng)。數(shù)據(jù)作為人工智能技術(shù)的資產(chǎn)、數(shù)字設(shè)計(jì)的核心要素，存在一定程度的粗放化運(yùn)用。此現(xiàn)象主要體現(xiàn)在科技企業(yè)通過(guò)所運(yùn)營(yíng)的數(shù)字產(chǎn)品對(duì)用戶(hù)個(gè)人隱私數(shù)據(jù)的收集和利用，例如廣告追蹤、用戶(hù)數(shù)據(jù)的保密等。

在價(jià)值敏感設(shè)計(jì)（Value Sensitive Design/ASD）理論中，Batya Friedman提到了基于某些原始數(shù)據(jù)所帶來(lái)的不公平的現(xiàn)象：國(guó)家、社會(huì)組織中已存在的行為和態(tài)度偏見(jiàn)；某些工具設(shè)計(jì)缺陷導(dǎo)致的技術(shù)偏見(jiàn)以及某些用戶(hù)使用過(guò)程中的突發(fā)偏見(jiàn)。人工智能的特點(diǎn)之一是真實(shí)地記錄、描述原始數(shù)據(jù)的特征，將一些習(xí)以為常的問(wèn)題暴露在數(shù)據(jù)中。但如果缺乏對(duì)數(shù)據(jù)的辨別能力，則會(huì)進(jìn)一步放大已存在的偏見(jiàn)現(xiàn)象，加大社會(huì)的矛盾。例如2012年Facebook的一項(xiàng)研究試圖通過(guò)優(yōu)先考慮快樂(lè)或不愉快的新聞提要故事來(lái)分析“情緒傳染”。該公司沒(méi)有征求689,000名參與者的知情同意（而是依靠現(xiàn)有的服務(wù)條款），也沒(méi)有考慮對(duì)抑郁癥用戶(hù)的潛在影響。類(lèi)似現(xiàn)象還有某些數(shù)字產(chǎn)品殺熟現(xiàn)象、某些行業(yè)的性別的差異以及社會(huì)缺乏對(duì)弱勢(shì)、少數(shù)特殊群體關(guān)注等。

（三）關(guān)于數(shù)字產(chǎn)品設(shè)計(jì)倫理問(wèn)題的建議

政府和企業(yè)在數(shù)字產(chǎn)品設(shè)計(jì)中分別從被動(dòng)和主動(dòng)兩個(gè)方面影響著數(shù)字設(shè)計(jì)的倫理道德——數(shù)字產(chǎn)品道德底線(xiàn)的維護(hù)者和數(shù)字產(chǎn)品的決策者。政府所制定的法律法規(guī)作為道德的底線(xiàn)，決定著產(chǎn)品決策者的最低道德水平，因此政府在數(shù)據(jù)所有權(quán)和使用權(quán)上做出了明確的劃分和規(guī)定，設(shè)置了數(shù)據(jù)使用壁壘，有助于維護(hù)設(shè)計(jì)倫理。而企業(yè)作為數(shù)字設(shè)計(jì)的最終決策者，完整的道德評(píng)估系統(tǒng)標(biāo)準(zhǔn)，能有效規(guī)范數(shù)字設(shè)計(jì)的過(guò)程，將設(shè)計(jì)倫理融入數(shù)字產(chǎn)品設(shè)計(jì)的各個(gè)環(huán)節(jié)中，確保每個(gè)環(huán)節(jié)都能尊重?cái)?shù)據(jù)地提供者。

作為設(shè)計(jì)師應(yīng)具有職業(yè)道德，需要確保所設(shè)計(jì)的產(chǎn)品對(duì)世界有益。設(shè)計(jì)師作為人工智能產(chǎn)品創(chuàng)造的核心，在維護(hù)產(chǎn)品運(yùn)營(yíng)的過(guò)程中發(fā)揮著核心作用，而另一方面設(shè)計(jì)師不僅可以增強(qiáng)用戶(hù)體驗(yàn)，還可以保護(hù)用戶(hù)。第一，數(shù)字設(shè)計(jì)師可以通過(guò)積極參與團(tuán)隊(duì)內(nèi)部對(duì)話(huà)，倡導(dǎo)用戶(hù)需求，強(qiáng)調(diào)道德問(wèn)題。設(shè)計(jì)團(tuán)隊(duì)內(nèi)部的對(duì)話(huà)是關(guān)鍵性設(shè)計(jì)倫理問(wèn)題得到解答的方式，通過(guò)設(shè)計(jì)師在團(tuán)隊(duì)內(nèi)部的學(xué)習(xí)和討論，明確需要深入研究的領(lǐng)域，并在過(guò)程中反復(fù)思考道德的標(biāo)準(zhǔn)問(wèn)題。第二，讓數(shù)字產(chǎn)品在訪問(wèn)的無(wú)縫性和用戶(hù)的可訪問(wèn)之間保持健康的平衡。現(xiàn)階段，“智能化”“無(wú)人化”之類(lèi)的無(wú)人工干預(yù)的人工智能產(chǎn)品對(duì)設(shè)計(jì)團(tuán)隊(duì)來(lái)說(shuō)很有吸引力，但是無(wú)人工干預(yù)的人工智能產(chǎn)品容易失去監(jiān)管。而可訪問(wèn)的產(chǎn)品則可以吸引有好奇心的用戶(hù)了解產(chǎn)品在做什么、收集了哪些數(shù)據(jù)以及數(shù)據(jù)的去向。以此讓用戶(hù)能夠隨時(shí)監(jiān)督數(shù)據(jù)的使用規(guī)范。第三。數(shù)據(jù)設(shè)計(jì)師可以推動(dòng)團(tuán)隊(duì)的多元化，創(chuàng)造出具有包容性的產(chǎn)品。

三、結(jié)論

物聯(lián)網(wǎng)帶來(lái)的超連通浪潮，將技術(shù)嵌入了日常物體中，給整個(gè)社會(huì)帶來(lái)了一系列新的道德挑戰(zhàn)。我們的公共空間和家庭很快就會(huì)點(diǎn)綴著可以收聽(tīng)我們所說(shuō)的每個(gè)單詞的連接設(shè)備，或收集有關(guān)我們體重、愛(ài)好和財(cái)產(chǎn)等敏感數(shù)據(jù)。好處可能是驚人的——但濫用的風(fēng)險(xiǎn)也是如此。另外，政府通過(guò)對(duì)數(shù)據(jù)權(quán)利與權(quán)力的規(guī)定，明確數(shù)據(jù)權(quán)限；企業(yè)通過(guò)建立產(chǎn)品的道德評(píng)估標(biāo)準(zhǔn)，加強(qiáng)對(duì)產(chǎn)品的道德評(píng)估，規(guī)范產(chǎn)品的社會(huì)效益；數(shù)字設(shè)計(jì)師從創(chuàng)造到維護(hù)數(shù)字產(chǎn)品的過(guò)程中，維護(hù)數(shù)字產(chǎn)品各個(gè)流程進(jìn)行的環(huán)境，設(shè)立積極的數(shù)據(jù)使用監(jiān)督和反饋機(jī)制，積極倡導(dǎo)設(shè)計(jì)道德倫理。從設(shè)計(jì)師個(gè)人的責(zé)任感輸出，到企業(yè)對(duì)智能產(chǎn)品的設(shè)計(jì)倫理評(píng)估，人們更應(yīng)該考慮數(shù)字產(chǎn)品的社會(huì)、法律和道德影響。作為人類(lèi)創(chuàng)造出來(lái)的人工智能產(chǎn)品，產(chǎn)品本身不具有道德感，產(chǎn)品的功能屬性可能會(huì)在使用過(guò)程中被用戶(hù)產(chǎn)生“誤讀”，但作為產(chǎn)品的研發(fā)企業(yè)來(lái)說(shuō)，在設(shè)計(jì)和提供服務(wù)的同時(shí)，更應(yīng)該去規(guī)避潛在被誤用或者濫用的情況，以實(shí)現(xiàn)數(shù)字環(huán)境的凈化以及數(shù)據(jù)經(jīng)濟(jì)的健康可持續(xù)發(fā)展。

相關(guān)鏈接

2018年10月，安徽省財(cái)政每年專(zhuān)項(xiàng)安排2億元支持?jǐn)?shù)字經(jīng)濟(jì)項(xiàng)目；對(duì)總部新落戶(hù)安徽省的全國(guó)電子信息百?gòu)?qiáng)企業(yè)給予獎(jiǎng)補(bǔ)200萬(wàn)元；“數(shù)字經(jīng)濟(jì)領(lǐng)軍企業(yè)”將獲獎(jiǎng)補(bǔ)100萬(wàn)元……安徽省印發(fā)《支持?jǐn)?shù)字經(jīng)濟(jì)發(fā)展若干政策》，全面支持?jǐn)?shù)字經(jīng)濟(jì)各領(lǐng)域發(fā)展。

為深入貫徹國(guó)家數(shù)字經(jīng)濟(jì)發(fā)展戰(zhàn)略，安徽省出臺(tái)了含金量高的“數(shù)字經(jīng)濟(jì)政策”，主要包括十個(gè)方面內(nèi)容，具體包括支持?jǐn)?shù)字技術(shù)創(chuàng)新，主要是支持建設(shè)工業(yè)互聯(lián)網(wǎng)創(chuàng)新中心；培育“互聯(lián)網(wǎng)+制造”示范，對(duì)制造業(yè)與互聯(lián)網(wǎng)融合、工業(yè)互聯(lián)網(wǎng)、大數(shù)據(jù)產(chǎn)業(yè)、軟件“鑄魂”工程等領(lǐng)域的國(guó)家級(jí)試點(diǎn)示范企業(yè)（項(xiàng)目）給予一次性獎(jiǎng)補(bǔ)，最高100萬(wàn)元。