科技與社會視角下算法媒介倫理問題研究

謝嘯軒

關鍵詞 算法；科技與社會；媒介倫理；算法權力

中圖分類號 G2 文獻標識碼 A 文章編號 2096-0360（2021）12-0041-03

2021年“3·15晚會”曝光的失范企業(yè)案例中，信息安全、老年人數(shù)字生存、網(wǎng)絡虛假廣告等社會問題重新出現(xiàn)在大眾視野之中。算法推薦沒有給人們最優(yōu)的選項，反而將劣質(zhì)廣告商品呈現(xiàn)在平臺榜首[ 1 ]。以用戶信息安全與隱私保護為原則的智聯(lián)招聘，卻大肆販賣求職者個人信息，且形成了個人信息泄露、買賣、精準詐騙的黑色產(chǎn)業(yè)鏈。360搜索被曝光的醫(yī)藥廣告造假鏈條，以及其算法推薦虛的假藥品醫(yī)療廣告，并借公立醫(yī)院之名進行競價排名。UC瀏覽器涉及為無資質(zhì)公司投虛假醫(yī)藥廣告。在人們的需求催化下，推薦算法被發(fā)明，然而缺乏倫理道德準則的算法也在不斷地造成社會問題。媒介倫理的研究對傳播真實性、個人隱私權社會責任等方面的關注便尤為重要[2]。

1 研究緣起：“數(shù)據(jù)凝視”之下的社會

“算法”（algorithm）一詞得名于波斯數(shù)學家花拉子密。公元9世紀，這位數(shù)學家寫過一本書，討論用紙筆解決數(shù)學問題的技巧，書名為“al-Jabr wal-Muqabala”，其中的“al-jabr”就是后來“algebra”（代數(shù)）這個詞的前身[ 3 ]。布萊恩·克里斯汀和湯姆·格里菲思表示，算法是為了幫助人們從大量的信息中找到最佳答案，以解決“最優(yōu)停止”（optimal stopping）的一類問題，同時也為人們解決了有限的時間、空間和注意力[ 4 ]。個性化推薦算法雖然因為近年來一些基于算法的內(nèi)容平臺的興起而受到關注，但事實上個性化推薦早就進入網(wǎng)絡，搜索引擎、電子商務平臺等都早已采用推薦算法[5]。福柯曾對臨床醫(yī)學進行基于視覺-權力-知識的詮釋，認為過去充滿了對病人非人化而只是看作器官的“醫(yī)學凝視”，在現(xiàn)在社會同樣也充滿了將個體視作數(shù)據(jù)的“數(shù)據(jù)凝視”，同構了數(shù)據(jù)空間與社會空間，人類也成為了“數(shù)據(jù)景觀”。

國內(nèi)傳播學者也指出，平臺算法一直處于封閉倫理狀態(tài)，且算法工程師倫理水平一般，無法為用戶提供“算法透明度”的信息[6]。在倫理層面，算法也在威脅古典自由主義技術倫理中康德的自主原則（Respect for Autonomy）、密爾的傷害原則（Harm Principle）以及洛克的個人主義原則[7]。由于數(shù)據(jù)偏差造成的人臉識別中的算法偏見、算法歧視和深度偽造問題，以及發(fā)達國家的數(shù)據(jù)霸權尤其受到關注[8]。國內(nèi)學者熱衷研究算法推薦新聞造成的信息繭房問題，今日頭條App等應用定制的個性化推送新聞限制了用戶的視野，人們只能看到自己愛看的新聞，加劇了信息繭房問題，重大政策、時事、社會新聞更少被關注，同也會加劇群體極|化[9]。算法研究學者以及從業(yè)人員都在密切關注算法帶來的問題，在人工智能、大數(shù)據(jù)被廣泛應用的背景之下，人們的生活全方位的被算法介入[10]，用戶的主體地位發(fā)生異化，媒介倫理研究則格外重要。

算法帶領人們走入后人類主義時代，人們不得不接受算法的馴化，享受且被迫享受檔案化和數(shù)據(jù)化生命的監(jiān)控和管制。谷歌設計倫理學家特里斯哈里斯總結了科技“劫持”人類心智10宗罪，他表示：“一旦你掌握要點，操縱用戶就像彈琴一樣優(yōu)雅簡單。”[ 1 1 ]《大數(shù)據(jù)殺傷型武器》（Weapons of Math Destruction）書的作者卡西歐尼爾曾從事數(shù)據(jù)分析師的工作，她的主要工作是從互聯(lián)網(wǎng)上收集大量關于個人用戶的數(shù)據(jù)，包括上網(wǎng)的地理位置和時間、瀏覽的網(wǎng)頁、在社交媒體上的點贊、點擊的網(wǎng)頁廣告、在網(wǎng)上購買的產(chǎn)品等，然后建立數(shù)學模型，測用戶的行為，以更好地向他們展示廣告、兜售商品。但同樣算法也收集了面部數(shù)據(jù)、行為特征、社會規(guī)則以及社會中存在的偏見。在技術、社會以及算法內(nèi)在隱含的性別、階層、種族問題的研究中，需要計算機科學、法學、倫理學、政治學、傳播學等學科政治交互的視角不斷進行補充[9]。

2 科技與社會：經(jīng)濟、社會、政治的算法權力嵌入

算法作為當今社會熱點議題，其研究離不開科技與社會（Science，technology and society，STS）視角，科技與社會是一門跨領域學科，研究社會、政治和文化如何影響科學研究與技術發(fā)展[12]，以及反之科技如何影響社會、政治和文化。STS研究者關心科技社會的復雜面貌、科技發(fā)展的社會意涵、爭議等各種問題。

數(shù)字資本主義語境下，平臺產(chǎn)生了海量的數(shù)據(jù)，數(shù)據(jù)對企業(yè)來說是一種隱形的資產(chǎn)，同時也是這個時代最有價值的資源[ 1 3 ]。但是，大數(shù)據(jù)體量之大、種類之繁以及產(chǎn)生速率之快，海量的數(shù)據(jù)并不都是有價值的，從海量數(shù)據(jù)中提取有用的、針對性的信息需要花費很大的時間成本，各類型的推薦算法為解決各類實際需求而誕生[ 1 4 ]。在算法賦魅下，算法已內(nèi)化為人們?nèi)粘Ｉ钪械囊徊糠郑扑腿藗儛劭吹膶櫸镆曨l，為人們推送符合他們興趣愛好的電影，節(jié)省了人們的時間，提高了人們行為效率[15]。然而，可購買的微博熱搜、可租下的首頁推薦位置，這仿佛在告訴我們只要付錢，你就是能成為算法游戲中的被曝光者，這無疑也是在直白地告訴大眾，算法是不公正的。算法在視頻推送中產(chǎn)生了大量的問題，極端、低俗、暴力的視頻更容易被推送到平臺首頁。YouTube名人Logan Paul在2017年12月31日上傳一段影片，影片拍攝地點是被稱為日本“自殺森林”富士山下的青木原樹海，影片的標題為“我們在日本自殺叢林找到一具尸體”，并拍下尸體影像以及與同行伙伴嬉笑場面。這部影片不但通過了審核，還被官方人員手動挑選上熱門，該事件將YouTube推向輿論中心。在這個事件中平臺以及平臺監(jiān)管人員的嚴重倫理失范的問題，這個時間后YouTube官方也提高了檢查機制，確保這類影片不會出現(xiàn)更不會被推薦。

福柯將“生命政治”定義為一種新的權力技術，這種權力技術對生命極其一舉一動進行監(jiān)視、干預、扶植、優(yōu)化、評估、調(diào)節(jié)、矯正。而在“算法政治”的干預下，個體的自由甚至民主的基石受到攻擊。2021年3月17日，英國《衛(wèi)報》爆出英國的數(shù)據(jù)分析公司Cambridge Analytica（劍橋數(shù)據(jù)分析）在美國大選中為川普服務。而這個大數(shù)據(jù)服務公司的數(shù)據(jù)來源于非法獲取的Facebook的用戶信息，涉及到的用戶人數(shù)高達5 000萬人，這被稱為是“Facebook歷史上最大的數(shù)據(jù)泄露事件”。2021年3月25日，Twitter、Facebook、Google等巨頭公司CEO就今年1月發(fā)生的國會大廈暴亂事件接受國會質(zhì)詢。國會認為，這些社交平臺缺乏問責機制，暗中助長了此類暴亂事件的發(fā)生，而平臺發(fā)則辯稱此事事關言論自由。

在算法的權力關系下，權力屬于擁有代碼者，被算法拒絕或被錯誤定義的用戶無法使用自己的算法來對抗，這是不平等的權力關系。人們在互聯(lián)網(wǎng)中的一舉一動被迫具身地為算法提供數(shù)據(jù)，算法也大大改變了人類社會的經(jīng)濟、政治層面[16]。

3 算法推送的“波特方格圖式”推理分析

算法推送應用在社交媒體、搜索引擎以及所有常用互聯(lián)網(wǎng)應用中，除了呼吁馬克思韋伯所述的價值理性以外，將具體的平臺失范案例進行媒介倫理推理也至關重要。在西方道德哲學史上，提倡運用理性主義的方法得出指導行為的準則和規(guī)范，存在三種代表性道德推理形式：亞里士多德的“實踐三段論”“波特方格推理模式”和“博克模式”，在傳播倫理中都有不同的應用推導。20世紀50年代，哈佛大學神學院教授拉爾夫·B.波特提出了波特方格推理模式，這是一種道德推理形式，它的特點在于引入了“忠誠歸屬”，從而為我們分析個人所處的道德困境和在兩難中如何做出道德抉擇提供了一個思路。波特方格按照道德推理按照“定義（definition）→價值觀念/標準（values）→倫理準則（principles）→忠誠歸屬（loyalties）”這樣四個階段進行推理，下面將被央視3·15點名的360搜索與UC瀏覽器的虛假醫(yī)療廣告事件進行媒介倫理推理，從平臺與調(diào)查記者角度進行分析。

首先，在該新聞事件的“定義”環(huán)節(jié)中，應對搜索引擎中虛假廣告造成的用戶損失進行充分評估，在發(fā)生“魏則西事件”悲劇后，仍發(fā)生了此類不可容忍虛假醫(yī)療廣告事件。平臺提供了搜索引擎競價服務增加收入，同時卻完全失去平臺把關作用，放任虛假醫(yī)療廣告與疾病關鍵詞產(chǎn)生強關聯(lián)并出現(xiàn)在搜索結果前列。調(diào)查記者則通過跟蹤采訪曝光該違法行為，并曝光在大眾視野。在“價值觀念/標準”環(huán)節(jié)，平臺方一味地追求經(jīng)濟價值和最大商業(yè)回報，不以史為鑒，再次使得虛假醫(yī)療廣告流入搜索引擎。調(diào)查記者的職業(yè)標準使他們敏銳地發(fā)現(xiàn)互聯(lián)網(wǎng)中倫理失范問題，以“新聞真實性”為第一價值并及時跟蹤調(diào)查。在“倫理準則”環(huán)節(jié)，正如國內(nèi)學者所調(diào)查顯示，平臺算法工程師倫理水平一般，沒有深刻意識到算法之惡。調(diào)查記者訴諸功利原則，為了消費者、公眾的權益積極調(diào)查。最后在“忠誠歸屬”環(huán)節(jié)，我們可以看出，平臺盡管宣稱對用戶負責，但平臺方的行為只是忠誠于股東、資本和本身的既得利益；算法工程師則單純忠誠于雇主；部分算法工程師雖然能意識到算法產(chǎn)生的信息繭房、過濾泡等問題，以及技術更新帶來的身為算法勞工的超時勞作，但仍無力做出改變。調(diào)查記者則忠誠于全體公眾，為公眾負責。

在算法賦魅時代，人們不能單純相信平臺推薦的結果，忠誠于資本且倫理意識薄弱的平臺方無法保護用戶權益，反而在最大程度將用戶異化為提供數(shù)據(jù)的數(shù)字勞工。人們也不能單純以一種技術樂觀主義或中庸之道看待算法的發(fā)展，在消費者權益日的曝光下，平臺方受到的處罰無法彌補對用戶造成的傷害，用戶必須對算法祛魅，在新聞報道的提醒聲中對抗算法的控制[17]。

4 結語

算法給人們帶來了毋庸置疑的幫助，平臺與算法，用戶與算法的關系產(chǎn)生了融合共生、人機一體的具身的態(tài)勢。后人類時代下，人類應保持對隱私、數(shù)據(jù)以及被社交媒體奪走的時間的警惕，保持批判視角看待算法所蘊含的消費主義隱喻以及其裹挾的虛假、偏差信息[18]。

在資本邏輯前置的個性化推送所修辭的“個性”意蘊被消解，崇尚消費主義的個性被塑造，社會的原子化加劇。媒介倫理問題研究沒有完結，自由意志的存在對抗著控制用戶的計算機技術，人們的確需要智能設備幫助我們更好地完成工作、獲取知識、體驗生活，同時平臺方應幫助修復社會人倫價值，社交媒體也不應該成為維系我們社會關系唯一手段，人們應該回歸本真的社交關系。平臺方在用老練的話術為算法技術倫理問題的進行修辭和遮蔽已是事實，讓平臺遵守媒介倫理原則，也需要公民媒介素養(yǎng)和數(shù)字隱私意識的普遍提升，作為社交媒體主要用戶的青少年與老年群體更需被教導學會在數(shù)字化生存時代保護好自己的隱私[19]，科技與社會的互動關系下法律制度也需要橫向地進步。

參考文獻

[1]潘寧，周阿根.自媒體時代下輿論監(jiān)督的問題與對策[J].今傳媒，2019，27（1）：29-31.

[2]欒佳慧，周阿根.青年亞文化視角下網(wǎng)絡古風音樂文化傳播研究[J].漢字文化，2020（19）：161-162.

[3]潘寧.鑲嵌、創(chuàng)意、互動：三個層面看信息流廣告的傳播策略：以微信朋友圈為例[J].漢字文化，2019（15）：178-180.

[4]布萊恩·克里斯汀，湯姆·格里菲思.算法之美[M].北京：中信出版集團，2015.

[5]顧若言，周阿根.新媒體時代學術期刊的困境與對策研究[J].東南傳播，2018（12）：74-75.

[6]陳昌鳳，張夢.智能時代的媒介倫理：算法透明度的可行性及其路徑分析[J].新聞與寫作，2020（8）：75-83.

[7]李凌.智能時代媒介倫理原則的嬗變與不變[J].新聞與寫作，2019（4）：5-11.

[8]王欣欣.從阿來作品看消費主義時代精神生態(tài)平衡問題：基于“山珍三部”的研究[J].漢字文化，2019（15）：166-168.

[9]賈劼晗，周阿根.試論傳播學視域下新媒體對城市形象構建的影響[J].戲劇之家，2019（7）：215-216.

[10]顧若言，周阿根.網(wǎng)絡時代馬克思主義新聞觀發(fā)展新路徑：從“群眾辦報”到“人民傳播”[J].東南傳播，2018（8）：27-29.

[11]Harris T.How technology Hijacks peoples minds—From a magician and Googles design ethicist[J].Medium Magazine，2016.

[12]袁曉強.基于微博熱搜泛娛樂化現(xiàn)象的思想文化建設研究[J].漢字文化，2019（12）：153-154.

[13]高云，周阿根.互動儀式鏈視角下淘寶直播間消費的狂歡[J].新聞知識，2020（6）：54-57.

[14]林麗.科技期刊有聲閱讀發(fā)展過程中的問題及對策：以《南京林業(yè)大學學報（自然科學版）》為例[J].新媒體研究，2021，7（4）：78-80.

[15]沈雅莉.偽造的真實：擬劇理論下的直播帶貨癥結研究[J].藝術科技，2021，34（4）：119-120.

[16]張瑜，衛(wèi)欣.網(wǎng)絡微影像：互聯(lián)網(wǎng)時代的影像新形態(tài)[J].東南傳播，2018（10）：105-107.

[17]衛(wèi)欣，張衛(wèi).社會化媒體視域下鄉(xiāng)村初級群體的交往行為研究[J].南京社會科學，2017（9）：50-57.

[18]潘寧.互聯(lián)網(wǎng)沖擊下傳統(tǒng)紙媒的深層變革探究[J].東南傳播，2019（6）：17-19.

[19]聶宇飛.設備鏡像：對數(shù)字時代中受眾商品的新思考[J].東南傳播，2020（12）：95-97.