ChatGPT風(fēng)險(xiǎn)治理中的科技倫理規(guī)則審視與反思

趙精武

一、ChatGPT的應(yīng)用前景與技術(shù)特征

北京時(shí)間3月15日凌晨，OpenAI發(fā)布了ChatGPT的最新“升級(jí)版本”GPT4模型，據(jù)分析，GPT4是一個(gè)能接受圖像和文本輸入，并輸出文本的多模態(tài)模型，是OpenAI在擴(kuò)展深度學(xué)習(xí)方面的最新里程碑。受到市場(chǎng)炒作技術(shù)概念的影響，ChatGPT一度被吹捧為“前所未有的重大技術(shù)創(chuàng)新”，這顯然是誤讀了ChatGPT爆火出圈的現(xiàn)實(shí)意義。ChatGPT不是一項(xiàng)已經(jīng)徹底成熟的技術(shù)產(chǎn)品，即便是Open AI也承認(rèn)，即便是GPT4仍有優(yōu)化空間。從目前的使用情況來(lái)看，ChatGPT的適用局限主要表現(xiàn)為三個(gè)層面：一是知識(shí)體系更新周期慢。ChatGPT需要海量的訓(xùn)練數(shù)據(jù)集合及時(shí)更新和迭代現(xiàn)有的算法模型，其生成結(jié)果具有明顯的時(shí)間局限性，如2023年年初發(fā)生的社會(huì)熱點(diǎn)事件，ChatGPT顯然無(wú)法及時(shí)做出相對(duì)準(zhǔn)確的回應(yīng)。二是算力資源需求極高，普通企業(yè)難以支撐。ChatGPT的強(qiáng)大功能需要充足的數(shù)字基礎(chǔ)設(shè)施，其所需要的算力資源和服務(wù)器數(shù)量遠(yuǎn)超普通公司所能承擔(dān)的經(jīng)濟(jì)能力，短期內(nèi)難以制作出媲美或超越ChatGPT的競(jìng)品。三是準(zhǔn)確率難以保障，無(wú)法有效完成具有一定邏輯要求的工作任務(wù)。ChatGPT尚未達(dá)到科幻小說(shuō)中的“強(qiáng)人工智能”，現(xiàn)階段僅能解決部分重復(fù)性、模塊化的工作任務(wù)，并且其生成成果部分時(shí)可能存在顯著的邏輯錯(cuò)誤。ChatGPT的這些局限性決定了其僅能被視為AI技術(shù)領(lǐng)域的重大創(chuàng)新而非核心技術(shù)突破，距離全面普及應(yīng)用AI技術(shù)仍然需要一段時(shí)間，并且短期內(nèi)，ChatGPT也無(wú)法完全取代人類(lèi)從事特定崗位的工作任務(wù)。但是，伴隨著ChatGPT內(nèi)置算法模型的不斷優(yōu)化以及數(shù)據(jù)訓(xùn)練集合的不斷豐富，“AI技術(shù)+行業(yè)場(chǎng)景”的應(yīng)用方式終將會(huì)到來(lái)，并且也將會(huì)對(duì)現(xiàn)有的社會(huì)運(yùn)行方式產(chǎn)生深遠(yuǎn)影響。

二、ChatGPT爆火背后的技術(shù)安全風(fēng)險(xiǎn)審視

任何技術(shù)的創(chuàng)新發(fā)展總是機(jī)遇與風(fēng)險(xiǎn)并存，這在AI技術(shù)領(lǐng)域尤為明顯。ChatGPT的爆火出圈也讓部分專(zhuān)家學(xué)者憂(yōu)心忡忡，該項(xiàng)技術(shù)一旦被濫用，則會(huì)導(dǎo)致新一輪的技術(shù)安全風(fēng)險(xiǎn)，而這些風(fēng)險(xiǎn)類(lèi)型也是現(xiàn)行立法所無(wú)法涵蓋的內(nèi)容。而且，AI技術(shù)的創(chuàng)新周期正在不斷縮短，監(jiān)管機(jī)構(gòu)難以再依循傳統(tǒng)的強(qiáng)行政監(jiān)管模式全面預(yù)防AI技術(shù)風(fēng)險(xiǎn)和規(guī)范AI技術(shù)應(yīng)用模式，頻繁的技術(shù)創(chuàng)新使得監(jiān)管機(jī)構(gòu)難以同步跟進(jìn)對(duì)AI技術(shù)原理的理解認(rèn)知。這種AI技術(shù)監(jiān)管困境在ChatGPT領(lǐng)域尤為明顯，國(guó)內(nèi)外對(duì)于ChatGPT的技術(shù)風(fēng)險(xiǎn)認(rèn)知涵蓋了各個(gè)視角：在教育領(lǐng)域，ChatGPT已經(jīng)被部分學(xué)生用于課堂論文撰寫(xiě)，國(guó)外各大高校乃至學(xué)術(shù)期刊均全面禁止利用ChatGPT完成論文撰寫(xiě)。從長(zhǎng)遠(yuǎn)來(lái)看，一旦學(xué)生依賴(lài)于ChatGPT完成課堂作業(yè)、測(cè)驗(yàn)以及自主學(xué)習(xí)任務(wù)目標(biāo)，這并不利于學(xué)生自主學(xué)習(xí)能力和批判思維的養(yǎng)成，反而會(huì)削弱課堂教學(xué)的效果。在網(wǎng)絡(luò)安全領(lǐng)域，部分觀點(diǎn)認(rèn)為ChatGPT會(huì)惡化網(wǎng)絡(luò)安全態(tài)勢(shì)，其強(qiáng)大的代碼編寫(xiě)能力會(huì)導(dǎo)致惡意代碼侵蝕整個(gè)網(wǎng)絡(luò)空間秩序，更會(huì)成為網(wǎng)絡(luò)犯罪的技術(shù)工具。事實(shí)上，能夠直接發(fā)起網(wǎng)絡(luò)攻擊的惡意代碼不僅僅是需要完成計(jì)算機(jī)語(yǔ)言代碼的編寫(xiě)，更需要根據(jù)攻擊目標(biāo)的網(wǎng)絡(luò)防御體系、安全漏洞以及目標(biāo)文件的攻擊路徑等多個(gè)因素進(jìn)行代碼與代碼之間的整合。ChatGPT所謂的代碼編寫(xiě)功能不過(guò)是以部分功能的代碼編寫(xiě)為限，無(wú)法形成能夠滿(mǎn)足特別具體的編寫(xiě)需求，甚至在運(yùn)行過(guò)程中無(wú)法正確訪(fǎng)問(wèn)目標(biāo)文件。在數(shù)據(jù)安全領(lǐng)域，ChatGPT有可能成為隱藏的數(shù)據(jù)泄露缺口。因?yàn)樵谟脩?hù)輸入相關(guān)信息的時(shí)候，這些輸入的信息和問(wèn)題也將成為ChatGPT算法訓(xùn)練的“素材”。倘若部分用戶(hù)選擇輸入企業(yè)內(nèi)部數(shù)據(jù)，則存在商業(yè)秘密泄露的風(fēng)險(xiǎn)。在網(wǎng)絡(luò)犯罪領(lǐng)域，ChatGPT能夠批量生成貼近人類(lèi)邏輯的信息內(nèi)容，而這一技術(shù)特征一旦被應(yīng)用到網(wǎng)絡(luò)電信詐騙、釣魚(yú)電子郵件等活動(dòng)中，受害人難以在第一時(shí)間分辨出真假，并且這種批量生成不同信息內(nèi)容的功能有可能會(huì)提升網(wǎng)絡(luò)電信詐騙的規(guī)模和頻次。類(lèi)似地，在網(wǎng)絡(luò)輿情治理領(lǐng)域，ChatGPT還可能被網(wǎng)絡(luò)水軍用于操縱網(wǎng)絡(luò)評(píng)論，借由符合邏輯的評(píng)論信息內(nèi)容，可以繞過(guò)平臺(tái)的審核機(jī)制，輿情操縱行為將更加隱蔽。

前述ChatGPT的技術(shù)安全風(fēng)險(xiǎn)尚停留于設(shè)想和預(yù)測(cè)層面，未來(lái)ChatGPT以及其他AI技術(shù)將何去何從無(wú)人可知。然而，ChatGPT背后的AI技術(shù)安全風(fēng)險(xiǎn)不得不讓社會(huì)重新審視和評(píng)估現(xiàn)有的治理體系和治理框架能否應(yīng)對(duì)各種新興的技術(shù)安全風(fēng)險(xiǎn)以及未知的挑戰(zhàn)。立法規(guī)制論曾被廣泛認(rèn)為是解決技術(shù)安全風(fēng)險(xiǎn)的最佳方案，通過(guò)預(yù)設(shè)的行為規(guī)則限定技術(shù)應(yīng)用的場(chǎng)景的確能實(shí)現(xiàn)治理目標(biāo)?？墒?，這種觀點(diǎn)忽視了數(shù)字時(shí)代技術(shù)創(chuàng)新浪潮的“洶涌”，頻繁的立法規(guī)制只會(huì)讓立法活動(dòng)淪為技術(shù)安全的信任背書(shū)，并在“一個(gè)技術(shù)對(duì)應(yīng)一項(xiàng)專(zhuān)門(mén)立法”的循環(huán)中逐漸迷失法律的基本功能。在AI技術(shù)尚未真正實(shí)現(xiàn)產(chǎn)業(yè)成熟之前，過(guò)早地規(guī)范技術(shù)應(yīng)用方式或底層技術(shù)原理，只會(huì)起到抑制技術(shù)創(chuàng)新的消極作用。并且，立法者不可能代替技術(shù)專(zhuān)家去預(yù)測(cè)所有可能的安全風(fēng)險(xiǎn)并在立法文件中予以明確。

審視ChatGPT背后的技術(shù)安全風(fēng)險(xiǎn)，不難發(fā)現(xiàn)，這些安全風(fēng)險(xiǎn)的源頭大多是“用戶(hù)的濫用行為”或者“技術(shù)應(yīng)用的非倫理性”，因此，科技倫理評(píng)估機(jī)制順勢(shì)成為現(xiàn)階段AI技術(shù)治理的重要工具。在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中，立法者就已經(jīng)明確算法推薦服務(wù)提供者不設(shè)置違背倫理道德算法模型，要求算法服務(wù)提供者建立健全科技倫理審查機(jī)制。此外，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)在2021年專(zhuān)門(mén)發(fā)布《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能倫理安全風(fēng)險(xiǎn)方法指引》，將失控性風(fēng)險(xiǎn)、社會(huì)性風(fēng)險(xiǎn)、侵權(quán)性風(fēng)險(xiǎn)、歧視性風(fēng)險(xiǎn)、責(zé)任性風(fēng)險(xiǎn)作為AI倫理安全風(fēng)險(xiǎn)分析的核心事項(xiàng)。在國(guó)外，各國(guó)也紛紛提出各自的AI科技倫理評(píng)估機(jī)制，如歐盟的《可信任的人工智能倫理指南》提出“尊重人類(lèi)自主、預(yù)防損害、公正與可解釋性”這四項(xiàng)倫理原則，美國(guó)在2016年發(fā)布的《為人工智能的未來(lái)做準(zhǔn)備》中提出研發(fā)人員需要確保AI是開(kāi)放、透明、可理解與可治理的。之所以科技倫理評(píng)估機(jī)制受到如此重視，是因?yàn)橄噍^于直接規(guī)范用戶(hù)行為而言，事前規(guī)范研發(fā)人員對(duì)于AI產(chǎn)品部分功能的設(shè)置行為更顯奇效。在完成科技倫理評(píng)估之后，ChatGPT及其類(lèi)似產(chǎn)品能夠從自身限定部分功能的使用范圍，如不留存用戶(hù)輸入數(shù)據(jù)、禁止大批量生成具有工具性的代碼片段。

三、科技倫理評(píng)估對(duì)于AI技術(shù)創(chuàng)新的回應(yīng)

在探討AI技術(shù)治理的過(guò)程中，科技倫理評(píng)估機(jī)制往往因?yàn)槠涞赖乱?guī)范性而飽受質(zhì)疑，所謂的公平、公正、透明、可解釋等AI技術(shù)倫理原則究竟能夠在多大范圍內(nèi)發(fā)揮作用尚難以判斷。事實(shí)上，科技倫理評(píng)估機(jī)制的類(lèi)似質(zhì)疑早已有之，如在醫(yī)療健康領(lǐng)域。然而，實(shí)踐證明，醫(yī)療倫理原則在很大程度上是解決醫(yī)療科研風(fēng)險(xiǎn)的首要機(jī)制，并成為醫(yī)療行業(yè)所共同遵守的行為規(guī)范。至于AI技術(shù)領(lǐng)域，科技倫理評(píng)估機(jī)制則需要面對(duì)全新的問(wèn)題，因?yàn)樵谠擃I(lǐng)域，AI技術(shù)產(chǎn)品的研發(fā)與創(chuàng)新并不具備醫(yī)療領(lǐng)域“提升醫(yī)療保障水平”等服務(wù)于社會(huì)公共利益的共同目標(biāo)，并且在不同行業(yè)、不同場(chǎng)景中，AI技術(shù)產(chǎn)品的倫理評(píng)估事項(xiàng)也各有側(cè)重。那么，如何建構(gòu)一整套適用于整個(gè)AI產(chǎn)業(yè)的科技倫理評(píng)估機(jī)制成為當(dāng)下亟需回應(yīng)的治理難題。

第一，在不同AI應(yīng)用場(chǎng)景下需要評(píng)估的科技倫理事項(xiàng)不同，但并不等同于不存在適用于整個(gè)AI行業(yè)的基本原則。從目前ChatGPT以及其他AI產(chǎn)品產(chǎn)生的安全風(fēng)險(xiǎn)來(lái)看，AI行業(yè)的基本原則應(yīng)當(dāng)包括“透明公正”“可解釋”“尊重用戶(hù)”“安全可控”四項(xiàng)基本要求?！巴该鞴笔侵溉斯ぶ悄墚a(chǎn)品應(yīng)當(dāng)向用戶(hù)說(shuō)明基本功能、技術(shù)原理以及是否存在影響用戶(hù)權(quán)益的重要事項(xiàng)。“可解釋”是指人工智能產(chǎn)品的提供商應(yīng)當(dāng)能夠說(shuō)明輸入端與輸出端之間的關(guān)聯(lián)性，證明輸出結(jié)果的可靠性?！白鹬赜脩?hù)”是指人工智能產(chǎn)品不應(yīng)當(dāng)歧視用戶(hù)，其算法模型不應(yīng)當(dāng)存在具有社會(huì)偏見(jiàn)的評(píng)估要素?！鞍踩煽亍笔侵溉斯ぶ悄墚a(chǎn)品能夠滿(mǎn)足法定要求和行業(yè)通行的安全技術(shù)標(biāo)準(zhǔn)，并且產(chǎn)品提供商能夠有效控制該人工智能產(chǎn)品潛在的技術(shù)安全風(fēng)險(xiǎn)。這四項(xiàng)倫理原則乃是人工智能產(chǎn)品、服務(wù)研發(fā)過(guò)程中所需要普遍遵循的基本內(nèi)容，其內(nèi)核是“技術(shù)創(chuàng)新應(yīng)當(dāng)以最大化人類(lèi)共同福祉為目標(biāo)，而不是以犧牲安全和權(quán)益為代價(jià)”。

第二，基于前述四項(xiàng)基本原則，科技倫理評(píng)估機(jī)制則需要進(jìn)一步補(bǔ)充不同應(yīng)用場(chǎng)景中的具體評(píng)估原則，以便能夠讓研發(fā)機(jī)構(gòu)及其科研工作者在實(shí)際研發(fā)和代碼編寫(xiě)過(guò)程中予以遵守。以教育領(lǐng)域?yàn)槔?，學(xué)習(xí)類(lèi)人工智能產(chǎn)品的研發(fā)應(yīng)當(dāng)是以輔助學(xué)生自主學(xué)習(xí)、提升學(xué)習(xí)效率和培養(yǎng)批判思維為基本目標(biāo)，故而相應(yīng)研發(fā)機(jī)構(gòu)和研發(fā)人員應(yīng)當(dāng)遵循的具體原則包括“預(yù)防依賴(lài)”“禁止非誠(chéng)信行為”“保護(hù)未成年用戶(hù)”三項(xiàng)內(nèi)容?！邦A(yù)防依賴(lài)”是指人工智能產(chǎn)品不應(yīng)當(dāng)成為人類(lèi)學(xué)習(xí)的替代品，而是應(yīng)當(dāng)定位為學(xué)習(xí)輔助工具；“禁止非誠(chéng)信行為”是指人工智能產(chǎn)品不應(yīng)當(dāng)成為“論文槍手”“作弊器”，研發(fā)機(jī)構(gòu)應(yīng)當(dāng)限定在特定時(shí)間（如重大考試期間）的部分功能；“保護(hù)未成年用戶(hù)”是指人工智能產(chǎn)品不得擅自收集未成年用戶(hù)的個(gè)人信息，不得向未成年用戶(hù)推送商業(yè)化廣告，應(yīng)當(dāng)以最有利于未成年人成長(zhǎng)的方式提供人工智能產(chǎn)品與服務(wù)。

第三，科技倫理終究是不具有強(qiáng)制性的道德規(guī)范，若想其發(fā)揮事前風(fēng)險(xiǎn)預(yù)防的治理效果，一個(gè)關(guān)鍵環(huán)節(jié)就是完成倫理原則與法律規(guī)則之間的銜接。目前來(lái)看，科技倫理原則的內(nèi)容不僅包含了道德層面的科技倫理，還包含了與法定義務(wù)具有同質(zhì)性的倫理原則。除了需要在立法中明確科技倫理評(píng)估機(jī)制作為一項(xiàng)法定義務(wù)而存在，同時(shí)還需要明確人工智能產(chǎn)品提供商未能履行該項(xiàng)義務(wù)時(shí)的法律責(zé)任。借由明確的行為規(guī)范和清晰的行為后果引導(dǎo)提供商做出最恰當(dāng)?shù)男袨檫x擇，并對(duì)算法模型進(jìn)行持續(xù)性?xún)?yōu)化，盡可能滿(mǎn)足“安全可信”的人工智能技術(shù)要求。