李巖 吳欣哲
[摘? 要]元宇宙的發展在改變人們生活方式的同時,也造成了身份匿名風險、數據泄露風險與算法異化風險。身份匿名風險具體表現為信任危機、執行難題、影響倫理秩序;數據泄露風險具體表現為侵害個人信息、妨礙市場主體創新、威脅國家安全;算法異化風險具體表現為權力集中、壟斷經濟活動、操縱社會觀念。對此需要從行政系統的角度實現風險的預防與治理,面對身份匿名風險,應搭建統一的身份認證平臺;面對數據泄露風險,應重塑監管框架;面對算法異化風險,應構建算法審查機制,最終構建行政系統主導下的回應型治理模式。
[關鍵詞]元宇宙;風險;行政規制
[中圖分類號]D922.11? [文獻標識碼]A? [文章編號]1672-2426(2023)08-0044-09
[收稿日期]2023-06-25
[基金項目]2021年度遼寧省教育廳科學研究經費項目(社科類)“《民法典》中人格權救濟制度體系化研究”? ? ? ? ? ? ? ?(LJKR0049),主持人李巖;互聯網法治研究院(杭州)2022年度互聯網法治重點研究課題“元宇宙風? ? ? ? ? ? ? ?險預防與治理機制研究”,主持人李巖。
[作者簡介]李? ?巖(1979— ),男,吉林長春人,遼寧大學法學院教授,博士生導師,法學博士,主要從事民事法學、? ? ? ? ? ? ? ?知識產權法學、人工智能法學研究。
吳欣哲(1998— ),男,遼寧葫蘆島人,遼寧大學法學院碩士研究生,主要從事知識產權法學研究。
2022年4月20日,全球元宇宙大會在上海召開,元宇宙的發展與治理再度引發了全球的關注。元宇宙的發展已然成為經濟社會發展的必然趨勢,美國、韓國、日本等國家紛紛出臺相關政策支持元宇宙的發展,我國北京、上海等地也將元宇宙的建設寫進了政府工作報告。在元宇宙發展如火如荼的背景下,應當以理性思維看待元宇宙相關事業,與元宇宙相關的技術雖然使人類社會生活更加便利,但是也帶來了一系列潛在的風險,對此,行政系統應當加以預防與規制。
一、元宇宙發展的潛在風險
隨著互聯網技術的不斷發展,各國紛紛通過立法和政策來加強對網絡空間的監管和治理。目前元宇宙產業的發展仍然處于起步階段,與早期的互聯網產業類似,其發展也離不開市場競爭帶來的強大推力,市場主體是元宇宙發展過程中的主要推手。但是,市場主體終究是以追求利益為核心目的,難以排除其在實際運行過程中造成的潛在風險。此外,與現實世界不同的是,在元宇宙的世界中,用戶可以獲得多重數字身份,數據的流量呈幾何倍增加,算法的權力作用也前所未有地突出,元宇宙發展的全新特征給元宇宙的治理帶來了風險與挑戰。為了避免潛在的風險演化為重大危機,有必要依靠市場主體之外的力量保障元宇宙事業的發展,因此,運用行政權力對元宇宙發展進行行政規制成為必然選擇。元宇宙的建設既離不開市場的決定性作用,也需要行政權力的市場監管,元宇宙市場與現實世界市場在商業層面應當是一個統一市場,而政府的法治化監管對建立和維護統一市場、發揮市場在資源配置中的決定性作用具有重要的制度保障意義。[1]在探討元宇宙的行政規制路徑之前,應對元宇宙發展的潛在風險予以明確,具體而言,元宇宙世界基于其多重數字身份、海量數據集聚、算法權力作用的特點對行政規制提出了全新的挑戰。
(一)基于身份匿名所產生的風險
美國著名的沙盒游戲平臺公司——羅布樂思在招股說明書中寫入了元宇宙的概念,并明確提到了元宇宙的八個特征,身份特征在所有特征中排在第一位[2],由此可見數字身份在元宇宙世界中的重要性。數字身份作為現實使用主體在元宇宙中的虛擬映射,是主體在虛擬世界中的身份表征。[3]元宇宙世界中的數字身份是去中心化的分布式數字身份,其最大的特征在于具有可變性,即元宇宙用戶可以按照自身的喜好設定不同的身份標簽,同時擁有多個數字身份,并隨時改變。全新的身份使元宇宙用戶獲得了不同于以往的體驗,但也間接導致了身份匿名化的潛在風險。在元宇宙的世界中,權利義務內容及相關的法律關系雖然有別于現實世界,但最終仍然與現實主體相對應。其中包含或單獨作用于虛擬世界的內容,或同時作用于現實世界與虛擬世界的行為,這種特點所帶來的虛擬身份多維化對現有法律作出了多方面的解構。[4]現實世界中我們接受著周密的法律規制,有著很強的秩序感。進入元宇宙,人們對行為真實性的認知和行為的后果預測會變得模糊,從而使在現實中不敢或沒有條件實施的違法犯罪行為在元宇宙中實現。[5]
1.身份匿名導致信任危機。元宇宙技術打破了空間的限制,能夠跨越國家、地區甚至語言的障礙為人們的交往提供前所未有的平臺,從而能夠最大限度地拓展人與人之間的交流渠道。元宇宙用戶可以通過虛擬身份與其他用戶進行交際,從而實現共贏。但是,數字身份具有可設定性和多重性,無法與現實身份實現一一對應,身份的不確定性使合作雙方產生不信任感,阻礙用戶之間合作關系的達成,從而使整個元宇宙世界產生信任危機。此外,由于真實身份被虛擬身份所掩蓋,還會給少數別有用心的人以可乘之機,用戶出于保護自身利益的考慮,自然對達成合作關系持謹慎態度,這種現象與早期的互聯網違法犯罪現象具有相似之處。在元宇宙用戶身份匿名的情況下,用戶的實際利益難以得到保障,因此,用戶在元宇宙世界中只會從事一些個體性活動或者是簡單的商業活動,事關利益重大的合作則無法僅通過元宇宙的內在機制達成。如果合作功能無法落實,則元宇宙世界無法真正給人們的生活方式帶來轉變。
2.身份匿名帶來執行難題。數字身份雖然無法與現實身份一一對應,但可以肯定的是,元宇宙的活動主體背后必然存在著可以控制其行為的現實主體。元宇宙中的任何行為追根溯源都是人本身的行為,一切法律后果最終都需要人自己來承擔[6],使用數字身份的主體既可能是個人,也可能是公司,而無論是個人還是公司,在現實世界中都會受到行政系統的規制。現實世界行政系統對現實主體所發揮的規制功能,應當輻射到擁有數字身份的元宇宙活動主體的行為。然而,傳統的行政系統是通過科層結構來傳達和執行命令,以中心化的行政組織構建治理模式的。但是在元宇宙世界中,不僅中心化組織大大減少,管理范圍也逐漸模糊化,難以明確定義,給行政系統帶來了執行難題。此外,具有可變性的虛擬身份掩蓋了穩定的真實身份,從而干擾了正常的行政執法,也給社會秩序的穩定埋下了隱患。具體的行政機關為了確定虛擬主體的真實身份以及確定管轄權的歸屬,會花費大量時間與資源,長此以往,必然影響行政效率。
3.身份匿名影響倫理秩序。當前一部分網絡游戲具有交友及“結婚”等社交功能,并且衍生出一系列涉及婚姻關系、財產繼承的家事案件,在元宇宙的世界中,此類案件的數量將會進一步增加。在傳統倫理秩序中,家庭角色的定位具有穩定性,與此不同的是,元宇宙用戶可以依照自身意愿設定多重數字身份,數字身份的可變性打破了傳統家庭角色的穩定預期。人在社會中“扮演”著多重角色,但是多重角色對應著不同的社交范圍,申言之,在一定的社交范圍內,一個人只能穩定地擁有一種社會身份,這與元宇宙用戶的多重數字身份在本質上是不同的。一名成年男子可能同時擁有丈夫、兒子、職員等身份,但這些身份分別是相對于妻子、父母、同事而言的,在一般人的眼中,這就是“一個人”。在元宇宙的世界中,多重的數字身份更像是“多個人”。例如,一個人完全可以憑借不同的身份與不同的人結婚,甚至無視性別,但對方不會知道自己的結婚對象與現實世界中的人是否是同一個人。身份的匿名化導致了數字身份不僅無法與現實身份相對應,更導致了倫理秩序的混亂。隨著元宇宙的不斷發展,數字身份的可變性與倫理秩序的對立必將更加突出。
(二)基于數據泄露所產生的風險
元宇宙世界是以數據為基礎的數字經濟新場景,《中共中央 國務院關于構建數據基礎制度更好發揮數據要素作用的意見》指出,“數據作為新型生產要素,是數字化、網絡化、智能化的基礎,已快速融入生產、分配、流通、消費和社會服務管理等各環節,深刻改變著生產方式、生活方式和社會治理方式”[7]。在元宇宙產業蓬勃發展的時代下,數據具有了不同以往的全新意義。雖然Web 2.0時代產生了極其龐大的數據量,但元宇宙產業的發展會推動數據的總量呈幾何倍增長,例如,當前網絡能夠錄入的人體數據是有限的,僅局限于指紋、面部特征等用于識別身份的必要信息,元宇宙世界對人體數據的記錄則詳細全面,甚至能夠精確到人體的每一根毛發。此外,由于元宇宙相關技術帶來的數據寫入能力的強化,數據內容的重要性也會進一步提高。在元宇宙世界中公司會設立分支機構,其產生的數據具有極高的商業價值,行政系統也會設立相應的辦事機構,其產生的數據與公眾的利益息息相關,數據一旦泄露,將會帶來嚴重的影響。在現實世界中,需要保密的數據可以憑借紙張等媒介實現物理意義上的隔絕;元宇宙世界中,任何情報都將以數據的形式被記錄下來并與網絡聯通,數據泄露的風險將會進一步增加。
1.數據泄露侵害個人信息。元宇宙平臺的運營企業出于對自身利益最大化的考量,必然會試圖利用元宇宙平臺記錄的用戶信息換取利益,進而引發新一輪的數據安全和隱私泄露問題。[8]由于元宇宙平臺運營企業與用戶能夠獲取的信息高度不對稱,用戶的信息在未經授權的情況下被用于牟利行為,元宇宙用戶未必能夠察覺。即使用戶能夠發現個人信息權益受到損害,與平臺的巨大實力差距也會導致用戶很難維護自身的合法權益。如前文所述,元宇宙相關技術的發展強化了相關設備的數據寫入能力,元宇宙平臺運營企業甚至會以安全維護為名憑借相關設備要求掃描用戶所處周遭環境的數據。在現實世界中,人的活動過程雖然能夠留下一定的數據記錄,但不過是人所有活動的一部分。在元宇宙的世界中,用戶的任何生理活動都會被轉化為數據并被記錄,元宇宙平臺企業掌握的個人信息甚至比用戶本人所了解的個人信息還要詳細,元宇宙世界中數據的泄漏必然會給個人信息帶來更加嚴重的影響。
2.數據泄露妨礙企業創新。公司為了獲取更加豐富的利潤,提高自身的經營效率,會在元宇宙世界中設立公司專屬的經營場所。與傳統互聯網平臺的有限功能不同,在元宇宙平臺上能夠完成的商業活動與現實幾乎毫無差異,甚至更加高效便捷。然而,市場主體同樣無法擺脫信息泄露的風險。元宇宙平臺記錄了公司在元宇宙世界中從事商業活動的所有數據,而平臺往往是由運營企業控制的,元宇宙平臺的運營企業有可能盜取這些數據并將其用于不當用途。商業數據的泄露不僅會導致商業秘密的泄露,更為可怕的是,元宇宙平臺的運營企業可能通過商業數據提取出有效信息,再現一般商業公司的經營模式,并在相同的領域展開競爭,以攫取更多的利益。面對強勢的元宇宙平臺運營企業,一般的公司無法與其相對抗,同時也會考慮信息泄露的風險,在元宇宙世界中不敢大膽創新,長此以往,必然會成為元宇宙經濟發展的桎梏。
3.數據泄露威脅國家安全。在元宇宙世界中,數據傳輸技術飛速發展,傳統的邊界劃分無法發揮作用,數據的流動能夠輕易地打破地域的限制,難以得到有效控制。行政系統在元宇宙世界中會設立相應的辦事機構,然而,辦事機構內部的數據可能存在著涉及國家安全的信息,一旦被元宇宙平臺運營企業盜取,后果不堪設想。此外,經營元宇宙平臺的企業很多是大型國際公司,一旦其別有用心地收集大量隱私數據,就可以據此分析出許多涉及國家安全的信息。目前元宇宙領域中的互聯網企業,如微軟、雅虎、谷歌、蘋果等,均與本國的政府聯系密切,并非完全中立的商業公司,隨著元宇宙產業的不斷發展,會給國家安全帶來極大的威脅。
(三)基于算法異化所產生的風險
元宇宙世界是虛擬的數字世界,其近乎由算法“編織”而成。元宇宙中的一切都以數據形式存在,而控制數據運行的就是算法,算法在元宇宙構建的過程中起到了基礎性作用。當今是數字經濟時代,算法已然在潛移默化中影響著我們生活的方方面面,在元宇宙世界中這種影響將會進一步擴大,社會各界對算法的重視將會達到空前的高度。算法是一系列解決問題的清晰指令,但在元宇宙的世界中,指令存在著異化成算法權力的風險。元宇宙的運營平臺能夠通過算法制造“信息繭房”,從而引導用戶作出對平臺有利的選擇,算法淪為了平臺攫取利益和維護自身權力的工具,所謂“算法中立”也不過是平臺掩飾自身行為的借口,算法內在隱含了價值判斷,在算法運用的過程中,所謂“算法中立”是不存在的。[9]誰控制了算法,誰就能獲得算法權力,元宇宙平臺企業作為算法的掌控者為了維持權力的占有,必將迫使越來越多的用戶遵循自身的意志,算法權力存在異化的風險[10],元宇宙用戶的權益受到了算法權力的威脅。
1.算法異化導致權力集中。一般認為,在利用區塊鏈構建的去中心化的元宇宙世界中,真正實現了點對點平權,用戶對個人數據以及算法都享有完全的自主權。[11]然而,算法權力的存在打破了去中心化的發展趨勢,權力以元宇宙平臺的運營企業為中心再次集中。憑借著技術優勢帶來的算法權力,元宇宙平臺企業能夠實現對數字環境中底層算法的控制,進而控制信息的流向,并對用戶進行適當的引導,將元宇宙用戶引導至對自身有利的方向。在算法權力的作用下,元宇宙世界的實際管理者不再是去中心化的自治組織,而是中心化的平臺運營企業。
2.算法異化壟斷經濟活動。元宇宙平臺的運營企業作為算法權力的擁有者,為了攫取更加高額的利潤,必然會追求壟斷元宇宙世界內的經濟活動。經濟活動的壟斷,會從兩個方面開展,針對用戶,平臺運營企業會通過算法編制出符合自身利益的“信息繭房”,并巧妙地將用戶放置于“繭房”之中,引導他們作出有利于企業獲得更多利益的選擇,并避免用戶接觸到企業的負面消息;為了更好地打壓競爭對手,平臺企業會通過算法向客戶推送競爭對手的負面信息,排斥競爭企業通過元宇宙平臺與用戶建立合作關系。在元宇宙世界中,經濟活動的壟斷具有無形性,元宇宙用戶難以感受到這種干涉,但作出的決策卻總是符合元宇宙運營平臺企業的利益。
3.算法異化操縱社會觀念。元宇宙的運營平臺企業往往能夠憑借算法權力操縱社會觀念,以達到攫取更多利益的目的。企業對社會觀念的操縱,在當下的互聯網時代便已經初見端倪,大量的互聯網公司鼓吹著消費主義與拜金主義,為了推動消費而設立的節日更是數不勝數??梢灶A見的是,在元宇宙的世界中,發生此種危害的可能性將會顯著提高,并且不僅局限于消費領域,例如,在游戲元宇宙中公司可以將特定的政治觀念和意識形態編入游戲劇情之中,從而潛移默化地改變用戶所秉持的觀念認知。
二、元宇宙發展風險的行政規制
元宇宙的運行及發展需要以資本運營作為支撐,資本運營的核心目的是追求更多的利益,行政機關則具有公益性,兩者難免產生沖突。提供元宇宙相關服務的平臺企業在負責元宇宙日常運營的同時,也獲得了在現實世界中難以比擬的權力,元宇宙治理的行政規制面臨著全新的挑戰。在治理元宇宙世界的過程中,針對身份匿名風險、數據泄漏風險、算法異化風險,需要具有強制性與公益性的行政系統,根據風險的獨有特點構建相應的治理機制。行政機關應利用數字技術連接各治理主體的信息數據和治理資源,全面審視相互關聯的結構、層次、功能、環節等要素,促進各主體之間有效互動[12],開辟元宇宙行政規制的治理路徑,以實現元宇宙發展風險的行政規制。
(一)身份真實化治理
面對身份匿名風險,元宇宙世界需要一套可靠互通的數字身份認證系統維持元宇宙世界數字身份的唯一性,將元宇宙世界中的虛擬身份與現實世界中的真實身份一一對應。統一身份認證體系的建立,無法依靠元宇宙平臺的運營企業,這是因為數字身份的不確定性不但不會影響市場主體的當前收益,甚至還會因為其內在的隱蔽性吸引更多的潛在用戶。元宇宙世界的治理具有公益性,也可能與市場主體的逐利性發生矛盾。與之相比,行政系統具有天然優勢,也具有足夠的公信力搭建統一的身份認證平臺。
1.搭建全國統一的身份認證平臺。身份匿名風險的規制需要在元宇宙世界中開展身份信息的可信認證研究,統一的身份認證平臺應當以現有的身份數據庫為基礎,在建設過程中靠行政系統的公信力與執行力加以保障。就目前狀況來看,不同的市場主體根據自身的技術條件搭建了不同的元宇宙服務平臺,不同的平臺存在著不同的認證機制,用戶在享受元宇宙服務的同時,往往需要重復注冊、驗證、登錄,為了使身份認證更加權威和便捷,一種能夠為多種元宇宙世界提供權威身份認證的平臺就有了存在的必要。元宇宙平臺的運營企業在法律意義上是平等的,任何一個企業主導統一身份認證平臺的建設,都存在著壟斷經濟活動的風險。此外,有些企業不具備足夠的技術支持建設統一的身份認證平臺,因此,平臺的搭建應由行政系統主導。行政系統在建設與維護統一身份認證平臺的過程中,應當注重發揮服務與監管功能,在提供信息認證服務的同時,也要打擊脫離信息認證服務私自搭設元宇宙平臺的行為。
2.區分用戶類型設立不同的準入機制。根據對元宇宙發展影響力的不同,可以將元宇宙的用戶區分為兩種類型,即組織類用戶及個體類用戶。所謂組織類用戶,是指公司、社會團體等非人格化的利用主體,個體類用戶則指現實世界中作為個體的自然人。針對不同類型的主體,應當設立不同的元宇宙準入機制,針對組織類用戶實行單一身份認證機制與準入門檻;對于個體類用戶實行多元的身份認證制度,不設立準入門檻。從事商業活動的組織類用戶,往往具有遠超于個體類用戶的活動能力,該類用戶若是違反了規則,往往也會給元宇宙世界帶來更加嚴重的破壞。因此,當組織類用戶想要進入元宇宙空間開展經營活動時,應提前申請行政許可。此外,組織類用戶只能具備一種數字身份,并需要與其在現實世界的身份一一對應,這種對應關系應當是公開透明的,為一般公眾所知曉。個體類用戶作為享受元宇宙服務的主體,則可以自由地出入元宇宙世界,無須申請任何許可。同時,個體類用戶可以擁有多重數字身份,更好地享受元宇宙平臺提供的服務。但是,任何數字身份都需要通過統一的身份認證平臺進行認證,即個體類用戶可以通過現實世界的身份認證多重的數字身份。這種對應關系應當是非公開化的,只有在個體類用戶從事違法行為時,才能對執法者進行一定限度的公開,即采用“前端匿名、后端實名”的身份認證技術。[13]
3.探索構建跨國數據溝通機制。隨著元宇宙時代的到來,國家戰略博弈空間逐漸從傳統的現實世界走向數字技術支持的虛實相融世界[14]。元宇宙的發展具有打破空間限制,跨越國界與區域的特點,因此,以屬地原則與屬人原則為代表的傳統管轄原則難以在元宇宙空間中得到充分應用。違法行為主體的國籍、元宇宙平臺所屬的國家、受害者的國籍,都具有主張管轄權限的依據。此外,雖然元宇宙平臺運營企業所屬的國家是明確的,但基于數字身份的不確定性,違法者與受害者的國籍都很難在第一時間直接確定,這極大地影響了行政執法效率。因此,在構建身份認證平臺的同時,有必要開展國際協作,探索構建合理范圍內的跨國數據溝通機制。需要注意的是,這種溝通機制應以國際條約的存在為前提,并且為了保護公民的個人信息權益與維護國家安全,數據溝通機制應該被限制在合理范圍內。合理范圍則應該從信息的私密程度、違規行為的嚴重性、受害者受到損害的大小、事件的社會影響力等方面進行判斷。應事先在條約中對違規行為和可溝通的信息范圍進行等級劃分,根據違規行為嚴重程度的不同,劃定可公開的信息范圍。
(二)數據安全化治理
隨著元宇宙產業的不斷發展,現有的監管體制難以規避海量數據集聚下的數據泄露風險。因此,有必要重塑數據的監管框架,實現數據安全化治理。監管框架的塑造則須以數據的利用與流通為重點,在數據的利用方面,應當區分個人與企業,對于個人,為防止信息的泄露,應對個人的數據實施強制性隱私差分;對于企業則需要限制元宇宙平臺運營企業的同業競爭。在數據流通方面,為維護國家安全,需要規范用戶數據的跨境流動。
1.對用戶數據實施強制性隱私差分。元宇宙用戶的相關數據往往與其真實身份具有緊密聯系,這是數據泄露能夠對個體權益造成實際侵害的重要原因。通過泄露的數據能夠判定出用戶的真實身份,被害人受到的負面影響才會不斷擴大,否則,數據即使泄露,也不過是局限于元宇宙平臺這一虛擬世界,在現實世界中的自然人并不會受到影響。因此,為盡可能減輕數據泄露對自然人造成的影響,應當由行政系統對元宇宙平臺中的用戶數據實施強制性隱私差分。所謂隱私差分,是指通過技術手段對用戶數據中能夠直接定位到真實身份的內容實施遮蔽。需要指出的是,強制性隱私差分與構建統一的身份認證平臺并不沖突,兩者針對的主體是不同的,前者針對的是用戶個人,隱私差分面向的則是元宇宙平臺的運營企業。只要用戶能夠通過統一身份認證平臺的真實性驗證,元宇宙平臺便應該向用戶開放使用權限。元宇宙平臺的運營企業只能被告知用戶的信息是否真實,而無法得知身份信息的具體內容。此外,元宇宙平臺的運營企業不得擅自收集與用戶真實身份有關的信息,對于已經收集到的信息,必須在通過技術手段實施差分處理后才能夠加以運用。
2.限制元宇宙平臺運營企業的經營范圍。元宇宙作為未來社會生活的主要平臺之一,將會成為各大公司的主要經營場所,帶來巨大的商業數據流量。在數據泄露的情況下,元宇宙平臺的運營企業能夠輕易地獲取一般商業公司需花費大量資源才能獲取的商業信息,并可能以此為優勢與其他公司展開同業競爭,從而妨礙市場主體的創新。在設計之初,元宇宙系統就應遵循開放、全面參與的理念,元宇宙是由無數個平臺組成的系統,壟斷顯然是與此系統相悖的[15],因此,需要行政系統對這種不公平競爭現象加以規制。行政機關應該嚴格限制元宇宙平臺運營公司的運營范圍,禁止其利用一般商業公司的數據開展同業競爭。元宇宙是一個廣闊的大平臺,應當遵循包容開放的理念,從這個角度來說,元宇宙平臺的運營企業不應該是經濟活動的競爭者,而應該是平臺秩序的維護者。
3.規范用戶數據的跨境流動。數據泄露威脅國家安全的風險不容小視,為規制用戶數據的跨境流動,我國目前也出臺了一些相關法律文件,如《中華人民共和國個人信息保護法》《中華人民共和國網絡安全法》等,構建了基本的法律框架。但是,這些規定并不具有較強的可操作性,如《上海市數據條例》和《深圳經濟特區數據條例》中的個人信息保護規則主要是對《中華人民共和國網絡安全法》和《中華人民共和國個人信息保護法》等立法規范的重述和細化。如何規制元宇宙世界中的數據跨境流動還有待細化,在元宇宙企業收集個人數據和獲取公共數據及其數據衍生利用方面還有許多值得推進的工作。[16]而且不同行業的數據監管部門各自為戰,僅對本行業數據的跨境流動進行監管,缺少有效的合作協調機制。[17]因此,規范用戶數據的跨境流動,應統籌各個部門的數據跨境監管機制,建立全國統一的用戶數據跨境流動監管平臺,要求本國境內生成的元宇宙用戶數據必須存儲在本國境內的服務器上,并且只有經過專門的行政規制機關的安全審查評估才能跨境流動,避免用戶數據無序流動到境外。[18]
(三)算法向善化治理
隨著元宇宙產業相關技術的不斷發展,算法在市場經營和政府決策的過程中扮演著愈發重要的角色。算法的作用在于提高數據的運用效率,解決實際問題。然而,“算法中立”只是一個理想的口號,元宇宙平臺的運營企業一旦獲得了算法權力,必然會依靠算法權力壟斷經濟活動,操縱社會觀念,這便需要行政系統開辟行政規制路徑,實現算法向善化治理。對于算法的行政監管,應當以算法公正為理念,區分事前、事中、事后三個階段,分別進行算法透明規制、算法倫理規制以及算法問責規制,構建完整的算法審查機制。
1.算法透明規制?!八惴ê谙洹睂е铝伺c算法相關的信息無法為公眾所熟知,進而產生了算法權力。要構建算法審查機制,首先就需要以提高算法信息的透明度,打破信息壟斷,從信息來源方面實現人人平等。算法透明是指通過提供諸如詳細的文檔、技術上的合適API接口和允許使用條款等可進行監測、檢查或復核的信息,使中立第三方能夠探查和審查是否存在算法妨害。[19]算法透明規制作為算法審查機制中的事前審查機制,具體的制度設計應當包括事先的詳情告知、向主管部門的報備、源代碼公開等各種義務。同時,算法信息的公開應當是一定限度的公開,過度的信息公開可能會導致商業秘密的泄露。元宇宙世界算法的透明規制,應從監管端和用戶端兩個方面出發。在監管端,應著重強調執法人員監管的有效性,從算法背景、算法要素、算法程序三個角度進行考察,不必要求元宇宙平臺的運營企業作出實際解釋,這是因為“算法可解釋性本身不要求實際的算法解釋,而只是要求算法考慮各種元素的具體機理能夠為專業人士所清晰認知、能夠通過明確的規制式語法表達,此種狀態不一定能增進普通人對算法的理解,但卻非常有利于專業監管的開展”[20];用戶端的核心則是保障元宇宙用戶的知情權,元宇宙用戶在合法權益實質上受到算法決策影響時,應該有權要求元宇宙平臺運營企業進行解釋與說明。
2.算法倫理規制。部分算法信息受到知識產權法律的保護,無法實現公開透明;個別算法信息還涉及當事人的隱私,同樣無法公開。算法的透明規制具有局限性,公開的算法信息只能局限于一定的限度范圍,于是算法的倫理規制便有了其存在的合理意義。算法倫理規制是算法審查機制中的事中審查機制,能夠通過對算法技術內在的價值引導來約束算法權力實現算法公正,彌補算法透明規制的缺陷?;谒惴嗔λ鶎е碌乃惴ó惢?,算法可能會把人當作客體對待,將人看作單純的信息,剝奪用戶作為人的主體性,使用戶淪為生產信息的工具,從而引發算法的倫理危機。導致倫理危機的根本原因,從根本上來說還是元宇宙平臺運營企業的價值觀念,因此,應當從源頭出發,出臺科技倫理規范,構建算法技術的倫理審查機制,科學界定公共利益算法,并對其進行特別規制,要求有關元宇宙的算法程序在最初階段就遵守“共同善”的價值準則,將符合“善”的倫理價值編入算法之中形成道德算法,將平等、人權、公正等價值準則融入到算法設計與運行中[21],在算法的設計之初就促使算法的設計者樹立算法公正的理念。
3.算法問責規制。算法問責規制是算法審查機制中的事后審查機制,意在通過法律責任的設置改變主體的收益結構,進而引導元宇宙平臺運營主體的行為。在元宇宙世界中,人們通過數字身份從事的社會經濟活動,開展的社會交往與經濟交往,與現實世界相似,元宇宙世界同樣具有公共性。對于算法權力濫用的行為,同樣也不能只從民事責任的角度進行規制,更應該規定相應的行政法律責任。行政法律責任設置,應當以元宇宙平臺運營企業的法律責任為主。元宇宙平臺的運營企業是算法權力的擁有者,也是算法權力的最終受益者,其從事算法權力濫用行為的頻度高、影響嚴重,在設置行政法律責任時應重點考慮,這與我國目前以平臺問責制度為主的算法問責模式是一脈相承的。元宇宙平臺的運營企業通過改進算法推動生產交易的自動化與效率化,并以此獲得收益,其在推動創新的同時也需要行政監管。
三、結語
技術治理模式本身具有局限性,技術架構自身的非中立性無法依靠技術治理模式得到解決,要推動元宇宙事業的發展需要其他治理模式的干預,具有公益性的行政規制成為最佳選擇。因此,行政系統應當構建回應型治理模式,開辟行政規制路徑,克服技術治理模式的固有缺陷。在元宇宙世界中,回應型治理模式的構建需要多元主體的參與,政府應認真履行職責,提升自身數字化治理能力,優化社會治理格局,引導多元主體參與,將數字技術融入政治、經濟、社會、文化建設的全過程[22]。身份真實化治理、數據安全化治理、算法向善化治理,都是行政系統在實現元宇宙建設過程中構建回應型治理模式的一部分。元宇宙的發展既帶來了機遇,也帶來了挑戰,面對著全新的挑戰,應以行政系統為主導,塑造以人為本的回應型治理模式。
參考文獻:
[1]王奇才.元宇宙治理法治化的理論定位與基本框架[J].中國法學,2022(6):156-174.
[2]XIAO C L.Metaverse:What? Why? When?[EB/OL].https://www.solactive.com/metaverse-what-why-when/.
[3]張衛平.元宇宙與糾紛解決:應用圖景及規制想象[J].政法論叢,2022(2):81-92.
[4]汪世榮,陳思思.“元宇宙”時代:科技革命與未來法治[J].河北法學,2023,41(1):43-56.
[5]焦艷鵬.元宇宙生活場景中的利益識別與法律發展[J].東方法學,2022(5):30-44.
[6]魯照旺.元宇宙的秩序和規則[J].學術界,2022(2):65-79.
[7]新華社.中共中央 國務院關于構建數據基礎制度更好發揮數據要素作用的意見[J].中華人民共和國國務院公報,2023(1):28-33.
[8]趙精武.“元宇宙”安全風險的法律規制路徑:從假想式規制到過程風險預防[J].上海大學學報(社會科學版),2022,39(5):103-115.
[9]丁曉東.算法與歧視 從美國教育平權案看算法倫理與法律解釋[J].中外法學,2017,29(6):1609-1623.
[10]張凌寒.算法權力的興起、異化及法律規制[J].法商研究,2019,36(4):63-75.
[11]季衛東.元宇宙的互動關系與法律[J].東方法學,2022(4):20-36.
[12]王雨.數字政府治理的內在邏輯與整體性策略[J].黨政干部學刊,2023(2):59-65.
[13]宋憲榮,張猛.網絡可信身份認證技術問題研究[J].網絡空間安全,2018,9(3):69-77.
[14]翟崑.元宇宙與數字時代的國家戰略創新[J].人民論壇,2022(7):26-29.
[15]楊東,梁偉亮.重塑數據流量入口:元宇宙的發展邏輯與規制路徑[J].武漢大學學報(哲學社會科學版),2023,76(1):55-66.
[16]孫益武.論元宇宙與智能社會法律秩序調整[J].法治研究,2022(2):45-56.
[17]馬其家,李曉楠.論我國數據跨境流動監管規則的構建[J].法治研究,2021(1):91-101.
[18]黃锫.元宇宙的行政規制路徑:一個框架性分析[J].中國法學,2022(6):175-196.
[19]魏遠山.算法透明的迷失與回歸:功能定位與實現路徑[J].北方法學,2021,15(1):151-160.
[20]蘇宇.優化算法可解釋性及透明度義務之詮釋與展開[J].法律科學(西北政法大學學報),2022,40(1):133-141.
[21]王聰.“共同善”維度下的算法規制[J].法學,2019(12):66-77.
[22]顧興樹,呂洪樓.城市社區數字化治理的內在邏輯、現實困境及紓解路徑[J].黨政干部學刊,2023(5):60-68.
責任編輯? 王? 雨