關鍵詞:人形機器人 新質生產力 經濟法治 安全發展 動態平衡 共商共建共享
中圖分類號:DF41 文獻標識碼:A 文章編號:1674-4039-(2024)05-0019-31
一、背景與問題
2024年7月,黨的二十屆三中全會通過了《中共中央關于進一步全面深化改革、推進中國式現代化的決定》(以下簡稱《決定》),對健全推動經濟高質量發展體制機制、促進新質生產力發展作出重要的戰略部署,指出要加快形成同新質生產力更相適應的生產關系,促進各類先進生產要素向發展新質生產力集聚,大幅提升全要素生產率。“新質生產力”在2024年《政府工作報告》中被重點提及,列為本年度十大工作任務首位。新質生產力是指創新起主導作用,擺脫傳統經濟增長方式、生產力發展路徑,具有高科技、高效能、高質量特征,符合新發展理念的先進生產力質態。其中,作為最具代表性的具身智能(Embodied intelligence),人形機器人(Humanoid robot)有著類似人類的身體結構和運動方式,〔3(〕能夠在更復雜的場景中勝任更多的工作,被認為是通用人工智能技術的理想載體,有望成為繼計算機、智能手機、新能源汽車后的顛覆性產品,已成為全球科技競爭的新高地和未來產業的新賽道。而人Oc478UvhW2FrTPzGkSo6gw==形機器人能否實現高質量發展,核心即是以發展新質生產力作為促進其創新發展的強勁推動力和支撐力。實現人形機器人的創新發展之所以要以新質生產力為重要支撐,是因為新質生產力所獨具的高科技、高效能、高質量等特征與人形機器人產業的發展需求緊密契合。在培育新質生產力的過程中,通過發揮創新的主導作用,激發原創性、顛覆性的科技創新,將科技創新成果更及時地應用到人形機器人發展中,為人形機器人的科技創新和產業創新提供更加科學的布局。
為更好推動新質生產力成為人形機器人創新發展的支撐,需正確認識具身智能與離身智能(Disembodied intelligence)之間的關系,雖然兩者都具有很強的通用性,但是具身智能的最大特點在于具有支持感覺和運動的物理身體,可以進行主動式感知,也可以執行物理任務,克服了離身智能的諸多局限性。這就意味著人形機器人產業發展不僅離不開人工智能技術的創新,也需要高端制造、新材料等高精尖技術的大力支持。可以說,人形機器人的創新發展是人工智能、智能制造、自動駕駛等產業形成提供新質生產力的“創新聯合體”,其中,人工智能技術是引領人形機器人取得技術突破的關鍵動力,尤其是以ChatGPT為代表的大模型,有望為人形機器人提供更智能的“大腦”。
目前,世界各國政府雖然尚未出臺與人形機器人直接相關的經濟政策和措施,但針對人工智能、機器人等產業提供了較為充足的政策支持。美國于2021年2月宣布《國家機器人計劃(NRI)》,支持對集成機器人系統的研究, 并向其提供1400萬美元的支持, 鼓勵各相關機構和組織進行合作研發。2023年5月23日,白宮公布《國家人工智能研發戰略計劃》,致力于使美國在人工智能領域保持世界領先地位,開發功能更強大、更可靠的機器人等。德國2021年頒布《2025高科技戰略(HTS)》,計劃到2026年德國政府每年將提供約6900萬美元的資金以支持高科技發展,包括研發特定領域的人形機器人。韓國政府2022年發起《智能機器人基本計劃》,并為此提供1.722億美元的支持,以推動機器人技術發展。日本的“新機器人戰略”旨在使日本成為世界上第一個機器人創新中心,日本政府在2022年提供了超過9.3億美元的支持。
與域外相比,我國在支持人形機器人創新發展的政策支持上更具有前瞻性。2023年1月,工業和信息化部等十七部門聯合印發《“機器人+”應用行動實施方案》(以下簡稱《實施方案》),提出要“構建機器人產用協同創新體系”“帶動機器人企業協同攻關和成果轉化”,這充分回應了人形機器人創新發展在技術和產業方面的需求。2023年10月,工業和信息化部關于印發《人形機器人創新發展指導意見》(以下簡稱《指導意見》)明確指出,要推動人形機器人產業高質量發展,培育形成新質生產力,高水平賦能新型工業化。總體而言,目前我國政策聚焦于建立人形機器人創新體系,提升人形機器人技術創新能力,拓寬人形機器人具體應用場景,在統籌發展和安全的基礎上,開拓一批新業務、新模式、新業態,助力推動新質生產力成為人形機器人實現創新發展的重要引擎。
雖然人形機器人的創新發展已經受到了各國政府的重視,但是,仍存在諸如不安全、不可靠、技術門檻高、競爭活力不足等制約新質生產力發展的問題。經濟法治作為在經濟社會高質量發展中依法保護市場主體的合法權益,規范市場經濟秩序,以法律手段來管理和調整經濟行為的原則和制度,確保經濟、社會等協調發展,發展成果兼顧多數人利益的一種法治運行樣態,在本質上契合了發展新質生產力的基本要求,除發展要求外,涵攝安全、競爭、創新等,為人形機器人創新發展提供充分保障。
在具體治理路徑構建上,可以主要從人工智能的核心要素治理與整體治理兩個視角出發:對于數據要素,聚焦于數據要素流通問題,重視對數據產權制度的探討,關注依反壟斷法強制開放必需數據有現實可行性、數據爬取行為的正當性等問題;對于算法要素,則聚焦于算法歧視、算法共謀等不正當競爭和壟斷行為;對于整體治理,則有學者提出了分場景治理、分層治理、風險分級管控等路徑。
為了加快發展新質生產力,進一步推動人形機器人等代表性場景的創新發展,亟須從經濟法治具體內涵出發,結合人形機器人行為集成的技術特征,找準人形機器人發展面臨的經濟法治困境,構建促進人形機器人創新發展的經濟法治實現機制,進一步適配有效市場和有為政府間價值與功能、解決技術發展和應用中安全風險與漏洞、協調經濟創新發展目標與市場公平競爭秩序,建立健全人形機器人創新發展目標與路線, 探尋促進新質生產力重點應用場景高質量發展的經濟法治方案。
二、以人形機器人創新發展詮釋新質生產力的經濟法構造
經濟法治是指通過經濟法律制度調整使經濟體制改革和社會經濟發展步入法治軌道,實現經濟改革和發展法治化的治理過程。在人形機器人發展的經濟法治模態構建中,牽涉到復雜的價值平衡,需要從理論上依據人形機器人產業發展的現狀與特征引入綜合性多維度分析,價值判斷也需要從消費者福利、經濟效率等經濟性價值取向邁向多元利益平衡,特別是注重對消費者隱私安全、勞動者權益、環境保護、可持續發展等非經濟性價值的關注。因此,以人形機器人創新發展為著眼,能夠較為充分地詮釋新質生產力的經濟法治構造,通過明確主要維度、建立有機聯系,形成有助于導向合理結果的規制框架,協助規制者全面考慮各種因素,制定出合理的法治安排,推動人形機器人等新質生產力的具象化發展和變革。
以人形機器人創新發展促進新質生產力的經濟法治構建工作是一項系統工程, 該經濟法治的內涵應主要包含以下幾點:其一,確立創新發展為人形機器人發展的首要目標,將新質生產力作為主要推動力,鼓勵科技創新和關鍵性技術突破,讓各類優質要素向有助于人形機器人發展的方向匯集。其二,以安全可控為底線,制定明確的法規和標準,保證人形機器人在設計、制造和運用過程中安全可控。其三,以公平競爭為支撐,防止壟斷和不正當競爭行為,以良性競爭促進人形機器人技術創新,推動行業規范健康可持續發展。其四,以包容開放為保障,推動人形機器人技術的普及和利益共享,通過政策扶持、技術交流和國際合作,為發展新質生產力營造良好的國內和國際環境,促使技術成果更廣泛地惠及社會各層面。
(一)以創新發展為目標
創新不僅是引領人形機器人產業健康發展的新引擎,也是發展新質生產力的核心動力。在2023年1月發布的《實施方案》中進一步明確指出,要“構建機器人產用協同創新體系”,“鼓勵產用共建機器人應用領域創新聯合體、創新中心等創新機構”。2023年10月,《指導意見》指出,營造人形機器人產業生態,一是需要“培育優質企業”“強化企業創新主體地位”,二是“完善創新載體和開源環境”、深化創新與產業發展融合,三是打造創新能力強、應用場景佳的優勢集聚區,“推動產業鏈集聚發展”。習近平總書記在2024年1月的中共中央政治局第十一次集體學習時提出“科技創新能夠催生新產業、新模式、新動能,是發展新質生產力的核心要素”。
目前,相關政策、方案、意見陸續出臺,構建了頂層設計與具體措施兼具的政策支持體系,抓住了創新作為發展新質生產力的關鍵所在,為探索人形機器人創新發展的新模式、新路徑提供了政策制度保障,明確了創新之于人形機器人發展的重要意義,既涉及技術層面的突破,也關乎經濟社會層面的發展。首先,創新是人形機器人及相關產業持續發展的重要基礎和第一推動力。只有通過不斷推動科研和技術進步,才可實現產品的不斷升級和優化,使人形機器人更具智能性、靈活性和適應性,滿足不斷變化的市場需求,同時創造新的市場需求,提高技術及產業的國際競爭力。其次,創新還對人形機器人相關的產業鏈協同發展產生積極影響,人形機器人生產和應用涉及諸多領域,譬如材料科學、機械工程、計算機科學等。通過激發創新,不僅能夠帶動相關產業的發展,還有助于形成完整的產業生態。同時,在經濟層面,激勵創新有助于提升國家或地區的科技競爭力,推動整個產業體系向高附加值方向發展,助力經濟發展的轉型升級,實現經濟增長模式由“粗放式”向“集約式”的轉變,順應高質量發展的目標要求。最后,從社會層面看,創新還能夠促使人形機器人技術提供更精準、高效的服務,部分解決因勞動力短缺、深度老齡化、少子化等引發的經濟社會可持續發展難題,更好地助力中國式現代化的實現。
進言之,人形機器人的創新發展不僅需要新質生產力提供支撐,其作為一種顛覆性技術在未來也可能成為培育發展新質生產力的動能。雖然,人形機器人尚未進入產業化應用階段,但其已經蓄勢待發,有望在未來產生顛覆性影響,促進產業深度轉型升級,實現全要素生產率大幅提升,成為新質生產力培育發展的關鍵一環。當前,世界主要國家都高度重視人形機器人技術的發展,紛紛對該技術創新加大投入、對相關產業轉化加大支持,以期引領技術創新和產業發展方向,盡快形成產業新賽道和經濟增長新動能,并在創新鏈、產業鏈中取得掌控地位、獲得更大的價值創造份額。
(二)以安全可控為底線
2023年10月發布的《指導意見》明確提出,要“加強安全治理能力”“提升人形機器人功能安全性能,確保相關技術產品對人和環境友好”,并且“促進技術創新與科技倫理協調發展”。此外,信息安全、數據安全等技術能力的提高也被提及。不僅如此,產業安全水平也是發展新質生產力的內在要求,新質生產力的發展需要加強科技創新,更要統籌高質量發展和高水平安全,不斷夯實新質生產力的安全基礎,才能推動人形機器人可控發展。習近平總書記在2024年1月的中共中央政治局第十一次集體學習時強調,“提升產業鏈供應鏈韌性和安全水平,保證產業體系自主可控、安全可靠”。可見,安全可控是人形機器人發展必須牢牢守住的底線,在發展中必須統籌高質量發展和高水平安全的動態平衡。
由于人形機器人具有較高的技術難度,且集成了包括人工智能、傳感技術等多種高精尖技術,使其存在的安全風險可能具有更為復雜、廣泛、深遠,甚至不可預知的影響。首先,人形機器人存在人工智能固有的數據與算法相關的潛在風險,人形機器人研發與迭代涉及大規模的高質量數據源,對數據安全和隱私保護構成極大挑戰,現實的和潛在的數據泄漏、篡改和真實性驗證等風險降低了用戶的信任度。而旨在匹配人形機器人復雜應用場景的算法可解釋性則愈發不足,算法自主性的提升將使人形機器人應用愈發不可控。其次,人形機器人與工業應用緊密結合,安全事件不僅可能危及設備和數據的安全,還可能導致生產事故,對人類生命安全構成直接威脅。例如,在醫療機器人領域,安全漏洞可能直接威脅患者的生命。
人形機器人被視作具身智能的理想載體,未來可被廣泛應用于醫療保健、交通運輸、教育培訓、娛樂休閑等通用領域,并不斷向各類專業性特征強、風險性系數高、創新潛能大且新質生產力運用強勁的新興行業拓展,為此,更需將高水平安全作為其發展的基石和目標,以預防潛在的風險事件、事故和技術濫用的發生,提高公眾對人形機器人這一新興技術及應用的信任度與接受度,確保人形機器人產業的可持續性發展,為產業的健康成長創造良好的環境。
人形機器人在高質量發展與高水平安全之間尋求適當平衡的過程中,需同時避免過度設立法規進行限制,過多的規制措施除可能導致規制成本上升外,有時還會產生矯枉過正的效果。此外,還需在適應變化和保持穩定之間找到平衡,如果規制措施出臺與變化過于頻繁和突然,可能導致創新發展的不確定性增加,使企業難以適應市場變化,從而影響整個產業的穩定性。因此,在制定規制政策時,需要謹慎平衡對技術的支持與對風險的控制,以確保人形機器人產業在變革中保持適度的穩定和安全。
(三)以公平競爭為支撐
公平競爭是建設高水平社會主義市場經濟體系的核心價值之一,只有在公平有序的市場競爭環境中,人形機器人技術研發及產業應用才能得到創新發展,生產要素的配置才能更加科學高效。為此,須以維護公平自由的市場競爭秩序,來充分釋放市場主體的創新活力,協同有形之手和無形之手,實現各類資源的有效配置,在此基礎上推動人形機器人創新發展為激勵和保障科技創新的最優解。
當前,人形機器人產業存在較高的技術門檻和技術壁壘,嚴格的市場準入條件使得人形機器人研發企業高度集中,數據壟斷、專利壟斷等問題可能成為人形機器人創新發展中不容忽視的問題。綜觀當前人形機器人技術及產業, 除以本田為代表的較早進入人形機器人產業的傳統制造型企業外,特斯拉、波士頓動力、小米等新興科技型企業在人形機器人方面也有顯著的成果。可以發現,這些企業背后通常都是擁有雄厚研發資金、海量數據資源以及先進算法和超高算力的科技巨頭作為支撐,一般的初創型企業在缺乏技術與資金優勢的情況下很難進行持續性的創新發展。如此一來,極易導致人形機器人相關市場的進入門檻過高,使得市場出現中心化、集中化的壟斷趨態,很可能會使得市場競爭活力不足,進而影響企業進行創新研發的動力。不僅如此,一些科技巨頭也可能為牟取壟斷利潤而利用其在數據、算法、技術等方面的優勢實施技術封鎖、數據屏蔽等具有反競爭效果的行為排除、限制競爭對手,從而對人形機器人市場公平競爭的環境產生實質威脅。
為此,在支持人形機器人創新發展全過程中必須牢固樹立公平競爭的市場理念,健全完善針對高科技創新的公平競爭法律制度安排。當然,維護公平競爭的市場秩序事關國家高水平市場體系的一體化、系統性建設,僅靠反壟斷法、反不正當競爭法難以勝任,其建設和完善需要諸多法律部門的協同保障,以此營造全社會信任公平競爭的氛圍,從而有利于可持續創新發展。
(四)以包容開放為保障
2021年9月科學技術部公布《新一代人工智能倫理規范》,明確提出“促進包容開放……堅持普惠性和包容性……推動全社會公平共享人工智能帶來的益處”。但在新一輪科技革命背景下,人形機器人等新興技術正在顛覆傳統的經濟發展模式,推動生產、交換、分配和消費等環節的變革,在孕育著新發展動力的同時,也潛藏著社會風險,譬如,對傳統勞動力的替代可能引發嚴峻的就業挑戰、“數字鴻溝”分化不同人群和地區可能進一步加劇財富和收入分配的兩極化等。如果這些風險不能得到及時有效治理,就會反過來制約人形機器人創新發展及潛能釋放。
包容性的經濟法治注重宏觀調控機制對經濟發展的保障作用,倡導通過法治手段,糾正經濟發展模式的偏差,強調對社會經濟發展中歧視現象的糾正,使貧富差距縮小,逐步實現經濟發展成果的利益共享和經濟權利的保障,進而實現社會、經濟、政治、文化等多方面的包容。高水平對外開放能夠為發展新質生產力營造良好國際環境,新質生產力推動人形機器人創新發展除了需要實現負責任安全和高質量技術之外,還需要兼顧增強人形機器人技術的包容性,推動人形機器人產業向公平和開放方向發展,同時重視與國際發展接軌。
包容發展可以確保人形機器人技術的廣泛受益,使其服務更多不同年齡、經濟狀況和文化背景的人群,防止人形機器人技術僅服務于特定群體,造成社會資源和機會的不均衡分配,從而縮小科技鴻溝。此外,通過促進人形機器人技術的廣泛應用,可以為不同領域創造新的就業機會,促進就業多樣性,減輕社會對于技術創新可能帶來的擔憂和抵觸情緒,增強社會對人形機器人技術的接受度和信任感。為此,人形機器人產業發展除了實現高質量之外,還需要兼顧解決貧困、優化分配格局等目標,增強人形機器人技術的包容性,推動人形機器人產業向公平和開放方向發展。
總而言之,人形機器人領域的包容開放,要推動人形機器人發展成果的普惠共享,營造主動接受人形機器人應用的積極氛圍。將包容性發展作為目標有助于建立一個公正、多元、共享的人形機器人產業生態系統,為社會帶來更廣泛、均衡的利益。
三、以人形機器人創新發展促進新質生產力面臨的困境
科技的迅速發展使得人形機器人的能力日益增強,但公眾對其認知還較為有限,科技缺陷的風險如何承擔等問題隨之而來。當前,在發展新質生產力的需求下,人形機器人創新發展的實現,不僅要解決技術創新問題,還要解決關于創新與競爭、安全與發展等問題,對當前我國人形機器人創新發展、具體規則設計以及科技倫理皆提出挑戰。
(一)激勵創新與公平競爭亟待平衡
激勵創新是推動人形機器人技術進步和產業繁榮的核心動力, 也是發展新質生產力的重要途徑。人形機器人發展涵蓋多個領域科技的集成,包括機械工程、計算機科學等,在這個高度集成創新的過程中,企業和研究機構對其研發的新技術、新算法和新工藝進行技術開放,有助于實現研發效能提升。不過,為激勵相關主體加大創新投入,防止其他競爭者“搭便車”“食人而肥”,亟須防范和規制在創新發展特別是在集成創新中不當獲取或使用技術成果、拒絕合理開放相關技術、歧視性授權使用相關技術等不公平競爭的行為發生。技術創新的快速應用對整個產業的發展至關重要,合理的技術保護反哺技術發展,但如果對知識產權保護過度甚至濫用知識產權,則容易導致技術壁壘的形成,可能使得企業間的技術合作受限,創新成果不能合理共享,提高行業準入門檻,導致少數大型企業壟斷先進技術,從而影響整個行業的創新速度和效率,扭曲市場競爭,阻礙新質生產力的發展。
保障公平競爭是市場經濟的應有之義,也是人形機器人產業可持續發展的前提。在激勵創新保護創新成果的同時,也需要提防可能出現的反競爭行為,譬如,警惕少數大型企業通過資本優勢和市場份額,獲得更多創新資源和人才,快速積累技術,形成競爭優勢乃至壟斷,憑借規模效應壓制競爭對手,使得初創型企業難以生存和發展。通過公平競爭,市場才能更好地在資源配置中發揮決定性作用,為各類人形機器人企業在公平的條件下自由參與競爭創造條件,發揮優勝劣汰的篩選機制,從而推動行業不斷進步,滿足不同層次需求。此外,由于人形機器人產業投資大、周期長、風險高,過度追求公平競爭的目標時,可能使創新企業無法獲得應有的回報,降低投資者對于人形機器人技術持續投入的信心,進而影響產業的長期創新能力,阻礙人形機器人技術的迭代更新和產業的可持續發展。
當前,我國雖然已進入全球人工智能發展的第一梯隊,但是在與美國的人工智能領域競爭中仍存在差距。目前,諸如OpenAI、Anthropic和Inflection在內的世界頂流人工智能大模型廠商大多位于美國,不僅吸引了大量的資金涌入,在技術積累、人才吸引方面也都處于領先地位。尤其是OpenAI公司于2024年2月發布AI視頻生成工具產品Sora,再一次加速通用人工智能產業的發展。而我國人工智能領域投融資則不如預期,在人形機器人技術領域也較日本、美國、歐盟等國家與地區起步更晚、積累不足,對于政策、資金、技術、人才的需求更為強烈。在我國加快發展新質生產力的背景下,人形機器人發展中如何平衡激勵創新與保障公平競爭的關系仍待探討。
(二)人形機器人治理規則系統性不足
目前,我國在發展人工智能、智能制造、自動駕駛等產業中,仍存在制約高質量發展的問題,譬如算法歧視、竊取數據、技術封鎖等問題亟待解決,這些問題直接涉及人工智能安全和公正使用、技術的開放性和合作性,可能影響技術創新和生產要素的流通配置,抑制企業創新活力,也可能會成為制約新質生產力發展的要素。為了確保人形機器人技術的安全、可持續發展,確保人形機器人的設計、制造和使用符合道德和法律要求,必須進一步健全相關治理規則。
然而,我國尚未形成相對系統的人形機器人治理體系,對人工智能立法采用了較為多元的方式,如制定專門的人工智能部門法規,或在相關法律中加入人工智能相關規定,抑或在相關領域的管理規定中加入人工智能相關內容等。譬如近年來,我國圍繞人工智能的數據、算法等核心要素以及人工智能的整體應用,在法律層面先后頒行了網絡安全法、個人信息保護法、數據安全法等法律,多部細分領域的管理政策, 如《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理辦法》也相繼出臺。同時,傳統部門法也將人工智能相關要素及其應用納入規制范圍內,我國民法典第127條對數據權益的民法保護作出了宣示性的規定,最高人民法院、最高人民檢察院也于2019年作出《關于辦理非法利用信息網絡、幫助信息網絡犯罪活動等刑事案件適用法律若干問題的解釋》。
即便如此,對多種場景的人形機器人而言,現有治理規則尚未形成系統體系,缺乏高效的協同效能。一方面,當前對于人工智能的相關立法與政策分散于多領域、多產業、多環節中,尚無立法層級高、具有統轄性的立法。首先,面對具有復雜技術層和產業鏈的人形機器人,監管者與開發者之間存在較大的信息不對稱;其次,人形機器人產業鏈涉及核心零部件、本體設計制造以及工業、商業、家庭、醫療、物流等多場景應用,其跨領域、多行業、多環節的特點加大了監管協同難度。故當前較為分散且法律位階較低的人工智能的制度規則不利于相關機構開展監管活動, 也不利于企業進行自我規范。
另一方面,對于人形機器人所依賴的數據、算法、算力、零部件等關鍵要素的規定仍進一步細化,為人形機器人創新發展提供高質量供給。以人形機器人創新發展所需要的數據要素為例,我國正處于從數據保護邁向數據賦能的關鍵轉型期,但還面臨數據產權界定不清、流通交易規則缺失、無法采用統一化規則等挑戰,數據要素流通wpCJ0pnmWjKILu0GhOCZKPydnWqVbQQv1kDx4AU+KiY=仍存在阻滯,無法應對人形機器人創新發展對大規模、高質量數據的需求,在數據價值釋放和數據流轉利用規則體系方面仍有較大完善空間。同時,在數字經濟領域,部分平臺利用其用戶優勢、技術優勢、基礎設施優勢等,收集了大量的數據,實現了數據量的壟斷和基于數據的壟斷,不利于人形機器人發展所需的大規模高質量數據供給,更容易產生“市場失靈”的現象,嚴重阻礙人形機器人產業發展成果由人民共享。
(三)人形機器人倫理與安全困境突出
近年來人工智能技術的高速發展,為人形機器人加速創新發展提供了重要推動力。人工智能技術,尤其是通用大模型的出現,使得人形機器人更具通用性、智能性,人類與之進行更自然的交互成為可能。人工智能作為人形機器人的“大腦”,將使人形機器人在表現形式、作用邏輯及應用場景等方面對傳統人工智能進行全方位革新,隨著人形機器人在外觀上擬人外,在人工智能的賦能下逐漸實現思維和行動上擬人,使人形機器人在現實的多場景應用中將會面臨更為復雜的倫理挑戰。
從人形機器人的開發層面而言,人形機器人需要大規模的高質量數據供給。人形機器人模擬人類的外觀與行為,在執行任務時面臨的環境和交互內容、產生的數據模態更多、更復雜,在單位時間內能夠產生的數據要遠超語言幾個數量級,遠非現有的ChatGPT等語言大模型可以比擬,具有更高的數據豐富度。其一旦發生數據泄露事件,將帶來難以想象的災難性后果,可能會對個人隱私、商業秘密和國家信息安全等產生嚴重威脅。此外,不同于ChatGPT等離身智能形式,人形機器人具備了物理形狀,不論是與人的交互方式還是交互場景都大大增加,這意味著其可以通過設備的增設自行收集、存儲、處理、使用更多相關數據用于深度學習,對個人數據的保護提出更大的挑戰。
當前, 人工智能大模型的數據量呈現爆炸式增長,2018年推出的GPT-1的參數量為1.17億,2023年推出的GPT-4的參數已達1.8萬億。大模型參數規模的增長為提高模型自主學習與生成內容的準確性、豐富性提供訓練基礎,但也使得算法自主學習的頻次不斷增加,算法不斷迭代,導致技術隱層愈發復雜,生成的認知結果超越了一般大眾所能理解的范圍。因此,算法運行過程也被稱為“算法黑箱”,這種信息上的不對稱加深了算法的不透明度與不可理解性。
同時,人形機器人集成了大量不同的傳感器,通過算法把軟硬件有機整合,從而協調好各部分的速度、力度、準確性,確保硬件系統各司其職完成任務,這一運行過程的難度是巨大的,故算法的復雜程度也可以想象,所帶來的安全問題未可預知,可信程度也隨之降低。譬如,已經出現或大量潛在的算法偏見、歧視、霸凌等算法濫用問題,導致人形機器人的行為不符合人類的期望和利益。
從人形機器人的應用層面而言,同樣面臨著一些倫理和安全問題。在功能設計方面,如果人形機器人的設計者沒有遵循一定的價值觀和道德準則,可能會造成人形機器人的功能缺陷、故障或濫用,從而危害人類的生命、財產和尊嚴;缺乏合適的倫理標準和設計準則可能導致人形機器人在執行任務時出現不當行為,如侵犯隱私、進行歧視性行為,或者被用于不當用途,如惡意攻擊或監視。在外觀設計方面,人形機器人面臨著“恐懼谷”效應,即機器人外形如果過于逼真,會使人的認知產生偏差,引發不適、恐懼、厭惡等負面情緒,影響人形機器人的社會接受度和人機交互的效果。
四、以人形機器人創新發展推動新質生產力的經濟法進路
當前,人形機器人產業激勵創新與公平競爭存在張力、人形機器人治理規則協同性不足、人形機器人倫理和安全困境突出等經濟問題,將成為制約發展新質生產力的因素,凸顯了通過新質生產力推進人形機器人創新發展助推新質生產力的必要性、現實性及迫切性。為此,需以統籌好高質量發展與高水平安全的動態平衡為前提,構建多元共商共建共享的治理體系、建立兼顧創新與市場公平競爭的容錯機制、促進人形機器人產業形成包容開放的全球合作生態系統,為發展新質生產力營造良好的國內和國際環境,從而更好地實現人形機器人創新發展。
(一)統籌高質量發展與高水平安全之間的動態平衡
安全是發展的前提,發展是安全的保障。2023年底召開的中央經濟工作會議指出,“必須堅持高質量發展和高水平安全良性互動,以高質量發展促進高水平安全,以高水平安全保障高質量發展,發展和安全要動態平衡、相得益彰”。對于促進人形機器人產業發展而言,培育發展新質生產力是保障其可持續性發展的關鍵支撐,高水平安全則是確保其被社會大眾廣泛接受和信賴的前提。故此,實現人形機器人創新發展更要注重統籌高質量發展和高水平安全之間的動態平衡。
在促進高質量發展層面,應采取類型多元、內容豐富的政策措施,以滿足人形機器人技術及應用創新發展中多領域、多場景、多層次的需求,加快相關創新成果向現實生產力轉化。在保護市場競爭的前提下,圍繞人形機器人產業的發展基礎條件進行建設和完善,包括對相關技術研發的財政金融支持、知識產權保護、市場準入規范等,旨在創造有利于人形機器人創新發展的環境。同時,應注重維護相關市場上的公平競爭秩序,通過加強外部監管,督促和引導建立行業自律,預防和規制壟斷、不正當競爭等行為,營造人形機器人創新發展所需的公平公開、健康有序的市場競爭環境。
在通過產業政策和競爭政策促進人形機器人產業高質量發展的同時,也需要關注其在發展中可能存在的安全風險,根據發展的需要以及安全風險的程度動態調整兩者的平衡。一方面,新一輪科技革命和產業變革正深入發展,戰略機遇與技術風險處于疊加期,須統籌人形機器人發展和安全的關系,對潛在風險實現早識別、早預警、早發現、早處置,化解風險于源頭,防止人形機器人各種風險傳導、疊加、演變、升級。另一方面,以經濟高質量發展為牽引,提高風險化解的能力,科學制定相關法律法規、制度標準,加強監管體系建設,確保人形機器人的設計、生產和使用符合高質量發展的要求,引導人形機器人技術朝著更安全、可靠、智能化的方向發展,在規范人形機器人創新發展中有效應對源自技術創新、應用創新、場景創新等過程中的內部和外部安全挑戰。
為進一步適應人形機器人創新發展在高水平安全上的要求,其一,需重點提升人機交互的可靠性與安全性,提升人形機器人功能安全性能,確保相關技術產品對人安全、環境友好。在人形機器人功能的安全性能方面,將安全設計納入整個產品生命周期,對計算機系統中在硬件和軟件層面采取多層次的安全防護措施,重點強化網絡安全防護,提高信息獲取、數據交互、數據安全等技術保障能力,強化整機、關鍵部組件、核心軟件、算法等重點環節安全風險評估,促進安全能力提升。其二,要加強對人形機器人的常態化安全監管,尤其是在“服務應用”層面,通用人工智能模型在人形機器人創新發展中涉及工業制造、商業服務、倉儲物流、家庭使用、醫療服務等多個重要領域,與用戶發生深度交互,因此應以常態化監管為人形機器人高水平安全發展提供保障。在常態化監管下,敏捷是靈活化解風險的首要要求,精細是應對風險的重要手段,規范是風險治理的底線要求,需重點保障數據安全,基于分類分級原則關注重點領域與場景,設置合理的問責制度與技術倫理標準。
(二)構建多元共商共建共享治理體系
健全人形機器人產業創新發展是一個系統工程,不僅需要政府、社會團體、企業和公眾發揮各自的角色優勢,明確各方主體的責任內容,還需要建立多元主體協商共治空間,形成認知共識,凝聚發展合力,平衡各主體間的價值沖突與利益訴求,以實現人形機器人技術及應用的有序安全發展。在注重發展新質生產力的同時,人形機器人的應用也需始終堅持以人為本,保障和尊重人的基本權利,避免倫理風險的產生,實現可持續發展、科技向善、多方共治和社會包容等多元目標。
在多元共商層面,需要凝聚監管機構、人形機器人企業、科研人員、公眾等多元主體,通過共商形成共識,推動構建具有約束力的人形機器人規范標準,并將涉及歸責機制、倫理道德、安全保障等方面的標準嵌入人形機器人的開發、設計、測試、運行等各個環節中。同時,需要探索監管沙盒等多樣化的監管工具,尤其對于投入重點領域使用的人形機器人,要落實算法備案制度、認證制度等事前、事中監管措施,保障人形機器人的發展始終尊重人的尊嚴和主體性地位。在技術層面,應當建構涉及數據質量、算法模型、性能評估等方面的技術標準,明確研發者、設計者、應用者等各方主體的權利、義務與責任,確保人形機器人的安全與質量。
在共建共享層面,首先,需要政府在責任構建機制、安全發展引導中扮演主導角色,通過合理的制度、體制和程序將不同利益主體組織起來,推動不同主體間的協商互動與反思整合,共同應對科技創新的潛在風險和挑戰;搭建起科技創新全價值鏈的協商互動交流平臺,推動政府從“控制命令型”向“服務互動型”轉變,助推基于“責任”價值鏈的“官產學民”協同創新,實現對科技創新的負責任治理。同時,實現公共數據或政務數據規范流通利用,公共數據不僅具有海量數據規模,而且是高質量數據的供給源,契合人形機器人企業需求,需要在有法規可依、有安全方式可提供的基礎上實現合理利用。可以預見,正因為人形機器人的大模型訓練高度依賴高質量數據,各地方在探索數據市場建設的過程中,尤其在公共數據授權運營和開放方面,將可能看到政府與社會力量的協同,包括社會力量參與大模型公共數據集開發與運營,科研機構有償貢獻公開數據等。
其次,技術設計者、研發者與企業是人形機器人產業發展的關鍵主體。人形機器人技術及應用作為新興技術和業態,具有極大的發展不確定性、倫理爭議性、風險不可預知性等問題,技術設計者、研發者與企業在追求自主發展創新時,也應承擔起對社會和公眾的責任,維護產業發展的安全有序。既要主動回應國家出臺的人形機器人產業相關發展政策,順應國家發展趨勢,同時,也要遵守市場秩序、公平競爭,可通過建立科技倫理委員會、參與倫理準則和行業標準的制定、研發治理測評工具等方式,加強對人形機器人技術研發和應用過程中風險的識別、評估和管理。
最后,廣大公眾作為人形機器人創新發展的最終使用人與受益者,需要提升公眾對人形機器人的科學理解,推動公眾積極參與治理,消解其對人形機器人發展可能帶來的信任危機,為人形機器人創新發展提供廣泛且堅實的社會基礎,為產業的順利落地孵化創造有利條件。為了促進公民參與,政府和科學團體應積極開展多樣的科普活動,提高公民對于人形機器人的認識,促使公眾更好地理解科學技術、積極參與科技創新與治理,逐步提高公眾科學理解和參與科技監督的能力。此外,在法律框架內,在事前,應當鼓勵公眾參與人形機器人倫理標準的制定,在事后,暢通公民對人形機器人在具體應用場景中發生的安全事件的合法維權渠道,提高公眾對人形機器人治理的參與度。
(三)建立兼顧創新與市場公平競爭的容錯機制
從人形機器人產業創新發展的現實需求和健康持續發展的長遠規劃來看,人形機器人產業的容錯機制應當以激勵創新為導向,以市場公平競爭為支撐。2018年1月,《國務院關于全面加強基礎科學研究的若干意見》就曾明確提出要“建立鼓勵創新、寬容失敗的容錯機制,鼓勵科研人員大膽探索、挑戰未知”。習近平總書記在2024年1月的中共中央政治局第十一次集體學習時也強調,要“營造鼓勵創新、寬容失敗的良好氛圍”。
人形機器人屬于集合多種高端技術的復雜集合體,其在創新研發的過程中難免會因為技術路線選擇失誤、不可抗力或不可預見等因素,導致安全問題、數據泄露等風險。面對這類情況,我國需要建立容錯機制,寬容對待創新失敗,鼓勵先行先試,最大限度地支持和保護科技創新主體的積極性和合法權益,以消除相關主體對創新風險的顧慮和擔心。
在激勵創新層面,需要建立相應的創新容錯機制。對企業在創新研發以及市場競爭過程中出現的偏差甚或假陽性錯誤,給予其修正和改進的機會,從而能夠更好地消解人形機器人創新發展中可能面臨的制度障礙、法律規范滯后等問題引發的創新抑制風險。在嚴守安全底線的基礎上,對人形機器人發展伴生風險與問題要持寬容態度,通過制度設計和機制調節,建立技術創新的容錯機制,寬容并糾正科技創新活動中可能出現的失敗和偏差,給予企業試錯改正的機會,使企業更有勇氣和底氣去嘗試創新。在相關法規和倫理框架中,對相關創新責任主體實施一定的豁免機制,鼓勵實驗性的探索,在保護公共利益的前提下對一些技術嘗試給予一定的寬容度。
在公平競爭層面,需為企業提供明確可預期的專業指引。重點針對數據、算法等與創新研發和市場競爭密切相關的要素進行規范,在強化公平競爭規范的基礎上,鼓勵企業自查自糾發現其可能具有反競爭效果的行為,允許其及時終止或矯正行為以實現競爭規范的要求。
一方面,需進一步完善當前數據與算法相關規定,為人形機器人發展的關鍵技術需求提供法律支持。對于數據要素,需要完善數據相關制度,激發數據市場活力,除了明確數據權屬、明確數據市場競爭行為的正當性標準、形成數據要素市場化配置的全周期治理格局以外,還可以針對人形機器人產業,建立公共訓練數據池以推動基礎模型的數字基礎設施建設,從法律層面設置合理的知識產權制度保障基礎模型層訓練數據的獲取。對于算法要素,雖然目前的算法自主性大大提高,但其自主仍然是有限的自主,此時將算法作為責任承擔主體還不具備可操作性,亟待通過算法分類分級原則固定問責點,為實施算法侵權行為應當承擔的法律責任的劃分提供依據。同時,算法解釋制度的根本意義在于提升公眾對于算法的信任程度,形成對利用算法進行決策、提供服務者的規范向善的監督,因此,應當經由算法分類分級構建不同層次的算法解釋制度,以期實現算法可信的本質目標。
另一方面,需要系統構建人形機器人治理的法律體系,為企業提供明確且可預期的法律依據。目前在國家層面通過立法的方式推進人工智能發展還存在諸多障礙,實踐中多采用通過產業政策、地方政策或部門文件的形式對人形機器人相關的技術發展進行制度規范。譬如,國務院于2017年出臺的《關于印發新一代人工智能發展規劃的通知》, 通過政策性文件的形式明確了我國發展人工智能的總體思路、戰略目標和重點任務,并從法律法規、倫理規范、技術標準等方面為發展人工智能提出保障措施。同時,我國部分地區積極開展地方立法,就人工智能的發展與規范問題先行先試,譬如上海的《上海市促進人工智能產業發展條例》。據不完全統計,我國至今已有60余部地方規范性文件,從不同角度對人工智能產業發展進行了規定。可以說,我國對于人形機器人相關的技術、核心要素以及多種應用場景已構建了初步框架,具備了相當的立法基礎。
考慮到人形機器人作為人工智能的高端運用產品,對其創新發展的經濟法促進應整體納入我國人工智能創新發展法治化治理體系之中,并在此基礎上形成專門的人形機器人促進立法,提高目前分散立法的規范效率,從而有助于監管機構開展協同監管,為企業提供明確可預期的專業指引,引導企業及時承擔技術風險的責任。
(四)促進人形機器人產業形成包容開放的全球合作生態系統
為實現人形機器人創新發展,全球社會需要共同努力,促使技術創新與倫理價值相輔相成,制定更加全面和包容性的治理框架,確保人形機器人的發展不僅能夠推動科技進步,還能維護社會的公正和人權,以建設一個更為智能、公正和可持續的未來。對此,習近平總書記在2024年1月的中共中央政治局第十一次集體學習時提出“要擴大高水UJ2qB0qsHqdqfw1/hD28Hg==平對外開放, 為發展新質生產力營造良好國際環境”,《決定》也提出“有序擴大我國商品市場、服務市場、資本市場、勞務市場等對外開放”。
結合人形機器人發展的具體場景,為進一步推動和擴大對外開放和國際合作,首先,我國可積極推進國際合作,主導或參與制定人形機器人領域的法規和倫理準則,形成全面而有效的治理體系,以推動人形機器人的負責任創新。其次,我國可積極開展國際對話,形成具有廣泛共識的國際治理框架、標準規范,增進技術、人才、產業等方面的交流與協作,反對排斥主義,推動技術普惠和科技向善,實現各國普惠發展。最后,我國應積極參與全球關于加強人形機器人倫理道德、隱私保護以及安全風險等國際共性問題的研究,深化人形機器人法律法規、行業標準與監管等方面的交流合作,鼓勵全球跨學科的研究,為各國法律專業、倫理學家、科學家等共同思考人形機器人的發展創造交流共同條件,創建人形機器人設計、創造、使用的良好環境,推動人形機器人發展目標在國際合作中的統一,使其更好地服務于人類社會。
我國在人形機器人產業發展過程中成果頗豐, 然而這一進展也伴隨著更為復雜和尖銳的問題。為有效應對這些挑戰,我國有必要在激勵人形機器人自主創新和知識產權保護的基礎上,積極開展國際合作,抓住人形機器人這一新興領域的新一輪國際規則制定機遇,主動參與相關國際標準的制定和實施,提升我國在國際人形機器人倫理準則及相關標準制定中的話語權和影響力,為我國企業參與國際競爭中創造更好的競爭環境。
同時,通過促進國際層面的人才交流與合作研究,在交流合作中共同制定行業標準和倫理準則,確保人形機器人技術的應用符合全球共識,減少潛在風險和爭議,推動人形機器人產業沿著可持續、負責任的軌道發展。而研究成果的持續交流,使得各研究團隊互相學習借鑒,共同攻克技術難題,加速人形機器人技術的發展,這有助于建立更加開放、協同的創新環境,為全球人形機器人產業的進步提供更為穩固的基礎。