生成式人工智能應用拓展加速提前謀劃應對四大潛在問題

張立藝　涂菲菲　張振翼　單志廣

近期隨著ChatGPT、Midjourney等一批應用的推出，人工智能技術的通用性得到了大幅提升，其主要功能也從內容判定向內容生成拓展，潛在應用領域得到大幅拓展。目前生成式人工智能普遍被認為是可能引發顛覆式變革的重大技術，并正在加速向經濟社會各個領域廣泛滲透，這一技術在釋放巨大引領潛力的同時，還很可能由于“破壞式創新”效應產生巨大社會成本，目前看主要潛藏“四大沖擊”，亟待提前進行謀劃建議。

一、失業沖擊：就業結構調整會引發較高就業摩擦成本

生成式人工智能有望大幅提升大量程式化工作的工作效率，必然在眾多領域形成擠出效應。OpenAI公司和賓夕法尼亞大學的相關研究顯示，從美國的勞動力市場看，約80%的工作崗位，其至少10%的工作任務會受到生成式人工智能的影響；同時，有約19%的崗位，其工作任務受影響的比例超過50%，這些職業主要包括報稅員、網頁設計師和記者等。此外，高盛對美國和歐洲情況的分析顯示，大約有三分之二的工作會受到生成式人工智能的影響，受影響的職業中有25%到50%的工作可以被替代。其中，辦公室和行政工作受到的影響比例最大，約有46%的工作內容可以被替代，其次是法律工作，為44%。盡管目前我國就業結構與美歐尚存在較大差距，但預計受到影響的就業人口也將達到數千萬。雖然生成式人工智能也將帶來大量新的就業崗位，但是一旦這一技術普及，大的就業結構調整就很可能快速出現，這中間將產生巨大就業摩擦成本。

二、公平沖擊：智能鴻溝形成將增加社會不平等

一般的鴻溝理論將鴻溝劃分為接入溝、使用溝和效果溝三個層次，智能技術的全面普及可能形成相應的智能鴻溝，且其情況很可能會比數字鴻溝更為嚴重。從接入角度看，由于應用生成式人工智能必然首先需要接入數字世界，因此在這一層次上，智能領域的鴻溝只會比數字領域更加嚴重。從使用角度看，生成式人工智能的使用也必然是疊加在現有數字產品的基礎之上，預計使用難度不會小于現有數字產品，因此，智能領域在這方面鴻溝的跨度預計至少與數字領域接近。從效果角度看，由于生成式人工智能的技術潛力比傳統數字技術都更強，產生的效率增幅很可能更高，且迭代速度更快，因此是否掌握這一技術，乃至掌握這一技術的先后都有可能帶來巨大的鴻溝差距。綜上來看，生成式人工智能的發展潛力越大，發展速度越快，可能形成的智能鴻溝就越大，就越有可能造成較大的社會不平等。

三、導向沖擊：意識形態安全恐面臨前所未有的挑戰

生成式人工智能的核心功能是批量的生產內容，而其學習的對象則是大范圍的數字化語料，這就產生了兩個方面的巨大挑戰。一方面，生成式人工智能需要盡可能大的語料庫進行學習，而當前全球話語語料領域已經成為一個巨大的意識形態交鋒場所。大量相互沖突難以調和的意識形態并存，加之生成式人工智能的內容生成過程具有不可解釋、不透明性等黑箱操作特點，其輸出內容所帶有的意識形態偏好具有極強的隱蔽性，導致生成的內容在意識形態上存在較大的不確定性。另一方面，生成式人工智能自身又可以批量化生產內容，如果這一技術得到廣泛普及，那么其自身帶有的意識形態特點可能得到快速傳播，被批量應用，成為意識形態傳播最重要的新平臺。這種平臺型的巨大作用和其意識形態的不確定性會帶來新的巨大挑戰。

四、社交沖擊：虛擬化交互易導致社會性問題

現有的生成式人工智能具有很強的擬人功能，可以虛擬性地與人開展對話等社交活動，但一旦泛化這一功能應用，可能形成巨大影響。一方面，虛擬性社交正在快速發展。據《財富》雜志報道，一位名叫Caryn的女網紅通過生成式人工智能，將自己打造成虛擬女友產品Caryn.ai，在測試期間，Caryn.ai陪用戶每聊一分鐘收取1美元，僅用了一周的時間便賺了71610美元（約50萬元）。微軟小冰也曾推出類似虛擬女友的服務，這種基于個人需求打造的虛擬社交對相當一部分人群來說很可能比實際真人間的社交更有吸引力。另一方面，人際交往是人與人的關系和社會融合的條件，生成式人工智能的普及可能讓人類沉迷于定制化的虛擬社交，出現逃避真實社交的傾向，進一步強化人的孤獨感，嚴重的可能影響到以人際交往為基礎的人類文明的各種組織形式，如婚姻、家庭、民主政治等等。

五、政策建議

第一，預備“政策包”，積極應對生成式人工智能可能帶來的就業結構調整。一是做好新技術的推廣宣傳。以數字人、自生成視頻等群眾喜聞樂見的新媒體表達方式，加大力度宣傳推廣生成式人工智能新技術，鼓勵人們接受新思想，掌握新技能，推動群眾快速適應新環境，積極應對人工智能對勞動需求的影響和變化。二是提供再就業教育與培訓機會。根據就業結構形勢及時調整稅收政策，加大財政支持，多渠道、多平臺提供技能培訓以適應新的就業市場，減少失業并幫助失業人員重新就業。三是持續建立健全社會保障體系。加快完善失業保險制度，強化兜底幫扶，保障勞動者基本生活。

第二，端好“公平秤”，統籌施策彌合智能鴻溝，共享數智紅利。一是鼓勵生成式人工智能模型開發機構通過代碼開源、開放接口等方式加快技術擴散速度，盡快降低技術使用難度。二是加快推動新型基礎設施建設步伐，進一步提高5G、智算中心等基礎設施服務水平，降低生成式人工智能接入成本。三是提高網絡普惠使用能力，推動各級中小學校、高等院校以及圖書館、博物館、美術館等公共服務場所加大力度提供接入接口，著力解決數字資源不公問題。

第三，系好“安全帶”，多管齊下保障意識形態安全可控。一是盡快完善生成式人工智能意識形態領域的制度建設，從源頭上防止“技術脫軌”。健全研發、審核、應用與安全等多維標準規范體系，建立可解釋、可信賴的人工智能生成內容技術框架、標準體系，完善生成式人工智能技術創新生態。二是進一步強化行業自治體系建設。對于從事人工智能前沿科技活動的單位和行業，加快推動設立科技倫理（審查）委員會，以確保其在發生大規模涌現時，符合法律道德和倫理規則。加強人工智能治理國際合作，探索人工智能系統協助監督其他人工智能系統的新途徑。三是建議持續開展生成式人工智能意識形態風險測評與壓力測試，盡快建立生成式人工智能意識形態風險監測體系。四是強化人工智能的風險意識教育，加強對研發企業、人員的人工智能合規培訓，通過制度安排、服務規范、媒體引導和產品內嵌提示等方式提高用戶防范意識，減少潛在損失。

第四，設置“警示語”，以提示的方式防止生成式人工智能過度擬人化。一是建議從立法層面制定生成式人工智能擬人化的相關制度體系，預防生成式人工智能在應用過程中引發的錯覺，進而操縱人的心理。在對話、文本、圖像、視頻等生成式人工智能素材領域，各平臺均需義務性標明輸出內容為生成式人工智能制作的行為。二是建議在全球率先制作生成式人工智能擬人化提示語與提示圖標，并推動提示圖標成為全球共用標識，以警醒提醒的方式對生成式人工智能對話服務加以限制，防止使用者陷入生成式人工智能擬人化習性誤區，對其產生誤解、沉迷甚至執著。

（作者單位：國家信息中心）