開創研發應用新范式 探索“用AI治理AI”

葉蓁蓁

2023年初，ChatGPT誕生僅兩個月，月活用戶就突破1億，成為史上用戶增長最快的應用。回顧歷史，月活用戶達到1億門檻，推特（Twitter）用了5年，臉書（Facebook）用了4年半，照片墻（Instagram）用了2年半時間。標志性平臺產品出現，人類在經歷PC互聯網、移動互聯網之后，正式進入智能互聯網時代。現在看來，第三代互聯網很可能是以智能互聯為基礎能力的價值互聯、產業互聯、虛實互聯。

人工智能：有價值觀的高科技

智能互聯網時代，以通用人工智能為代表的技術加速更迭，將融合千行百業，驅動新一輪產業和技術革命。需要重視的是，人工智能在推動經濟社會發展同時，也存在潛在的、不可忽視的技術倫理、價值觀念等風險。人工智能大腦既是高科技的大腦，也是價值觀的大腦。人工智能平臺有立場，人工智能生成的內容有導向，所謂“技術中性”是不存在的。無論是喂養人工智能的語料數據，還是模型本身的算法，都必須高度關注政治方向、輿論導向和價值取向問題。

生成式人工智能（AIGC）技術正在重構內容生產、傳播、消費、反饋全流程，智能傳播大規模應用的序幕已經拉開。然而，生成式人工智能的不當應用，也引發了國內國際社會的擔憂。今年2月，一條ChatGPT生成的假新聞在社交媒體上廣泛傳播，內容是關于杭州市政府3月1日將取消車輛限行。這條假新聞誤導了很多市民，形成了小范圍的輿情事件。歐洲社會許多國家已經開始或正在研究禁用 ChatGPT，全球許多教育機構、學術機構紛紛出臺禁令，防止生成式人工智能被濫用。近期，全球千余名科技界人士呼吁暫停開發更先進的人工智能。這都表明，對生成式人工智能的治理已迫在眉睫。不能放任人工智能脫離人類視野，不能沒有管理的“生成即傳播”，要積極探索人工智能應用和治理之道。

參與人工智能的應用與創新

人工智能互聯網時代，越來越多的行業、企業引入人工智能替代人類工作。未來人工智能雖然無法取代人工，但各行各業不會使用人工智能的人或將被淘汰。

主動適應。黨媒黨網必須加快發展，主動適應、參與人工智能應用和創新。近年來，人民網主動跟進下一代互聯網發展趨勢，以建設內容科技領軍企業為目標，在人工智能領域，承建傳播內容認知全國重點實驗室，瞄準認知智能開展研發；建設人民鏈探索價值互聯；建設828企業服務平臺探索產業互聯；建設靈境·人民藝術館探索虛實互聯。這些嘗試只是起步，卻能提振我們跨向未知的信心和勇氣，未來人民網也將全力參與人工智能應用與創新。

創新研發。目前各界關注、輿論熱炒通用型大模型，其技術路線是大模型、大數據、大算力、大資本、大平臺、大團隊的研究范式，費錢、費人、費電，并不適合所有國家、所有團隊。智能互聯網的時代剛剛開啟，一方面我們不能大意、不能懈怠，需要發揮新型舉國體制的優勢，在別人證明成功的路徑上抓緊發展，追趕超越；另一方面，我們也不能被打亂節奏，需要著力思考如何開創新的人工智能研發范式，走出一條“優模型、低能耗、高性價比”的新路徑。例如，大力推進量子計算、類腦計算和光電計算；再如，在網絡視聽行業，根據網絡視聽任務的需求，發展專用中小模型，憑借網絡視聽行業的場景和數據優勢驅動研發等。

人工智能的治理之道：“用AI治理AI”

2023年1月10日，國家網信辦等多部委發布的《互聯網信息服務深度合成管理規定》正式生效。4月11日，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》，提出二十一條舉措。業界認為，這是國內首次明確針對生成式人工智能服務征求管理意見，將有利于推動生成式人工智能產業健康穩定發展。

《生成式人工智能服務管理辦法（征求意見稿）》規定了我國生成式人工智能需要符合五方面要求，包括體現社會主義核心價值觀、避免歧視、公平、準確負責、隱私及產權保護，體現了國家對生成式人工智能在意識形態和法律倫理方面的要求。

人民日報對以上規定和管理辦法做出積極回應，走出一條“用AI治理AI”的人工智能治理之道：依托人民網建設傳播內容認知全國重點實驗室，推出跨模態視頻安全引擎“白澤”、涉政智能審核平臺“人民審校”、輿論安全監測平臺“諦聽”和生成內容識別工具AIGC-X四款產品，初步建立智能化的安全風控體系以及人工智能意識形態風險評測體系。

人民日報社傳播內容認知全國重點實驗室，致力于服務國家重大需求、突破行業關鍵技術、解決行業痛點難題，打造傳播領域的戰略科技力量。實驗室聚焦構建“傳播智能體”，分別在主流價值觀精準傳播、內容智能審核、網絡空間態勢感知三個方向開展研發，通過人工智能技術，把新聞輿論工作中要牢牢把握的政治方向、輿論導向、價值取向，轉化為可計算、可認知的人工智能技術體系，用技術賦能主流價值觀傳播，凝聚社會共識。

AIGC-X平臺能夠對人工智能生成文本、圖形、視頻內容進行精準識別，快速區分機器生成內容與人工生成內容。目前，該平臺對中文文本檢測的準確率已超過90%。

文本識別方面，實驗室以語言模型的困惑度、詞頻特征為切入點進行的研究發現，人工智能生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機性。基于此，實驗室研發了語義與風格特征融合的語言模型評價方法，可以精準識別AI生成文本。

圖像識別方面，人工智能生成圖像的基本原理是通過對訓練數據的學習，讓人工智能模型能夠提取圖像的基本特征、結構和樣式，并嘗試在新的圖像中融合和組合這些特征。但是這種生成方式目前缺少對視覺元素邏輯合理性、細節特征完整性的約束，不同特征區域融合的時候會出現問題。基于此，實驗室研發了基于視覺上下文、子塊信號特征的人工智能生成圖像檢測模型，實現對人工智能生成圖像的精確識別。

視頻識別方面，當前人工智能生成視頻的應用主要集中在換臉、場景置入等局部內容的生成融合。人工智能生成視頻目前無法完全模型人在真實動作中的語言、表情、姿態等復雜的生理特征關聯性，因此，通過提取真實視頻中人物的視覺、音頻特征，建立人物關聯特異性模型，可以檢測出合成人物在全局一致性、幾何特性等方面與真實人物存在的偏差。

另外，實驗室還研發建設高質量的主流價值語料庫，以支持各類生成式人工智能平臺合規發展、安全發展、加速發展。通過建立常態化的運行維護機制，并隨著政策法規及技術發展動態更新持續完善。

AIGC-X在內容版權、學術教育、虛假信息和學術造假檢測等內容安全、內容風控方面有廣闊的應用前景。例如，根據法律規定，人工智能生成的內容必須進行顯著標識。AIGC-X可以服務于媒體的內容風控需求，提供人工智能生成內容標識、虛假信息識別等服務。還可以賦能教育、學術領域，可以用于防范學術不端行為，提供AI內容抄襲、論文造假檢測服務等。

智能互聯網時代剛剛開啟，我們要立足長遠，統籌發展與安全，重視安全才能更好發展，加快發展才能實現真正的安全。

作者系人民網黨委書記、董事長、總裁，傳播內容認知全國重點實驗室主任