為機器立“心”為人文賦理

趙麗岳

圖為全球首個通用人工智能人“通通”。

目前中國人工智能領域有何突破與進展、如何管控與治理人工智能可能帶來的安全風險成為各方關注的焦點。1月28日至29日，北京通用人工智能研究院（以下簡稱“通研院”）“邁向通用人工智能前沿科技成果展”在中關村國家自主創新示范區會議中心舉行。現場展示了全球首個通用人工智能人“通通”、全球首個通用人工智能評級標準與測試平臺等原創性科研成果，向社會各界展示通研院成立兩周年以來取得的成果，代表了國內人工智能領域頂尖水平。

以“心”賦智能

何為通用人工智能？目前應用廣泛的ChatGPT等智能生成軟件是通用人工智能嗎？通用人工智能與它們區別何在？

通研院院長朱松純認為，通用人工智能的關鍵就在于價值驅動下，通用智能體不僅能完成任務，還能自主定義任務。ChatGPT等生成式人工智能依賴“大數據，小任務”架構的“鸚鵡范式”，即通過大量數據的輸入和重復訓練達成鸚鵡學舌式的輸出，沒有自主思考的過程，不理解話語含義，易造成“林黛玉倒拔垂楊柳”式的錯誤。通用人工智能則是“烏鴉范式”，烏鴉喝水看似簡單，其中卻蘊含著自主感知、學習、推理行為。“小數據，大任務”架構的通用人工智能以價值與因果驅動，使智能體具備像人一樣的物理知識和社會知識，不僅能根據指令完成任務，還能自主定義任務、舉一反三。

簡而言之，通用人工智能的反應從“內心”發出，不用大量數據堆砌。“通通”就是一款通用人工智能體雛形。她相當于人類3至4歲兒童的智能水平，有類人價值觀和“心欲”，內嵌“好奇”“安全”“干凈”等價值傾向，對物質和精神層面有需求。在不同的環境中，她能夠進行自主探索，并通過人類的語音教學、多模態交互等方式實現技能和知識持續增長。例如，當互動者將牛奶撒在桌子上，通通會主動識別互動者的意圖，根據“愛干凈”的價值觀尋找毛巾擦拭桌子；調整通通“饑餓”的價值傾向，感到“餓”的她能夠自主尋找食物并通過微波爐加熱；對于還未知的事物，比如26個英文字母，通通經過人類的描述與指導，也能夠理解并掌握。

人工智能越來越“聰明”，相應的法律法規、監管措施需要及時調整，以更好指導、規范人工智能的應用。傳統的人工智能測試已不適用于通用人工智能系統的評級。本次成果展，通研院聯合北京大學發布了通用人工智能評級標準與測試平臺。該測試平臺依據發展心理學和心智理論，參考人類嬰幼兒發育的測試標準，基于“能力（Utility）和價值（Value）”UV雙空間，在物理逼真測試平臺上評測等級，全面考慮了通用人工智能的關鍵特征。

心智是人工智能的明燈。在朱松純看來，相比數據與理論，價值與“心”才是“活”的，是自主智能的源泉。為機器立心，為人文賦理，全球首個通用人工智能人和測試平臺的亮相在人工智能史上留下了中國濃墨重彩的一筆。

創新展宏圖

人工智能是引領未來的戰略性技術，是新一輪科技革命和產業變革的核心驅動力及發展新質生產力的主要陣地。目前，中國具備良好的人工智能基礎和發展態勢，在該領域論文發表數量和專利授權量均為世界第一，核心產業規模達到5000億元，相關企業數量超過4400家。

在人工智能仍依靠海量數據進行拓展的情況下，中國擁有近11億互聯網用戶，積累了廣泛、多樣的數據資源，有著極大發展優勢。2024年初，又一批企業宣布其大模型通過備案。截至2024年2月，我國已累計發布200余個人工智能大模型，高科技企業紛紛開展人工智能大模型研究：科大訊飛星火認知，百度文心一言，阿里巴巴通義千問，華為盤古，騰訊混元……國內人工智能大模型“卷”出“百模大戰”，市場競爭在激發技術創新、質量提升的同時，井噴式的數量增長帶來資源浪費，以及現階段大模型缺陷造成其生成結果中帶有常識性錯誤，都要求我們以更加審慎的態度面對人工智能。“世界頂級”“碾壓過往”的標簽粘貼在各個新推出的大模型上，繁榮的氛圍下，讓人不禁發問——為何Alpha Go、ChatGPT等顛覆性人工智能成果首創不在中國？為何中國誕生的是“百模大戰”？

圖為“邁向通用人工智能前沿科技成果展”現場。

“通通”吸引大量與會者駐足互動。

面對這些問題，夯實基礎研究和核心技術是突破目前人工智能領域只復制、不創新的關鍵。科技創新是推動高質量發展的關鍵引擎，更是衡量在該行業內綜合實力的重要指標。為有源頭活水來，全球首個通用人工智能人“通通”和全球首個通用人工智能評級標準與測試平臺由我國率先發布，在源頭上進行原創設計，似一汪活水注入中國人工智能市場，打造中國通用人工智能新生態，強化了關鍵技術創新能力。

“中國要在人工智能領域做出自己的東西。產品也好，系統也好，一定要做出一些原創性成果，這是我們這一代人需要給出的答案。”朱松純堅定地說。