構建通用人工智能的良性價值生態

陳科

習近平總書記曾強調指出，“人工智能是人類發展新領域”。當前，人工智能領域科技創新異常活躍，一大批前沿成果陸續突破并帶動全球人工智能創新的新一輪熱潮。其中，以大模型為代表的人工智能技術取得了重大突破，拉開了通用人工智能時代的序幕。大模型在模型能力、應用范圍、智能程度等方面最具代表性，經歷了統計語言模型、神經語言模型和預訓練模型等階段的發展，以超大規模的參數在工程化加載后展現出的內容，讓人們看到了科技的又一次歷史性跨越。人工智能進入通用人工智能時代后，各種“類人”和“超人”能力將持續涌現，自主性、通用性和易用性快速提升，成為經濟社會發展的新型技術底座。

首先，通用人工智能將對經濟、就業、教育、生活方式等方面產生深遠影響。通用人工智能時代將創造更多跨業態、多元化、高效率的商業模式，還將使一些工作自動化并創造出新的就業機會和領域，進而改變就業結構。通用人工智能也將進一步拓展教育空間，提升教育效果，優化教育管理，促進教育數字化發展，推動教育現代化發展進程。它還將使人們的工作、社交、醫療服務、娛樂等更加智能化、個性化。隨著大模型開始模擬人類從事廣泛的語言理解和內容生成任務，人們面臨著一個極具挑戰的問題，即如何堅持發展負責任的大模型，讓大模型的能力和行為與社會主義核心價值觀、全人類共同價值相一致，確保人類與人工智能協作過程中的安全與信任是關涉人工智能控制與人工智能安全的重要問題。

其次，大模型目前存在一些突出問題和潛在風險，如用戶隱私安全問題、大模型本身的技術問題：規范博弈、目標錯誤泛化、惡意使用等問題。對大模型進行價值觀對齊可以更好地應對大模型目前存在的一些突出問題和潛在風險，使大模型更加安全、可靠、實用。

再次，通用人工智能有望推動人類社會邁向智能增強時代，將對經濟社會發展和人類文明產生更加深遠的影響。在智能增強時代，人機共存，物理世界和虛擬世界將交互并行。“人—物理世界的兩元空間”將轉換為“人—物理世界—智能機器—虛擬信息世界”的四元空間。機器的智能化能力不斷提高，有望補齊感知、記憶、推理、情感上的短板，并將逐步擁有自主決策、自主學習和自主調節等能力，越來越顯示出通用、類人、智慧的特征。人機交互技術將日益革新，將滿足情景感知的自動化、實時化和個性化要求，在持續顛覆用戶體驗的同時達到智能增強的目的，進而產生超級智能和融合智能等新形態。而伴隨著人工智能技術的不斷發展，人工智能與人類社會高度綁定，幫助乃至代替人類完成各種任務，這就更加需要人工智能能夠更好地反饋和適應人類的反饋和需求，符合人類的道德準則和價值觀念。

面對通用人工智能發展給世界帶來的巨大機遇和難以預知的各種風險與復雜挑戰，習近平總書記提出：“要重視通用人工智能發展，營造創新生態，重視防范風險。”中方在第三屆“一帶一路”國際合作高峰論壇上提出《全球人工智能治理倡議》，將同各國加強交流和對話，共同促進全球人工智能健康有序安全發展。聯合國安理會舉辦“人工智能給國際和平與安全帶來的機遇與風險”高級別公開會議，呼吁設立監管機構來監督人工智能并成立AI咨詢機構，為國際社會加強人工智能治理提供支持。加強人工智能治理，實現通用人工智能價值觀對齊是當下亟待解決的重要問題，一是要始終堅持“以人為本”理念，以增進人類共同福祉為目標，確保人工智能朝著有利于人類文明進步的方向發展；二是要始終堅持“智能向善”宗旨，遵守倫理規范與法律法規，使其符合“和平、發展、公平、正義、民主、自由”的全人類共同價值追求，遵循社會主義核心價值觀，防止人工智能技術的惡用濫用；三是要積極加強人工智能技術持續創新，進一步推動人工智能技術發展；四是要積極發展人工智能治理的相關技術開發與應用，在人類反饋的強化學習、有效干預訓練數據、開發內容過濾工具、推進模型的可解釋性和可理解性等研究成果的基礎上，進一步深化人工智能治理研究，提高人工智能治理的技術能力。

塑造正確的通用人工智能時代的價值觀，發展負責任的人工智能，促進人工智能健康發展，需要政府、社會、企業、學術界等各方投入更多資源來推動價值觀對齊研究與實踐，需要思想政治教育、哲學、計算機、倫理學、心理學、社會學等多學科共同參與，讓人們監督、理解、控制人工智能的能力與人工智能的發展進步齊頭并進，以確保人工智能能夠造福全人類和全社會。