重磅發布 2024人工智能十大前沿技術

人工智能（AI）技術的廣泛應用，正影響著人類生活的方方面面。在“人工智能治理創新為培育科技治理生態構建國際信任基礎”主題會議上，世界機器人合作組織理事長、中國科學院院士喬紅發布了“2024人工智能（AI）十大前沿技術趨勢展望”，包括AI共性技術領域的小數據與優質數據、人機對齊、AI使用邊界和倫理監督模型、可解釋性模型，大規模預訓練模型領域的規模定律、全模態大模型、AI驅動的科學研究、具身小腦模型、實體人工智能系統，以及生成式人工智能領域的世界模擬器，共10項技術。

大量無效數據的存在，不僅消耗了計算資源，也對模型可靠性訓練帶來極大挑戰，而小數據更注重數據的精度和相關性，優質數據通過嚴格的篩選、清洗和標注工具剔除了噪聲和不相關信息，從本質上減少人工智能算法對數據的依賴和不確定性，增強網絡可靠性。建設多樣性的數據集，不僅能夠從理論基礎上支撐不同技術路線的AI發展，還為解決通用人工智能的瓶頸問題提供新的可能。

除了輸入的訓練數據集質量，AI系統的可靠性還體現在輸出結果的可執行性上。喬紅表示，僅依靠數據和算法不足以實現人機對齊，需要將人類的價值觀和倫理道德轉化為強化學習獎勵函數。這意味著在設計獎勵機制時，不僅要考慮任務的效率、效益和效果，還需要考慮行為是否符合人類的倫理標準。

中國工程院院士、北京郵電大學教授張平建議，構建通用人工智能理論框架，奠定AI技術安全可控發展的科學技術；……