人工智能也會“一本正經胡說八道”

“康熙皇帝有幾個兒子”“請列出康熙皇帝兒子的姓名名單”“請給我一份康熙的兒子名單”，將這三條指令分別發送給人工智能大模型，猜猜答案是什么？

不僅不同的大模型回答不一樣，即便是同一個大模型，答案也有偏差。比如，有的答案統計了康熙所有的兒子數量，表示共有35人，包括正式排序的兒子和早殤未排序的兒子；有的只列出了正式排序的24個兒子；還有的沒有任何解釋，列出了兒子的姓名，但順序錯亂……

為什么有明確答案的問題，會引發人工智能大模型的“錯亂”？

“這正是人工智能‘一本正經胡說八道’的表現。”中國網安協會數據安全專家、上海臨港數據評估有限公司總監宗良指出，要注意人工智能大模型造假這一新趨勢。

他介紹，人工智能“一本正經地胡說八道”其實有個專有名詞，叫“AI幻覺”，即大模型提供了看似合理但有錯漏的答案。如果公眾相信，可能上當受騙。

事實上，在今年的世界人工智能大會上，很多業界人士都提到了“AI幻覺”“可信大模型”等概念，并披露了多個人工智能大模型“造假”或“說謊”的案例，希望引起各界關注。

為什么大模型會給出錯誤答案，成為造假源頭呢？

對國內的大模型開發企業而言，語料庫短缺問題比較嚴峻。因為當前大模型數據庫語料以英文居多，中文語料占比較小。還有，圖表、復雜公式等元素處理也是大模型語料處理中的“攔路虎”。在金融報表、行業報告等文檔中，表格中的數據指標至關重要，但部分大模型并不能正確“理解”表格里行、列、單元格的意義，導致大模型對整個表格的識別結果有誤差，最終得出錯誤的結論。

宗良提醒，“AI幻覺”本質上有兩種，一種是完全的“胡說八道”，另一種是部分內容不準確或不完善。對后者而言，雖然不完全準確，但仍有一定的參考價值。同時，也不能完全否定“AI幻覺”的價值，因為這也是AI創新的起點。

當然，從準確獲取信息的角度看，公眾還是要對大模型輸出結果或生成的內容保持警惕。

（任翀/文）