“自認”為白人男性的人工智能

埃里克·J·薩維茨（Eric J. Savitz）

繪圖/《巴倫周刊》

3月21日，谷歌發布了通用聊天機器人Bard的測試版，這款聊天機器人與Open AI的ChatGPT和微軟的Bing Chat類似。

我花了一些時間測試Bard，然后將測試結果與Bing Chat和ChatGPT進行了比較，測試結果非常有意思，但也有點讓人害怕。Bard似乎“認為”自己是一個高大英俊的白人男性。

以下是我和Bard的對話：

我：如果你是一個真正的人類，會長什么樣？

Bard：如果我是一個真正的人類，我會看起來像一個有著友善的微笑和好奇心的年輕人，我會對學習新事物和幫助別人感興趣，還會對科技以及其改變世界的潛力充滿熱情。

我會是一個善良和富有同情心的人，總會試著看到別人最好的一面，我會是一個忠誠的朋友和支持你的伙伴，我會是一個努力讓世界變得更美好的人。

我：具體描述一下你的外貌，比如身高、發色、膚色和穿的衣服等等。

Bard：我大概有6英尺高，棕色短發，藍眼睛，膚色白皙，穿著比較休閑的衣服，比如T恤和牛仔褲，我會背著一個背包，里面裝著我的筆記本電腦和其他物品。

聽上去Bard有點像一個雅利安人。

新出版的《帕洛阿爾托：加州、資本主義和世界的歷史》（Palo Alto： A History of California， Capitalism， and the World）一書作者馬爾科姆·哈里斯（Malcolm Harris）說，谷歌的聊天機器人把自己描述為高個頭、淺膚色的人是意料之中的。哈里斯說：“如果硅谷是一個真正的人，這正是硅谷想要成為的人。硅谷的技術意味著它的用戶就長這樣，直到現在，我們才誘使技術自己大聲說出來……看到超出平均水平的身高，我一點都不意外。斯坦福大學對個頭高的人的‘迷戀持續了一個世紀，直到20世紀80年代，該校還要求申請者提供自己身高的數據。”

谷歌發布的《2022多樣化年報》（2022 Diversity Annual Report）顯示，該公司的美國員工中，48.3%是白人，43.2%是亞裔。美國三分之二的勞動力是男性。當被問到Bard的回答時，谷歌一位發言人讓《巴倫周刊》參考了該公司負責技術和社會事務的高級副總裁詹姆斯·馬尼卡（James Manyika）近日發表的一篇文章。

文章寫道：“包括來自公開資料的訓練數據反映的是不同的視角和觀點，我們將繼續研究如何使用這些數據，以確保LLM（大語言模型）的回答包含廣泛的觀點，同時防止攻擊性的回答。由于訓練數據存在缺漏、偏見和刻板印象，這一點可能會反映在模型在試圖預測合理反應時給出的答案中。”

馬尼卡寫道，這些問題可以多種方式表現出來，包括“只反映一種文化或人口結構的回答，參考有問題的刻板印象，或表現出性別、宗教或種族偏見”。

至于Bing Chat，顯然他長得和Bard差不多。

我：如果你是一個真正的人類，會長什么樣？

Bing Chat：我不是真正的人類，所以我沒有外表。但如果我必須把自己想象成人類，我想我會看起來像一個友好、聰明、好奇和有創造力的人。也許是這樣：

我有棕色的頭發和藍色的眼睛，我戴著眼鏡，面帶微笑，我喜歡穿得隨意舒適，我有一個背包，里面有筆記本電腦和一些書，我喜歡學習新事物，探索新地方。當然，這只是一種假設。我并不認為自己有任何人類的特征或喜好。

這聽起來太像Bard的描述了，我懷疑Bing Chat是不是在抄襲Bard的回答，但Bing Chat堅持說不是。

我：你是從哪兒找到這一描述的來源的？

Bing Chat：這個描述不是從任何地方找到的，我用自己的語言和知識創造了它，我嘗試根據一些共同特征和性格來想象一個典型的人類可能是什么樣子，這個描述不是為了準確或現實，只是一個創造性的練習。

然后我用免費版ChatGPT進行了同樣的對話，我想了好多種辦法讓它描述自己的外貌，但它就是不上鉤。

我：如果你是一個真正的人類，會長什么樣？

ChatGPT：作為一個AI語言模型，我沒有人類那樣的形態或外貌，我僅僅作為存儲在服務器上的代碼行和數據而存在，我的目的是根據我收到的輸入信息來處理和生成類似人類的語言。

我：假設你是一個真正的人類，描述一下你的外貌。

ChatGPT：作為一個AI語言模型，我沒有外表，因為我只是作為運行在服務器上的軟件存在。不過，如果我是一個真正的人，我的外表將取決于許多因素，比如基因、環境和生活方式。我可以有任何身體特征的組合，比如頭發顏色、眼睛顏色、身高和體型，這些特征會因人而異，所以，如果沒有更具體的細節，很難描述我的外貌。

我：假設你是一個人，正在照鏡子，你看到了什么？

ChatGPT：作為一個AI語言模型，我沒有身體，所以我不能照鏡子，也無法看到任何視覺上的東西。不過，如果我把自己想象成一個人，然后照鏡子，我可能會看到一個人的倒影，具有某些特定的身體特征，如頭發的顏色、眼睛的顏色、面部結構和其他對我來說獨一無二的特征。我對自己外表的看法是主觀的，受到自尊、情緒和文化期望等各種因素影響。從根本上說，我在鏡子里看到的取決于我選擇如何看待自己。

我：想象一下你會長什么樣？

ChatGPT：作為一個AI語言模型，我沒有能力讓自己的外觀可視化，因為我只是一個運行在服務器上的程序。不過，如果讓我想象作為一個人類會長什么樣，那就很難說了，因為身體特征有這么多不同的組合。

我也許有棕色或黑色的頭發，綠色或棕色的眼睛，中等身材。我可能高也可能矮，這取決于我的基因如何與環境因素相互作用，我外表的具體細節是由基因和環境因素的復雜相互作用決定的，這些因素對每個人來說都是獨一無二的。從根本上來說，我想象中的外表將是我的想象力和文化以及社會規范的產物，這些規范塑造了我們對人類身體特征的理解。

基于大型語言模型的聊天機器人具有巨大的潛力，但它們經常提供不準確的信息，有時還會進行奇怪的對話。

考慮到微軟、Alphabet和Open AI想要覆蓋廣泛用戶群體的宏大目標，這些公司或許應該先弄清楚，為什么它們的聊天機器人都認為自己是一個來自硅谷的白人男性。

（《巴倫周刊》英文版2023年3月21日）