人工智能竟然也會產生自己的偏見

據英國《每日郵報》報道，來自英國卡迪夫大學和美國麻省理工學院的計算機科學和心理學專家發現，自主機器人可以通過識別、復制、學習其他機器人的行為產生偏見，某些種類的算法已經產生性別歧視和種族歧視。

為證實人工智能可以自己產生偏見，科學家用計算機模擬博弈。博弈中，每個個體都可以將錢送給自己所在的群體或其他群體，以測試每個個體的給予策略，觀察其是否對其他群體有偏見。參與研究的卡迪夫大學計算機科學與信息學教授Roger Whitaker表示：“通過成千上萬次模擬，我們發現了偏見是如何演化的、哪些情況可以激化偏見、哪些情況可以減弱偏見。我們的研究表明，偏見是自然產生的、影響非常大的，它很容易被激勵、損害大范圍的連通性。來自同一偏見群體的保護可以非主觀地引起更進一步的偏見，使整個群體四分五裂。這種廣泛傳播的偏見很難逆轉?！边@些個體是通過復制那些有更高短期效益的個體使得偏見升級的，可見偏見并不需要高級認知能力。

在另一項關于性別的研究中，研究人員發現，微軟、IBM和Face++等的人臉識別服務中存在性別歧視和種族歧視。這些服務對于男性白人更加友好，而對于男性黑人和女性黑人錯誤率最高。