人工智能治理：收獲回報并降低風險

Maria Korolov Charles

人工智能治理涉及企業內的許多功能領域——數據隱私、算法偏差、合規性、道德規范等等。因此，要做好人工智能技術使用的治理工作需要在多個層面上采取行動。

塔塔咨詢服務公司數據和分析業務主管Kamlesh Mhashilkar認為：“這不僅僅涉及IT層面或者項目層面?！彼f，人工智能治理也發生在政府、董事會和首席安全官等層面。

例如，在醫療健康領域，人工智能模型必須通過嚴格的審核和檢查。許多其他行業也有適用的法規。Mhashilkar說：“在董事會層面，這關乎到經濟行為。引入人工智能時，會面臨哪些風險？”

至于高管，人工智能議程是有目的的。例如，首席財務官要考慮股東價值和盈利能力。首席信息官和首席數據官也是關鍵的相關方，營銷與合規主管當然也是。更不用說客戶和供應商了。

構建人工智能治理戰略時，并非所有企業都需要在各個方面采取行動。盡管如此，所有企業都在或者很快將要使用人工智能和相關技術，即使這些技術只是嵌入到他們使用的第三方工具和服務中。

在沒有適當監督的情況下使用人工智能時，它有可能犯錯，導致損害企業運營、侵犯隱私權、違反行業法規，或者會對企業造成不良聲譽。

以下介紹有遠見的企業將人工智能項目從試點擴展到實際使用時，怎樣開始解決人工智能治理問題，重點關注數據質量、算法性能、合規性和倫理道德等。

人工智能的倫理道德問題

如今，很少有哪個領域比面部識別更充斥著倫理道德問題。濫用面部識別的可能性很大，提供面部識別技術的企業受到了公眾的抵制，有時還受到自己員工的抵制。

Patriot One科技公司的子公司Xtract AI就是這種情況，該公司使用圖像識別來發現攜帶武器的人。

Xtract的運營副總裁Justin Granek說，這項技術還可以用于其他場合，比如識別那些不戴口罩，不遵守社交距離準則的人。

他說：“倫理道德是一個主要話題。對我們來說，很多事情都是自下而上的。我們的員工在說，‘我們在做什么？，并強烈要求領導層制定我們的治理政策?！?/p>

他說：“客戶有自己的一套要求，我們得找到平衡點。我們的一家客戶是加拿大國防部，還有些客戶來自醫療健康行業。他們會從不同的角度看待這個問題?！?/p>

他說，最大的問題是為哪些客戶工作，以及這項技術應該做什么樣的工作。這涉及到關乎企業使命的重大決策。還要解決一些技術問題，這些問題都是從數據開始的。

正確獲取數據

算法偏差的最大來源是數據集。例如，對于面部識別，數據集一直沒能很好地代表一般人群。Xtract AI運營副總裁Justin Granek說：“它們偏向于白人男性。我們正在糾正，但還有很多工作要做?！?/p>

專家可以幫助解決數據偏差問題，商業數據提供商正在努力填補他們提供的數據中的空白。Granek說，也有創建合成數據集的方法，但解決辦法往往歸結為去獲得更好的數據。

Kamlesh Mhashilkar，塔塔咨詢服務公司數據和分析業務主管

Justin Granek，Xtract AI 運營副總裁

對于Xtract的檢測算法來說，這意味著建立實驗室，放上各種各樣的退役槍支，讓很多人帶著槍以不同的方式，在不同的地方走來走去。

他說：“一種天真的做法是，就在好萊塢大片里尋找人們持槍行走的畫面，但這并不能代表全部?！?/p>

相反，Xtract盡力收集大量的個人信息作為訓練數據。Granek說：“沒有規定誰可以攜帶武器。有一些學生。還有更年長的個體;我們有很多不同的個體?！?/p>

對于一些人工智能應用程序，準確、有代表性的數據集決定了生存與否，具有重大的道德和倫理意義。但即使不良數據集的影響不會導致問題，它們仍可能給企業帶來運營或者財務損害，或者導致監管與合規問題。

世界上最大的建筑材料分銷商、總部位于墨西哥的Cemex公司便非常關注后一個問題。這家公司已有100多年的歷史，正通過在供應鏈管理和運營中使用人工智能來重塑自我。

大約三年前，Cemex公司開始研究人工智能及其相關技術，以擴大市場份額，改善客戶服務，提高利潤。

該公司首席人工智能官Nir Kaldero介紹說：“去年和今年，我們實際上看到了人工智能在全球范圍內的價值——而不僅僅是某個地方的小規模試點。”

他說，隨著人工智能已經牢固地融入企業基因中，Cemex意識到有必要圍繞人工智能建立治理結構。

一切都從數據開始。Kaldero說：“沒有好的信息架構，就沒有好的、可靠的人工智能。沒有好的信息，就不可能有好的、可靠的模型?！?/p>

在Cemex公司，數據治理涉及安全、監控、隱私、合規和倫理道德規范。公司需要知道數據的位置，在哪里以及怎樣使用，是否符合監管要求以及有沒有偏見。

Kaldero說，Cemex依靠Snowflake數據平臺來管理數據，利用Satori來管理訪問，還有一位高管專門負責數據，領導治理團隊的另一位高管則負責治理工作。

建立正確的模型

除了數據治理之外，Cemex公司還開始圍繞人工智能模型和結果進行治理。Kaldero說：“這是新生事物。不僅僅是為了Cemex，也是為了全世界?！?/p>