繼“人工智能假拜登“打電話誤導選民之后OpenAI、Meta等紛紛啟用大模型水印

最近，人工智能領域出現一些令人鼓舞的消息。在令人沮喪的泰勒·斯威夫特深度偽造色情丑聞和政治深度偽造內容泛濫之后， 科技公司正在加緊行動，采取措施更好地檢測人工智能生成的內容。

最近，有語音機器人正在偽裝成美國總統拜登的聲音，告訴選民待在家里，不要投票。

Meta公司表示將在Facebook、Instagram和Threads3個社交媒體平臺上標記人工智能生成的圖像。

當有人使用Meta的人工智能工具創建圖像時，該公司會在圖像中添加可見的標記，以及“烙印”在圖像文件中的肉眼不可見水印和元數據。

Meta表示，其水印標準符合人工智能研究非營利組織Partnership onAI制定的實踐規則。

其他大型科技公司也在大力支持一項有潛力的技術標準，該標準可以為圖像、視頻和音頻添加一種“營養標簽”。它被稱為C2PA，是一種開源的互聯網協議，依靠密碼學來編碼一段內容的來源細節，技術專家又將其稱為“來源”信息。

C2PA的開發人員經常將該協議比作食品包裝上的營養標簽，它會說明特定內容來自哪里，以及是由什么人或工具創建的。

Meta表示它也參加了C2PA。擁有一個全行業統一的標準使公司更容易檢測到人工智能生成的內容，無論它是用哪個系統創建的。

OpenAI公司也宣布了新的內容來源標注措施。該公司表示，將在其人工智能工具ChatGPT和DALL-E3生成的圖像元數據中添加水印。

OpenAI表示，現在它將在圖像中添加可見標識，以表明它們是用人工智能創建的。

這些舉措是一個好的開始，給了人們希望，但并非萬無一失。元數據中的水印很容易通過截圖來規避，而圖片上的標識可以被裁剪或編輯掉。

像谷歌SynthID這樣的隱形水印可能更有希望，它可以巧妙地改變圖像中的像素，使計算機程序可以檢測到水印，但人眼無法識別出來。這種水印更難篡改。

但創造這些“溯源”工具仍然有價值。生成式人工智能專家亨利·阿杰德就如何杜絕深度偽造色情內容接受采訪時表示，重點是給別有用心的人創造一個“坎坷的過程”。

換句話說，給深度偽造內容的生成和傳播途徑增加障礙，以盡可能地減少這些有害內容的創建和分享。一些真正圖謀不軌的人可能仍然會推翻這些障礙，但只要它變得稍微困難一點點，就會有所幫助。

科技公司還可以引入許多非技術性的修復措施，來預防深度偽造色情內容之類的問題。谷歌、亞馬遜、微軟和蘋果等主要云服務提供商和應用商店可以禁用那些與創建深度偽造色情內容有關的應用。

水印應該在所有人工智能生成的內容中全面普及，即使是開發該技術的小型初創公司，也應該參與其中。

除了這些自愿措施，我們也開始看到具有約束力的法規出臺， 如歐盟的《人工智能法案》和《數字服務法案》。這些法案要求科技公司披露人工智能生成的內容，并更快地刪除有害內容。

美國立法者也對通過法規來約束深度偽造技術和內容重新產生了興趣。

在人工智能生成的“ 冒牌拜登總統”出現并以機器人語音電話的方式告訴選民不要投票之后，美國聯邦通信委員會近日宣布，禁止在類似的語音電話中使用人工智能。

總的來說，這些政策指導方針和規則還是難以令人滿意，因為它們不具備真正的問責機制，很多公司可以隨心所欲地改變這些規則。

科技行業在自我監管方面一向表現非常糟糕。在殘酷的、增長驅動的科技世界里，像“負責任的人工智能”這樣的項目往往是第一個面臨削減的。

盡管如此，這些新的溯源和水印舉措還是非常受歡迎的。它們比維持現狀好得多，因為現狀幾乎是一片空白。（ 綜合整理報道）（策劃/克珂）