警惕“AI換聲”隱患　莫讓“耳聽為虛”成常態

趙鑫

社會

近日，多個中國明星開口“說”英語的視頻引發熱議。視頻中的人物中英文表達自然真實，音樂幾乎匹配本人，口型和字幕同步。

據悉，這些視頻出自AI人像視頻工具。該工具支持多種輸入語言和輸出語言，用戶只需上傳視頻，選擇語言，就能自動翻譯、生成和原嘴型、聲線都匹配的新視頻。對此，有網友表示，這種技術看起來很炫酷，應用場景很廣泛，未來可能會越來越成熟。但也有網友表示擔憂，“這會不會被用來模仿聲音進行詐騙？”“再加上換臉，以后網上啥都不能信了。”“以后視頻造假會越來越容易。”還有網友表示：“希望AI技術發展能被控制在正軌。”

（摘自網絡，2023年11月10日）

素材解讀

AI技術是把“雙刃劍”，以假亂真的聲音帶來的絕不僅僅是我們今天看到“明星說外語”時的“哈哈一笑”，更重要的是，“耳聽為虛”可能變成一種“常態”，給社會安全穩定運行帶來潛在風險。一方面，AI換臉及換聲技術對于工作效率的提高具有非常強的作用。另一方面，近年來，有不法分子為了牟利，利用AI技術進行詐騙。

科學技術是魔杖，它可以改變我們的生活，改變我們的世界。所以，有人說：“正因為科學技術的存在，才有了人類社會的向前發展。”科學技術運用的好壞，完全取決于我們人類自己。正所謂：科技興，人類興！科技運用好，人類社會發展盛！相反，如果把某種科學技術當成奴役或者驅使人們的工具，其結果是可想而知的。

適用話題

科技發展、利與弊、約束、創新、守法……