謹(jǐn)防AI技術(shù)異化為助惡工具

楊玉龍

“你要的樣子我都有”“男人瞬間變女人”，“用朋友圈視頻就可換臉”……這些“分分鐘換臉”的黑科技讓人深感不安。有網(wǎng)友將影視劇中不同演員的臉進(jìn)行互換;有人將某平臺女主播瞬間“變臉”成不同女明星的樣貌等，這些還都只是“小兒科”，更有甚者，公開售賣換臉色情視頻。

可見，AI技術(shù)與很多新興技術(shù)一樣，是一柄雙刃劍。正面來看，AI換臉技術(shù)用在影視制作等領(lǐng)域，可以創(chuàng)造很多視覺盛宴，衍生出的產(chǎn)品可以讓我們的文化市場更加多元。而用于非法目的，不僅給不特定人群造成不良影響，還涉嫌侵權(quán)。

技術(shù)無原罪，但對于使用者而言，應(yīng)該遵法行事，讓技術(shù)、工具能夠在合理合法的用途和目的上使用。

AI技術(shù)換臉對監(jiān)管也提出了新的要求。一則要強(qiáng)化普法工作;二則要研究制定更為細(xì)致的管理辦法;三則對于利用AI技術(shù)行不法之實的，尤其是可能造成惡劣社會影響、危害國家安全和社會公共利益的，要嚴(yán)厲懲戒。

對于相關(guān)平臺而言，也應(yīng)積極作為。平臺應(yīng)完善事前處置機(jī)制，加強(qiáng)對違規(guī)換臉視頻的自動研判與編審，嚴(yán)控問題視頻的分發(fā)等。當(dāng)然，對于一些交易平臺，應(yīng)規(guī)范商家的經(jīng)營行為。

換臉“一時爽”，背后危險多。AI技術(shù)發(fā)展使普通人能享受到科技帶來的便利，但新技術(shù)應(yīng)該驅(qū)動良性的文化創(chuàng)意更新迭代，切忌用到歪路上去，更不能突破底線挑戰(zhàn)公序良俗。各方要增強(qiáng)法律及安全風(fēng)險意識，共同防范AI技術(shù)異化為助惡工具。