ChatGPT最容易被濫?的三種?式

人工智能大語言模型是目前科技領(lǐng)域最閃亮、最令人興奮的東西，但它們正在引出一個新問題：它們非常容易被濫用，成為強(qiáng)大的網(wǎng)絡(luò)“釣魚”或詐騙工具，而且騙子不需要具備任何編程技能。更糟糕的是，目前還沒有已知的解決辦法。

科技公司正競相將這些語言模型嵌入到大量的產(chǎn)品中，以幫助人們預(yù)訂旅行行程、整理日歷、做會議筆記等。

但這些產(chǎn)品的工作方式是接受用戶的指令，然后在互聯(lián)網(wǎng)上搜索答案，這帶來了大量新的風(fēng)險。有了人工智能，它們可以被用于各種惡意任務(wù)， 包括泄露人們的私人信息，幫助騙子“釣魚”、撰寫垃圾郵件和進(jìn)行詐騙。專家警告說，我們正走向一場個人安全和隱私方面的“災(zāi)難”。

以下是人工智能語言模型最容易被濫用的三種方式。

“越獄”

人工智能大語言模型驅(qū)動著ChatGPT、Bard和Bing等聊天機(jī)器人，它們產(chǎn)生的文本讀起來就像是人類寫出來的東西。它們遵循用戶的指示或“提示”，然后根據(jù)它們的訓(xùn)練數(shù)據(jù)，通過預(yù)測最有可能跟隨前面每個單詞的單詞來生成句子。

但是，很好地遵循指令，既可以讓這些模型變得非常強(qiáng)大，也會讓它們很容易被濫用。這可以通過“提示注入”來實現(xiàn)，這指的是有人使用刻意編輯過的提示，引導(dǎo)語言模型忽略其開發(fā)者設(shè)置的“安全護(hù)欄”。

在過去的一年里， 一群試圖“ 越獄”ChatGPT的作業(yè)出現(xiàn)在像Reddit這樣的網(wǎng)站上。人們已經(jīng)成功誘導(dǎo)人工智能模型來支持種族主義或陰謀論，或者建議用戶做非法的事情，比如入店行竊和制造爆炸物?！?br>