警惕！“深度合成技術(shù)”詐騙正在我們身邊發(fā)生

(資料圖片)

參考消息網(wǎng)5月29日?qǐng)?bào)道據(jù)西班牙《世界報(bào)》網(wǎng)站5月24日?qǐng)?bào)道，人工智能詐騙在中國正屢屢出現(xiàn)。

今年4月，中國東南部福州市某科技公司法人代表郭先生接到好友的視頻電話，聲稱在外地投標(biāo)需要430萬元人民幣保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。郭先生看到屏幕上朋友焦急的臉，毫不猶豫地答應(yīng)向他提供幫助。

好友隨后向郭先生要來了銀行卡號(hào)，并聲稱已經(jīng)把錢打到郭先生的賬戶上，并把一張（虛假的）銀行轉(zhuǎn)賬底單截圖通過微信發(fā)給了郭先生。郭先生隨后就通過公司賬戶將430萬元人民幣匯給對(duì)方。

郭先生不知道的是，這筆錢并沒有落到他好友的手里，因?yàn)槲⑿乓曨l通話的對(duì)方根本不是他的朋友，而是一群騙子用人工智能(AI)的方式“克隆”了他朋友的臉和聲音。

轉(zhuǎn)賬成功后，郭先生詢問好友（這次是真正的好友）是否一切順利，對(duì)方卻回答說他從未向他求助。郭先生明白自己遭遇了詐騙，立即報(bào)了警。

中國媒體近日紛紛報(bào)道了這場騙局，幸運(yùn)的是郭先生匯出的資金中有近80%被及時(shí)攔截。而另一位接到“妻子”微信視頻通話的男子小輝（音）就沒有這樣的運(yùn)氣了，他被同樣套路的騙局騙走了2.8萬元人民幣。

中國社交媒體平臺(tái)微博上發(fā)布的一條警方提示稱，建議公眾加強(qiáng)個(gè)人信息保護(hù)意識(shí)，防止信息泄露，不輕易提供人臉、指紋等個(gè)人生物信息給他人，盡量避免在互聯(lián)網(wǎng)上過度公開或分享自己的照片、視頻、語音等信息。與“AI換臉”有關(guān)的騙局近日來已經(jīng)連續(xù)成為微博熱門話題。

據(jù)報(bào)道，在電商行業(yè)，直播一直存在一些爭議。因?yàn)橐恍┲鞑榱虽N售更多產(chǎn)品而在直播中使用這種AI技術(shù)“換臉”知名主播。這樣的現(xiàn)狀加上一起起詐騙案在社交網(wǎng)絡(luò)上瘋傳令成千上萬的用戶擔(dān)心，在人工智能技術(shù)的推動(dòng)下，這類騙局會(huì)暴增，還會(huì)導(dǎo)致更多假新聞的傳播。

幾周前，中國甘肅省警方逮捕了一名男子，他利用ChatGPT（聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器）炮制“火車撞死9人”的假新聞，并散布在互聯(lián)網(wǎng)上造成大量傳播。

逮捕這名男子依據(jù)的是專門針對(duì)“深度合成技術(shù)”的監(jiān)管法規(guī)。這是中國互聯(lián)網(wǎng)監(jiān)管機(jī)構(gòu)在今年年初實(shí)施的法規(guī)，此前美國開放人工智能研究中心（OpenAI）基于人工智能研發(fā)的ChatGPT一夜爆紅。

關(guān)鍵詞：