警惕!“深度合成技術(shù)”詐騙正在我們身邊發(fā)生

    來源:參考消息時(shí)間:2023-05-29 14:13:04


    (資料圖片)

    參考消息網(wǎng)5月29日?qǐng)?bào)道據(jù)西班牙《世界報(bào)》網(wǎng)站5月24日?qǐng)?bào)道,人工智能詐騙在中國正屢屢出現(xiàn)。

    今年4月,中國東南部福州市某科技公司法人代表郭先生接到好友的視頻電話,聲稱在外地投標(biāo)需要430萬元人民幣保證金,且需要公對(duì)公賬戶過賬,所以想要借用郭先生公司的賬戶走一下賬。郭先生看到屏幕上朋友焦急的臉,毫不猶豫地答應(yīng)向他提供幫助。

    好友隨后向郭先生要來了銀行卡號(hào),并聲稱已經(jīng)把錢打到郭先生的賬戶上,并把一張(虛假的)銀行轉(zhuǎn)賬底單截圖通過微信發(fā)給了郭先生。郭先生隨后就通過公司賬戶將430萬元人民幣匯給對(duì)方。

    郭先生不知道的是,這筆錢并沒有落到他好友的手里,因?yàn)槲⑿乓曨l通話的對(duì)方根本不是他的朋友,而是一群騙子用人工智能(AI)的方式“克隆”了他朋友的臉和聲音。

    轉(zhuǎn)賬成功后,郭先生詢問好友(這次是真正的好友)是否一切順利,對(duì)方卻回答說他從未向他求助。郭先生明白自己遭遇了詐騙,立即報(bào)了警。

    中國媒體近日紛紛報(bào)道了這場騙局,幸運(yùn)的是郭先生匯出的資金中有近80%被及時(shí)攔截。而另一位接到“妻子”微信視頻通話的男子小輝(音)就沒有這樣的運(yùn)氣了,他被同樣套路的騙局騙走了2.8萬元人民幣。

    中國社交媒體平臺(tái)微博上發(fā)布的一條警方提示稱,建議公眾加強(qiáng)個(gè)人信息保護(hù)意識(shí),防止信息泄露,不輕易提供人臉、指紋等個(gè)人生物信息給他人,盡量避免在互聯(lián)網(wǎng)上過度公開或分享自己的照片、視頻、語音等信息。與“AI換臉”有關(guān)的騙局近日來已經(jīng)連續(xù)成為微博熱門話題。

    據(jù)報(bào)道,在電商行業(yè),直播一直存在一些爭議。因?yàn)橐恍┲鞑榱虽N售更多產(chǎn)品而在直播中使用這種AI技術(shù)“換臉”知名主播。這樣的現(xiàn)狀加上一起起詐騙案在社交網(wǎng)絡(luò)上瘋傳令成千上萬的用戶擔(dān)心,在人工智能技術(shù)的推動(dòng)下,這類騙局會(huì)暴增,還會(huì)導(dǎo)致更多假新聞的傳播。

    幾周前,中國甘肅省警方逮捕了一名男子,他利用ChatGPT(聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器)炮制“火車撞死9人”的假新聞,并散布在互聯(lián)網(wǎng)上造成大量傳播。

    逮捕這名男子依據(jù)的是專門針對(duì)“深度合成技術(shù)”的監(jiān)管法規(guī)。這是中國互聯(lián)網(wǎng)監(jiān)管機(jī)構(gòu)在今年年初實(shí)施的法規(guī),此前美國開放人工智能研究中心(OpenAI)基于人工智能研發(fā)的ChatGPT一夜爆紅。

    關(guān)鍵詞:

    圖文推薦

    熱門文字

    標(biāo)簽

    精彩賞析