近日,，內(nèi)蒙古包頭警方公布一起利用人工智能換臉技術(shù)實施詐騙的案件,。相較于傳統(tǒng)電信詐騙,，此類詐騙利用AI換臉技術(shù)繞過面容核驗等防范措施，更具欺騙性,。為AI換臉技術(shù)加裝安全網(wǎng)尤為必要,。

　　人工智能技術(shù)在促進社會經(jīng)濟發(fā)展的同時，也暴露出一定風(fēng)險,。以AI換臉技術(shù)為例,，普通用戶獲取教程并不難。除被用作電信詐騙,，AI換臉還被用于冒充名人直播帶貨,，合成視頻販賣營利，甚至誹謗,、敲詐勒索他人等,。

　　AI換臉技術(shù)打破了眼見為實的傳統(tǒng)認(rèn)知,，如不加干預(yù),，隨著技術(shù)迭代升級，AI換臉或?qū)⒂�發(fā)逼真,，反詐防騙難度進一步加大,，因驗證身份帶來的交易成本也將提升。技術(shù)研發(fā)者,、平臺運營方以及監(jiān)管部門等有責(zé)任堵住漏洞,，防范AI換臉野蠻生長。

　　要為AI換臉技術(shù)劃定紅線,。目前,，對生成式人工智能的治理，已告別無法可依,。生成式人工智能技術(shù)的使用原則,、規(guī)則得以確立，各方權(quán)利,、義務(wù)與責(zé)任基本明確,，有利于AI技術(shù)濫用的源頭治理,。各類科技企業(yè)、開發(fā)者也應(yīng)主動開展合規(guī)自查,，引導(dǎo)技術(shù)向善,。

　　要從根源鏟除AI換臉詐騙賴以生存的土壤。人臉的深度偽造,，離不開對目標(biāo)人臉的模型學(xué)習(xí)與面容合成,、通信協(xié)議破解技術(shù)的配合。公安,、網(wǎng)信等部門應(yīng)形成合力,，從數(shù)據(jù)安全、技術(shù)研發(fā),、圖像傳播等方面全鏈條打擊AI技術(shù)濫用行為,。各平臺也應(yīng)對用戶上傳的圖像進行技術(shù)處理。

　　要以科技賦能提升用戶反詐能力,。AI換臉雖可暫時蒙騙人眼,，但在技術(shù)層面的留痕卻難以被掩蓋。要加快推動AI生成圖像識別,、鑒真技術(shù)的應(yīng)用,，短視頻平臺、社交軟件等要對合成圖像進行顯著標(biāo)注,，幫助用戶辨別真?zhèn)�,，讓詐騙無處遁形。 （本文來源：經(jīng)濟日報 作者：史書一）