隨著大數(shù)據(jù)和深度學習的發(fā)展，生成式人工智能技術(shù)給世界政治、經(jīng)濟、文化領域帶來極大沖擊，技術(shù)創(chuàng)新進入新一輪活躍期。生成式人工智能技術(shù)在促進新質(zhì)生產(chǎn)力發(fā)展，帶來巨大商業(yè)價值的同時，也存在深度偽造、虛假信息、廣告欺詐等問題，可能為不法分子提供新的技術(shù)工具，成為詐騙活動的“新武器”。預防、監(jiān)測和治理生成式人工智能詐騙，保護公眾免受智能詐騙行為的影響，促進人工智能技術(shù)健康發(fā)展和規(guī)范應用具有重要意義。

生成式人工智能技術(shù)基于遷移學習和人工神經(jīng)網(wǎng)絡，使用深度學習模型，傳輸和處理現(xiàn)有文本、圖像和音視頻信息，自動創(chuàng)建出新內(nèi)容、新方法和新方案。隨著生成式人工智能技術(shù)的發(fā)展，詐騙形式從線下詐騙、電話詐騙擴展到網(wǎng)絡詐騙。常見的網(wǎng)絡詐騙包括以下幾種形式：網(wǎng)絡購物詐騙，詐騙者使用虛假網(wǎng)站、虛假商品和虛假促銷信息，誘騙消費者購買商品，通過虛假支付鏈接欺詐消費者；網(wǎng)絡投資詐騙，詐騙者以高收益低風險為誘惑，通過虛假網(wǎng)站參與虛擬貨幣投資、股票期貨等投資活動，騙取消費者錢財；網(wǎng)絡視頻詐騙，詐騙者利用提前錄制的真人視頻和盜錄的視頻影像，合成為欺詐視頻，向視頻被盜錄者的好友借錢，開展詐騙行為。

防止生成式人工智能成為詐騙新工具是一項系統(tǒng)工程，存在三大監(jiān)控治理難點。一是全鏈路信息監(jiān)管難。詐騙者通過短信、電話、互聯(lián)網(wǎng)等通信渠道，與受害者聯(lián)系，基于獲取的個人信息和事前準備好的詐騙腳本，騙取受害者的信任，誘導受害者使用銀行轉(zhuǎn)賬、網(wǎng)上支付、手機支付等方式向指定賬戶轉(zhuǎn)款，并快速完成資金轉(zhuǎn)移，獲取非法經(jīng)濟利益。二是個人信息保護難。詐騙分子通過非法渠道竊取或購買個人信息，包括身份證信息、電話號碼、家庭住址、網(wǎng)絡賬號、銀行卡賬號等，精準獲取社會上各行各業(yè)人員的個人信息，為實施詐騙構(gòu)建個人信息基礎數(shù)據(jù)庫。三是智能生成產(chǎn)品識別破解難。詐騙分子基于開放數(shù)據(jù)流和獲取的個人信息，使用深度合成技術(shù)，篡改圖片或者視頻信息，對原始信息進行深度偽造，獲得人工智能生成產(chǎn)品，通過“換臉”“換聲”等方式實施違法犯罪行為。因此，要堅持目標導向和問題導向，在全鏈路信息監(jiān)管、個人信息保護和智能生成品鑒別技術(shù)上深耕細作，建立健全政策法規(guī)，切實將發(fā)展與安全相結(jié)合，持續(xù)推動科技創(chuàng)新，不斷增強防詐能力。

首先，建設公共算力和算法平臺是防止詐騙的基礎，應研發(fā)全鏈路的信息監(jiān)管技術(shù)。一方面，政府部門牽頭建立公共算力基礎設施，采用安全可信的芯片、軟件和工具，統(tǒng)一收集人工智能算法、鑒別算法和檢測算法模型，形成算法數(shù)據(jù)庫，規(guī)范人工智能服務提供者預訓練、優(yōu)化訓練等數(shù)據(jù)處理行為，提升算力資源利用效能。另一方面，研發(fā)可溯源的網(wǎng)關(guān)類設備監(jiān)管技術(shù)，基于分類分級監(jiān)管規(guī)則，全鏈路監(jiān)管查詢、下載、使用和修改個人生物識別信息的行為。并且要提供各類已被識別的合成品，積累識別樣本，提升詐騙電話檢測、惡意網(wǎng)址攔截、詐騙文本識別和詐騙風險預警的精準度。

其次，避免個人信息泄露是治理詐騙的根源，應研發(fā)個人信息保護技術(shù)。一方面，生成式人工智能服務提供者應對服務使用者信息的輸入和使用記錄依法履行保護義務，嚴禁采集非必要個人信息，不得非法向他人提供使用者的個人信息及使用記錄，規(guī)范個人信息采集與共享行為。另一方面，采用匿名化、去標識化技術(shù)和加密技術(shù)，處理使用者個人信息，對個人信息的獲取進行監(jiān)測，確保使用者個人同意且符合法律法規(guī)。通過虛擬私人網(wǎng)絡，建立信息安全通道，規(guī)范數(shù)據(jù)傳輸、處理與存儲行為，監(jiān)管信息使用情況，標注并攔截詐騙信息。

再次，鑒別生成產(chǎn)品是治理詐騙的關(guān)鍵，應研發(fā)人工智能生成品的識別破解技術(shù)。一方面，規(guī)范人工智能合成品的制作流程，擴大信息源取證范圍，在信息采集設備中采用水印技術(shù)，對原始信息增加“數(shù)字水印”，保證源頭信息的真實性。使用區(qū)塊鏈和智能合約技術(shù)，運用數(shù)據(jù)加密、時間戳和分布式共識手段，在生成品中加入元數(shù)據(jù)，實現(xiàn)去中心化信用的點對點交易與協(xié)作，完成溯源防偽。另一方面，基于遞歸神經(jīng)網(wǎng)絡和膠囊網(wǎng)絡，提取空域、時域和頻域特征，通過檢測合成品的混合邊界及肉眼難辨的灰度元素，對圖像和視頻進行反向破解，解析圖像和視頻代碼，判斷人物與場景的一致性，鑒別原始信息和合成品。

最后，建立健全政策法規(guī)，增強公眾風險教育，對于防止生成式人工智能詐騙至關(guān)重要。一方面，政府應制定針對生成式人工智能犯罪的法律規(guī)范，界定濫用生成式人工智能進行詐騙的法律責任，嚴格監(jiān)管和執(zhí)法，明確處罰措施，確保公共安全不受威脅。此外，鑒于數(shù)字詐騙的特殊性，還應加強國際合作，加大聯(lián)合執(zhí)法力度，打擊跨境詐騙。另一方面，政府、企業(yè)和各級教育機構(gòu)應大力宣傳防詐知識，普及人工智能技術(shù)的潛在風險，提升大眾的防范意識，提高識別和防詐技能。并且，應增加對未來科技從業(yè)者的教育，使其能夠規(guī)范開發(fā)和使用人工智能技術(shù)。

生成式人工智能是一項前沿技術(shù)，對于提升多個領域的生產(chǎn)效率至關(guān)重要。然而，如果不加約束地濫用，可能會成為欺詐者手中的危險工具。只有通過不斷研發(fā)防詐技術(shù)，采取多管齊下的管理政策，才能夠助推科技跨越式發(fā)展，有效防止生成式人工智能成為詐騙“新武器”。