電信網(wǎng)絡(luò)詐騙是發(fā)案最高、損失最大、群眾反映最強烈的違法犯罪行為之一。近日，利用AI技術(shù)制作換臉視頻、合成聲音等，冒充親友、同事的電信網(wǎng)絡(luò)詐騙案件不斷出現(xiàn)。例如，在有的案例中，詐騙分子通過使用他人真實姓名及照片，冒充他人身份添加被害人社交賬號，再利用“AI換臉”技術(shù)和被害人進行短暫視頻通話，博取被害人信任后實施詐騙；在有的案例中，詐騙分子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而用偽造的聲音與被害人通話并實施詐騙；等等。在這些案例中，不法分子憑借其迷惑性極強的詐騙形式、精準的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，引起了社會的關(guān)注與警覺，成為電信網(wǎng)絡(luò)詐騙治理新的痛點難點。

當前，應(yīng)當在深入研判AI詐騙違法犯罪行為新規(guī)律新特點的基礎(chǔ)上，有針對性地綜合施策，進一步完善法律法規(guī)、延伸行業(yè)管理范圍、提高技術(shù)反制能力。

明確各方責任，強化對各類電信詐騙違法犯罪行為的監(jiān)管。當前，我國反電信網(wǎng)絡(luò)詐騙法規(guī)定了電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)服務(wù)提供者在防范電信詐騙方面的法律責任。今年初，國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》也對數(shù)據(jù)合規(guī)性、生成內(nèi)容合法性提出了進一步要求。但這些規(guī)定對新型電信網(wǎng)絡(luò)詐騙的規(guī)制作用仍然存在局限。一方面，以AI詐騙為代表的新型電信網(wǎng)絡(luò)詐騙呈現(xiàn)出更為明顯的鏈條化、平臺化作案特征。例如上游黑產(chǎn)提供各種基于人工智能技術(shù)的專用設(shè)備工具、算法，為下游電信網(wǎng)絡(luò)詐騙源源不斷地提供技術(shù)支持，危害巨大。在這個產(chǎn)業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)以提供服務(wù)的方式分工配合，使得詐騙案件發(fā)生時，位于上游的不法分子有可能以自己不知情來規(guī)避法律風險。因此，法律必須關(guān)注電信網(wǎng)絡(luò)詐騙的這一特征，進行更有針對性的制度設(shè)計，清晰劃定各個犯罪節(jié)點的法律責任。另一方面，《生成式人工智能服務(wù)管理辦法（征求意見稿）》作為一個行業(yè)管理辦法，位階較低，規(guī)制的范圍有限，不足以對層出不窮的涉人工智能違法犯罪行為進行全面有效的約束和管理，需要進一步為AI技術(shù)使用劃定“紅線”。

加大打擊力度，以嚴厲手段懲處震懾不法分子。隨著人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙領(lǐng)域的不斷應(yīng)用，不法分子實施詐騙的精準性、迷惑性、隱蔽性大大加強，直接導(dǎo)致公安和檢察機關(guān)的偵查打擊難度進一步加大，人工智能詐騙治理工作所面臨的“偵查破案難、電子證據(jù)調(diào)取難、認定處理難”等一系列問題更加突出。有關(guān)部門應(yīng)加大執(zhí)法力度，對那些未經(jīng)肖像權(quán)人同意，通過技術(shù)手段提取肖像，或利用換臉軟件從事違法犯罪活動者，采取刑事責任、行政責任、民事責任并重的措施，及時追究其法律責任，并深挖其背后的黑色產(chǎn)業(yè)鏈。強化懲處力度的同時，及時總結(jié)提煉新型電信網(wǎng)絡(luò)詐騙的新特征、新模式，通過樹立一批大案、要案來震懾不法分子，彰顯法律權(quán)威。

開展前端防范，切斷AI詐騙的“數(shù)據(jù)喂養(yǎng)”。公民個人信息是電信網(wǎng)絡(luò)詐騙的生產(chǎn)資料，與傳統(tǒng)詐騙方式相比，AI詐騙還涉及人臉、聲紋等生物信息。雖然科技的進步讓防范電信網(wǎng)絡(luò)詐騙的難度提升，但電信網(wǎng)絡(luò)詐騙頻出的根本原因還是信息時代用戶個人隱私信息過度泄露，其本質(zhì)上是不法分子掌握大量技術(shù)后，利用信息不對稱來騙取錢財?shù)男袨?，背后還隱藏著竊取個人信息、提供技術(shù)支持、進行轉(zhuǎn)賬洗錢等上下游犯罪，亟待從根子上予以斬除。要著重開展前端防范，通過不斷提高堵截能力，讓詐騙軟件下不了、詐騙網(wǎng)站登不上，持續(xù)完善有關(guān)管理制度，防止違法獲取個人信息。此外，可通過技術(shù)分析網(wǎng)絡(luò)用戶的行為特征、活動頻率、會話長短，揪出可疑的社交機器人，對網(wǎng)絡(luò)詐騙上游進行清理；通過在線監(jiān)測報警，對網(wǎng)絡(luò)有害信息采取風險標注、攔截提示、搜索屏蔽等措施，從源頭阻斷網(wǎng)絡(luò)黑灰產(chǎn)觸達用戶；提供在線檢測工具，幫助用戶識別AI換臉、變聲；等等。

強調(diào)協(xié)同聯(lián)動，共同打造安全可靠的AI技術(shù)生態(tài)。電信網(wǎng)絡(luò)詐騙涉及金融、通信、互聯(lián)網(wǎng)等多個行業(yè)，要實現(xiàn)治理效果最大化，對各部門的協(xié)同配合提出了很高要求，只有通力協(xié)作、綜合治理，才能堵塞監(jiān)管漏洞，實現(xiàn)“事前發(fā)現(xiàn)、事中阻斷、事后打擊”。除進一步協(xié)調(diào)好執(zhí)法機構(gòu)之間的決策職能外，還需要明確金融、電信、互聯(lián)網(wǎng)等行業(yè)的監(jiān)管責任，通過建立健全安全評估、責任追究、信用懲戒等制度，共同推動打擊治理工作取得更大成效。電信、互聯(lián)網(wǎng)企業(yè)應(yīng)加強內(nèi)部監(jiān)管，技術(shù)研發(fā)方面需要加強自律和倫理規(guī)范。在對外輸出AI技術(shù)應(yīng)用時，須遵循道德和法律的底線，確保技術(shù)的合法使用。同時加強投資和支持安全技術(shù)的研發(fā)，共同打擊AI換臉和換聲技術(shù)濫用行為，為行業(yè)健康有序發(fā)展付出努力。銀行、支付機構(gòu)等在反詐工作中要承擔風險防控責任，建立內(nèi)部控制制度和安全責任制度，共同打造一個安全可靠的AI技術(shù)生態(tài)，加強跨領(lǐng)域的合作與交流，共同研究和應(yīng)對技術(shù)的潛在風險。此外，還要持續(xù)對老年人、青少年等重點人群開展防騙教育，提高人民群眾識騙、防騙、拒騙的意識和能力。