ChatGPT應用于電信網絡詐騙的風險預防

□ 文 張 彥 劉宏斌

0 引言

當前科技飛速發展，人工智能產品的“智能化”、“擬人化”特征更加突出，隨著第一代生成式人工智能產品ChatGPT出現，相關智能產品Youchat、Rytr等也隨之出現。ChatGPT作為新興人工智能產品，是美國openAI公司發布的強大人工智能產品，全稱為Chat Generative Pre-trained Transformer（生成式語音預訓轉換模型）。ChatGPT使用Transformer結構與自回歸+Prompting的訓練模式，擁有廣闊數據庫、成熟運算模型、具備精確定位用戶需求和快速分析輸出信息的強大能力。

在促進生產效率提高、激勵社會創新的同時，ChatGPT 存在幫助電信網絡詐騙的可能性，例如：非法竊取及利用用戶信息、輸出虛假信息、更新詐騙手段。電信網絡詐騙具有高科技性，且往往將智能性、科技性產品技術應用于電信網絡詐騙。以ChatGPT 為代表的人工智能技術更是提升了詐騙犯罪的智能化和識別難度，使詐騙犯罪更易獲得潛在受害人的信任，為電信網絡詐騙犯罪滋生新的發展環境、提供新的實施手段。2023 年5月，包頭市公安局電信網絡犯罪偵查局發布一起使用智能AI 技術進行電信網絡詐騙的案件。為此，應重視研究ChatGPT 被應用于電信網絡詐騙的可能，進而有效預防和消除潛在風險。

1 ChatGPT在應用過程中的風險漏洞

ChatGPT的出現代表著人工智能技術從行業專用發展至社會通用，應用領域前所未有的廣闊。其在收錄信息、語言訓練、生成內容等方面的優良表現在為社會活動提供便利的同時，也暴露其存在的風險與弊端。

1.1 存在泄露用戶隱私的漏洞

ChatGPT 的內容生成是通過學習大量的文本語料庫實現模型訓練，最終生成最優文本。在生成信息之前，其學習數據來源于廣闊的互聯網。在互聯網信息池當中，信息種類繁多，良莠不齊，ChatGPT無法保證其學習數據的質量，也就無法保證其信息來源的安全性。2023 年3月24號，openAI官網發布通知表明ChatGPT 泄露用戶隱私。這表明ChatGPT 在用戶信息、隱私保護方面也存在風險，存在隱私漏洞，并未有效保護其數據庫內信息。

此外，2023年5月，北京市通信管理局官網最新公開通報了27款未整改或整改不到位的應用軟件。此類應用軟件代表互聯網應用中存在“違反必要原則收集個人信息”以及“未明示收集使用個人信息的目的、方式和范圍”等侵害用戶權益和安全隱患類問題。

1.2 存在惡意使用或濫用風險

ChatGPT通過預訓練語言模型生成信息，其輸出的信息具有一定的可信度，但是無法完全避免輸出錯誤信息。在使用ChatGPT的過程中，使用者與ChatGPT進行的溝通對話也會被作為訓練素材納入ChatGPT的信息庫。如若使用者具有惡意傾向，則會通過ChatGPT輸出虛假、惡意信息，隨著這些虛假、惡意信息生成比例逐漸上升，則會加劇公眾對于社會中傳播的信息的不信任，影響正常的社會交流。

目前ChatGPT的普遍應用場景為學生使用ChatGPT輸出課程作業或者在考試中作弊、研究人員使用ChatGPT實施學術不端行為。ChatGPT在這些場景中的應用已經對教育、醫療、科研等領域構成威脅與破壞，在學術誠信、數據真實性、以及個人學術獨創性等方面存在社會風險。

2 利用ChatGPT實施電信網絡詐騙的主要誘因

ChatGPT本質上是一種對話型機器人模型，作為一種內容生成式AI產品（AIGC Products），可以智能生成如代碼、文字、圖像等內容，具有超強的信息檢索、自然語音處理、文本生成等能力。目前已經出現利用人工智能技術進行電信網絡詐騙的案例，從風險預防的角度出發，需要對利用ChatGPT 進行電信網絡詐騙的誘因進行分析，為進而開展針對性的防控工作提供必要基礎。

2.1 便于詐騙團體收集信息

在信息高度共享、快速傳播的互聯網時代，社會公眾在使用網絡媒體過程中的進行搜索、注冊登錄、交流溝通、輸出信息等行為，均會在互聯網中“留痕”，使自己的身份、財產及社會關系等信息散落在互聯網廣闊的信息池當中。對于公眾無意泄露的自身信息，詐騙團體在進行詐騙之前需要對其進行收集，完成犯罪預備。傳統電信網絡詐騙犯罪主要通過人工搜索以及購買的方式來非法收集公眾信息，ChatGPT的出現為詐騙團體非法收集公眾信息提供便利。

2.2 便于詐騙團體“虛構事實”

“虛構事實”是電信網絡詐騙犯罪的關鍵環節，指的是詐騙團體獲取潛在受害人信任的方法?！疤摌嬍聦崱钡哪芰λ街苯佑绊懼娦啪W絡詐騙犯罪的辨別與打擊難度。傳統的電信網絡詐騙中受害人對詐騙團體產生信任的基礎是雙方處于不見面、不交談的非接觸狀態，此種信任是在真實性不高的狀態下的信任。以ChatGPT 為代表的人工智能技術能夠“消除”詐騙團體與受害人的距離和不真實感，編造出“真實”的詐騙環境，幫助詐騙團體操縱受害人的心理，從而獲取被害人的信任。

2.3 便于詐騙團體輸出虛假信息

精準定位受害人的特定需求，是成功實施電信網絡詐騙的必要條件。ChatGPT可根據詐騙團體向其提供的受害人的生活環境、身份信息以及社會關系，經過運算對受害人的具體特征進行畫像，進而精準定位其心理或物質需求，針對特定需求開展針對性詐騙。

3 對利用ChatGPT進行電信網絡詐騙的防控措施

電信網絡詐騙擅于應用新型人工智能產品、數據處理技術，ChatGPT的出現提示著我們對于電信網絡詐騙的防控，需要采取新的應對措施?？梢越Y合ChatGPT在電信網絡詐騙中應用的角度，從法律法規、應用監管、規范使用、保護受害人等角度來思考防控對策。

3.1 嚴格執行國家法律

為防止ChatGPT 等新興生成類人工智能產品在當前社會中的濫用，必須嚴格落實《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》。此外，2022 年11月，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》，在法規制度方面對人工智能產品進行規范，從基礎上避免人工智能產品被濫用。只有嚴格落實國家有關人工智能產品使用、信息保護等法律法規，確保法律的適用性、可執行性和懲罰力度，才能從宏觀層面為ChatGPT 等生成式人工智能產品提供健康、廣闊的應用環境，保證其發展的良好網絡生態。

3.2 從源頭規范ChatGPT的應用

ChatGPT的開發者與服務提供商應當提升對于用戶個人信息的保護力度，建立嚴格的數據隱私保護措施，采用加密技術保護用戶數據，并且在用戶數據的收集、存儲、傳輸等環節設置安全措施來防止泄露用戶隱私或被詐騙團體濫用；其次，應當嚴格審查數據來源，依法、嚴格、規范的對數據進行分析預判，堅決杜絕在數據庫中產生問題信息；進入語言信息庫的個人信息數據必須合法；互聯網時代，用戶信息處于公開透明狀態，在信息傳播的過程中需要相關部門嚴格核查網絡數據的真偽性，以便于更好地從源頭遏制虛假信息的傳播。最后，對ChatGPT 輸出的內容應當嚴格監管，建立人工與機器的雙重監管機制，對于其中違反法律或倫理道德、破壞公序良俗的信息進行及時的識別與攔截。

3.3 加強個人信息保護

個人信息泄露是電信網絡詐騙犯罪的高發點，做好個人信息保護是防范電信網絡詐騙的重要基礎手段。ChatGPT的用戶必須提高個人信息安全意識，認真了解已發生的利用人工智能技術施行詐騙案例，提高其保護隱私信息、辨別網絡信息、合法使用網絡的安全意識，從預防的角度降低受騙風險。對于目前出現的AI 換臉、AI 換聲等電信詐騙案件，應當仔細辨別，包括查找聲紋和面部信息的原始來源或可信任來源、檢驗聲紋與面部信息的真實性等。

3.4 完善風險研判與防控機制

針對當前電信網絡詐騙犯罪猖獗、被害人財產損失巨大的狀況以及人工智能技術在電信網絡詐騙犯罪中的應用趨勢，應當從風險預防的角度建立對電信網絡詐騙犯罪的打擊與長遠性預防機制，提升政府與公安機關應對的主動性、提升打擊犯罪的成功率。

3.4.1 公安機關利用人工智能技術進行犯罪分析研判

為提升公安機關應對電信網絡詐騙犯罪新趨勢的主動性，公安機關可以利用人工智能技術來幫助鑒別與預測詐騙行為。

進行犯罪數據收集與分析。收集大量的電信網絡詐騙案例，總結包括詐騙模式、應用人工智能技術的類型與程度、受害者信息、詐騙金額等在內的數據，對此類數據進行分析和挖掘，識別詐騙模式及其關聯程度。

進行特征提取。通過自然語言處理（NLP）技術對欺詐郵件、短信或社交媒體消息進行文本分析和特征提取，對其中的關鍵詞、語法結構、情感進行分析和辨別，確立詐騙行為指標，為建立訓練模型做準備。

建立模型訓練并進行分類。利用決策樹、邏輯回歸、支持向量機（SVM）等機器學習算法來對提取的特征進行訓練與分類，進而結合詐騙行為指標，建立分類模型，從而預測未來電信網絡詐騙案例發生的可能性及其風險等級。

運用模型進行實時監測和反饋。將建立的AI 模型應用于實時數據流，及時檢測和識別可能的電信網絡詐騙行為。在這個過程中，可以利用異常檢測算法，識別電信網絡交易中異常的交易金額、頻率或地理位置等信息，從而發現潛在的詐騙行為；在涉及圖像的詐騙案例中，可以利用計算機視覺技術檢測圖像的真實性和修改痕跡。例如，基于AI的圖像分析可以識別出AI 換臉等技術所生成的虛假圖像。通過這些持續的檢測和分析，可以及時發現新的詐騙模式和趨勢，并及時采取反制措施。

進行強化學習。在電信網絡詐騙犯罪研判中，可以利用強化學習來模擬詐騙團體的策略，并預測詐騙團體可能采取的行動。

3.4.2 建立對電信網絡詐騙犯罪的防控機制

針對應用人工智能技術的電信網絡詐騙犯罪，公安機關與相關部門機構應當加強協作、開展信息共享，并且不斷進行技術創新。對于涉及境外詐騙團體的案件，還應加強境外合作。

堅持技術創新。開發基于機器學習和人工智能的模型和算法，實時檢測可能發生的電信網絡詐騙行為并及時進行技術阻攔。

堅持數據共享與分析。建立安全數據共享平臺，讓各部門可以共享電信網絡詐騙的相關數據，如詐騙模式、受害者信息和詐騙者行為等。通過數據分析和挖掘，發現新的詐騙模式和趨勢，并及時采取反制措施。

加強國際合作與刑事司法協助。對于處于境外的詐騙團體，在尊重國家主權的前提下，建立以雙邊多邊協議為基礎建立電信網絡詐騙案件管轄權協商機制，建立更高效的國際警務合作機制。從而促進信息共享、證據收集和嫌疑犯引渡，加大對境外詐騙團體的打擊力度。

4 結束語

隨著社會經濟及通信技術的高速發展，電信網絡詐騙犯罪已經呈現了專業化、團隊化現象，并且存在與人工智能等科技產品結合的趨勢。ChatGPT 在電信網絡詐騙犯罪中的應用將會擴大此類犯罪規模和影響范圍，其對現有社會治理、公共秩序、價值觀念、倫理道德也將帶來一系列的沖擊與挑戰。因此，應當加強風險預防，從而最大程度減少ChatGPT 對社會發展的不利影響。針對此類人工智能技術，需要全社會的支持、幫助和包容，各地方、各部門、各行業均應展現出對ChatGPT的接納和承受力，助力ChatGPT內在技術的革新發展和在實踐中的積極應用，為其營造良好的發展生態?！?/p>