成都蒲江縣（xiàn）回收拆（chāi）除電（diàn）梯電話13981937861，9秒騙走（zǒu）245萬！魔高一尺道高一丈，AI詐騙如何防？

成都蒲江縣回收拆除電梯電話13981937861,成都91污污污廢舊物資回收有限公司長期回收空調、變（biàn）壓器、配電櫃、電腦、廢鐵、廢銅、電子電器、電線電纜、廢舊金屬、廢舊等物資，聯係電話：13981937861，18980010174。

　　文（wén）/劉育英

　　AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚郵件。。。。。。近日兩起詐騙金額（é）上百萬元的案（àn）件引起人們關注。AI技術快速發展，挑戰也逐漸顯現。

　　AI讓詐（zhà）騙門檻大幅（fú）降低

　　近日，內蒙古包頭警方通報一起利用AI實施詐騙的案件。在該案件中，福（fú）州市某公司法人代表郭先生10分鍾內被（bèi）騙430萬（wàn）元（yuán）。據（jù）通報，騙子通過AI換臉和擬聲技術，佯裝熟（shú）人實施詐騙。

　　今年4月份，在安徽安慶經開區發生一起AI換臉詐（zhà）騙（piàn）案中，詐騙（piàn）分（fèn）子（zǐ）使用一段9秒鍾的智能AI換臉視頻佯裝“熟人”，讓受害人放鬆警惕被騙走245萬元。

　　AI詐騙是利用AI技術模仿（fǎng）、偽造他人的聲音、麵孔、視頻等信息，進行欺騙、敲詐、勒索等犯罪活動。早在2019年外媒就報道過詐騙犯利用深度偽造語音技術冒充英國某（mǒu）能源公（gōng）司（sī）高管詐（zhà）騙24萬多美元的案例。

　　中國信息通信研究院雲計算與大數據研究所內容科技部研究員呼娜英對國是直通車表示，當前，隨著（zhe）深度學習等AI技（jì）術的成熟（shú），AI詐騙體現（xiàn）出詐騙手段愈發多樣（yàng）、詐騙門檻大（dà）幅降低、辨別難度不斷加大等特點（diǎn）。

　　賽（sài）迪研（yán）究院網（wǎng）絡（luò）安全研究所（suǒ）所長劉權對國是直通車（chē）表（biǎo）示，隨著AIGC(AIgeneratedcontent，人工智能生成內（nèi）容)技術的大爆發，普（pǔ）通人也能接觸各（gè）種先進生成工具，製作出難以識別的高質量合成內容，欺詐手段愈發多樣，使得防範AI詐騙的難度不斷（duàn）提升。

　　在網上，換臉軟件、換聲軟件既有（yǒu）免（miǎn）費也有付費（fèi），不僅能照片換臉，而且能視頻換臉。高逼真（zhēn）的換臉付費（fèi）軟件價值僅在幾百元至幾千元之間，有的甚至還推出了包月服務。

　　“基於公開發布（bù）的數據（jù）信息、照片、視頻（pín），利用深度合成（chéng）等AI技術生成高度（dù）逼真（zhēn）的圖像、視頻和語音等內容，這些（xiē）以假亂真的虛假信（xìn）息更易取得對方信任，從（cóng）而使得受害者放鬆（sōng）警惕。”劉權表示。

　　奇安信董事長齊向東表示，AI一定（dìng）會給數字世界帶來新（xīn）的安（ān）全威脅，目（mù）前有兩個方麵：一是它可以仿造、以假亂（luàn）真，實（shí）施詐騙（piàn）；二是AI還能夠幫助黑客提高攻擊水平，尤其是把（bǎ）不懂黑客技術的一些人快速培養成黑客，幫助黑客寫程序、寫代碼，幫助黑客（kè）製定攻擊方（fāng）案，提供攻（gōng）擊策略。

　　立法步（bù）伐加快

　　今年以來，以ChatGPT為代表的生（shēng）成式人工智（zhì）能快速發展，背後暗藏的個（gè）人隱私、數（shù）據安全（quán）、知識產權保護（hù）等一（yī）係列法律風險和倫理等問題引發社（shè）會各界關注。對此（cǐ），國家相關法律政策（cè）正陸續出台，人（rén）工智能等新技術的發展和治理越來越受到重視。

　　今年4月，國家（jiā）互聯網信息辦（bàn）公室就《生成式（shì）人工智能服（fú）務管理辦法(征求意見稿)》向社（shè）會公開征求意見，其主旨思想是促進生成式人工智能技術的健康（kāng）發展和規範應用。

　　劉權認為，《管理辦法》建立（lì）了AI服（fú）務的管理框架，對（duì）生成式人工智能服務提供者和使用（yòng）者進行了規範化管（guǎn）理，要求提供生成式人工智能產品或服（fú）務的企業或（huò）個人進行實名認（rèn）證（zhèng）、信息公示、申報安全評估、履行算法備（bèi）案和變更、注銷備案手（shǒu）續等措施，這有（yǒu）助（zhù）於減少非（fēi）法個體或組織實施AI詐騙的可能性。

　　《管理辦法》對生成（chéng）式人工智能產品（pǐn）采用的（de）預訓練數據、優化訓練數據過程，人工（gōng）標注過程以及生成的文本、圖像、聲音等各個（gè）階（jiē）段需要遵守的規則和服務提（tí）供者履行的義務進行了詳細列舉，明確生成式人工智能（néng）產品過程（chéng）中涉（shè）及的數據使用（yòng）安全（quán），有助於保護用（yòng）戶信息不被泄漏，保障隱私安全（quán）。

　　另外，《管理辦法》建立（lì）了完善的問題投訴（sù）處理機製。《管理（lǐ）辦法》規定了對生（shēng）成式人工智能服務過程中發現或用戶舉報的不（bú）符（fú）合管理辦法內容的及時處理（lǐ）辦法，要求當發生侵害他人肖像權、名譽權、個人隱私、商業秘密（mì）等現象（xiàng）時必須停止（zhǐ）生成並優化模型。

　　呼娜（nà）英表（biǎo）示，2023年1月（yuè）施行的《互聯網信（xìn）息（xī）服務深度合成管（guǎn）理規定》，細化了深度合成技術支（zhī）持者、服務提供者、服務使用者以及（jí）應用程序分發平台的（de）主體責任，規定的落實將有效遏製AI換臉等（děng）詐騙事件。

　　例如，《規定》明確深度合成服務提供者應當使用顯著方式，對可能導致公眾混淆或者誤認的深度合成信息內容進行標（biāo）識，顯著標（biāo）識的實施將保障（zhàng）公眾對生成內容的（de）知情權。《規定》還提出深度合成服務提供（gòng）者應在信（xìn）息內容中添（tiān）加（jiā）不（bú）影響用戶（hù）使用的標（biāo）識並（bìng）保存（cún）相（xiàng）關（guān）日（rì）誌信（xìn）息，隱性標識的落實將確保發布或傳（chuán）播的深度合成信息內容可追溯。

　　近日，國（guó）務（wù）院辦公廳印（yìn）發《國務院2023年度立法工作計劃》，其中人工智能（néng）法草案等預（yù）備提請全國人大常委會審議，這意味著國家層麵的人工（gōng）智（zhì）能立法將進入新（xīn）階段。

　　中國信通院雲計算與大數據研究所所長何寶（bǎo）宏此（cǐ）前（qián）接受采訪時建議，要組織跨學科團（tuán）隊，深入研究ChatGPT等新技術應用對現有法律規範、倫理道德等帶來的衝擊（jī），係統梳理潛在風險挑（tiāo）戰，及早（zǎo）研究相關風險防範措施。鼓勵各方積極（jí）參與人工智能安全技術研發、防範體係（xì）搭建和（hé）治理規則製定等工作，加快布局我國（guó）人工智能安全標準、倫理規則的研究。

　　治理AI詐騙需多管齊下

　　齊向東（dōng）表（biǎo）示，人工智能技術被（bèi）傳統（tǒng）犯罪分子（zǐ）用來偽造聲音、偽造圖像（xiàng）、偽造視頻、偽造證據，以假亂真（zhēn），人們很難去甄別。要解決這些挑戰，隻有（yǒu）靠技術和它進行對抗。網（wǎng）絡安全技術和（hé）產品的創新一（yī）定能夠解決AI時代的額（é）外網絡安全問題（tí）和風（fēng）險，但（dàn）人還是最關鍵的因（yīn）素。

　　目前奇安信正在訓練專有的類ChatGPT安全大模型，並且在人才培養（yǎng）上進行了（le）超前布局，通過“人 機器”的配合來應對未來安全挑戰。

　　有專家建（jiàn）議，相關部門應持續（xù）進行AI反詐技術研（yán）究，提升防範AI欺（qī）詐的技（jì）術手段，利用機（jī）器學習和數據挖掘、區塊鏈等技（jì）術加強對AI應用的監（jiān）管與審查，及時發（fā）現和防範違法行為。

　　此外，還應提高公眾反詐意識與防範AI詐騙能力。中國互聯網協會日前也對AI換臉新騙局作出提醒，包括做好個人信息（xī）安全（quán）第一（yī）責任人，加強個人信息保護意識，防止信息泄露；不輕易提供人（rén）臉、指紋等個人生物信息給他人等。

　　互聯網協會提醒，在（zài）AI時代，文字、聲音、圖像（xiàng）和視頻都有可能是深度合（hé）成的，在轉賬匯款、資金往來這樣的典（diǎn）型（xíng）場景（jǐng），要通過回撥對方手機號（hào）等額外通信方式核實確認，“不（bú）要僅憑單一溝通渠道未經核實就直接轉賬匯款，無論對方是誰”。

　　治理AI詐騙需要多管齊下。劉權表示，應加強跨部（bù）門、跨行業的協同配合，建立聯合公安、工信、網（wǎng）信、市場監管部門（mén）等政府部門，以及電信企業、通訊軟件提供商、銀行等企業的工作機製，共同監管和維護網絡安全（quán）。