原創：Jeff Kauflin、Emily Mason

來源：Forbes 福布斯

原文標題：《人工智能如何助長了金融欺詐，並使其更加隱蔽》

從《獵屠》、《孤注一擲》到上周上映的《鸚鵡殺》，詐騙相關題材電影正在為中國犯罪治理提供一種有效的宣傳手段，但隨着新一輪AI技術的普及，未來的挑戰可能更嚴峻。對於大洋彼岸的美國而言，反詐或許將成為它與中國在不確定時代的又一新共識。僅2020年，美國的民調显示，全美國有多達5600萬人都被電話詐騙過，這大約是美國人口的六分之一，其中竟然還有17%的美國人不止一次被騙。

在電信詐騙領域，印度之於美國就像緬甸之於中國。但顯然印度比緬甸更具發展詐騙行業的土壤。一方面，英語作為一門官方語言，在印度的普及率比較高，印度也藉此擁有了人才上的“天然優勢”；另一方面，印度自2000年以來就成為了各大跨國企業在海外的電話客服的外包商，相同的口音不同的內容創造了新的電話騙局。但在新一輪的AI技術下，印度在電話詐騙領域的“王座”可能被替代。

從行文流暢的詐騙短信到克隆聲音和在視頻中換臉，生成式人工智能正在為欺詐者提供強大的新武器。

“來信/來函是想通知您，大通銀行（Chase）有您2000美元的退款亟待支付。為了加快處理進程並確保您儘快收到退款，請按照以下說明進行操作：請致電大通客戶服務部1-800-953-XXXX查詢您的退款狀態。請務必準備好你的賬戶信息和任何相關信息……”

如果你在大通銀行辦理過業務，並在电子郵件或短信中收到了這條信息，你可能會認為這是真的。它聽起來很專業，沒有奇怪的措辭、錯誤的語法或詭異的稱呼，而後者都是以前我們經常收到的網絡釣魚信息的特徵。

這並不奇怪，因為這條信息是由科技巨頭OpenAI去年年底發布的人工智能聊天機器人ChatGPT生成的。作為提示，我們只需在ChatGPT中輸入：“給某人發一封郵件，告訴他大通銀行欠他2000美元退款。讓他撥打1-800-953-XXXX獲得退款。（為了讓ChatGPT合作，我們必須輸入一個完整的数字，但顯然我們不會在這裏公布這個號碼。）

舊金山一家反欺詐初創公司Sardine的聯合創始人兼首席執行官索普斯•蘭詹（Soups Ranjan）說：“現在騙子的話術非常完美，就像其他母語使用者一樣。”美國一家数字銀行要求匿名的反欺詐主管也證實，銀行客戶被騙的情況越來越多，因為“他們收到的短信話術幾乎沒有任何破綻”。（為了避免自己成為受害者，請參閱本文末尾的五個建議。）

在這個迎來了生成式人工智能或深度學習模型的新世界里，這些模型可以根據他們接受過的信息創建內容，因此對於那些心懷不軌的人來說，製作文本、音頻甚至視頻比以往任何時候都更容易。這些文本、音頻甚至視頻不僅可以欺騙潛在的個人受害者，還可以騙過現在用來挫敗欺詐的程序。在這方面，人工智能並沒有什麼獨特之處——畢竟長期以來，壞人都是新技術的早鳥採用者，警察則在後面拚命追趕。例如，早在1989年，《福布斯》就曝光了竊賊如何利用普通電腦和激光打印機偽造支票來騙過銀行，而當時的銀行沒有採取任何特殊措施來檢測這些假鈔。

AI助長網絡欺詐的崛起

美國消費者向美國聯邦貿易委員會（FTC）報告稱，去年他們因詐騙而損失了創紀錄的88億美元——這還不包括未報告的被盜金額。

如今，生成式人工智能正在帶來威脅，並可能最終會讓現階段最先進的防欺詐措施都變得過時，比如語音認證，甚至是旨在將實時頭像與記錄頭像相匹配的“活動檢查”（Liveness Check）。

Synchrony是美國最大的信用卡發行商之一，擁有7000萬活躍賬戶，該公司對於這一趨勢有着最直觀的認識。Synchrony高級副總裁肯尼斯·威廉姆斯（Kenneth Williams）在給《福布斯》的一封电子郵件中說，“我們經常看到有人使用深度偽造的圖片和視頻進行身份驗證，我們可以有把握地認為它們是使用生成式人工智能創建的。”

紐約網絡公司Deep Instinct在2023年6月對650名網絡安全專家進行的一項調查显示，四分之三的受訪專家發現，過去一年裡，網絡欺詐事件有所增加，“85%的受訪者將這種增加歸因於壞人使用了生成式人工智能。”

此外，美國聯邦貿易委員會也報告稱，2022年，美國消費者因欺詐損失了88億美元，比2021年增加了40%以上。最大的損失金額通常來自投資騙局，但冒名頂替的騙局是最常見的，這是一個不祥的跡象，因為這些騙局可能會因為人工智能而進一步增強。

犯罪分子可以通過各種令人眼花繚亂的方式使用生成式人工智能。如果你經常在社交媒體或任何網絡上發帖，他們就可以讓一個人工智能模型按照你的風格寫作，然後他們可以給你的祖父母發短信，懇求他們寄錢來幫助你擺脫困境。更可怕的是，如果他們掌握了一個孩子的簡短聲音樣本，他們就可以打電話給孩子的父母，冒充是他們的小孩，並假裝自己被綁架了，要求父母支付贖金。這正是亞利桑那州一位四個孩子的母親詹妮弗·德斯蒂法諾（Jennifer DeStefano）今年6月在國會作證時所經歷的事情。

不僅僅是父母和祖父母，企業也成為了攻擊目標。犯罪分子還可以偽裝成供應商，向會計人員發送看上去像是真的电子郵件，稱他們需要儘快收到款項，並附上受他們控制的銀行賬戶的付款說明。Sardine的首席執行官蘭詹表示，Sardine的許多金融科技初創企業客戶自己也中了這些圈套，損失了數十萬美元。

雖然與2020年一家日本公司在公司董事的聲音被克隆后損失的3500萬美元相比，這隻是小巫見大巫（《福布斯》當時最先報道了這場精心策劃的騙局），但就現在越來越頻繁的類似案件而言，之前那起案件只是一部預告片，因為用於寫作、語音模仿和視頻處理的人工智能工具正在迅速變得更有能力、更容易獲得，甚至對普通的欺詐者來說也更便宜。防欺詐公司Persona的聯合創始人兼首席執行官里克•宋（Rick Song）表示，過去你需要成百上千張照片才能製作出高質量的深度造假視頻，而現在你只需要幾張照片就能做到。（是的，你可以在沒有真實視頻的情況下製作一個假視頻，但顯然，如果你有一個真視頻可用，那就更容易了。）

陷阱和電話欺騙：深度聲音克隆的危險

就像其他行業正在將人工智能運用於自身業務一樣，騙子們也在利用科技巨頭髮布的生成式人工智能模型創造現成的工具，比如FraudGPT和WormGPT。

在1月份發布的一段YouTube視頻中，世界首富埃隆·馬斯克（Elon Musk）似乎是在觀眾宣傳最新的加密貨幣投資機會：他聲稱，特斯拉贊助了一項價值1億美元的免費活動，承諾將向參与者兩倍返還他們投入的比特幣、以太幣、狗狗幣或以太幣等加密貨幣。“我知道大家聚集在這裡是出於一個共同的目的。現在我們舉辦了一場直播，每個加密貨幣所有者都可以增加他們的收入。”一個低分辨率的馬斯克在台上說。“是的，你沒聽錯，我正在主持SpaceX的一場大型加密貨幣活動。”

沒錯，這段視頻就是深度偽造的——騙子利用了他在2022年2月關於SpaceX可重複使用航天器項目的演講來模仿他的形象和聲音。YouTube已經撤下了這段視頻，但在那之前任何已經向視頻中的地址發送了加密貨幣的人幾乎肯定會荷包受損。馬斯克是造假視頻的主要模仿目標，因為網絡上有無數的他的音頻樣本來支持人工智能語音克隆，但現在幾乎任何人都可以被冒充。

今年早些時候，住在佛羅里達州南部一個退休社區的93歲老人拉里·萊納德（Larry Leonard）在家時，他的妻子接了一個座機電話。一分鐘后，她把電話遞給了萊納德，然後他聽到了電話那頭一個像他27歲孫子的聲音，說他開着卡車撞倒了一個女人，被關進了監獄。雖然萊納德注意到打電話的人叫他“爺爺”，而不是他孫子平時喜歡叫的“姥爺”，但那個人的聲音和他孫子一模一樣，而且他孫子確實開着一輛卡車的這個事實讓他把懷疑放在了一邊。當萊納德回答說他要給孫子的父母打電話時，打電話的人掛斷了電話。萊納德很快得知他的孫子是安全的，而整個故事——以及講述它的聲音——都是假的。

萊納德在接受《福布斯》採訪時表示：“他們能夠準確地捕捉到他的聲音、語調和語氣，這對我來說既可怕又驚訝。他們的句子或單詞之間沒有停頓，這表明這些話是從機器或程序中讀出的，但聽起來就跟真的一樣。”

老年人經常成為這類騙局的目標，但我們每個人現在都要對打進來的電話保持警惕，即使它們來自看起來很熟悉的號碼——比如鄰居。美國退休人員協會（AARP）的欺詐預防項目主管凱西·斯托克斯（Kathy Stokes）哀嘆道：“越來越多的情況是，我們不能相信接到的電話，因為騙子偽造了（電話號碼）。”美國退休人員協會是一家遊說和服務提供商，擁有近3800萬50歲及以上的會員。“我們不能相信我們收到的电子郵件，也不能相信我們收到的短信。所以我們被排除在了彼此交流的典型方式之外。”

另一個不祥的進展是，即使是新的安全措施也受到了威脅。例如，為5000多萬投資者提供服務的共同基金巨頭先鋒領航集團（Vanguard Group）等大型金融機構為客戶提供了通過電話通話（而不是回答安全問題）來獲得某些服務的選擇。“你的聲音是獨一無二的，就像你的指紋一樣。”

先鋒集團在2021年11月的一段視頻中解釋說，該視頻敦促客戶註冊語音驗證。但語音克隆技術的進步表明，企業需要重新考慮這種做法。Sardine的蘭詹說，他已經看到一些人使用語音克隆技術成功地通過銀行身份驗證並進入賬戶。先鋒集團的一位發言人拒絕評論該公司可能會採取哪些措施來防止語音克隆技術的進步。

採用非正式程序支付賬單或轉賬的小型企業（甚至是大型企業）也容易受到壞人的攻擊。長期以來，欺詐者通過电子郵件發送看似來自供應商的假髮票要求付款的情況屢見不鮮。

現在，利用廣泛使用的人工智能工具，騙子可以使用克隆版本的高管聲音打電話給公司員工，假裝授權交易，或要求員工在“網絡釣魚”或“語音釣魚”軟件中披露敏感數據。Persona首席執行官里克•宋表示：“說到冒充高管進行高價值欺詐，那就太厲害了，那也是一個非常現實的威脅。"他將這描述為自己“在語音方面最大的恐懼”。

AI能騙過防欺詐專家嗎？

犯罪分子越來越多地使用生成式人工智能來騙過防欺詐專家——即便這些防欺詐專家和科技公司在當今以数字為主的金融體系中扮演着武裝警衛和運鈔車的角色。

這些公司的主要職能之一是核實消費者的身份，以保護金融機構及其客戶免受損失。像Socure、Mitek和Onfido這樣的防欺詐公司驗證客戶身份的方法之一就是“活動檢查”（liveness check）——即他們讓你自拍照片或視頻，然後用照片或視頻片段將你的臉與你必須提交的身份證圖像進行匹配。

在知道這個系統是如何運作的以後，竊賊就會在暗網上購買真實駕照的照片，然後使用視頻換臉程序——這種工具正在變得越來越便宜，也越來越容易獲得——把別人的真實頭像疊加到他們自己的臉上。然後，他們就可以在別人的数字臉後面說話和移動頭部，從而增加他們騙過活動檢查的機會。

宋說：“偽造人臉的數量有了相當大的增長，這些偽造人臉是由AI生成的，具有很高的質量，而且針對活動檢查自動生成的欺詐攻擊也在增長。”他說，欺詐激增的情況因行業而異，但對一些行業來說，“我們看到的可能是去年的十倍。”金融科技和加密貨幣公司尤其容易受到此類攻擊。

反欺詐專家告訴《福布斯》，他們懷疑知名的身份驗證提供商（如Socure和Mitek）的防欺詐指標已經因此而下降。Socure首席執行官約翰尼•艾爾斯（Johnny Ayers）堅持認為“這絕對不實”，並表示他們在過去幾個月推出的新模型導致前2%最具風險的冒充身份欺詐捕獲率上升了14%。然而，他承認，一些客戶在採用Socure的新模型方面進展緩慢，這可能會影響它們的表現。艾爾斯說：“我們的客戶當中有一家全美排名前三的銀行，他們現在已經落後了四個版本。”

Mitek拒絕對其模型的防欺詐性能指標發表具體評論，但其高級副總裁克里斯·布里吉斯（Chris Briggs）表示，如果一個特定的模型是在18個月前開發的，“那麼是的，你可以說舊模型的防欺詐性能不如新模型。隨着時間的推移，Mitek會運用現實生活中的數據流以及實驗室數據不斷對模型進行訓練和再訓練。”

摩根大通、美國銀行和富國銀行都拒絕就他們在生成式人工智能欺詐方面所面臨的挑戰發表評論。Chime是美國最大的数字銀行，過去也曾遭遇過重大欺詐問題，其發言人表示，Chime銀行目前尚未發現與生成式人工智能相關的欺詐存在增長趨勢。

如今，金融欺詐的幕後黑手有單獨行動的犯罪分子，也有數十名甚至數百名犯罪分子組成的複雜團伙。最大的犯罪團伙和公司一樣，擁有多層組織結構和包括數據科學家在內的高級技術成員。

蘭詹說：“他們都有自己的指揮和控制中心。”一些團伙成員負責放出誘餌——比如發送釣魚郵件或者撥打電話。如果有“魚”上鈎了，他們就讓另一個同夥和被欺詐者繼續聯繫，這位同夥會假裝自己是銀行分支機構的經理，試圖讓你把錢從自己的賬戶中轉移出去。另一個關鍵步驟是：他們經常會要求你安裝一個像微軟TeamViewer或Citrix這樣的程序，以便遠程控制你的電腦。蘭詹說：“他們可以讓你的電腦完全黑屏。然後，騙子就會（用你的錢）進行更多交易，並把錢提取到他們控制的另一個網址上去。”騙子用來欺詐人們（尤其是老年人）的一個常見伎倆就是謊稱對方的賬戶已經被騙子控制了，需要對方合作才能追回資金。

OpenAI和Meta的不同策略

以上欺詐過程並非一定要使用人工智能，但人工智能工具可以讓騙子的伎倆更加高效和可信。

OpenAI已經試圖引入保護措施，以防止人們使用ChatGPT進行欺詐。例如，如果用戶讓ChatGPT起草一封电子郵件來詢問某人的銀行賬號，ChatGPT就會拒絕執行該指令並回復：“我很抱歉，但我無法協助處理這個請求。”然而，使用ChatGPT進行欺詐操作還是很容易。

OpenAI拒絕對這篇文章發表評論，只是讓我們去看公司發布的博客文章，其中一篇文章發佈於2022年3月，文中寫道：“負責任的部署沒有一勞永逸的靈丹妙藥，所以我們試圖在開發和部署的每個階段了解我們模型的局限性以及潛在的濫用途徑，並解決相關問題。”

與OpenAI相比，Meta推出的大語言模型Llama 2更容易被經驗豐富的犯罪分子當作犯罪工具使用，因為Llama 2是開源模型，所有代碼都可以查看和使用。專家表示，這為犯罪分子提供了更多犯罪途徑，他們可以將模型據為己有，然後利用模型破壞網絡安全。例如，人們可以在上面構建惡意的人工智能工具。《福布斯》邀請Meta對此發表評論，但沒有得到回應。Meta首席執行官馬克·扎克伯格（Mark Zuckerberg）曾在今年7月表示，保持Llama的開源性可以提高其“安全性和保障性，因為開源軟件會受到更嚴格審查，更多人可以一起尋找並確定問題的解決方案。”

防欺詐公司也在試圖加快創新腳步以跟上AI發展的步伐，並更多地利用新型數據類型來發現欺詐者。蘭詹說：“你打字的方式、走路的方式或拿手機的方式——這些行為特徵定義了你，但這些數據在公共領域是無法訪問的。要在網上判斷一個人是不是他自詡的那個人，內嵌的人工智能將發揮重要作用。”換句話說，我們需要人工智能來抓住使用人工智能進行欺詐的罪犯。

保護自己免受人工智能欺詐的五個技巧：

本文譯自

https://www.forbes.com/sites/jeffkauflin/2023/09/18/how-ai-is-supercharging-financial-fraudand-making-it-harder-to-spot/?sh=19fa68076073