top of page

福禍相依的生成式 AI

網絡犯罪份子已公然利用生成式AI進行垃圾郵件活動、社交媒體冒充和身份驗證服務中。

 

重點提要

生成式AI成為網路犯罪工具:網路犯罪日益利用生成式AI進行複雜的網路犯罪,包括社交媒體冒充、垃圾郵件活動、KYC驗證服務。

 

由AI 驅動的駭客平台:用於創建和管理虛假社交媒體帳戶的人工智慧驅動平台正日益興起,提供能夠自動生成內容和帳戶活動的服務來實現非法目的。

 

垃圾郵件和KYC詐騙的演變:將AI整合到垃圾郵件服務中,以規避安全系統的控制,並將其應用到 KYC 驗證服務中,以創建虛假身份證明文件,這表示著網路犯罪的複雜性達到了新境界。

 

過去一年,在攻擊者和防禦者的拉鋸戰中,生成式AI和ChatGPT的重要性日益凸顯。

 

儘管許多行業繼續探索AI的潛力來增強其能力,但網路犯罪份子也看到AI在利用漏洞和創建新的攻擊向量方面具有強大的潛力。

 

2023年初, 我們揭露了網路犯罪份子對於利用ChatGPT創建惡意軟體、加密工具和其他攻擊向量,以利用生成式AI的興趣的初步跡象。此外,俄羅斯網路犯罪份子立即開始討論如何規避任何限制將ChatGPT用於非法目的。

 

ChatGPT 推出一年後,我們觀察到生成式AI已成為許多網路犯罪服務的新常態,特別是在冒充和社交工程領域,他們中的一些人已經意識到生成式AI作為差異化因素的潛力,以提高其服務的有效性,甚至對此進行了吹噓。

 

此篇部落格中,我們提供了4種俄羅斯地下利用AI驅動服務的範例,這些服務利用內建的生成式AI作為其非法工具和平台的一部分:

  1. 駭客平台借助AI冒充社交媒體。

  2. 深偽技術(Deepfakes)服務。

  3. 惡意垃圾郵件工具。

  4. KYC 驗證服務。

 

Case 1:駭客平台借助AI冒充社交媒體


虛假社群媒體帳號因其潛在的惡意活動、品牌冒充、散播假訊息等等,而構成重大的網路安全威脅。

 

2023 年12 月,一位經驗豐富的威脅行為者(Threat Actor)在「Reputable」的俄羅斯地下論壇上以賣家的官方身份出售一個現成的平台,該平台使用AI作為核心模組,為Instagram、Facebook、Twitter 和 Telegram等社交媒體平台生成內容,這可用於幾乎完全自動化地維護社交媒體上的虛假帳戶。



在這個研究案例中,威脅行為者展示女模特生成的內容。而在另一個案例中,該行為者生成了一系列模仿成功金融交易員的虛假個人檔案。


圖2 - AI自動產出社群媒體內容的範例。

威脅行為者解釋說,他開發平台時才意識到這些工具有多強大,現在他提供了兩種商業模式:

 

社群媒體假帳號管理服務— 威脅行為者及其團隊在Instagram、Facebook、Telegram 和 Twitter 上創建所有必要的帳號。然後,他們會自動生成內容,並透過加入相關群組、「按讚」類似主題的帳號等方式來推廣這些帳號,使它們有可見性和真實感。作為概念驗證,他們展示了使用AI創建並運行20名女模特帳號,該平台可同時為200多個帳號創建內容,並生成每日的貼文、輪播等。由AI管理的假帳號吸引了追隨者,所吸引來的追蹤和流量都可以用於非法目的。這項管理服務的費用為單個Instagram帳號每月50美元,而4個網路為一組的連接假社交媒體帳號的套餐價格為70美元,而最低訂單量為10個帳戶。

 

獨立平台— 該平台以「按原樣(as is)」出售,買家可自行管理所有AI的帳號,而平台的核心功能就是能夠上傳內容並使用AI使其豐富化,有此功能的平台售價為5,000美元。


圖3 - 將AI整合到平台中。

Case 2:深偽技術(Deepfakes)服務

12月31日,除夕夜,俄羅斯地下論壇推出了另一項仿冒技術。

 

該服務專注於在三個領域提供基於AI的深偽技術服務,主要涵蓋三個領域:

  1. Lip Sync–每30秒內容100美元。

  2. Deepfakes包含Lip Sync和臉部替換–每30秒150美元。

  3. 配音–每1分鐘30美元。

圖4 - 深偽技術

 單獨或組合使用Case 1或Case 2所描述的服務,可能會在這兩個重要領域產生影響:

  1. 在社群媒體上創建假帳號大軍,以宣傳某些政治議程或產品。

  2. 假冒名人或企業高層可能會導致嚴重的品牌聲譽損害或引發網路攻擊。

 

Case 3:惡意垃圾郵件工具與服務

惡意垃圾郵件是地下網路犯罪論壇中最古老的非法服務之一,垃圾郵件是各種攻擊場景目標最常見的初始向量,例如網路釣魚和憑證竊取、惡意軟體分發、詐騙/詐欺等。

 

2023年11月,一位聲稱擁有超過15年犯罪經驗的知名威脅行為者推出了一項垃圾郵件服務。在收到對他的服務的積極反饋后,他開始使他的垃圾郵件服務由人工智慧驅動,特別是由ChatGPT提供支援。

 

使用 ChatGPT 有助於隨機生成垃圾郵件內容,從而提高垃圾郵件到達受害者收件夾的成功率。


圖5 - 將AI整合到垃圾郵件

正如該服務的一位客戶所說,由AI驅動的垃圾郵件服務幫助他繞過了流行的網絡郵件服務中的反垃圾郵件和反網路釣魚控制,並實現了對目標郵件地址的70%的成功投遞率。


圖6 - 關於成功投遞後的回饋

您想知道駭客平均需要投入多少資金才能成功發送70,000封惡意電子郵件嗎?100,000封垃圾郵件的成本為1,250美元(可以用比特幣、門羅幣或USDT支付)。


圖7 - 垃圾郵件服務價格表

在垃圾郵件工具的需求方面,目前,尋找新垃圾郵件工具的網路犯罪份子要求這些工具必須將ChatGPT驅動的隨機化功能作為其技術規格的一部分。這會自動為每封垃圾郵件創建獨特的文本,有助於它更輕鬆繞過反垃圾郵件過濾器。


圖8 - 針對垃圾郵件的規格要求

Case 4:KYC驗證服務

由於增強安全性、降低風險和合規管理的需要,了解您的客戶(KYC)程序已成為提供金融服務公司的標準做法。


KYC在恢復對帳戶的訪問中也扮演著關鍵角色,尤其是在合法所有者無法使用傳統方法(如重設密碼)時。公司通常會要求客戶進行KYC程序以確認其身份並確保他們是帳戶的合法持有人。這通常包括提供有效的身份證明文件,例如政府頒發的身份證、護照或駕照,以及附加驗證步驟,例如帶有照片的證件。


在整個地下市場存在著不正當的服務,例如創建偽造文件的圖像以進行驗證,先前,此類型的網路犯罪工作主要透過手動操縱相關影像來完成的。


圖9 - 網路犯罪圖像生成服務。

然而,現在有位KYC暗網服務供應商表示,隨著AI的出現,明顯地加速了製作假證件的程序,同時不影響質量。


圖10 - 將AI整合到KYC照片修改服務中

總結

人工智慧技術快速發展可為網絡資安領域帶來新的機會和挑戰,雖然可以實現檢測惡意軟體和保護系統等有益的應用程序,但同時也使網絡犯罪份子擴大攻擊規模。

 

網絡犯罪份子現在可以利用AI來創造更複雜的社交工程方案,更快地發現網路漏洞,製作合成媒體進行恐嚇或身份盜竊,以及自動化的網路釣魚攻擊和惡意軟體開發。

 

Check Point Research (CPR) 團隊提供全面的威脅情資,擁有全方位的方案來保護您的公司,我們提供每日摘要報告,從包括公開網路和暗網在內的多種來源中篩選報告,讓您隨時了解新興威脅。我們的威脅情資報告強調您的地下和社群媒體曝光情況,確保您能夠提前應對潛在風險。透過密切關注感興趣的領域和識別新興惡意軟體,我們提供主動保護措施。此外,我們還為您提供入侵威脅指標(IoC)列表,以強化您的安全立場,為了實現個人化服務,我們的 “analyst as a service” 功能可提供專家見解和支援,量身定制您獨特的資安需求。

 





Comentarios


bottom of page