AI技術開源大降詐騙門檻 惡意攻擊成本少90% 專家籲「用AI抗AI」
發佈時間：06:00 2025-05-30 HKT
「有圖有真相」已過時，今日即使收到親人樣貌的影片，也要質疑其真實性。有從事AI行業的專家向《星島頭條》透露，因AI的快速進步，詐騙情況正出現本地化、精準度高及即時性強的趨勢，更指「傳統上詐騙集團需要大量人力資源來實施騙局，但AI技術大幅降低這些成本，讓詐騙變得更容易、更普及」，例如傳統的阻斷式攻擊每小時需100元美元成本，但現在透過AI及自動化，僅需其十分之一價格。
| AI摘要：
|
有人AI偽造全紅嬋賣蜂蜜
網絡安全公司Amidas行政總監伍鴻荃表示，大語言模型已打破地域限制，詐騙內容變得更像本地人所寫，幾乎沒有語言差異，而且詐騙電話和訊息變得更有針對性、更精準。不但如此，AI技術還能進行即時語音對話，只需幾分鐘的語音樣本，就能實時模仿目標聲音。
舉例而言，上月有內媒指奧運冠軍全紅嬋被非法商家使用其賽後接受採訪和家人直播的畫面，用AI合成相應聲音，將內容竄改為介紹土蜂蜜等商品。其後全紅嬋父親闢謠指，有人用AI偽造一家人聲音賣蜂蜜，但他們也沒辦法。
開源大模型或增惡意用途
事實上，隨着AI工具收費越趨便宜，且越來越多開源大模型，將可能出現更多惡意用途。伍鴻荃表示，不少AI模型如Copilot、ChatGPT等都有不允許用戶作惡意用途的限制，但也有人能從開源途徑獲得模型，並改寫某些程序，令其變為特殊修改版，以及用於生成惡意軟件。
透過這些特殊AI模型及自動化操作，不法份子大幅降低發送釣魚郵件、惡意攻擊的成本，伍鴻荃認為，傳統的阻斷式攻擊成本可以大減90%；同時釣魚郵件和惡意攻擊受低成本鼓動，令數量大幅上升，企業IT部門的防範工作量亦同步增加。因此，不少企業也需要用AI工具對抗AI詐騙。
AI分類釣魚郵件快人類50倍
通過AI深度學習技術，企業IT部門可提高網絡釣魚偵測的效率。Microsoft報告指出，AI驅動安全措施已協助阻止了40億美元的詐欺企圖。此外，伍鴻荃指使用Security Copilot等AI平台可協助安全分析，將釣魚郵件進行分類篩選，簡單的就交由AI處理，並可提供初步診斷和應對建議；若安全警報系數較高，則交由IT部門處理。
他又指，分析師以手動審核一封電子郵件可能需要超過25分鐘，亦即在8小時內只能處理約15至20封可疑電子郵件，但若使用AI驅動的網絡釣魚偵測，其可在30至60秒內對網路釣魚電子郵件進行分類，比人類速度快50倍左右。
AI換臉可用於視像會議 曾有受害者被騙兩億
AI技術不只可模仿聲音外，換臉技術亦日益精湛。伍鴻荃表示，騙徒可在視像會議中，利用AI技術將自己的臉換成目標人物，令受害人上當。事實上，本港警方亦曾公布，有騙徒利用深偽技術（Deepfake）假冒他人與受害者進行視訊，騙取了2億元巨款。
伍鴻荃更認為，不用多久時間，將會出現有AI智能體模仿真人進行實時視像溝通，完全不需要真人操作。
幾分鐘可生成詐欺網站
另一方面，據Microsoft近期關於AI驅動的欺詐威脅報告顯示，以往騙徒需花費大量時間才建立一個看似真實的網站，但現在透過AI，即使只有最低限度的技術知識，亦可在幾分鐘內生成電子商務詐欺網站。
有關詐騙網站通常會模仿合法網站，用AI做出虛假產品說明、圖片和評論，讓消費者以為是真正的商家；還會用AI聊天機械人應付客戶投訴，拖延退款時間，預先編寫藉口和AI生成回覆，讓假網站看起來很專業可信。
AI實用教學資訊平台DotAI行政總裁楊廣澤回憶指，自己在幫會計師樓客戶重新搭建網站時，亦曾發現有非法份子仿效了原本網站，製作了一個假冒網站。他表示，「這種模仿範圍不僅限於網站，還包括社交平台Instagram等，都很容易被仿製，其實歸根到底是品牌與資訊安全的問題，但AI降低技術門檻，讓這些問題更易發生。」
