星島申訴王 | 名人實測 AI「扮聲」呃人有幾似 潮甚麼Christy:語氣好似我
更新時間:08:30 2023-12-19
發佈時間:08:30 2023-12-19

《星島申訴王》早前踢爆有騙徒利用AI人工智能模擬聲音技術進行詐騙,惟當時有科技專家指,模擬英語聲音技術較先進,模擬廣東話沒那麼成熟。《星島申訴王》今次與一間專門提供網絡保安的跨國公司合作,邀請IT專家挑戰這個模擬廣東話技術難關,AI模擬著名股評人胡孟青「青姐」,以及經常帶觀眾「潮什麼」的旅遊達人梁芷珮(Christy)聲帶,事前記者獲得兩人同意,複製她們聲線去模擬一段詐騙錄音,看看效果如何。

直擊網上兜售AI犯罪技術 實測黑心IT公司換臉穿崩位

【點擊睇AI模擬聲線原理】

經過AI處理後,兩條聲音分別產生。胡孟青的模擬對白是「大家好,多謝大家一直支持青姐。老實說,我在股市都賺夠了,可能之後都會集中做教育和培訓,希望幫大家賺到一點錢。我今天公開一隻股票號碼,編號1234,這股票莊家我是認識的,接下來應該會大升,大家有興趣的話可以買少少。我退休了,應該不會再做股評人,如果想再交流,可以進入以下群組。」

《星島申訴王》細聽AI「青姐」,發現聲線有7、8分相像。惟真青姐聽過AI聲線後點評說:「它的聲音是平的,我說話的時候聲音不是這樣平的,他們想學我!因為我出了名說話沒有尾音,但現時出來的聲音,是好像不夠氣,認識青姐的人,也知道我很夠中氣,而它就好像中了COVID之下的青姐狀態。人工智能學到音調,但它學不到那種神韻,神韻很難學的。」

接下輪到Christy。她近年開辦旅行社,並親身帶團,所以《星島申訴王》模擬騙徒利用這一點來行騙,對白為「大家好,我是Christy梁芷珮。你想跟我一起出團玩、一起『潮什麼』嗎,立即點擊以下的連結吧。」

Christy聽過模擬她聲線的錄音後表示:「我覺得語氣很像,但聲線不太像,只是語氣像。」她表示現在辦旅行社,已不是靠門市逐一見客,而是透過電話或WhatsApp確認所有交易。如果有人模擬到她的聲音,欺騙對方直接存款,對於她們這類旅行社可能有很大影響。

今次實驗模擬了兩條聲音,效果有點分別。以聲論聲,AI模擬青姐的效果稍勝模擬Christy,該公司網絡保安主管Nick Sir有以下解釋:「青姐的訪問一般很長,所以要拿她的聲音做『模』很簡單;相對地Christy那個難度高一點,因為她每個訪問只有10分鐘或更短時間,中間又夾雜其他人的訪問及英語,因此效果會有點影響。」

詐騙大趨勢 AI助搵料寫詐騙電郵

鑑於近年人工智能技術(AI)愈趨成熟,有機會成為犯罪行為的輔助工具,當中利用「深偽技術」(Deepfake)換臉,「深偽技術」是透過收集個人樣貌、聲音等生物特徵,再合成或修改影片,假扮成受害人親友與其視像通話,目的是更容易接近受害人而已,之後的行騙過程均與其他騙案相似;警方提醒市民跟人通電話,或者進行視像通話時,就算覺得對方聲線與自己親友有多相似,都不能夠排除被騙的機會,應嘗試從對話內容,例如說一些親友之間才知道的資訊,從而核實對方身份的真假。

人工智能相關騙案防罪貼士:

  1. 要求對方在鏡頭前做指定動作,如手指於臉上橫掃、頭部上下左右轉頭等
  2. 提出個人問題測試對方身份真偽
  3. 切勿輕易提供人臉、指紋等生物辨識資料
  4. 提防親友在視述或錄音中提出匯款要求
  5. 避免接聽陌生視像通話來電

Nick Sir指,近年不少駭客都會用AI技術配合詐騙,入侵企業的電腦系統。「在網上搜尋你的個人資料,用大數據學習後,找到你有關係的朋友,再用這些資料去做一個AI的詐騙,成功率就會大大提高。駭客普遍瞄準一些大公司高層,把他們背景以至子女的名字都找到了,放在電郵內容,令他們的同事及朋友,戒心因而降低。」

Nick Sir表示,企業電腦一旦遭到駭客入侵,後果可以很嚴重,部分企業願意支付贖金,換取駭客解鎖,但他認為駭客隨時有機會在系統內埋下「後門」,準備下次再勒索,建議企業做好預防工作。「其實很大部分的已知案件,接近9成是經過電郵入侵,所以在電郵安全做了足夠防範,已經很大程度保障到公司。」

______________________________________________________

《星島申訴王》推出全新項目「區區有申訴」,並增設「我要讚佢」欄目,現誠邀市民投稿讚揚身邊好人好事,共建更有愛社區。立即「我要讚佢」︰ https://bit.ly/3uJ3yyF

《星島申訴王》為民請命抱不平、追蹤城中熱話,亦會搜羅坊間溫情小故事。你申訴,我跟進,WhatsApp搵91999933,《星島申訴王》隨時候命!立即報料:https://bit.ly/3IMunqd