STEAM|眼見未為真!拆解Deepfake|星島教室

更新時間:12:19 2024-05-16
發佈時間:12:19 2024-05-16

近年,新聞經常出現有關Deepfake深偽技術的報道:一名台灣資深音樂人的女兒因罕見疾病離世,他以人工智能(AI)Deepfake深偽技術,模仿、複製出女兒的聲音,讓他和太太重溫親情。另外,跨國公司香港分部的職員因為相信了換臉的「總裁」和「同事」,被騙走了足足2億港元。


甚麼是Deepfake?

Deepfake深偽技術於2017年開始進入大眾目光中。原文Deepfake源自英文「deep learning」(深度學習)與「fake」(偽造)組合,指應用人工智能深度學習的技術,合成某個(不一定存在的)人的圖像或影片、甚至是聲音。最常見的應用,就是將影片中的人臉替換為另一張臉(常是名人),讓指定的臉在影片中做出自己從未說過或做過的事情。

首先,需要收集目標人物的大量圖像和影片,產生一個虛擬的3D人臉模型。接着,使用這個模型將目標人物的臉部特徵影射到另一個人的影片中,並根據目標人物的動作,產生相應的表情和動作。

想想過去的電影如《魔戒》中的咕嚕、或是2008年布萊德.彼特主演的《班傑明的奇幻旅程》,將影片或照片中人物「換臉」「變老」的修圖或CG技術,在Deepfake出世前就已經存在了。Deepfake受到關注的核心關鍵在於,應用AI深度學習的算法,加上越來越強大的電腦與手機運算能力,讓「影片換臉」變得越來越唾手可得,並且天衣無縫。

過往電影的影音產業,要仿造人臉需要應用許多複雜、耗時、昂貴的電腦模擬,有了Deepfake相關的技術,使許多抱憾出現了彌補的空間。最有名的應用是荷里活電影《玩命關頭7》,在拍攝期間,主角保羅.沃克(Paul William Walker IV)意外身亡,剩下的戲份由弟弟擔綱演出,劇組再以Deepfake技術讓哥哥弟弟連戲,整部電影才可上映。


深度造假內容散播

雖然深度造假技術有可能徹底改變各個產業,但其惡意行為帶來了重大的道德、社會和政治挑戰。深度造假技術最逼切的社會影響之一是假訊息的傳播。深度造假技術能夠創造令人信服的假新聞故事、政治宣傳和陰謀論,可以操縱公眾輿論並在社會中製造混亂。隨着技術變得越來越容易使用,打擊錯誤訊息的挑戰變得越來越艱巨。

除此之外,由於能夠在未經個人同意的情況下創建高度逼真的影片和圖像,深度偽造技術引發了有關侵犯隱私權的嚴重問題。由於深度造假內容的擴散,個人可能會發現自己面臨身份被盜或被錯誤地捲入犯罪活動的風險。此外,將深度造假技術用於惡意目的,可能會對個人的聲譽和福祉造成嚴重後果。

今年1月,網上流傳以AI偽造的影片,片中看到「AI特首」推介一項高回報的投資計劃,推銷如何用2000港元投資,每周便可取得60000元回報,而且收益是免稅。另一條短片,李家超更提及馬斯克(Elon Musk)參與計劃,接着有「AI馬斯克」現身,協助推廣假投資計劃。

政府立即發布新聞稿,呼籲市民必須提高警惕,切勿誤信網上以AI偽造的電視節目片段。政府嚴正澄清,影片全屬偽造,指特首李家超從未作出相關投資計劃的言論,並強烈譴責不法之徒假冒行政長官向市民詐騙。政府和科技公司必須共同努力制訂策略,偵測和打擊深度造假內容的傳播。


智破深偽方法

那麼,現今世界是否一如《紅樓夢》般「假作真時真亦假,無為有處有還無」,如此虛幻,玄之又玄?我看未必。以下是幾個識別深度偽造的方法:

  • 觀察眼睛:深度偽造產生的影像通常在眼睛上會有一些不自然的表現,例如瞳孔大小不一致、眨眼頻率異常或是眼球運動看起來不自然。這些細微差異有時候難以察覺,但卻是鑑別真偽的關鍵。
  • 注意聲音:深度偽造除了影像,還會涉及聲音的仿造。如果覺得對話聽起來不自然,或者有不尋常的回音,這可能是深度偽造的跡象。聲音的細節往往比視覺更難以完美複製,因此這也是一個重要的判斷依據。
  • 檢查畫面細節:深度偽造的影像可能會在畫面細節上出現問題,如畫面模糊、邊緣不清晰或光線效果不自然等。這些問題通常出現在臉部與頸部的接合處或是頭髮的邊緣。
  • 使用專業工具:隨着技術的不斷進步,目前已有許多專業工具,例如Deepware AI等,可幫助檢測深度偽造的影像或聲音。這些工具利用先進的算法,分析影像或聲音的真實性,是識別深度偽造的有力幫手。

總而言之,識別深度偽造需要我們細心觀察,關注細節,並適時利用專業工具進行輔助判斷。隨着技術不斷發展,這些方法亦會不斷更新和改進,公眾需要保持警覺,以免被深度偽造的內容所欺騙。


小思考,大智慧

我們可使用哪些應用程式,製作用於教育目的的深度偽造內容?


參考答案

市面上的選擇琳瑯滿目,例如Synthesia。它是利用AI技術製作視頻的平台,利用深度偽造技術,毋須攝影機或演員即可創作專業的視頻。它使用AI為虛擬角色添加動畫效果並與配音同步。作為學生,你可以利用Synthesia進行以下應用:

  • 影片報告:只需提供報告內容,Synthesia便可將其轉換為動畫視頻,使報告更生動有趣。
  • 教學視頻:若想製作教學視頻來幫助同學學習,Synthesia可助創建虛擬角色來演示知識和技能。
  • 故事演繹:若喜歡寫故事或創作,Synthesia可將文字內容轉換為動畫視頻,讓故事更生動。
  • 演示簡報:做簡報時,可以使用Synthesia創建動畫效果和為角色配音,使簡報更具吸引力。

使用Synthesia時,可選擇不同風格的虛擬角色,根據需要和喜好進行個性化設定,例如自定配音的聲調、音高和速度,以符合想要呈現的風格。在編輯過程中,可調整角色的手勢、面部表情和身體動作,增加視頻的生動性和個性化。完成編輯後,可預覽最終效果,確保符合期望。然後,可進行視頻渲染並下載,以不同格式和分辨率在社交媒體、網站上分享,或應用於演講、教學、展示等場合。

Synthesia的技術利用深度偽造算法和機器學習,讓虛擬角色的動作和表情更加逼真。然而,作為使用者,應負責任地使用這項技術,並牢記相關的道德考量。


本欄逢周四刊登,由教育評議會邀請資深中小學老師、校長及大學講師撰稿,旨在為學生提供多元化的STEAM學習材料,引發學生探求知識的興趣,將學習融入生活,培養學生的世界觀、敏銳的觸覺、積極學習的態度。

文:東華三院王余家潔紀念小學校長劉秀萍、老師陳潁釗及老師阮駿

延伸閱讀:

唐朝歷史|唐玄宗是明君嗎?|星島教室

醫學界X戰隊|星島教室

陶淵明——閒適自然的田園詩人|星島教室

STEAM|AI樂齡科技:打造e世代樂活耆英|星島教室

關羽——威震華夏的忠義武聖|星島教室


--

《星島申訴王》推出全新項目「區區有申訴」,並增設「我要讚佢」欄目,現誠邀市民投稿讚揚身邊好人好事,共建更有愛社區。立即「我要讚佢」︰ https://bit.ly/3uJ3yyF

緊貼最新最快新聞資訊,請立即下載星島頭條App:https://bit.ly/3Q29Vow