每日雜誌｜動物卡通藏血腥劇情 ASMR偽療癒現露骨暗示 AI問題影片氾濫 專家憂影響兒童心智

在生成式人工智能（Gen AI）普及的時代，社交平台湧現大批以可愛動物卡通及自主感覺受訊反應（ASMR）為包裝的AI影片，實則暗藏暴力與色情資訊，恐成為AI版「Elsagate」。這類內容透過演算法精準推送，在短時間內錄得數以億計點擊，令本地兒童及青少年極易誤觸陷阱。有社工與臨床心理學家指出，創作者利用AI低成本大量生產，以可愛外殼削弱兒童防備心，長遠恐導致認知偏差及價值觀扭曲，期望透過家校合作等多層面的介入，提高社會警覺。儘管平台設有審核機制，惟有資訊科技界人士關注，技術發展速度遠超監管技術更新，促請政府及社會就Gen AI建立規管框架。

近年來，Instagram、YouTube等主流社交平台上出現大量以Gen AI製作的不當影片。這類影片多以「兒童友善」作為包裝，利用可愛的動物卡通吸引兒童及青少年觀眾，實際內容卻暗藏暴力、性暗示，甚至錯誤資訊。

以部分高點讚的動物卡通影片為例，影片開頭呈現一隻外型討喜的黃色貓咪，但至中段時，該貓咪卻用平底鑊偷襲一隻豬，並將其烹煮；甚至有母貓與其他動物發生不倫關係，其幼貓因察覺異常被關進獸籠，遭惡狗撕咬等劇情，充滿性與暴力暗示。

相關頻道觀看量破億

常被視作療愈的ASMR影片同樣存在陷阱，部分影片雖標註為「雨聲」，畫面卻是一名年長男子，將手放在年輕女子胸部的露骨肢體接觸。

翻查多個提供此類影片的頻道，不少均為近年開設。有去年4月建立的頻道，上載逾128部影片，已累積超過5000萬觀看次數；另有前年底創建的頻道，僅發布45部影片，觀看量卻達到驚人的37億次。根據記者實測，YouTube Kids應用程式會屏蔽部分涉及上述問題的頻道或影片，但在一般的YouTube網頁仍可輕易搜尋到，意味着未成年人仍有機會接觸到這些不當資訊。

香港互聯網協會開放數據小組召集人黃浩華表示，Gen AI的普及令內容生產門檻與成本大幅下降，創作者只需稍作修改文字或情節，便可快速大量生產「踩界」，甚至涉及暴力或兒童色情暗示的影片，並不斷測試哪些形式較容易避開平台審查或取得兒童信任。

「有些虐待動物，有些是成人化動作，他們會覺得很奇怪。」家福會網絡教育及輔導服務社工文建康亦指出，這類偽裝成安全內容的不良影片在本地中小學生中偶爾可見，部分年紀較小的兒童在觀看後，情緒上受到影響，出現驚恐、不安，甚至失眠等反應。

他表示，兒童較容易被影片的色彩、聲音與節奏吸引，往往將之誤認為正常娛樂，未能即時意識到內容的不妥；至於青少年，則較多是在明知內容不良的情況下，因朋友分享或觀看「禁片」的刺激感而接觸。他形容，影響未必會即時反映在行為上，但長遠可能削弱兒童及青少年對暴力或色情內容的警覺，使「見慣不怪」逐漸成為常態，影響價值觀的形成。

長遠恐導致認知偏差

然而，不少家長對此類風險認知不足。文建康指，普遍家長仍將卡通或動物影片視為安全內容，監管焦點多放在觀看時間、網絡詐騙風險及會否影響學業上，低估了內容本身的風險。他憶述，過往舉辦相關講座時，家長們對社交平台存在這類影片感到驚訝，「他們覺得平台應該有人會負責審核，但我們的活動也維持了2年，用作教材的影片才被YouTube下架」。

臨床心理學家梁重皿指出，當暴力或色情信息以亮麗、誇張的卡通形式呈現時，兒童難以將眼前可愛的形象與從社會及家庭所學到的危險訊息掛鉤，容易產生認知混淆，削弱他們對危險資訊的判斷力。短期或會引發惡夢、情緒困擾，甚至警覺性過度提高；若持續接觸，則可能降低對暴力或性暴力的敏感度，對同理心的發展及人際關係的理解產生偏差。

她亦提醒，人類透過觀察與模仿來學習行為，若影片中的暴力行為未觸發兒童的驚嚇反應，他們極可能在不知不覺中模仿相關動作，降低道德上的抑制能力。

問到平台審核是否存在漏洞，黃浩華表示，現時不少影片在開首刻意包裝成人畜無害的動物卡通、ASMR或日常內容，到中後段才逐漸出現令人不安的情節。在面對這種將有害資訊隱藏在影片中後段的混合式內容時，傳統的審核方式過於依賴用戶舉報、電腦視覺或自然語言處理（NLP），難以單憑單一畫面或關鍵字即時判斷，反應往往顯得滯後。

家校介入建立學生判斷力

此外，演算法亦不再只是被動回應，而是主動探索用戶可能感興趣的領域，一旦不慎接觸到不適當內容，要完全「洗走」並不容易，只能透過標示不感興趣、舉報或封鎖創作者等方式逐步修正，「前提是小朋友要有足夠的危機意識才能做到。」

面對隱蔽性強、擴散速度快的AI威脅，黃浩華認為需結合技術攔截、法律規管與家庭教育，才能為兒童構建一道安全的網絡防線。他指出，在海量內容的現實下，無論是人工審核還是技術部署，都面臨龐大的營運壓力，惟平台在兒童保護上的角色與責任，仍有需要更為主動。此外，香港目前並無專門針對Gen AI的法律，多依賴《防止兒童色情物品條例》或一般刑事罪行法例作底線約束，建議社會需就建立更明確的規管框架作更多討論。

梁重皿建議，家長宜投入更多時間陪伴子女觀看內容，了解他們實際接觸的是甚麼影片，並在共同觀看過程中引導子女分辨角色行為是否合理，鼓勵他們主動分享看過的影片內容。文建康亦建議，學校可進一步推出與時並進的AI辨識及媒體素養課程，協助學生建立基本判斷能力。

「親密接觸」野生動物生成影像傳播 惹模仿恐造成傷害

隨着AI技術的普及，社交媒體上湧現大量製作精美的AI生成動物影像，關注野生動物福利的英國慈善組織Wild Welfare指出，這些看似可愛的AI動物影像，正扭曲大眾對野生動物福利的認知，或令現實中的動物處境惡化。

Wild Welfare表示，AI系統無法區分真正的野生行為與受虐情境，許多影像中動物被裝扮、束縛或強迫做出不自然動作，仍被視為創作素材，更容易在網絡大規模傳播，長遠或令實際對動物造成極大壓力或傷害的行為被「正常化」。

該組織亦關注，網絡上廣泛流傳AI生成的「與野生貓科動物親密接觸」或「與海豚共游」等影片，往往缺乏虛擬內容標籤，容易引發大眾在現實生活中模仿，間接鼓勵遊客追求有害的野生動物旅遊。

「Elsagate」風波YouTube刪除大量問題影片

內地網絡近日亦湧現大批以國產經典電視劇為題材的「AI魔改」短片。為整治有關亂象，國家廣播電視總局昨起，在全國開展為期1個月的專項治理，並同步清理少年兒童熟知和喜愛的動畫形象改編生成的各類「邪典」（不良）動畫。類似問題早於2016年在國際平台出現，YouTube當時因「Elsagate」風波被批評，最終展開整頓。

翻查資料，早於2016至2017年間，YouTube大量出現「Elsagate」的問題影片，多以《冰雪奇緣》角色Elsa（愛莎）、蜘蛛俠等兒童熟悉的卡通角色為主角，沿用可愛造型與童話情節，實際夾雜暴力、恐怖、性暗示，甚至模擬危險行為。相關影片往往被標示為適合兒童觀看。

面對媒體持續報道及家長投訴增加，YouTube於2017年11月宣布展開清理行動，刪除大量可能危害兒童的影片及相關頻道，並結合自動和人工舉報，封鎖未成年人影片中的不當評論等。其後，平台亦加強對創作者的指引與監管，並推出適合家庭觀看的平台，加強內容篩選與分類機制，減少不當影片流入兒童觀看環境。

記者：潘明卉