暗藏暴力色情 AI動物卡通片兒童不宜

　　在生成式人工智能（Gen AI）普及的時代，社交平台湧現大批以可愛動物卡通及自主感覺受訊反應（ASMR）為包裝的AI影片，實則暗藏暴力與色情資訊，恐成為AI版「Elsagate」。這類內容透過演算法精準推送，在短時間內錄得數以億計點擊，令本地兒童及青少年極易誤觸陷阱。有社工與臨床心理學家指出，創作者利用AI低成本大量生產，以可愛外殼削弱兒童防備心，長遠恐導致認知偏差及價值觀扭曲，期望透過家校合作等多層面的介入，提高社會警覺。儘管平台設有審核機制，惟有資訊科技界人士關注，技術發展速度遠超監管技術更新，促請政府及社會就Gen AI建立規管框架。

近年來，Instagram、YouTube等主流社交平台上出現大量以Gen AI製作的不當影片。這類影片多以「兒童友善」作為包裝，利用可愛的動物卡通吸引兒童及青少年觀眾，實際內容卻暗藏暴力、性暗示，甚至錯誤資訊。
　　以部分高點讚的動物卡通影片為例，影片開頭呈現一隻外形討喜的黃色貓咪，但至中段時，該貓咪卻用平底鑊偷襲一隻豬，並將其烹煮；甚至有母貓與其他動物發生不倫關係，其幼貓因察覺異常被關進獸籠，遭惡狗撕咬等劇情，充滿性與暴力暗示。
ASMR影片存在同樣陷阱
　　常被視作療癒的ASMR影片同樣存在陷阱，部分影片雖標註為「雨聲」，畫面卻是一名年長男子，將手放在年輕女子胸部的露骨肢體接觸。
　　翻查多個提供此類影片的頻道，不少均為近年開設。有去年4月建立的頻道，上載逾128部影片，已累積超過5000萬觀看次數；另有前年底創建的頻道，僅發布45部影片，觀看量卻達到驚人的37億次。根據記者實測，YouTube Kids應用程式會屏蔽部分涉及上述問題的頻道或影片，但在一般的YouTube網頁仍可輕易搜尋到，意味着未成年人仍有機會接觸到這些不當資訊。
　　香港互聯網協會開放數據小組召集人黃浩華表示，Gen AI的普及令內容生產門檻與成本大幅下降，創作者只需稍作修改文字或情節，便可快速大量生產「踩界」，甚至涉及暴力或兒童色情暗示的影片，並不斷測試哪些形式較容易避開平台審查或取得兒童信任。
　　「有些虐待動物，有些是成人化動作，他們會覺得很奇怪。」家福會網絡教育及輔導服務社工文建康亦指出，這類偽裝成安全內容的不良影片在本地中小學生中偶爾可見，部分年紀較小的兒童在觀看後，情緒上受到影響，出現驚恐、不安，甚至失眠等反應。
長遠恐導致認知偏差
　　他表示，兒童較容易被影片的色彩、聲音與節奏吸引，往往將之誤認為正常娛樂，未能即時意識到內容的不妥；至於青少年，則較多是在明知內容不良的情況下，因朋友分享或觀看「禁片」的刺激感而接觸。他形容，影響未必會即時反映在行為上，但長遠可能削弱兒童及青少年對暴力或色情內容的警覺，使「見慣不怪」逐漸成為常態，影響價值觀的形成。
　　然而，不少家長對此類風險認知不足。文建康指，普遍家長仍將卡通或動物影片視為安全內容，監管焦點多放在觀看時間、網絡詐騙風險及會否影響學業上，低估了內容本身的風險。他憶述，過往舉辦相關講座時，家長們對社交平台存在這類影片感到驚訝，「他們覺得平台應該有人會負責審核，但我們的活動也維持了2年，用作教材的影片才被YouTube下架」。
　　臨床心理學家梁重皿指出，當暴力或色情訊息以亮麗、誇張的卡通形式呈現時，兒童難以將眼前可愛的形象與從社會及家庭所學到的危險訊息掛鈎，容易產生認知混淆，削弱他們對危險資訊的判斷力。短期或會引發惡夢、情緒困擾，甚至警覺性過度提高；若持續接觸，則可能降低對暴力或性暴力的敏感度，對同理心的發展及人際關係的理解產生偏差。
　　她亦提醒，人類透過觀察與模仿來學習行為，若影片中的暴力行為未觸發兒童的驚嚇反應，他們極可能在不知不覺中模仿相關動作，降低道德上的抑制能力。
　　問到平台審核是否存在漏洞，黃浩華表示，現時不少影片在開首刻意包裝成人畜無害的動物卡通、ASMR或日常內容，到中後段才逐漸出現令人不安的情節。在面對這種將有害資訊隱藏在影片中後段的混合式內容時，傳統的審核方式過於依賴用戶舉報、電腦視覺或自然語言處理（NLP），難以單憑單一畫面或關鍵字即時判斷，反應往往顯得滯後。
家校介入建立學生判斷力
　　此外，演算法亦不再只是被動回應，而是主動探索用戶可能感興趣的領域，一旦不慎接觸到不適當內容，要完全「洗走」並不容易，只能透過標示不感興趣、舉報或封鎖創作者等方式逐步修正，「前提是小朋友要有足夠的危機意識才能做到。」
　　面對隱蔽性強、擴散速度快的AI威脅，黃浩華認為需結合技術攔截、法律規管與家庭教育，才能為兒童構建一道安全的網絡防線。他指出，在海量內容的現實下，無論是人工審核還是技術部署，都面臨龐大的營運壓力，惟平台在兒童保護上的角色與責任，仍有需要更為主動。此外，香港目前並無專門針對Gen AI的法律，多依賴《防止兒童色情物品條例》或一般刑事罪行法例作底線約束，建議社會需就建立更明確的規管框架作更多討論。
　　梁重皿建議，家長宜投入更多時間陪伴子女觀看內容，了解他們實際接觸的是甚麼影片，並在共同觀看過程中引導子女分辨角色行為是否合理，鼓勵他們主動分享看過的影片內容。文建康亦建議，學校可進一步推出與時並進的AI辨識及媒體素養課程，協助學生建立基本判斷能力。