暗藏暴力色情 AI动物卡通片儿童不宜

　　在生成式人工智能（Gen AI）普及的时代，社交平台涌现大批以可爱动物卡通及自主感觉受讯反应（ASMR）为包装的AI影片，实则暗藏暴力与色情资讯，恐成为AI版「Elsagate」。这类内容透过演算法精准推送，在短时间内录得数以亿计点击，令本地儿童及青少年极易误触陷阱。有社工与临床心理学家指出，创作者利用AI低成本大量生产，以可爱外壳削弱儿童防备心，长远恐导致认知偏差及价值观扭曲，期望透过家校合作等多层面的介入，提高社会警觉。尽管平台设有审核机制，惟有资讯科技界人士关注，技术发展速度远超监管技术更新，促请政府及社会就Gen AI建立规管框架。

近年来，Instagram、YouTube等主流社交平台上出现大量以Gen AI制作的不当影片。这类影片多以「儿童友善」作为包装，利用可爱的动物卡通吸引儿童及青少年观众，实际内容却暗藏暴力、性暗示，甚至错误资讯。
　　以部分高点赞的动物卡通影片为例，影片开头呈现一只外形讨喜的黄色猫咪，但至中段时，该猫咪却用平底镬偷袭一只猪，并将其烹煮；甚至有母猫与其他动物发生不伦关系，其幼猫因察觉异常被关进兽笼，遭恶狗撕咬等剧情，充满性与暴力暗示。
ASMR影片存在同样陷阱
　　常被视作疗愈的ASMR影片同样存在陷阱，部分影片虽标注为「雨声」，画面却是一名年长男子，将手放在年轻女子胸部的露骨肢体接触。
　　翻查多个提供此类影片的频道，不少均为近年开设。有去年4月建立的频道，上载逾128部影片，已累积超过5000万观看次数；另有前年底创建的频道，仅发布45部影片，观看量却达到惊人的37亿次。根据记者实测，YouTube Kids应用程式会屏蔽部分涉及上述问题的频道或影片，但在一般的YouTube网页仍可轻易搜寻到，意味着未成年人仍有机会接触到这些不当资讯。
　　香港互联网协会开放数据小组召集人黄浩华表示，Gen AI的普及令内容生产门槛与成本大幅下降，创作者只需稍作修改文字或情节，便可快速大量生产「踩界」，甚至涉及暴力或儿童色情暗示的影片，并不断测试哪些形式较容易避开平台审查或取得儿童信任。
　　「有些虐待动物，有些是成人化动作，他们会觉得很奇怪。」家福会网络教育及辅导服务社工文建康亦指出，这类伪装成安全内容的不良影片在本地中小学生中偶尔可见，部分年纪较小的儿童在观看后，情绪上受到影响，出现惊恐、不安，甚至失眠等反应。
长远恐导致认知偏差
　　他表示，儿童较容易被影片的色彩、声音与节奏吸引，往往将之误认为正常娱乐，未能即时意识到内容的不妥；至于青少年，则较多是在明知内容不良的情况下，因朋友分享或观看「禁片」的刺激感而接触。他形容，影响未必会即时反映在行为上，但长远可能削弱儿童及青少年对暴力或色情内容的警觉，使「见惯不怪」逐渐成为常态，影响价值观的形成。
　　然而，不少家长对此类风险认知不足。文建康指，普遍家长仍将卡通或动物影片视为安全内容，监管焦点多放在观看时间、网络诈骗风险及会否影响学业上，低估了内容本身的风险。他忆述，过往举办相关讲座时，家长们对社交平台存在这类影片感到惊讶，「他们觉得平台应该有人会负责审核，但我们的活动也维持了2年，用作教材的影片才被YouTube下架」。
　　临床心理学家梁重皿指出，当暴力或色情讯息以亮丽、夸张的卡通形式呈现时，儿童难以将眼前可爱的形象与从社会及家庭所学到的危险讯息挂钩，容易产生认知混淆，削弱他们对危险资讯的判断力。短期或会引发恶梦、情绪困扰，甚至警觉性过度提高；若持续接触，则可能降低对暴力或性暴力的敏感度，对同理心的发展及人际关系的理解产生偏差。
　　她亦提醒，人类透过观察与模仿来学习行为，若影片中的暴力行为未触发儿童的惊吓反应，他们极可能在不知不觉中模仿相关动作，降低道德上的抑制能力。
　　问到平台审核是否存在漏洞，黄浩华表示，现时不少影片在开首刻意包装成人畜无害的动物卡通、ASMR或日常内容，到中后段才逐渐出现令人不安的情节。在面对这种将有害资讯隐藏在影片中后段的混合式内容时，传统的审核方式过于依赖用户举报、电脑视觉或自然语言处理（NLP），难以单凭单一画面或关键字即时判断，反应往往显得滞后。
家校介入建立学生判断力
　　此外，演算法亦不再只是被动回应，而是主动探索用户可能感兴趣的领域，一旦不慎接触到不适当内容，要完全「洗走」并不容易，只能透过标示不感兴趣、举报或封锁创作者等方式逐步修正，「前提是小朋友要有足够的危机意识才能做到。」
　　面对隐蔽性强、扩散速度快的AI威胁，黄浩华认为需结合技术拦截、法律规管与家庭教育，才能为儿童构建一道安全的网络防线。他指出，在海量内容的现实下，无论是人工审核还是技术部署，都面临庞大的营运压力，惟平台在儿童保护上的角色与责任，仍有需要更为主动。此外，香港目前并无专门针对Gen AI的法律，多依赖《防止儿童色情物品条例》或一般刑事罪行法例作底线约束，建议社会需就建立更明确的规管框架作更多讨论。
　　梁重皿建议，家长宜投入更多时间陪伴子女观看内容，了解他们实际接触的是甚么影片，并在共同观看过程中引导子女分辨角色行为是否合理，鼓励他们主动分享看过的影片内容。文建康亦建议，学校可进一步推出与时并进的AI辨识及媒体素养课程，协助学生建立基本判断能力。