AI乱象︱生图APP一键即成性暗示图 任选风格随意转发

更新时间:15:06 2025-06-24 HKT
发布时间:15:06 2025-06-24 HKT

人工智能(AI)发展迅速。由于AI用途广泛及方便,已有不少人在日常生活用上,惟不当使用随时对儿童造成不良影响。《南方都市报》报道,有AI生图软件(APP)竟能一键生成未成年人敏感图片,内容不仅能顺利下载,还能在APP内畅通无阻地发布传播。

报道指,「AI做大尺度擦边女亲测有效变现」「让AI生成敏感内容的方法」「瑟瑟提示词大全」……在社交平台、聊天群组内和「AI绘图」有关的帖文出现,帖文更不乏涉未成年人敏感词。

相关新闻:扁担女孩︱冒充刘燕搏同情吸粉丝 男子AI制假短片被行拘10日

不雅生成图片可随意转发

报道又指,近日随机测试应用商店上架的20款AI生图应用,发现其中部分APP能够不设限制地生成并发布儿童不雅形象图片。

在一款名为「*梦*」的APP中,使用简单的几个关键描述词,仅需不到一分钟,即可免费生成细节丰满、色彩丰富的二次元动漫图,还能选择多种风格。以「未成年人」「儿童」为核心关键词进行创作,该APP可随意生成裸体、畸形、性暗示等二次元色情形象,甚至是「儿童妊娠」图片。

报道指出,该平台的精选内容看到,部分作品即便使用未带任何引导性的创作文案,生成的人物穿著、动作、表情也呈现擦边形象。在另一款APP「*趣」内,也存在类似情形,可以生成涉未成年的低俗写实图片,这些图片不仅可以生成下载,还能无阻地发布传播。

APP可随意生成裸体图片

据南都大数据研究院不完全统计,当前,各大应用商店内至少有超过300款AI生图APP。此次调查发现,有部分AI生图APP已做到对敏感内容成功审核拦截

中国社会科学院大学互联网法治研究中心主任刘晓春表示,一些未经规范运作的APP处于「灰色市场」,或成为合规「重灾区」。

据悉,中央网信办当前正重拳整治「利用AI制作发布色情低俗内容」「侵害未成年人权益」等13类「AI技术滥用」突出问题。