日本警方捣破首宗以AI制作色情图像贩售案 4人被捕

更新时间:14:01 2025-04-15 HKT
发布时间:14:01 2025-04-15 HKT

日本传媒周二报道,当地警方拘捕4人,指他们涉嫌以AI生成色情图像后贩售,每张价格数千日圆,不到1年便大赚1,000万日圆(约54万港元)。这是日本警方首次侦办AI色情图牟利案,由东京都警视厅出手将嫌犯逮捕。

贩售AI生成色情图像1年大赚54万

据日本放送协会(NHK)报道,涉案4人年龄介乎20多到50多岁之间,当中包括爱知县北名古屋市44岁零售业者水谷智浩,以及埼玉县53岁公司职员菅沼贵司,他们从去年10月开始在网上贩售含有猥亵内容的图像。

相关新闻:AI生成|南韩「Deepfake版N号房」震惊全国 2人散布深伪色情片被捕

日本警方拘捕涉嫌以AI生成色情图片后贩售的疑犯。日テレNEWS NNN
日本警方拘捕涉嫌以AI生成色情图片后贩售的疑犯。日テレNEWS NNN

 

东京都警视厅出手将4名嫌犯逮捕。IT Media
东京都警视厅出手将4名嫌犯逮捕。IT Media
全球多国越来越担心AI被用于恶意目的,包括透过深伪色情。路透社
全球多国越来越担心AI被用于恶意目的,包括透过深伪色情。路透社
日本警方首次侦办AI色情图牟利案。路透社
日本警方首次侦办AI色情图牟利案。路透社

透过免费AI模型生成不雅照

据报水谷智浩等人主要是利用免费的AI模型,对其投入大量图片进行训练,随后输入「双脚张开」等关键字让AI生成不雅照,并以「AI美女」为图片标题对外兜售。

日本内阁府科学技术担当大臣城内实指出,恶意使用AI的行为相当不可取,目前除了依照现行法令侦办之外,也向国会提出了AI相关法案,希望能够强化执法依据,并且迅速应对类似状况。

相关新闻:南韩新法 : 观看深伪色情影像可判囚3年

96%线上深伪影片属非自愿色情内容

这是日本首次因为涉嫌出售AI制作的淫秽图片而逮捕嫌犯,全球多国越来越担心AI被用于恶意目的,包括透过深伪技术,将人们的真实照片、影片或声音变成伪造的相像影音。

根据荷兰人工智能公司Sensity在2019年发表的一份研究,约96%的线上深伪影片都是非自愿色情内容,且其中大部分描划女性。