最近七个月 deepfake犯罪九成以上为青少年

警方对恶意利用人工智能(AI)技术的Deep Fake犯罪进行了集中管制，结果在7个月内逮捕了963人。其中10多岁和20多岁人群占全体的93%，青少年犯罪的增加非常严重。

警察厅国家调查本部17日表示，从去年8月28日到今年3月31日，通过全国市、道厅实施了"虚假影像物犯罪集中管制"，结果共逮捕了963人，其中59人被拘留。在管制前的去年1月到8月，检举人员只有267名（拘留8名），但在管制之后增加了260%。

从年龄来看，△10多岁669人（其中触法少年72人）△20多岁228人△30多岁51人△40多岁11人△50岁以上4人。

此次集中管制是以儿童、青少年及成人为对象的性虚假影像制品的制作、散播、持有、收看等犯罪行为为对象，由全国市道厅网络性暴力调查组和女性青少年犯罪调查功能合作展开的。

作为主要管制事例，首尔警察厅从2020年开始到今年为止，对受害者进行威胁等长期心理支配和虐待性剥削，并逮捕了制作、传播性剥削物的总负责人等共54人，其中2人被拘留。

仁川警察厅也从2022年11月开始到2024年8月为止，在开设包含大学生受害者的名字和学校名称的Telegram聊天室后，逮捕了约270次散布虚假影像等犯罪的15人，其中8人被拘留。

警方积极推进了向广播通信审议委员会及数字性犯罪受害者支援中心等相关机关提出删除、切断10535件受害影像物的要求及联系受害者支援等受害保护活动。

警方计划，目前正在进行的"网络性暴力犯罪集中管制"（3~10月）也将持续到年末。另外，如果从今年6月开始实施性暴力处罚法修订案，对成人受害者事件也可以进行伪装调查。警方表示，自主开发的"deep fake探测程序"也正在升级中。

国搜本相关人士叮嘱道:"不仅是利用deep fake制作虚假淫秽影像的行为，单纯持有、购买、收看也会成为处罚对象，请特别注意。"