0
本图片由AI生成

韩国警方为应对利用人工智能（AI）实施的深度伪造犯罪，正启动结合深度伪造检测软件、专业视频分析和AI数字取证的“三重应对体系”。

据韩国警察厅国家侦查本部13日消息，今年1月至7月，警方共抓获419名涉嫌制作、传播虚假视频的犯罪嫌疑人，其中17人被拘捕。

警方首先利用深度伪造检测软件，分析是否存在面部生成或替换，同时检查眨眼、血流变化等生物特征以及文件元数据，以判断视频是否经过合成。若无法明确判断是否存在篡改，则由科学取证视频分析人员利用专业程序进行进一步验证。

今年3月，在接到多起举报称海外成人网站出现合成个人照片制作的性虚假视频后，警方对传播的视频进行分析，确认其具有相同特征，并将一名20多岁男子拘捕移送检方。

此外，警方在调查一名通过社交媒体制作、销售性剥削虚假视频的20多岁男子过程中，利用AI取证技术获取了制作视频所使用的生成式AI程序以及编辑前的原始照片。警方据此进一步调查委托制作人的相关嫌疑。

AI取证是通过分析使用了什么程序、对视频哪些部分进行了篡改，还原从制作到传播的整个犯罪过程。

深度伪造检测软件自开发以来已被用于1636起案件调查。今年，该软件还被用于选举犯罪等其他领域的72起案件。警方计划今后将其应用范围扩大至虚假信息传播、电信金融诈骗等所有利用AI实施的犯罪领域。

韩国警察厅国家侦查本部表示：“将通过系统升级和集中打击行动，坚持对虚假视频犯罪采取零容忍原则，予以严厉应对。”

薛少荣 记者