0
大检察厅

将于10月2日成立的公诉厅将在强化对侦查机关司法控制职能的同时，作为起诉判断基础的证据真伪鉴别体系却仍不完善。目前，针对人工智能（AI）伪造证据的验证体系存在明显不足。

据《今日亚洲》6日综合采访了解，韩国法务部4日立法预告的《公诉厅及其所属机构职制制定案》，重点是在检察官侦查权废除后，将公诉厅的职能重新定位为司法控制和维持公诉。其目的是更加细致地监督侦查机关处理案件的过程，同时强化庭审能力，以弥补侦查与起诉分离后可能出现的空白。

问题在于，作为司法控制和维持公诉基础的证据资料，其可靠性正受到AI技术发展的威胁。利用生成式AI，不仅可以伪造KakaoTalk聊天记录，就连照片、视频和语音也能被制作得足以以假乱真。

实际上，利用AI伪造的证据资料已经出现误导警方和检察机关判断、甚至欺骗法院的案例。釜山地方检察厅东部支厅今年2月查明，一名涉嫌涉案金额达3亿韩元规模投资诈骗的A某曾向法院提交AI伪造的证据，从而逃过羁押。A某为了让受害者相信自己有能力偿还欠款，将原本账户余额仅有23韩元的余额证明伪造成存有9亿韩元，法院据此驳回了羁押令申请。此后，由于A某未能偿还受害者损失，检察机关展开补充调查，并以行使伪造私文书等罪名将A某拘捕起诉。

大邱地方检察厅今年7月也以妨害公务执行等罪名，将向侦查机关提交利用AI伪造KakaoTalk聊天记录等证据资料的B某拘捕起诉。B某以C某名义申请非面对面贷款后涉嫌诈骗并接受调查，随后向警方提交了利用AI伪造的证据资料。警方据此决定不移送案件，而C某反而因涉嫌诬告被移送法院审判。伪造事实是在审判过程中，C某一方恢复真实聊天记录后逐渐浮出水面。随后，检察机关展开补充调查，确认存在伪造迹象，并最终查明了B某犯罪行为的全貌。

正因如此，如果伪造的证据资料在侦查初期就被当作“真实证据”接受，有意见认为必须进一步强化证据验证体系。但经确认，在公诉厅即将成立之际，大检察厅目前尚未制定专门用于判断AI伪造证据的相关指南或验证标准。虽然韩国检方正在加快开发用于甄别证据是否被伪造的技术，但将这些技术应用于一线案件的统一标准和程序尚未建立。

目前，大检察厅以科学调查部为中心，正在开发用于识别深度伪造图片、视频以及AI合成语音等内容的检测技术。大检察厅继2024年完成用于检测深度伪造图片的数据库建设及相关检测技术开发后，又于去年完成了深度伪造合成视频检测技术的开发。今年则正在开发用于判断生成式AI制作的虚假视频是否存在篡改的检测程序。计划在明年之前进一步升级相关技术，完成“深度伪造视频检测系统”，并研究从2028年起将其应用于实际案件。

在语音领域，大检察厅去年完成了能够区分真实人声和AI生成语音的“合成语音检测技术”开发。今年正在开发更加精密的检测技术，以判断语音是否仅有部分内容遭到篡改，并计划在明年完成“深度伪造语音检测系统”，从2028年起投入实际案件使用。也就是说，AI伪造证据已经成为侦查和审判过程中的现实威胁，但能够系统甄别此类证据的技术和标准真正应用于一线案件仍需一定时间，两者之间存在不可避免的时间差。

首尔中央地方检察厅一名检察官表示：“仅凭肉眼判断证据资料是否经过AI篡改正变得越来越困难。现在到了必须认真研究具体方案的时候，例如在侦查过程中哪些情况下应怀疑存在AI伪造的可能，以及应依据何种程序和标准进行验证。”

大检察厅相关人士表示：“目前正在开发的技术完成后，计划在要求进行补充调查的过程中积极加以利用。”

郑成勋 记者