정부, 삭제요청 자동화 등 도입
건당 처리 시간 1분 이내로 줄여
딥페이크 식별 시스템도 도입
피해자 보호 신속 대응체계 구축
클립아트코리아
24시간 자동 탐지에서 신고까지, 정부가 AI 기술을 이용해 디지털성범죄 대응에 나섰다. 피해영상물 삭제요청 전 과정을 자동화해 처리 시간을 단축하는 등 디지털성범죄 대응 속도와 정확도를 높였다.
성평등가족부는 디지털성범죄 피해자 보호를 위해 인공지능(AI)을 이용한 신속·선제 대응 체계를 구축했다고 1일 밝혔다. △삭제요청 자동화 △AI 기반 아동·청소년 온라인 성착취 선제 대응 △AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입해, 기존의 수동적이고 사후적인 피해자 보호 대책의 한계를 보완했다.
성평등가족부는 약 2만 개의 사이트에 대한 디지털성범죄 피해영상물 삭제요청부터 처리 이력 관리까지 전 과정을 자동화해 건당 처리 시간을 1분 이내로 단축했다고 설명했다. 특히 중앙디지털성범죄피해자지원센터의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC), 글로벌 콘텐츠 전송 네크워크 사업자 클라우드플레어와 API로 연계해 우회 접속 URL도 대량 자동 삭제요청이 가능해졌다.
또 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했고, 업무 종사자의 정신적 소진 예방을 위해서 NCMEC의 사례를 참고해 촬영물 회색조 처리 필터 기능도 도입했다.
‘아동·청소년 온라인 성착취 선제적 대응 시스템’은 AI 기술을 활용해 SNS·랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 24시간 자동 수집·분석하고 자동 신고·삭제요청을 한다. 랜덤채팅앱에 대한 데이터 자동 수집 기술 탑재는 국내 최초이다. 성평등가족부는 시스템 구축 이후 시범운영 결과 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 크게 늘었다고 소개했다.
성평등가족부는 AI 기반 딥페이크 탐지 설루션을 도입해 육안 판별이 어려웠던 합성물을 정확히 식별, 피해자가 인지하지 못한 합성물까지 찾아내는 것도 가능해졌다고 밝혔다. 선제적 삭제 지원을 위한 온라인 모니터링에서 합성·편집물로 의심되는 영상물이 발견되면 딥페이크 탐지 설루션을 적용해 합성물을 찾아내고 추가 유포를 사전에 차단할 수 있게 됐다.
원민경 성평등가족부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 말했다.
한편, 성폭력·디지털성범죄·가정폭력·교제폭력·스토킹 등으로 전문가의 도움이 필요한 경우 여성긴급전화 1366으로 연락하면 365일 24시간 상담과 긴급보호를 받을 수 있다.