[TV서울=이천용 기자] 오세훈 서울시장과 류희림 방송통신심의위원장은 지난 28일 오후 시청에서 서울시와 방송통신심의위원회가 24시간 이내에 딥페이크 음란물 영상을 삭제하는 '핫라인'을 가동하는 내용을 담은 딥페이크 음란물 영상 삭제지원 업무협약을 맺었다.

폐쇄형 SNS에서 돌던 딥페이크 영상물이 음란사이트나 그 외 SNS에까지 퍼져 피해 신고가 들어올 경우, 24시간 이내에 영상이 삭제·차단될 수 있게 조치한다는 내용이다.

지금까지는 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료와 함께 영상 삭제 요청을 해야 했지만, 핫라인 가동으로 대량의 건수를 한 번에 삭제 요청할 수 있게 됐다.

방심위를 통한 영상 삭제와 차단 조치에 소요되는 절차를 간소화하는 것이다. 서울시와 방심위의 핫라인은 이날부터 가동된다.

서울시는 이와 함께 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내한다.

수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다.

시는 또 올해 말까지 피해 상황을 24시간 모니터링하면서 자동으로 문제의 영상을 삭제 신고하는 시스템을 구축하기로 했다.

시는 AI 기술을 활용해 피해 영상물을 모니터링하고 있는데, 지금은 AI가 모니터링한 내용을 상담원이 삭제 신고하는 방식이다.

앞으로는 서울연구원과 협력해 AI가 영상 검색부터 신고까지 모든 과정을 자동으로 수행하게끔 할 계획이다.

특히 내년에는 AI를 기반으로 한 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 시는 이를 통해 현재는 제작된 기존 영상물이 있어야 유사성을 판별해 유포된 영상물을 찾을 수 있는 것에 비해 획기적으로 피해 영상물을 검출할 수 있을 것으로 기대하고 있다.

또한 시는 경찰에 따르면 딥페이크 범죄 피의자 가운데 10대가 75.8%에 달하는 만큼 딥페이크를 단순 장난이나 호기심의 대상으로 여기는 아동 청소년을 대상으로 교육을 강화할 예정이다.

9월부터 초·중·고교 대상 딥페이크 예방 교육을 50개 학급 1천 명을 대상으로 하기로 했다.

오 시장은 협약식에서 "오늘부터 방심위와 24시간 이내 딥페이크 영상 삭제 핫라인을 구축한다"면서 "피해 영상물 삭제를 즉각 지원하고 피해자를 '원스톱' 지원할 것"이라고 말했다.

류 방심위원장은 "오전 긴급 대책회의에서 지자체와 협력을 강화하겠다고 했는데 서울시가 바로 화답해 기쁘다"며 "서울시와 연계해 보다 효율적인 디지털 성범죄 예방에 최선을 다하겠다"고 말했다.

한편, 방심위가 지방자치단체와 업무협약을 맺은 것은 이번이 처음이다.