영상물 딥페이크 처벌이 강화됩니다!

 

안녕하세요 MG 새마을금고입니다 '딥페이크'라는 단어를 들어보셨나요? 4차 산업혁명과 함께 인공지능(AI) 기술이 상상할 수 없을 정도로 발전하고 등장한 AI 기술 중 하나입니다. 최근 국내외에서 이런 딥 페이크 기술을 활용해 정치적, 사회적 혼란을 야기하고 있을 뿐 아니라 최근 사회적으로 큰 논란이 되고 있는 디지털 성범죄에도 악용되고 있는 상황입니다. 그래서 올해 6월 25일 딥페이크 범죄 관련 법안을 강화하고 개정 법안이 시행됩니다.

 

디지털 성범죄 STOP! 딥페이크 영상물 처벌이 강화됩니다! 딥페이크(Deepfake)란?

출처 : 클립아트코리아

딥페이크(Deepfake)는 딥러닝(Deeplearning)과 페이크의 합성어로, 딥페이크(deepfake)는 인공지능 기술을 활용하여 기존 인물의 얼굴이나 특정 부위를 영화의 CG처리와 같이 합성한 영상편집물을 말합니다. 딥페이크라는 용어를 처음 만든 사람은 미국 최대의 온라인 커뮤니티 레딧인 'deefakes'라는 사용자입니다. 그는 레딧에 합성된 영상을 올리면서 활동을 시작했고, 점차 이와 유사한 어플리케이션을 공개하면서 딥페이크가 널리 알려지게 되었습니다. 10년 전까지는 가짜 이미지나 합성 사진을 생성하기 위해서는 포토샵이나 일러스트레이터와 같은 이미지 편집 프로그램을 사용해야 했지만 공개된 딥러닝 알고리즘을 이용하면 누구나 쉽게 가짜 이미지 및 동영상을 생성할 수 있게 되었습니다.

 

 

딥페이크 뉴스 영상보기 (출처 : MBC NEWS) ▼▼▼▼▼▼

 

범죄의 수단 딥 페이크

출처 : 클립아트코리아

이렇게놀라운기술발전이우리사회에좋은영향만을미쳤으면좋겠지만안타깝게도그렇지않은게현실일수도있습니다.점점진짜와가짜를구별하기어려워지는딥페이크기술로인해사회적혼란과범죄의발생가능성이있기때문입니다. 시간이 흐를수록 가짜임을 판별하기가 더 어려운 고품질의 데이터가 생성됨으로써 무엇이 진실인지 구별조차 못하는 혼란과 착각의 시대로 가는 첫걸음이 될 수 있다고 전문가들은 경고한다.

무엇보다 딥페이크 영상물의 문제는 비교적 사회의 주류 여론에 의존하기 쉬운 대중들에게 유명 정치인, 연예인의 이미지 데이터를 이용해 혼란을 야기하고, 심각한 인권침해, 음란물 범죄가 일어나고 있다는 점입니다. 네덜란드의 사이버 보안 연구회사 딥 트레이스의 보고서에 따르면 전 세계 딥 페이크 영상의 대부분은 음란물(96%)입니다. 특히 이 음란물에 등장한 얼굴의 25%는 한국 여자 연예인들인 것으로 나타났습니다 딥 트레이스 보고서에는 가장 많은 음란물에 등장한 연예인의 국적과 직업이 공개됐고 상위 10명 중 3명이 한국 가수인 것으로 나타났다.

출처 : 클립아트코리아

정치에서도 딥 페이크는 심각한 혼란과 선동을 일으킬 수 있습니다. 한 선거인이 다른 선거인을 비방하거나 헐뜯는 딥 페이크 영상을 제작해 유포하면 그 영상을 본 대중은 큰 혼란에 빠질 수밖에 없고, 특히 유포 날짜가 선거 전날처럼 변동성이 큰 날이라면 문제는 더욱 심각해질 수밖에 없습니다. 딥페이크는 영상뿐만 아니라 음성기술도 더욱 정교해져 언론에서는 지금의 보이스피싱을 넘어서는 수준에서 또 다른 사회문제를 일으킬 수 있다고 합니다.

실제로 지난해 미국 매사추세츠공과대학이 발행하는 기술분석잡지 MIT 테크놀로지 리뷰는 지난해 초 가장 조심해야 할 인공지능의 6가지 위험요소 중 하나로 딥페이크 기술을 꼽았습니다. 사람이 정보를 조작하고 이용하는 차원을 넘어 인공지능(AI)의 도움을 받아 진짜 같은 가짜 정보가 범람하는 세상이 될 수 있다는 이유에서였습니다. 일각에서는 딥페이크 기술의 발전으로 진실의 종말시대가 올 것이라는 비관적 전망도 나오고 있습니다.

성폭력처벌법 개정안이 시행됩니다!(6/25 ~)

출처 : 클립아트코리아

현행법상의 딥페이크 관련 규정은 최근 발전하고 있는 AI 기술 등의 급격한 발전 속도를 제대로 반영하지 못하고 있다는 지적이 제기되어 왔습니다. 인터넷을 이용한 신종 디지털 성범죄가 증가하면서 제대로 된 처벌 규정이 없다거나 범죄 성립 요건에 해당할 때만 처벌할 수 있어 책임에 맞는 처벌이 어렵다는 비판이 있었는데. 현재까지 딥 페이크 영상물 관련 범죄의 경우 명예훼손죄 또는 음란물 유포죄로만 처벌받아 왔습니다. 허위사실 적시에 의한 명예훼손은 최대 징역 5년, 음화반포죄는 최대 징역 1년이 법정형이었습니다.

지난 6월 25일부터 개정돼 시행되는 '성폭력 처벌법 개정안'은 현행법을 모두 강화하고 특히 영리 목적 인정 시 가중 처벌 법안을 마련했습니다

성폭력처벌법 개정안_성폭력범죄의 처벌 등에 관한 특례법(6월 25일 시행) 딥페이크 영상물의 제작·배포자 5년 이하의 징역 또는 5천만원 이하의 벌금 영리 목적 인정 시 7년 이하의 징역 가중 처벌, 앞으로는 딥페이크 관련 영상물의 제작·배포 등을 한 자는 '5년 이하의 징역 또는 5천만원 이하의 벌금'에 처해지며, 특히 딥페이크 관련 영상물의 제작·배포기 관련 영상물의 제작·배포 등을 한 자는 '5년 이하의 징역 또는 5천만원 이하의 벌금'을 받게 됩니다.

 

지금까지 '디지털 성범죄 STOP! 딥페이크 영상물에 대한 처벌이 강화됩니다' 함께하셨습니다. 하루가 다르게 발전하는 디지털 기술에 발맞춰 관련 법안들도 함께 발전해 나가길 바랍니다!