딥페이크 (인공지능 기반 이미지 합성) 성범죄 문제가 심각하다.

  요즘 뉴스에서 많이 나오는 사회 문제로 '딥페이크(인공지능 기반 이미지 합성)' 범죄가 기승을 부리고 있어 사회적 큰 파장을 일으키고 있습니다. '딥페이크'란 지인의 얼굴을 음란물과 합성해서 플랫폼 기업을 통해 많은 사람들한테 퍼져 나가는 문제를 말하는데 특히 성범죄물은 주로 사용자 추적이 어려운 텔레그램을 통해 퍼졌다고 합니다. 결국 텔레그램은 딥페이크 범죄물을 삭제하고 공식적인 사과도 했지만 여전히 사람들의 시선은 곱지 않은데요. 

 이렇게 상황이 심각해지다보니 여러 플랫폼 기업들의 규제를 강하게 규제해야 한다는 주장들이 거세게 나오고 있습니다. 그래서 세계 각국 다른 나라에서는 성범죄에 대한 규제 수위를 어떻게 하고 있는지 정리를 해 보겠습니다.

 

1.  가장 먼저 규제를 시작한 유럽과 미국 

  인공지능 범죄가 벌어지는 플랫폼 기업들을 향해 유럽연합(EU) 국가들이 가장 먼저 칼을 겨누었습니다. 유럽연합국가들은 올해부터 '디지털 시장법(Digital Markets Act, DMA)을 시행해 기술기업들의 유해 콘텐츠 검열할 의무를 부여하고 있습니다. 만약 플랫폼 회사들이 불법 유해 콘텐츠를 삭제하지 않을 경우, 전 세계 매출의 최대 6%를 과징금으로 부과할 수 있게 됩니다. 

 

  그리고 독일과 프랑스도 DMA와 별도로 플랫폼을 규제하는 법을 만들어 시행하고 있다고 합니다. 우선 독일은 SNS 플랫폼에서 불법 콘텐츠 신고를 받았을 경우, 24시간 안에 삭제하거나 차단을 하도록 했습니다. 프랑스에서는 2018년 '정보조작대체법'을 제정하여 선거 전에 3개월 동안은 온라인에 허위 정보를 올리지 못하도록 했습니다. 만약 플랫폼이 허위 정보를 유포하거나 게시했을 경우 서비스 중지 명령을 내릴 수 있도록 했습니다. 또한, 최근에 프랑스에서 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 체포되기도 했습니다. 왜냐하면 검찰에서 미성년자 성착취물 관련 사건을 수사하면서 텔레그램에 용의자의 신원을 알려달라고 요청했는데 텔레그램에서 응답하지 않자 CEO를 체포한 거였습니다. 

 

  유럽에서 시작된 인공지능 범죄 규제 바람은 미국에서도 시작되었습니다. 최근 미국 캘리포니아주에서 'AI 안전법'을 만들었고 이는 가장 포괄적이고 강력한 AI 규제 대책으로 보고 있습니다. 만약 AI 시스템이 많은 사람들을 사망에 이르게 하거나 5억 달러(한화 6680억) 이상의 피해를 일으키는 등 심각한 문제를 만들면 개발사에게 책임을 물게 했습니다. 이 법안을 준수하지 않는다면 기업은 캘리포니아 법무장관으로부터 소송을 당할 수도 있다고 합니다.

  그런데 캘리포니아 주는 빅테크의 고장인 실리콘밸리가 위치한 곳이기에 사실상 모든 빅테크와 AI 스타트업들이 모두 해당된다고 볼 수 있기 때문에 미국의 빅테크 기업들은 잔뜩 긴장하고 있습니다. 

 

2.  뒤늦게나마 우리나라도 따라 가자!

 

  우리나라도 뒤늦게나마 인공지능 범죄 대응책을 마련하려고 서두르고 있습니다. 지난 2일 경찰은 텔레그램 본사에 대한 조사를 시작했다고 밝혔습니다. 경찰은 텔레그램 창업자 파벨 두로프 등 관련된 사람들에 대해 인터폴에 적색수배를 요청하는 방안을 검토 중인 것으로 알려졌습니다. 앞으로 수사에 더욱 적극적으로 하겠다는 계획이었지만 우리나라는 텔레그램에서 딥페이크 성착취물의 유통을 제한하거나 텔레그램이 나서서 검열하도록 만드는 법은 딱히 없기 때문입니다. 그래서 정부와 국회는 이제라도 대응 방안을 마련하기 위해 머리를 맞대고 있는데 AI가 만든 영상에는 무조건 워터마크를 달거나 불법 영상물을 소지하기만 해도 처벌할 수 있게 하는 법안들이 대부분이었습니다. 그렇지만 예방과 처벌 강화에 초점을 둔 법안들이 대부분이었습니다.

 

3.  어떻게 해야 하는 걸까요?

 현재 예방과 처벌도 중요하지만 우리나라도 해외 주요국처럼 텔레그램 등 플랫폼 기업이 범죄 영상을 지우도록 강제하는 법을 만들어야 한다는 주장입니다. 전문가들은 제작 기술을 원천적으로 금지하는 건 사실상 불가능하다고 입을 모았습니다. 왜냐하면 최근 들어 오픈 소스(개방형) AI 모델이 크게 늘면서 누구나 딥페이크를 만들 수 있게 됐기 때문입니다. 실제로 앱스토어 등에 들어가면 사진이나 영상에 얼굴을 합성해 주는 앱을 손쉽게 다운로드할 수 있다고 합니다.

  이렇듯 못 만들게 할 수는 없기 때문에 만들어진 영상을 퍼뜨리지 못하는 게 중요합니다. 그런데 지금은 현행법상 인스타그램, 유튜브 등 영상이 공개적으로 유통되는 플랫폼에는 삭제 요청이 가능하지만 텔레그램은 개인 간 사적인 대화방 형태로 폐쇄적인 공간이라 규제할 수 있는 대상이 아니기 때문입니다. 그렇기 때문에 텔레그램에도 적용되는 법적 규제가 필요하다는 말이 나오게 된 겁니다. 

 

4.  법적 규제에 대한 부작용은 없을까요?

   만약 규제를 확대했을 경우에는 표현의 자유를 억압할 수 있다는 겁니다. 모든 개인 간 대화가 이루어지는 플랫폼에서 내용을 다 모니터링 대상이 된다면 민주주의의 근간인 표현의 자유가 제한당하게 된다는 것이 가장 큰 부작용인 것 같습니다. 또한 이러한 법안이 도입되게 되면 텔레그램 뿐만 아니라 국내 플랫폼 기업인 네이버, 카카오 등도 추가적인 규제를 받게 될 가능성도 커지게 됩니다. 우리나라 기업들이 더 무럭무럭 커야 해외 시장에서도 경쟁력이 생기게 되는데 플랫폼 규제로 성장이 가로막힐 수 있다는 지적입니다. 실제로 최근 카카오톡에서 오픈채팅방에서 벌어지는 허위 투자 광고인 '리딩방'을 봉쇄하자 텔레그램이 반사이익을 본 적도 있습니다.

  물론 정책을 만들 때는 부작용도 생각해 신중한 접근이 필요하겠지만 딥페이크나 성착취물 범죄에 대해서는 현재 규제가 시급한 상황인 것 같습니다. 하루빨리 우리나라에서도 적절한 대책을 마련되면 좋겠습니다.