텔레그램 이용자들이 올린 친구, 동급생, 연인의 얼굴 사진이 노골적인 콘텐츠로 탈바꿈되는 데는 단 몇초도 걸리지 않았다. 현지 언론의 보도로 더 많은 여성이 피해자로 나서게 됐고, 더 많은 텔레그램 채널의 정체가 공개되면서 사건의 진상도 모습을 드러냈다. 관련 피해자 중 상당수는 미성년자였다. 지난달 말 서울에선 흰 마스크로 얼굴을 가린 시위대가 집회를 열어 정의를 부르짖었다.
윤 대통령의 말이 맞다. 이건 단순한 장난이 아니다. 이러한 유형의 디지털 성폭력은 피해자에게 치명적일 수 있다. 텔레그램이 여론의 집중포화를 맞고 있는 것도 어찌 보면 당연지사다. 이번 사건은 텔레그램 최고경영자(CEO)인 파벨 두로프가 아동 포르노 공유 혐의로 프랑스에서 체포돼 기소된 시기와 비슷한 시기에 터졌기 때문이다. 한국 정부는 텔레그램이 수사 및 콘텐츠 삭제 요청에 협조하고 있다고 밝혔다.
그러나 윤 대통령의 수사는 누군가에겐 공허하게 들릴 여지도 있다. 그는 2022년 대한민국 남성들을 "잠재적 성범죄자" 취급하는 여성가족부를 폐지하겠다는 공약을 내걸며 정권을 거머쥔 인물이니 말이다. 그는 또한 한국에는 제도적 성차별이 존재하지 않으며, 한국의 저출산에 대한 책임이 페미니즘에 있다고 주장한 바 있다. 한편 한국 여성은 남성보다 약 30% 적은 임금을 받으며 선진국 중 가장 높은 성별 임금 격차를 보인다. 맞벌이 가정에서도 여성은 가사와 육아 부담을 고스란히 떠맡고 있다.
한국 여성들은 시위와 행동주의를 통해 이 문제를 대담하게 드러내고 있다. 이는 전 세계 사람들에게 긍정적 영향을 미치고 위기를 극복하는 첫걸음이 될 수 있다. 실제로 다른 국가들에 비해 한국은 딥페이크 포르노 규제에서 한발 앞서가고 있다. 배포 목적으로 딥페이크 포르노 관련 이미지를 제작해 유죄 판결을 받은 사람에게 최대 5년의 징역형과 벌금을 부과하고 있으니 말이다. 미국은 이와 관련한 법안이 초당적인 지지를 받고 있음에도 여전히 의회 통과가 지지부진한 것과 대조적이다.
한국의 사례는 우리에게 규제도 중요하지만 이처럼 광범위한 문제를 단속하는 게 얼마나 어려운지, 또 애초에 이러한 딥페이크가 만들어지고 공유되는 게 얼마나 쉬워졌는지를 보여준다. 관련 자료를 소지하는 것 자체를 불법으로 규정하는 것이 도움이 될 수도 있다. 다만 이 경우에 피해자가 자신의 삶을 뒤흔든 콘텐츠 제작자를 직접 디지털 방식으로 추적해야 한다는 부담이 있다.
최근 텔레그램 CEO의 체포는 플랫폼에서 발생하는 피해에 대해 기업에 책임을 묻고자 하는 움직임이 전 세계적으로 확산하고 있음을 보여준다. 이는 올바른 방향이다. 더 많은 규제 당국이 거대기업들에 책임을 전가할수록 업계 주도의 솔루션도 늘어날 것이다. 대학과 연구센터에서는 AI의 조작으로부터 이미지를 보호할 수 있는 몇 가지 유망한 도구들을 개발하고 있으나 정작 AI를 개발하는 업계에서는 책임감 있는 AI 배포를 위한 충분한 자원을 투입하지 않고 있다.
기술 기업들이 사전 예방적 솔루션을 마련하도록 더 많은 부담을 부과해야 한다. 최근 몇 년 동안 많은 IT 공룡이 광범위한 비용 절감을 위해 AI 윤리팀을 축소하고 있지만 여성과 소녀의 존엄성은 기업의 이윤을 위해 희생돼야 할 대상이 아니다.
한국은 현재 딥페이크 위기의 진원지다. 동시에 테일러 스위프트와 같은 유명 인사부터 서울과 뉴저지의 여중생에 이르기까지 모두에게 영향을 미칠 수 있는 전 세계적인 문제기도 하다. 기술 분야는 더는 책임을 회피해선 안 된다.
캐서린 소르베케 블룸버그 칼럼니스트
이 글은 블룸버그의 칼럼 ‘South Korea Is Facing Deepfake Porn Crisis’를 아시아경제가 번역한 것입니다.
※이 칼럼은 아시아경제와 블룸버그의 전략적 제휴를 통해 게재되었음을 알립니다.
꼭 봐야할 주요뉴스
내년 10월 10일 무슨 날이길래…국민 60%가 바라는... 마스크영역<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(lboqhen.shop) 무단전재 배포금지>