딥페이크란? '딥 러닝(Deep learning)'과 '가짜(fake)'의 합성어입니다. 얼굴인식, 오토 인코더 등을 복합적으로 활용한 인공지능 기술로, 두 가지 이상 이미지나 영상을 합성할 수 있습니다.
AI 기술로 세상은 놀랍도록 풍성해졌습니다. 대표적인 기술로 딥페이크가 꼽힙니다. 영상이나 사진을 합성 또는 변형하는 기술로, 상상 속 이미지를 현실로 만들어낼 수 있지요. 사진으로만 박제되었던 고인이 마치 되살아난 것처럼 웃음 짓거나, 호날두, 호나우지뉴, 다비즈 등 전설의 축구 선수가 한데 모여 경기하듯, 현실에서 일어날 수 없는 장면을 보여주고 있습니다.
이러한 딥페이크 기술은 고도의 신기술이면서도 활용이 무척 간단합니다. 누구나 손쉽게 배우고 응용할 수 있죠. 불과 1년 전만 해도 이미지 생성과 합성 기술이 세간에 화제를 일으켰는데, 지금은 수많은 프로그램(앱)이 개발되어 누구나 창의적인 이미지를 만들 수 있습니다. 대표 앱으로는 페이스스와프(faceswap), 페이스와퍼(facewapper), 페이스퓨전(facefusion), 미드저니(midjourney) 등이 있습니다.
하지만 급격한 변화 이면의 부작용도 만만치 않습니다. 악용하기 쉽다는 게 가장 큰 문제입니다. 실제 유명인의 사진으로 가짜 뉴스를 만들어 퍼뜨리거나, 성범죄에 악용되는 사례가 많습니다. 특히 이전에는 공인이나 연예인 위주로 피해가 발생했다면, 최근에는 불특정 다수 혹은 주변인의 이미지를 이용한 사례가 적발되어 논란입니다.
무엇보다 딥페이크에 미성년자, 지인의 이미지를 성적 목적으로 활용하다 적발된 사례가 크게 늘었습니다. 범죄 행위라는 걸 상식적으로도 감지할 수 있는데, 청소년에게는 중대 범죄라는 인식이 부족한 듯 보입니다. 올해 붙잡힌 딥페이크 성범죄 피의자의 80% 이상이 10대 청소년이었는데, 범죄라는 인식을 갖기보다 흥미와 돈벌이 수단으로 악용한 사례가 많았습니다.
지난 10월 10일 국무회의에서는 딥페이크 성범죄와 관련한 처벌 규정을 개정한 '성폭력 범죄의 처벌 등에 관한 특례법 일부 개정 공포안(이하 '딥페이크 처벌법')'이 의결되었습니다. 대통령의 재가를 거쳐 즉시 시행 혹은 6개월 뒤 시행될 예정입니다. 딥페이크 처벌법에 따르면 딥페이크 성 착취물을 소지하거나 시청만 해도 처벌받습니다. 소지하거나 구입, 저장, 시청하면 3년 이하 징역 또는 3,000만 원 이하 벌금형에 처할 수 있습니다. 편집하고 반포하면 7년 이하 징역형을 받습니다. 그리고 그 목적이 영리 추구일 경우, 기존에는 7년 이하 징역형이었던 것을 '최소 3년 이상의 징역형'으로 강화했고요. 딥페이크 성 착취물로 상대방을 협박하면 1년 이상 징역형을 받을 수 있습니다.
AI기술을 긍정적으로 활용한 사례는 다양합니다. 가령 지난 2000년경 <스타워즈> 시리즈의 팬이자 유튜버 '샤묵(Shamook)'이 주인공 루크 스카이워커 역의 마크 해밀을 딥페이크로 '회춘'하게 해 화제를 모았습니다. 이후 그는 드라마 시리즈 제작에 전격 합류해 노련한 딥페이크 기술을 발휘했습니다. 이즈음부터 딥페이크를 활용한 액션 장면, 과거 회상 장면 등이 활발히 등장했지요.
미국 플로리다의 '달리 뮤지엄'도 1989년 세상을 떠난 살바도르 달리를 딥페이크로 재현해 큰 인기를 끌었답니다. '살바도르 달리를 입은' AI는 생전 그 특유의 말투대로 관객에게 말을 걸고, 마치 살아 있는 것처럼 대화를 나누지요. 올해 8월에는 그의 대표작 '랍스터 전화기'를 통해 그와 통화하는 자리도 마련해 큰 관심을 모았습니다.
딥페이크가 긍정적 도구가 될 수 있음은 분명합니다. 단 범죄에 악용하거나 휘둘리지 않도록 경각심을 가져야 할 것입니다. 혁신 기술이 자리 잡기까지 언제나 어두운 그림자를 지나왔다는 점을 기억하면서요.