새하얀 롱패딩을 입은 교황의 모습이 카메라에 찍혔다. 사진 속 교황은 허리춤을 벨트로 조인 형태의 흰색 롱패딩을 입고 바티칸 시국의 성 베드로 광장을 산책하고 있었다. 이상한 모습이었다. 항상 같은 옷만 입던 교황이 갑작스레 추위라도 탄 것일까? 생각이 덧붙는 차에, 묘하게 뭉개진 손이 눈에 띄었다. 옥에 티 같은 흐트러진 손은 이 사진의 전말을 드러냈다. 흰색 패딩을 걸치고, 반짝이는 십자가 목걸이를 한 교황의 모습은 이미지 생성 인공지능 모델인 ‘미드저니(Midjourney)’가 만든 가상의 이미지였다.

비슷한 시기에 논란이 됐던 또 한 장의 사진은 도널드 트럼프 미국 전 대통령이 경찰에게 체포돼 연행되고 있는 이미지였다. 트럼프의 다급한 표정을 담은 이 이미지는 소셜 미디어에서 “트럼프가 맨해튼에서 체포됐다”는 설명과 함께 퍼져 나갔다. 트럼프 전 대통령이 2016년 대선 직전, 한 배우와 성관계를 맺은 사실을 감추기 위해 회사 자금으로 합의금을 지급한 뒤 회계를 조작했다는 혐의를 받고 있던 터라, 해당 이미지가 가져온 파급력은 더욱 컸다.

과거의 사진이 순간을 포착해, 해당 순간이 ‘존재했다’는 진실을 증명하는 하나의 자료였다면, 지금의 사진은 그렇지 않다. 만들어진 이미지는 교묘하게 현실의 일면을 파고든다. 그럴듯한 이미지는 온전한 상상과 픽션보다 현실에 더 큰 힘을 발휘한다. 현실에서 태어난 가상의 이미지가 현실을 바꿀 수 있는 힘을 갖고 있는 셈이다. 증거의 힘이 사라진 이미지의 시대, 이 시대에서 현실의 믿음직스러움은 더 이상 건재하지 않다.

미국의 작가 ‘아메리칸 아티스트(American Artist)’는 2019년, 한 영상 작업을 내놓는다. 그의 작업 〈My Blue Window〉는 21분 56초간 인공지능 도구인 예측 치안 기술의 실행 화면을 보여 준다. 해당 영상에서 비추는 예측 치안 기술은 실제 미국 경찰에게 보급된 도구다. 이 시스템은 흑인과 이주민이 거주하는 동네를 지날 때 말이 많아진다. 범죄가 발생할 가능성이 높다는 의미다. 이유는 하나다. 흑인이 범죄를 저지를 확률이 백인의 범죄 가능성보다 높고, 이주민의 위험성이 그렇지 않은 이들보다 강력하다는 것이다. 경찰은 AI가 일러준 위험 지역을 더 오래, 더 샅샅이 순찰한다.

〈My Blue Window〉는 인공지능이 학습한 현실의 일면이 특정한 형태의 얼굴에 덧붙을 때의 나비효과를 연상시킨다. 인공지능은 결코 공평하지 않다. 이미 세상이 만들어 낸 모든 편견을 학습하고 있다는 의미에서 그렇다. 인공지능에게 흑인의 얼굴과 백인의 얼굴은 같은 무게로 다가오지 않는다. 인간은 의도적인 교육과 반복된 학습을 통해 편견을 보정하지만, 인공지능의 블랙박스에게는 그러한 보정 능력이 없다. 얼굴 인식 기술의 시대에서, 얼굴은 0과 1로 쪼개져 있고, 자잘한 픽셀의 모음으로 인식된다. 그러나 그 이미지가 현실에 던져지는 순간, 모든 픽셀들은 연결된다. 현실의 편견은 그 연결 속에서 공고해지고, 가속화된다. 이미지와 얼굴이 가진 폭력의 얼굴, 창작의 얼굴도 마찬가지다. 딥페이크를 통해 양산되는 수많은 포르노그래피적 이미지, 인공지능 생성 도구를 통해 만들어지는 여러 창작의 가능성들은 이미 존재했던 현실과 무관하지 않다. AI시대의 이미지들은 현실과 등을 붙이고 서 있다.

AI 시대의 이미지는 얼굴의 모양과 위상, 얼굴의 색, 얼굴의 출신을 묻는다. 이 질문에 담긴 얼굴에 ‘진실’과 ‘거짓’에 대한 질문은 무의미하다. 눈과 머리가 싸우는데, 진실과 거짓의 충돌이 무슨 소용이 있겠는가? 혹은 범죄 예방을 위해 위험 지역을 더 돌아다닐 뿐이라는, 철옹성처럼 보이는 진실 앞에서 우리는 어떤 거짓의 여지를 물을 수 있겠는가? 머지않아 현실이 될 수 있는 가상의 이미지 앞에서, 우리는 그 이미지를 어떤 죄목으로 판결대에 올릴 수 있을까? 현실을 먼저 매개해 대중의 눈앞에 선보였다는 사실은 충분한 근거가 되지 못할 것이다.

진실과 거짓을 구분하는 일의 무용함은 ‘딥페이크의 얼굴’에서도 제기되는 문제다. 우리는 이미 거짓 얼굴의 세상에 살고 있다. 모두가 일상적으로 사용하는 인스타그램의 AR 필터 역시 누군가의 얼굴을 조작하는 형태다. 혹자는 가상의 얼굴을 빚어내는 행위는 초상화의 시대에도, 암실의 시대, 심지어는 거울 앞에도 있지 않았나 물을 수 있다. 그러나 인스타그램의 작동 원리를 모르는 이도 클릭 한 번에 AR 필터를 쓸 수 있는 세계에서, 진실과 거짓이 뒤섞인 얼굴은 무엇이 물이고, 기름인지가 불분명한 기름띠 같은 형상일 수 있다.

최근 논란이 되는 딥페이크 기술은 이 기름띠를 극대화하는 도구다. 딥페이크는 메시지가 아닌 메신저를 바꿔 메시지가 갖는 힘을 증폭시키거나 와해시킨다. 얼굴이 일정 수준 이상의 정체성을 담보했던 과거와 달리, 딥페이크 시대 이후의 얼굴은 한 번 쯤 되물어야 하는, 의심해야 하는 대상이다. 딥페이크는 기술과 사람을 분리한다. 어떠한 지식도 없이, 특정인의 얼굴과 행동을 선택하기만 한다면 손쉽게 딥페이크 사진을 만들어 낼 수 있다. 얼굴은 0과 1로, 진실과 거짓으로, 예술과 기술로, 감시와 오해로 쪼개진다. 이 흐름을 막을 수 없다면, 우리는 결국 얼굴을 쪼개는 기술을 활용하고, 진실을 현명하게 묻는 법을 찾아야 한다. 《딥페이크의 얼굴》은 그 질문의 방법을 일러주는 책이다.

과연 딥페이크라는 기술 자체를 금지하면, 얼굴을 신뢰할 수 없는 시대의 부작용도 사라질까? 얼굴이 정체성을 보증하던 시기를 뛰어넘어, 우리는 얼굴을 다시 사유해야 하는 시대에 도착한 것일지도 모른다. 얼굴이 더 이상 믿을 수 있는 정체성을 담보하지 못할 때, 그리고 이미지가 명백히 존재했던 현실을 입증해 주지 못할 때, 새로운 메시지와 메신저의 시대가 열린다. 새로운 시대는 묻는다. 얼굴이 가진 무수한 가능성에서, 당신은 무엇을 취할 것이냐고. 세상이 포착할 수 있는 건 폭력의 얼굴일 수도, 한편으로는 창작의 얼굴일 수도 있다. 기술은 그 자신이 가진 불온함만큼의 가능성을 갖기 때문이다.

이 시대에 도착한 딥페이크가 범죄의 얼굴이 아닌, 창작과 창의의 얼굴이 되기 위해서는 우리는 지금 다시 물어야 한다. 조건 없는 금지는 다가오는 미래의 가능성마저 앗아 갈 수 있다. 거짓의 얼굴, 가능성의 얼굴 앞에서 질문과 답은 그 어느 때보다 신중하고, 입체적이어야 한다.

프롤로그 ; 이 얼굴, 진짜일까?

1 _ 딥페이크, 얼굴을 바꾸다
딥페이크는 어떤 기술인가?
쉽고, 싸고, 빠른 딥페이크
딥페이크, 심층적 자동화의 기술

2 _ 딥페이크와 폭력의 얼굴
허위정보와 사실의 위기
포르노그래피와 조작된 정서
감춰진 얼굴이 묻다

3 _ 딥페이크와 창작의 얼굴
되살아난 인물, 비즈니스가 되다
진짜 얼굴 vs. 가상의 얼굴
가상의 얼굴이 묻다

4 _ 폭력과 창작 사이, 무엇을 해야 하나?
무엇이 문제인가?
무엇을 하고 있나?
무엇을 해야 하나?

에필로그 ; 새로운 가면 앞에서 물어야 할 것

주

북저널리즘 인사이드 ; 불온함만큼의 가능성을 가진 기술