최근 세계적인 팝스타인 테일러 스위프트의 얼굴을 악의적으로 음란 이미지에 합성시켜 SNS를 통해 유포한 사건으로 미국 사회가 큰 충격에 빠졌다. 조작된 가짜 사진이 SNS의 여러 계정을 통해 하루만에 7200만 회 이상 조회될 만큼 순식간에 일파만파로 번졌다. 이는 ‘테일러 노믹스’라는 새로운 경제 신조어가 만들어질 만큼 미국 팝 역사를 다시 쓰고 있는 테일러 스위프트의 위상을 이용한 ‘딥페이크’ 이미지였다.

딥페이크(deepfake)란 ‘딥러닝’(deep learning)과 ‘가짜’(fake)의 합성어로 인공지능을 학습시켜 인위적으로 만든 AI 합성 기술을 의미한다. 특정 인물의 얼굴이나 신체 일부분을 다른 이미지와 합성해 가짜를 진짜처럼 만드는 기술이다. 이러한 딥페이크 기술(제작)과 익명성이 보장되는 SNS(유통)가 결합하면 그 사회적 파급력이 얼마나 강력한지 보여주는 대표적인 사건이었다.

딥페이크는 단순히 비주얼 이미지에만 적용되는 기술이 아니라는 것이 문제다. 사진은 이미지 판독기술을 이용해 디지털로 유통되는 온라인상에서는 업로드시 원천적으로 방지할 수 있다. 하지만 음성이 디지털이 아닌 아날로그 매체를 통해 유통되면 사전 제재할 방법이 없다. 얼마전 많은 미국 유권자들을 혼란에 빠뜨린 조 바이든 대통령의 ‘가짜 음성’ 사건이 대표적이다. 디지털에 기반한 딥페이크 기술이 인터넷이 아닌 전화라는 전통적인 아날로그 매체와 결합하면 가짜가 더 진짜처럼 느껴지는 착시현상을 이용한 고도의 교란 행위였다. 이른바 ‘음성 딥페이크’로, 디지털 태생인 인공지능이 물질세계인 아날로그와 결합하면 그 파급력이 몇 배가 됨을 보여준 사례다. 디지털은 알고리즘을 통해 통제가 가능하지만 아날로그는 사전 통제가 쉽지 않다.

이처럼 딥페이크가 선거를 앞두고 여론을 교란시킬 수 있다는 문제때문에, 국회도 지난해 12월 공직선거법을 개정했다. 선거일 전 90일부터 선거일까지 딥페이크 영상을 이용한 선거운동을 금지하는 법안이 추가됐다. 선거용 딥페이크를 규제한 본질적인 이유는 앞서 경험한 바이든 대통령의 ‘가짜 목소리’ 소동 같은 인공지능에 의한 ‘가짜 뉴스’ 유포를 방지하겠다는 취지에서 출발한다. 딥페이크를 통한 ‘가짜 뉴스’ 제작을 원천적으로 막을 수는 없지만, 필터링 기술을 통해 디지털 정보의 유통 자체는 감시하고 제어할 수 있다.

하지만 실체가 없는 딥페이크보다 더 무서운 건 진짜 실체인 인간이 만드는 가짜 뉴스일 것이다. 아날로그는 사전에 필터링할 수 없기 때문이다. 특히 영향력이 높은 레거시 미디어가 만드는 가짜 뉴스는 가짜도 진짜처럼 믿게 만드는 사이비 교주 같은 위상을 지니고 있다. 얼마전 재래시장에 방문해 상인들에게 ‘매출 오르게 많이 힘껏 뛰겠습니다’라고 한 윤 대통령의 발언을 JTBC는 ‘배추 오르게 많이 힘 좀 쓰겠습니다’라는 자막으로 바꿔 자사 유튜브 채널에 게시했다. 과거 ‘날리면’을 ‘바이든’으로 왜곡보도한 MBC와 동일한 형태의 자막 조작을 통한 ‘가짜 뉴스’ 유포다. 최근 ‘명품백 몰카 공작’으로 논란이 되고 있는 서울의소리는 지난 대선 당시에도 악의적으로 김건희 여사에게 접근한 ‘7시간 녹취록’을 MBC를 통해 방송했다. 얼굴은 MBC, 몸통은 서울의소리로 딥페이크와 유사한 형태였다.

최근 미국의 대표적인 빅테크 기업들은 인공지능으로 만들어진 콘텐츠에 ‘AI생성’ 워터마크를 표기하기로 합의했다. 앞으로 JTBC·MBC·서울의소리에도 ‘JMS’라는 워터마크가 붙여지지 않을까.