딥러닝과 페이크의 합성어인 ‘딥페이크’ 문제가 수면 위로 올라온 가운데, 4월 10일 총선에 인공지능(AI) 금지령이 내려졌다. 중앙선거관리위원회는 4·10 총선 관련 공직선거법 위반 행위 469건을 적발해 조치했다고 26일 밝혔다.

선관위는 전날 기준 선거법 위반으로 총 95건을 고발했고, 10건을 수사의뢰했다. 364건에 대해서는 경고 등의 행정조치를 했다.

경북의 한 노동조합 위원장은 노조 내 조직을 특정 예비 후보자 선거 운동에 활용하고, 조합원들에게 선거운동을 하게 한 혐의로 고발됐다. 선관위는 또 경남 예비 후보자의 선거 대책기구 관계자가 선거구민이 탑승한 관광버스 안에서 확성장치를 이용해 선거운동을 하고 모임 회장에게 현금 30만원을 기부한 혐의에 대해서도 고발했다.

선관위가 지난 총선 이후 선거법 위반으로 온라인 게시물 삭제 요청을 한 사례는 6만815건에 달했다. 딥페이크 게시물과 관련해서는 경고가 1건, 준수 촉구가 1건, 삭제 요청이 207건이었다.

선거법은 선거일 전 90일부터 선거일까지 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 선거운동 관련 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지하고 있다.

인터넷 언론사 선거 보도 심의 조치 현황을 보면 공정 보도 준수 촉구 조치가 156건, 주의 7건, 주의 조치 알림문 게재 2건, 경고 2건 등으로 나타났다. 선거 여론조사와 관련해서는 경고 등의 조치가 72건, 고발 조치가 18건, 과태료 부과가 4건이었다.

AI로 만든 영상·이미지 합성 조작물인 딥페이크는 대체적으로 가짜 음성을 만들어내거나, 인물의 얼굴을 합성하여 다른 사람으로 보이게 한다. 이러한 기술로 만들어진 딥페이크가 총선에 악용되는 경우, 유권자의 눈과 귀를 가려 판단력을 혼란스럽게 할 가능성이 크다.