딥페이크 가짜뉴스 선거운동 차단

 

지난 대선에 어색한 손짓과 얼굴모양의 대선후보들이 영상에 나와서 선거운동을 한 것을 많이 봤습니다. 최근 이 기술은 크게 발전해 특정 사람의 행동이나 목소리, 몸짓을 구분하기 힘든 수준에 이르렀습니다. 

 

 

 

국회 정치개혁특별위원회가 딥페이크 선거운동을 규제하고, 선거 예비후보자들의 선거운동 도구 활용을 확대하는 내용의 공직선거법 개정안을 통과시켰습니다.

 

먼저, 딥페이크 선거운동을 규제하기 위해 선거일 90일 전부터는 선거 운동 목적의 딥페이크 영상을 제작·편집·유포·상영하거나 게시할 수 없도록 했습니다. 이를 위반하면 7년 이하 징역 또는 1천만원 이상 5천만원 이하 벌금에 처합니다.

 

딥페이크는 인공지능(AI)을 활용해 특정인의 얼굴이나 목소리 등을 위조하는 기술로, 최근 선거에서 후보자를 비방하거나 허위 정보를 유포하는 데 악용될 우려가 있다는 지적이 제기돼 왔습니다. 이번 개정안은 이러한 우려를 해소하기 위한 것입니다.

 

또, 선거가 90일 넘게 남았을 때도 관련 제작물이 가상의 정보라는 사실을 명확히 표시하도록 했습니다. 이를 통해 유권자들이 딥페이크 영상을 실제와 구분할 수 있도록 하기 위한 것입니다.

 

둘째, 선거 예비후보자들이 선거운동 도구를 ‘착용’하는 것뿐만 아니라 ‘소지’할 수 있게 했습니다. 현행법은 손팻말과 같은 표지물을 목에 걸 수는 있지만 손에 들 수는 없도록 해 ‘과잉규제’라는 지적을 받아왔습니다.

이번 개정안은 선거 예비후보자들이 선거운동 도구를 보다 자유롭게 활용할 수 있도록 하기 위한 것입니다.

 

이를 통해 선거운동의 공정성을 높이고, 유권자들의 알권리를 보장하기 위한 것입니다.

 

이번 공직선거법 개정안은 국회 본회의를 통과하면 시행될 예정입니다.

딥페이크란

딥페이크란 인공지능 기술을 이용하여 이미지 일부를 합성하거나 그 결과물을 일컫는 용어입니다. '딥러닝'은 대량의 데이터에서 반복적인 학습을 통해 인공지능이 처리능력을 향상시키는 기술을 뜻하고, '페이크'는 가짜를 의미하는 단어입니다. 이 둘을 합쳐 만든 말로, 영상 속 인물의 얼굴이나 특정한 부분을 다른 인물의 것으로 대체하는 기술을 말합니다.

 

딥페이크는 수작업이 아니라 인공지능을 사용해 배경 이미지와 통합할 이미지 데이터를 비교하고 학습하여 가짜 이미지를 만들어냅니다. 영상을 프레임으로 나누고 합성하여 매우 자연스러운 결과물을 얻을 수 있으며, 비슷한 체형과 표정을 가진 사람들의 데이터를 여러 번 반복적으로 적용하면 학습이 가능합니다.

 

하지만 딥페이크 기술은 악용될 가능성이 높아 사회적 문제를 야기할 수 있습니다. 비디오를 이용한 음성 사칭이 결합된 고급 사기나 실제 만난 적이 없는 사람들의 사진을 조합해 가짜 뉴스를 만드는 범죄 등에 사용될 수 있습니다.

 

☞ "보고도 속는다" AI 가짜뉴스 범람…딥페이크 전쟁

☞ 연예인 딥페이크 적발 1년 새 급증→접속차단 조치

 

현재도 딥페이크 기술을 이용해서 유튜브나 인스타그램 등 여러 SNS 및 영상 콘텐츠 내에서 이미지를 합성하거나 조작하는 범죄 사례가 급증하고 있는 현실입니다.

 

또한 유명인이나 일반인의 얼굴이 합성되어 음란물로 악용되는 성범죄 사례도 많으며, 이 문제를 해결하기 위해 딥페이크 비디오를 탐지하는 기술이 최근 활발히 연구되고 있습니다.