⊙ 美 대선 앞두고 AI 선거 개입 가시화… 가짜 바이든, “투표하지 마라”
⊙ 논란 발생 시 ‘AI 조작’이라 핑계… 정치인들, 딥페이크 逆이용하기도
⊙ 누구나 조작 영상 제작 가능… 선관위, 올해부터 딥페이크 활용 선거운동 금지
⊙ 논란 발생 시 ‘AI 조작’이라 핑계… 정치인들, 딥페이크 逆이용하기도
⊙ 누구나 조작 영상 제작 가능… 선관위, 올해부터 딥페이크 활용 선거운동 금지
- 메인 이미지=셔터스톡
직접 보고, 들어도 믿을 수 없는 시대가 됐다. 인공지능(AI)이 발달하면서다. 선거에 악용(惡用)하면 ‘가짜’가 ‘진짜’ 후보를 위협하기도 한다. 각국에서 이런 사례가 속속 발생 중이다.
“이번 화요일에 투표하지 마세요. 그것은 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일입니다.”
지난 1월 23일(현지시각) 뉴햄프셔 예비경선을 앞두고 해당 지역 유권자들은 조 바이든 대통령의 목소리가 담긴 전화 한 통을 받았다. 바이든 대통령이 쓰는 습관적인 말투까지 따라 한 이 전화는 딥페이크(Deep fake) 음성 기술이 사용된 ‘로보콜(Robocall·녹음된 음성이 재생되는 자동전화)’로 드러났다. CNN의 보도에 따르면 이 메시지는 최대 2만5000명에게 유포됐다. 뉴햄프셔주 법무장관실은 성명을 통해 이를 “경선을 방해하고 유권자들에게 혼란을 주려는 불법적 시도”로 규정했다. 미 사법당국은 즉각 수사에 돌입했으나 누가 로보콜을 합성해 유포했는지 밝혀내는 데 어려움을 겪고 있다.
오는 11월 미 대선을 앞두고 나타난 AI 악용의 첫 사례다. 미국 정치권이나 정보기관에서는 일찌감치 딥페이크의 위험성을 경계해왔다. ‘가짜 뉴스’ 확산은 물론 퍼진 거짓 정보로 선거와 유권자에 미칠 잠재적 영향에 대한 우려가 커서다. 바이든 대통령은 지난해 11월 AI에 대한 규제를 강화하는 내용의 행정명령에 서명하면서 자신의 딥페이크 영상을 봤을 때를 언급하며 “‘내가 도대체 언제 저런 말을 했을까’라고 순각 착각할 정도였다”고 했다. 지난해 1월 성소수자를 폄훼하는 내용의 가짜 연설 장면을 구현한 영상을 접하고 본인조차 즉각 진위(眞僞)를 못 가렸다는 의미였다.
누구나 손쉽게 제작 가능
한국에서도 대선을 앞두고 가짜 영상이 문제 된 적이 있다. 지난 20대 대선 때다. 더불어민주당은 지난 2022년 2월 5일 공식 채널인 ‘델리민주’에 ‘두 번 생각해도 이재명입니다 #노무현의 편지’라는 제목의 영상을 올렸다. 2분 분량의 영상에는 가상(假像)의 고(故) 노무현 전 대통령이 등장했다. 영상에서 그는 “사랑하는 국민 여러분. 대한민국 20대 대통령 선거, 얼마 남지 않았습니다”라며 “저 노무현은 사람 사는 세상을 꿈꾸며 가난과 역경을 딛고 일어나 오직 국민만을 생각하며 불의와 타협하지 않고 기득권과 싸워 이겨내는 정의로운 이재명 후보를 지지합니다”라고 했다. 여기에 “제 아내 권양숙 여사님도 저와 닮은 이재명 후보를 지지했다고 합니다”라는 음성도 포함됐다. 논란이 일자 민주당은 동영상을 곧 삭제했다.
딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어다. 진짜처럼 보이기 위해 조작된 이미지, 오디오 또는 비디오를 뜻한다. 완성도의 차이는 있지만, 딥페이크 영상은 누구나 쉽게 만들 수 있다. 1년 전만 해도 3D(3차원) 그래픽 전문가팀과 최소 한 달의 시간이 필요했다. 지금은 간단한 프롬프트 입력만으로 손쉽게 가짜 이미지를 생성할 수 있게 됐다. 어플 페이스플레이(faceplay)나 리페이스(Reface) 등을 통해서도 가능하다. 현재 인스타그램에서 reface 해시태그를 단 게시물은 31만2000개, faceplay는 16만8000개에 달한다.
실제로 지난해 11월 2일 소셜미디어 엑스(X·옛 트위터)에 올라온 기시다 후미오(岸田文雄) 일본 총리의 영상은 오사카에 거주하는 20대 남성 A씨가 1시간 만에 만든 것으로 밝혀졌다. 기시다 총리가 악담을 퍼붓는 30초짜리 영상은 업로드 하루 만에 조회수 232만 회 이상을 기록했다. A씨는 《요미우리신문》과의 인터뷰를 통해 “인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 준비했다”며 “재미로 만들었다”고 했다.
사실을 ‘조작’이라 주장하기도
일부 정치인은 이를 역(逆)이용하기도 한다. 논란이 발생하면 일단 AI가 조작한 것이라 핑계 대는 식이다. 올 초 대만 총통 선거에 앞서 한국의 부총리 격인 정원찬(鄭文燦) 행정원 부원장이 젊은 여성과 호텔 방에 들어가는 영상이 공개됐다. 정 부원장 측은 “영상이 조작됐다”고 방어하면서 대만 경찰에 조사를 요청했지만, 경찰은 진위를 파악하지 못한 채 흐지부지됐다.
인도에서는 지난해 4월 타밀나두주(州) 정치인인 팔라니벨 티아가라잔이 소속 정당의 불법 정치자금 모금을 언급하는 녹취록이 유출됐는데 당사자는 AI가 만든 파일이라고 주장했지만 전문가들은 사실로 봤다.
지난해 반(反)트럼프 성향 단체인 ‘링컨프로젝트’는 도널드 트럼프 전 대통령의 말실수 모음 영상을 만들기도 했다. 트럼프가 ‘익명(anonymous)’ 발음을 제대로 하지 못하거나, 산불이 난 마을의 이름을 ‘파라다이스(paradise)’가 아닌 ‘기쁨(pleasure)’이라고 잘못 말한 것을 두고 ‘치매설’을 주장했다. 트럼프 전 대통령은 “나를 조 바이든처럼 나쁘고 한심하게 보이게 하려고 AI를 사용했다”고 주장했지만, 영상 자체는 조작되지 않은 것으로 드러났다. 《워싱턴포스트》는 “세계적으로 AI가 자신의 피해를 막으려는 정치인들의 희생양이 되고 있다”며 “AI를 핑계로 비판을 회피하는 사례를 보면서, 더 많은 정치인이 비슷한 주장을 하게 될 것”이라고 했다.
국내에서도 비슷한 사례가 있다. 지난 2022년 1월 18일 《굿바이 이재명》의 저자 장영하 변호사는 이재명 당시 대선 후보의 욕설과 막말이 담긴 미공개 통화 녹음 파일 35건을 공개했다. 이날 이재명 대표는 “국민으로서 이런 물의를 일으킨 점에 대해 깊이 사과드린다”고 했지만, 같은 날 방송인 김어준은 이 파일이 AI로 만들어져 조작됐을 가능성을 언급하며 ‘음모론’을 꺼내 들었다. 허위정보 추적기관인 그래피카의 리비 랭 분석가는 지난 1월 22일 《워싱턴포스트》에 “모든 것이 가짜가 될 수 있고, 모든 것이 가짜이거나 어떤 식으로든 조작됐다고 주장한다면 진실도 존재하지 않게 된다”고 했다.
딥페이크 방지 기술
딥페이크로 인한 피해가 급증하면서 딥페이크를 가려내는 탐지 기술도 진화 중이다. 글로벌 시장조사업체 마켓츠앤드마켓츠에 따르면 글로벌 딥페이크 탐지 시장은 2022년 5억 달러(약 6660억원)에서 2027년 18억 달러(약 2조4000억원)로 성장할 전망이다.
딥페이크 탐지 기술 역시 AI를 활용한다. 인텔은 2022년 가짜 동영상을 탐지하는 페이크 캐처 기술을 개발했다. 인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가린다. 정확도는 96%에 달한다.
미국 국방고등연구계획국(DARPA)은 온라인의 딥페이크를 자동 감지하는 포렌식 알고리즘을 만드는 ‘세마포(SemaFor) 프로그램’을 실행 중이다. 딥페이크를 생성할 때 만들어지는 ‘AI의 실수’를 단서로 딥페이크를 찾아낸다. DARPA는 이를 쉽게 감지할 수 있게 하면, 결국 딥페이크 콘텐츠 생성 비용이 증가하면서 관련 영상이 줄어들 것으로 본다. 장기적으로는 누가, 어떻게, 왜 딥페이크를 만들었는지 추론할 수 있는 기술도 개발할 계획이라고 한다.
탐지를 넘어 위조 불가한 워터마크로 딥페이크 이미지를 구별하는 방법도 개발 중이다. 구글 딥마인드가 지난해 8월 선보인 ‘신스ID(SynthID)’가 대표적이다. AI 이미지 생성 플랫폼에서 만든 파일에 육안으로는 보이지 않는 워터마크를 픽셀 단위로 넣어 해당 이미지가 실제가 아님을 알 수 있게 한다.
하지만 탐지 기술만으로 딥페이크를 완전히 차단하는 건 어렵다는 지적이 나온다. 창과 방패의 싸움처럼 탐지 기술을 뛰어넘는 기술을 계속 만들 수 있어서다. 과학학술지 《네이처》는 “현재 딥페이크 생성기에 대한 탐지 성공률은 95% 이상이지만, 새로운 생성기일수록 감지 능력이 떨어질 수밖에 없다”면서 “만드는 쪽과 막는 쪽 사이의 군비 경쟁은 끊임없이 이어질 것”이라고 했다. 《월스트리트저널》은 “딥페이크 기술 향상과 함께 새로운 검증 방법이 개발되면서 쫓고 쫓기는 ‘고양이와 쥐’ 게임 같은 양상이 일어나고 있다”고 했다.
‘2024년 AI 선거 될 것’
딥페이크뿐만 아니다. 챗(Chat) GPT로 대표되는 생성형 AI를 통한 무분별한 ‘가짜 뉴스’도 골칫거리다. 학습 데이터를 기반으로 콘텐츠를 생산할 수 있는 생성형 AI는 자동으로 텍스트, 이미지 등의 작업을 수행할 수 있다. 문제는 광범위한 학습 데이터가 사실인지, 거짓인지 AI는 구별하지 못한다는 점이다.
지난해 12월 17일 《워싱턴포스트》는 온라인 뉴스 신뢰도 등급 평가 정보 제공 업체인 뉴스가드의 발표를 인용, 같은 해 5월 이후 AI가 생성한 허위 기사를 호스팅하는 웹사이트가 49개에서 600여 개로 약 1000% 상승했다고 전했다.
이들 사이트는 겉보기엔 전형적인 뉴스 웹사이트다. 사이트 이름 역시 뉴스라이브79, 데일리비즈니스포스트처럼 그럴듯하고, 하루에 많게는 수백 건의 기사를 게재한다. 그러나 올라오는 뉴스를 보면 아예 사실이 아닌 내용을 담고 있거나, 신뢰할 만한 언론사의 뉴스를 요약 혹은 일부 수정한 게 많다. 2023년 4월 출고된 〈바이든 사망… 해리스 대통령 권한대행 오전 9시 연설〉 기사가 대표적이다.
노아 지안시라큐사 벤틀리대학교 부교수는 지난해 《블룸버그》와의 인터뷰에서 “이전에는 가짜 뉴스 생성에 인건비라도 들어갔지만 이제는 무료인 데다 생산속도도 빨라졌다”면서 “더 많은 콘텐츠 공장이 자동화될 것”이라고 우려했다.
미 정치 전문 매체 《더힐》은 지난해 12월 25일 시카고대 해리스공공정책대학원의 이던 부에노 디 메스퀴타 학장의 말을 인용해 “2016년·2020년이 ‘소셜미디어 선거’였던 것처럼 2024년은 ‘AI 선거’가 될 것”이라고 내다봤다.
‘AI의 거짓말, 세계 안정 위협’
지난 1월 스위스에서 열린 세계경제포럼(WEF·다보스포럼)에서도 AI가 정치에 미치는 영향에 대한 우려의 목소리가 나왔다. 비올라 암헤르트 스위스 대통령은 기조연설에서 “AI가 만들어낸 선전(宣傳)과 거짓말이 세계 안정의 진정한 위협”이라고 했다. 특히 2024년은 대만을 시작으로 미국과 한국 등 주요국에 대선과 총선이 있는 해다. 가짜 동영상이 후보자 선택에 부정적 혹은 긍정적 영향을 미치면 대의민주주의에 중대한 위협이 되는 만큼 각국 정부에서는 규제책 마련에 나섰다. 네브래스카주 등 미국의 최소 13개 주에서는 ‘선거일 전 최소 60일간 딥페이크 콘텐츠 유포 전면 금지’ 등의 법안을 추진 중이다. 유럽연합 의회도 2023년 6월 무분별한 인공지능 사용을 규제하는 법안을 통과시켰다.
국내에선 지난 1월 29일부터 딥페이크를 이용한 선거운동을 금지했다. 지난 대선에서는 ‘AI 윤석열’ ‘AI 이재명’을 내세운 사이버 유세를 선보였으나 이번 총선에선 불가능하다. 다만 당내 경선이나 투표 참여 권유, 의정활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.
중앙선거관리위원회에 따르면 활용이 금지되는 것은 딥페이크처럼 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상이라는 점을 표시해서 활용해도 법 위반이 된다. 선관위는 AI 전문가와 모니터링 전담요원 등으로 구성된 감별반을 운영하며, 포털·AI 플랫폼 관계사 등과 협조해 위법성이 의심되는 댓글을 비롯한 콘텐츠를 선제적으로 삭제키로 했다.
AI 견제 정책 다각도로 모색해야
검찰도 이번 총선에서 AI와 딥페이크를 활용한 불법적 선거운동에 주목하고 있다. 이원석 검찰총장은 지난 2월 5일 전국의 선거전담 부장검사 60명이 한자리에 모인 회의에서 이번 총선의 핵심 점검 의제로 정치 테러와 AI 기술을 활용한 딥페이크를 지목했다. 그러면서 “선관위, 경찰, 선거 사무 관계자들과 사건 발생 초기부터 적극 협력해 신속하고 엄정하게 처리하도록 최선을 다해달라”고 당부했다. 이 총장은 또 “허위사실 유포와 가짜 뉴스, 흑색선전은 단기간에 여론을 비틀어 민의(民意)를 왜곡하는 폐해가 심각하다”며 “선거 결과에 영향을 미치지 않도록 신속하게 사실관계를 파악해 엄정하게 책임을 물어야 할 것”이라고 했다.
한편 일차원적 규제만으로는 역부족이라는 시각도 있다. 바둑 인공지능 알파고(AlphaGo)로 잘 알려진 AI 회사 딥마인드 공동창업자 무스타파 슐레이만은 지난 1월 11일 펴낸 저서 《더 커밍 웨이브(The Coming Wave)》에서 “거대 기술 기업들은 물론 전 세계의 국가는 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설 것”이라면서 “문제는 핵무기와 달리 AI 기술은 범용적(汎用的)이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으로는 규제에 실패할 것이라는 데 있다”고 했다. 그는 “AI 기술을 정부와 사회가 적절하게 관리하려면 이를 일일이 규제하기보다 AI를 견제할 수 있는 각종 정책, 즉 거버넌스, 지배구조, 그리고 억제 및 통제, 봉쇄할 수 있는 기술들을 다각도로 모색하고 갖춰야 한다”고 지적했다.⊙
“이번 화요일에 투표하지 마세요. 그것은 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일입니다.”
지난 1월 23일(현지시각) 뉴햄프셔 예비경선을 앞두고 해당 지역 유권자들은 조 바이든 대통령의 목소리가 담긴 전화 한 통을 받았다. 바이든 대통령이 쓰는 습관적인 말투까지 따라 한 이 전화는 딥페이크(Deep fake) 음성 기술이 사용된 ‘로보콜(Robocall·녹음된 음성이 재생되는 자동전화)’로 드러났다. CNN의 보도에 따르면 이 메시지는 최대 2만5000명에게 유포됐다. 뉴햄프셔주 법무장관실은 성명을 통해 이를 “경선을 방해하고 유권자들에게 혼란을 주려는 불법적 시도”로 규정했다. 미 사법당국은 즉각 수사에 돌입했으나 누가 로보콜을 합성해 유포했는지 밝혀내는 데 어려움을 겪고 있다.
오는 11월 미 대선을 앞두고 나타난 AI 악용의 첫 사례다. 미국 정치권이나 정보기관에서는 일찌감치 딥페이크의 위험성을 경계해왔다. ‘가짜 뉴스’ 확산은 물론 퍼진 거짓 정보로 선거와 유권자에 미칠 잠재적 영향에 대한 우려가 커서다. 바이든 대통령은 지난해 11월 AI에 대한 규제를 강화하는 내용의 행정명령에 서명하면서 자신의 딥페이크 영상을 봤을 때를 언급하며 “‘내가 도대체 언제 저런 말을 했을까’라고 순각 착각할 정도였다”고 했다. 지난해 1월 성소수자를 폄훼하는 내용의 가짜 연설 장면을 구현한 영상을 접하고 본인조차 즉각 진위(眞僞)를 못 가렸다는 의미였다.
누구나 손쉽게 제작 가능
 |
| 기시다 후미오 일본 총리의 AI 가짜 영상 캡처. 화면=니코비데오 |
딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어다. 진짜처럼 보이기 위해 조작된 이미지, 오디오 또는 비디오를 뜻한다. 완성도의 차이는 있지만, 딥페이크 영상은 누구나 쉽게 만들 수 있다. 1년 전만 해도 3D(3차원) 그래픽 전문가팀과 최소 한 달의 시간이 필요했다. 지금은 간단한 프롬프트 입력만으로 손쉽게 가짜 이미지를 생성할 수 있게 됐다. 어플 페이스플레이(faceplay)나 리페이스(Reface) 등을 통해서도 가능하다. 현재 인스타그램에서 reface 해시태그를 단 게시물은 31만2000개, faceplay는 16만8000개에 달한다.
실제로 지난해 11월 2일 소셜미디어 엑스(X·옛 트위터)에 올라온 기시다 후미오(岸田文雄) 일본 총리의 영상은 오사카에 거주하는 20대 남성 A씨가 1시간 만에 만든 것으로 밝혀졌다. 기시다 총리가 악담을 퍼붓는 30초짜리 영상은 업로드 하루 만에 조회수 232만 회 이상을 기록했다. A씨는 《요미우리신문》과의 인터뷰를 통해 “인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 준비했다”며 “재미로 만들었다”고 했다.
사실을 ‘조작’이라 주장하기도
 |
| 한국의 부총리 격인 정원찬 대만 행정원 부원장이 젊은 여성과 함께 호텔 방에 들어가는 장면. 사진=寰宇新聞 頻道 유튜브 캡처 |
인도에서는 지난해 4월 타밀나두주(州) 정치인인 팔라니벨 티아가라잔이 소속 정당의 불법 정치자금 모금을 언급하는 녹취록이 유출됐는데 당사자는 AI가 만든 파일이라고 주장했지만 전문가들은 사실로 봤다.
지난해 반(反)트럼프 성향 단체인 ‘링컨프로젝트’는 도널드 트럼프 전 대통령의 말실수 모음 영상을 만들기도 했다. 트럼프가 ‘익명(anonymous)’ 발음을 제대로 하지 못하거나, 산불이 난 마을의 이름을 ‘파라다이스(paradise)’가 아닌 ‘기쁨(pleasure)’이라고 잘못 말한 것을 두고 ‘치매설’을 주장했다. 트럼프 전 대통령은 “나를 조 바이든처럼 나쁘고 한심하게 보이게 하려고 AI를 사용했다”고 주장했지만, 영상 자체는 조작되지 않은 것으로 드러났다. 《워싱턴포스트》는 “세계적으로 AI가 자신의 피해를 막으려는 정치인들의 희생양이 되고 있다”며 “AI를 핑계로 비판을 회피하는 사례를 보면서, 더 많은 정치인이 비슷한 주장을 하게 될 것”이라고 했다.
국내에서도 비슷한 사례가 있다. 지난 2022년 1월 18일 《굿바이 이재명》의 저자 장영하 변호사는 이재명 당시 대선 후보의 욕설과 막말이 담긴 미공개 통화 녹음 파일 35건을 공개했다. 이날 이재명 대표는 “국민으로서 이런 물의를 일으킨 점에 대해 깊이 사과드린다”고 했지만, 같은 날 방송인 김어준은 이 파일이 AI로 만들어져 조작됐을 가능성을 언급하며 ‘음모론’을 꺼내 들었다. 허위정보 추적기관인 그래피카의 리비 랭 분석가는 지난 1월 22일 《워싱턴포스트》에 “모든 것이 가짜가 될 수 있고, 모든 것이 가짜이거나 어떤 식으로든 조작됐다고 주장한다면 진실도 존재하지 않게 된다”고 했다.
딥페이크 방지 기술
딥페이크로 인한 피해가 급증하면서 딥페이크를 가려내는 탐지 기술도 진화 중이다. 글로벌 시장조사업체 마켓츠앤드마켓츠에 따르면 글로벌 딥페이크 탐지 시장은 2022년 5억 달러(약 6660억원)에서 2027년 18억 달러(약 2조4000억원)로 성장할 전망이다.
딥페이크 탐지 기술 역시 AI를 활용한다. 인텔은 2022년 가짜 동영상을 탐지하는 페이크 캐처 기술을 개발했다. 인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가린다. 정확도는 96%에 달한다.
미국 국방고등연구계획국(DARPA)은 온라인의 딥페이크를 자동 감지하는 포렌식 알고리즘을 만드는 ‘세마포(SemaFor) 프로그램’을 실행 중이다. 딥페이크를 생성할 때 만들어지는 ‘AI의 실수’를 단서로 딥페이크를 찾아낸다. DARPA는 이를 쉽게 감지할 수 있게 하면, 결국 딥페이크 콘텐츠 생성 비용이 증가하면서 관련 영상이 줄어들 것으로 본다. 장기적으로는 누가, 어떻게, 왜 딥페이크를 만들었는지 추론할 수 있는 기술도 개발할 계획이라고 한다.
탐지를 넘어 위조 불가한 워터마크로 딥페이크 이미지를 구별하는 방법도 개발 중이다. 구글 딥마인드가 지난해 8월 선보인 ‘신스ID(SynthID)’가 대표적이다. AI 이미지 생성 플랫폼에서 만든 파일에 육안으로는 보이지 않는 워터마크를 픽셀 단위로 넣어 해당 이미지가 실제가 아님을 알 수 있게 한다.
하지만 탐지 기술만으로 딥페이크를 완전히 차단하는 건 어렵다는 지적이 나온다. 창과 방패의 싸움처럼 탐지 기술을 뛰어넘는 기술을 계속 만들 수 있어서다. 과학학술지 《네이처》는 “현재 딥페이크 생성기에 대한 탐지 성공률은 95% 이상이지만, 새로운 생성기일수록 감지 능력이 떨어질 수밖에 없다”면서 “만드는 쪽과 막는 쪽 사이의 군비 경쟁은 끊임없이 이어질 것”이라고 했다. 《월스트리트저널》은 “딥페이크 기술 향상과 함께 새로운 검증 방법이 개발되면서 쫓고 쫓기는 ‘고양이와 쥐’ 게임 같은 양상이 일어나고 있다”고 했다.
‘2024년 AI 선거 될 것’
딥페이크뿐만 아니다. 챗(Chat) GPT로 대표되는 생성형 AI를 통한 무분별한 ‘가짜 뉴스’도 골칫거리다. 학습 데이터를 기반으로 콘텐츠를 생산할 수 있는 생성형 AI는 자동으로 텍스트, 이미지 등의 작업을 수행할 수 있다. 문제는 광범위한 학습 데이터가 사실인지, 거짓인지 AI는 구별하지 못한다는 점이다.
지난해 12월 17일 《워싱턴포스트》는 온라인 뉴스 신뢰도 등급 평가 정보 제공 업체인 뉴스가드의 발표를 인용, 같은 해 5월 이후 AI가 생성한 허위 기사를 호스팅하는 웹사이트가 49개에서 600여 개로 약 1000% 상승했다고 전했다.
이들 사이트는 겉보기엔 전형적인 뉴스 웹사이트다. 사이트 이름 역시 뉴스라이브79, 데일리비즈니스포스트처럼 그럴듯하고, 하루에 많게는 수백 건의 기사를 게재한다. 그러나 올라오는 뉴스를 보면 아예 사실이 아닌 내용을 담고 있거나, 신뢰할 만한 언론사의 뉴스를 요약 혹은 일부 수정한 게 많다. 2023년 4월 출고된 〈바이든 사망… 해리스 대통령 권한대행 오전 9시 연설〉 기사가 대표적이다.
노아 지안시라큐사 벤틀리대학교 부교수는 지난해 《블룸버그》와의 인터뷰에서 “이전에는 가짜 뉴스 생성에 인건비라도 들어갔지만 이제는 무료인 데다 생산속도도 빨라졌다”면서 “더 많은 콘텐츠 공장이 자동화될 것”이라고 우려했다.
미 정치 전문 매체 《더힐》은 지난해 12월 25일 시카고대 해리스공공정책대학원의 이던 부에노 디 메스퀴타 학장의 말을 인용해 “2016년·2020년이 ‘소셜미디어 선거’였던 것처럼 2024년은 ‘AI 선거’가 될 것”이라고 내다봤다.
‘AI의 거짓말, 세계 안정 위협’
지난 1월 스위스에서 열린 세계경제포럼(WEF·다보스포럼)에서도 AI가 정치에 미치는 영향에 대한 우려의 목소리가 나왔다. 비올라 암헤르트 스위스 대통령은 기조연설에서 “AI가 만들어낸 선전(宣傳)과 거짓말이 세계 안정의 진정한 위협”이라고 했다. 특히 2024년은 대만을 시작으로 미국과 한국 등 주요국에 대선과 총선이 있는 해다. 가짜 동영상이 후보자 선택에 부정적 혹은 긍정적 영향을 미치면 대의민주주의에 중대한 위협이 되는 만큼 각국 정부에서는 규제책 마련에 나섰다. 네브래스카주 등 미국의 최소 13개 주에서는 ‘선거일 전 최소 60일간 딥페이크 콘텐츠 유포 전면 금지’ 등의 법안을 추진 중이다. 유럽연합 의회도 2023년 6월 무분별한 인공지능 사용을 규제하는 법안을 통과시켰다.
국내에선 지난 1월 29일부터 딥페이크를 이용한 선거운동을 금지했다. 지난 대선에서는 ‘AI 윤석열’ ‘AI 이재명’을 내세운 사이버 유세를 선보였으나 이번 총선에선 불가능하다. 다만 당내 경선이나 투표 참여 권유, 의정활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.
중앙선거관리위원회에 따르면 활용이 금지되는 것은 딥페이크처럼 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상이라는 점을 표시해서 활용해도 법 위반이 된다. 선관위는 AI 전문가와 모니터링 전담요원 등으로 구성된 감별반을 운영하며, 포털·AI 플랫폼 관계사 등과 협조해 위법성이 의심되는 댓글을 비롯한 콘텐츠를 선제적으로 삭제키로 했다.
AI 견제 정책 다각도로 모색해야
검찰도 이번 총선에서 AI와 딥페이크를 활용한 불법적 선거운동에 주목하고 있다. 이원석 검찰총장은 지난 2월 5일 전국의 선거전담 부장검사 60명이 한자리에 모인 회의에서 이번 총선의 핵심 점검 의제로 정치 테러와 AI 기술을 활용한 딥페이크를 지목했다. 그러면서 “선관위, 경찰, 선거 사무 관계자들과 사건 발생 초기부터 적극 협력해 신속하고 엄정하게 처리하도록 최선을 다해달라”고 당부했다. 이 총장은 또 “허위사실 유포와 가짜 뉴스, 흑색선전은 단기간에 여론을 비틀어 민의(民意)를 왜곡하는 폐해가 심각하다”며 “선거 결과에 영향을 미치지 않도록 신속하게 사실관계를 파악해 엄정하게 책임을 물어야 할 것”이라고 했다.
한편 일차원적 규제만으로는 역부족이라는 시각도 있다. 바둑 인공지능 알파고(AlphaGo)로 잘 알려진 AI 회사 딥마인드 공동창업자 무스타파 슐레이만은 지난 1월 11일 펴낸 저서 《더 커밍 웨이브(The Coming Wave)》에서 “거대 기술 기업들은 물론 전 세계의 국가는 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설 것”이라면서 “문제는 핵무기와 달리 AI 기술은 범용적(汎用的)이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으로는 규제에 실패할 것이라는 데 있다”고 했다. 그는 “AI 기술을 정부와 사회가 적절하게 관리하려면 이를 일일이 규제하기보다 AI를 견제할 수 있는 각종 정책, 즉 거버넌스, 지배구조, 그리고 억제 및 통제, 봉쇄할 수 있는 기술들을 다각도로 모색하고 갖춰야 한다”고 지적했다.⊙
