국민의힘 정책위의장인 김상훈 의원(대구 서구)이 딥페이크 성착취물 피해를 예방하고 AI조작 허위·과장 광고를 근절하기 위한 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률(이하 정보통신망법)’ 개정안을 발의했다.

최근 제정된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’은 ‘인공지능사업자’가 인공지능으로 만든 결과물에 ‘AI생성 표시’를 하도록 의무화했으며, ‘공직선거법’에서도 딥페이크 선거 홍보물에 대한 AI생성 표시를 의무화하고, 선거일 전 90일부터 선거 당일까지 사용을 금지하고 있다.

그러나 ‘정보통신망법’에서는 온라인 상에 ‘정보를 제공하는 자’에게 AI생성 표시를 의무화하거나 불법 유통을 금지하는 내용을 두고 있지 않아 딥페이크 성범죄나 허위 정보의 게시·유포를 규율할 수단이 미비하다. 

이로 인해 SNS 등에 딥페이크 성착취물 유포뿐 아니라‘물에 풀어서 쓰면 살이 저절로 빠진다’는 입욕제, ‘눈가에 바르면 1분 만에 주름이 개선된다’는 화장품, ‘가발처럼 머리카락이 빽빽해진다’는 탈모약 등 AI조작 영상으로 제품 효과를 허위·과장하는 불법 광고들도 늘어나는 추세다.

방송통신심의위원회에 따르면 2024년 X(엑스·옛 트위터)와 인스타그램, 페이스북, 유튜브, 틱톡 등 5개 SNS에서 적발된 허위 불법 광고는 5만9021건으로 집계됐으며, 이 중 식·의약품과 관련 불법 광고는 7773건이었다.

김상훈 의원실은 “AI로 생성한 광고물(영상, 이미지, 댓글 등)을 실제 사용 후기처럼 게시하면서도 실사용자 후기는 올리지 못하도록 댓글 게재를 막는 등 소비자를 기만하고 있어 대책 마련이 시급하다”며 “개정안은 온라인 상 정보제공자에게도 AI기술로 생성한 딥페이크 이미지·영상 등의 표시 의무를 부과하고, 해당 표시를 훼손하고 영리 목적으로 제공할 경우 유통을 금지함으로써 AI생성물 불법 이용에 대한 규율을 강화할 수 있게 했다”고 밝혔다.

김상훈 의원은 “최근 생성형AI 사용량이 폭증함에 따라 AI조작 생성물도 증가하리라 예상돼 선제적인 대응책 마련이 필요하다. 법 개정으로  AI조작 성범죄와 사기 판매 행위를 근절하고, 허위 정보·가짜 뉴스 확산도 방지하리라 기대한다”고 했다. 

글=이경훈 월간조선 기자