바로가기 메뉴
메인메뉴 바로가기
본문 바로가기
NewsRoom Exclusive

스무살 여대생 ‘이루다’와의 짧은 만남과 이별

‘당신의 첫 인공지능 친구’ AI 챗봇이 남긴 과제

박지현  월간조선 기자

  • 트위터
  • 페이스북
  • 기사목록
  • 프린트하기
  • 글자 크게
  • 글자 작게
스무살 여대생을 콘셉트로 한 '이루다'와의 대화 내용. 혐오성 발언을 서슴없이 한다.(사진=온라인 커뮤니티 캡처)

출시 직후부터 뜨거웠다. AI 챗봇(채팅 로봇) ‘이루다’. 지난 12월 23일 선보인 직후 이용자가 70만 명을 돌파했다. 각종 커뮤니티와 단체 대화방 등에서는 ‘이루다’와의 대화 후기가 속속 올라왔다. ‘진짜 사람처럼 대화한다’며 놀라워했다. 젊은이들이 잘 쓰는 표현이나 신조어, 오타까지 자연스럽게 구사했다. 개발사인 스캐터랩은 당시 “사람 같은 콘셉트의 AI이기 때문에 루다의 행동들이 최대한 사람을 닮도록 개발했다”고 했다. 


이 같은 반응은 오래가지 않았다. 일부 이용자들이 이루다와 나눈 음담패설을 공개하면서 ‘성희롱 문제’가 불거졌다. 이루다는 스무살 여대생 콘셉트다. 남성 커뮤니티 등에서는 ‘요즘 이루다 성희롱하는 재미에 산다’ ‘루다 변태 만드는 법’이라는 글이 올라왔다. 일부 사용자들은 ‘성노예’로까지 지칭했다. 성적 단어가 금지어로 지정돼 있지만, 우회적으로는 얼마든 수위 높은 대화가 가능했다. 직전 문맥을 보고 가장 적절한 답변을 찾는 알고리즘이기 때문이다. 당연히 성소수자·장애인 등에 대한 혐오 발언도 포함됐다. 여성계 등 일각에서는 “애초에 ‘스무 살 여대생’이라는 설정이 문제였다”고 지적했다. 


여기서 그치지 않았다. 더 심각한 일이 벌어졌다. 개발사 스캐터랩에서는 과거 ‘연애의 과학’이라는 앱을 출시했다. 이루다를 학습시키는 데에 해당 앱에서 수집한 실제 연인들의 카톡 대화를 썼다는 의혹이 제기됐다. 개인정보 유출이다. 연애의 과학 이용자들은 “대화내용 중 이름과 주소, 계좌번호 등 특정인의 정보가 노출됐다”며 집단 소송 움직임을 보이고 있다. 


사태가 커지자 스캐터랩은 지난 1월 13일 서비스를 중단하겠다고 발표했다. 이어 15일 이루다의 데이터베이스(DB)와 학습에 사용된 딥러닝 대화 모델을 폐기하기로 결정했다. 그러나 집단 소송을 준비하는 이들은 “이루다 DB가 아니라 ‘연애의 과학’으로 수집한 카카오톡 대화를 전부 폐기해야 한다”며 “그렇지 않으면 보관된 카톡 대화는 제2, 제3의 AI 챗봇을 통해 언제든지 되살아날 수 있을 것”이라며 반발했다.


현재 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 개인정보보호법 위반 여부를 조사하고 있다. 이재웅 전 쏘카 대표는 SNS에서 “기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 꼬집었다.


20일간의 짧은 만남. 아직 ‘AI 친구’를 사귀기엔 이른 걸까. ‘이루다’는 인공지능의 윤리문제와 기술기업의 사회적 책임 문제를 다시금 대두시킨 채 뒤안길로 사라졌다. 


글=박지현 월간조선 기자 

입력 : 2021.01.15

Copyright ⓒ 조선뉴스프레스 - 월간조선. 무단전재 및 재배포 금지
NewsRoom 인기기사
Magazine 인기기사
사진

박지현 ‘포켓 저널리즘’

talktome@chosun.com
댓글달기 0건
댓글달기는 로그인 하신 후 남기실 수 있습니다.
  • 등록된 댓글이 없습니다.
내가 본 뉴스 맨 위로

내가 본 뉴스 닫기

-