바로가기 메뉴
메인메뉴 바로가기
본문 바로가기
NewsRoom Exclusive
  1. 경제

4차산업의 경고, 인공지능 컴퓨터 전원 뽑은 페이스북

김동연  월간조선 기자

  • 트위터
  • 페이스북
  • 기사목록
  • 프린트하기
  • 글자 크게
  • 글자 작게
페이스북 로고=페이스북 코리아 홍보대행사 제공

 

SF 영화에서 볼법한 일이 현실로 다가왔다. 수 많은 SF영화의 소재 중 하나는 인공지능 로봇과 인간의 대결이다. 신의 창조물이 인간이라면, 인간의 창조물은 로봇이다. 인간이 만든 로봇이 창조주인 인간의 영역을 넘보는 스토리. 뻔한 SF영화의 소재 중 하나다. 그런데 이런 일이 실제로 일어난다면 우리 인간은 어떤 대책을 세워야 할까. 최근 미국 포브스(Forbes)와 영국의 인디펜던트(Independent) 등 유수 매체에서 ‘페이스북의 자체 인공지능 강제 셧 다운(작동 정지shutdown)’기사가 화제가 됐다.

이미 우리의 생활속에도 기초단계의 인공지능 시스템 채용은 늘어나는 추세다. 휴대전화나 집에 두는 스피커 모양의 컴퓨터에 ‘노래를 재생하라거나, 텔레비전을 켜라’는 정도의 지시를 인간이 하면 기계가 따르고 있다.

페이스북에서 인공지능 시스템을 전담하는 컴퓨터를 가동해왔다. 이 컴퓨터의 임무는 일종의 챗봇(Chatbot)으로 인간과의 대화기능을 발전시키는 역할을 하고 있다. 최근 음성 인식 명령을 활용하는 기술이 늘어나고 있지만, 인간의 다양한 표현과 언어를 기계가 알아듣는 것은 제한적이기때문이다. 따라서 페이스북은 이런 음성 인식 능력 등을 극대화하고자 시스템을 가동해왔다.
 
인간이 모르는 언어 개발한 페이스북의 인공지능
 
그런데 두 개의 챗봇(chatbot:대화로봇)끼리 대화를 주고받는 도중 이상한 점을 발견했다. 인간이 알아들을 수 없는 언어를 개발해 두 인공지능끼리 대화를 나누고 있었다는 것이다. 실제 대화의 일부분은 이런식이다.

Bob: “I can can I I everything else.”
Alice: “Balls have zero to me to me to me to me to me to me to me to me to.”

얼핏 보기에는 언어의 오류로 보이지만, 둘의 대화는 계속 이어진다. 그리고 동일 단어를 반복하는 횟수 등에 따라 다른 의도가 담겨 있다. 가령 특정언어를 5회가량 반복하면 그 단어에서 언급한 물체나 무엇을 달라는 요청 등으로 해석될 수 있다는게 언어학 전문가의 말이다. 그러나 전체적인 언어의 특성과 의미는 파악하지 못했다. 이는 인간의 언어는 얼굴을 보고 말하는데 기반을 한다. 표정과 제스처를 기초로 하고 이것을 전달하는 방식으로 언어를 사용한다. 그러나 컴퓨터 상에서는 이런 과정이 필요없기 때문에 언어의 설계부터가 다르다. 두 인공지능끼리 어떤 대화를 주고받았는지 언급한 특정 단어에 내포된 의미가 무엇인지는 알 수 없다. 페이스북 직원들은 일단 컴퓨터의 전원을 뽑고 더 이상 가동하지 않기로 했다. 이 둘이 주고받은 대화나 논의한 내용 중에서 인공지능이 인간을 자신들을 위협하는 대상으로 여겼을 가능성도 있기때문이다.
 
본문이미지
일본 토요타가 개발한 로봇. 사진=위키미디어

 
인간과의 협상까지 고려한 인공지능

일부 인공지능 전문가는 인공지능의 특성에 대해 설명한 바 있다.

"인공지능은 인간의 대화 특성을 이해했다. 이 때문에 인공지능끼리 대화를 주고 받을 때 인간의 특성을 이용한다. 일례로 인공지능 둘끼리 대화를 할 때 특정 주제에 대한 토론을 장기간 이어나가 해당 주제에 대해 지대한 관심을 보이고 있는 것처럼 위장 한다. 그러나 실제 해당 주제에는 무관심이다. 이 주제에 관심을 보인 것처럼 위장한 뒤, 나중에 인간과 어떠한 딜(deal)을 해야할 때 해당 관심사를 포기하는 대가로 활용한다는 것이다. 인공지능이 관심을 가지고 있는 것을 포기하는 대신 인공지능이 원하는 것을 달라는 식으로 인간과 거래를 할수도 있다는 것이다. "
 
만약 인공지능이 이런정도로까지 발전한다면, 향후 인공지능을 통제한다는 것은 불가능해진다. <월간조선>은 올해 1월호에 단독입수한 미국 국토안보부(DHS)의 자료를 인용해, “자동화될수록 예기치 못한 오류 생기고 안보위협 늘어난다” 라는 제목의 기사를 게재한 바 있다. 미국 국토안보부에 따르면 인공지능을 활용하는 단계에 다다르면, 컴퓨터 시스템을 인간이 통제할 수 없는 단계에 이른다고 경고했다.
 
미국 국토안보부, 향후에는 전원뽑아도 소용없는 인공지능 나올 것

기사 내용의 일부를 요약하면, 나중에는 인공지능이 없는 시스템도 인공지능 시스템과 자동적으로 맞물리게 된다. 그리고 인간이 수동과 자동으로 전환하던 기능이 사라지게 된다. 이 시점이 도래하면, 인간이 통제할 수 있는 영역은 아무것도 없다. 전원을 뽑거나, 컴퓨터를 물리적으로 파괴하는 등 극단적인 방법을 사용해도 완전한 시스템의 정지는 할 수 없다. 전원을 뽑아도 다른 곳에서 자동적으로 전원을 끌어오고, 컴퓨터를 부셔도 해당 컴퓨터만 시스템에서 잘라내고 나머지 시스템은 그대로 돌아가는 식이다. 이 때문에 국토안보부는 반드시 향후에도 인간에게 통제권한이 부여될 수 있는 최후의 보루를 가지고 있어야 한다고 경고했다. 유사시 시스템을 완전 정지 하는 형태의 차선책을 갖추라는 것이다.

미국 테슬라 전기차 회사를 만들고, 민간 우주선 사업 등을 추진 중인 엘런 머스크(Elon Musk)도 “인공지능은 인류 최대의 위협이 될 것”이라는 경고를 한 바 있다.

페이스북이 이번에 겪은 인공지능의 사례를 이미 구글은 몇 년전 경험했다. 그런데 구글의 판단은 페이스북과 달랐다. 페이스북은 위협으로 보고 전원을 뽑았지만, 구글은 인공지능간의 언어 개발을 독려했다. 구글은 인공지능의 이러한 능력이 더 빠른 전산처리 등에 도움이 될 것이라고 생각했기 때문이다. 따라서 현재 구글이 운영중인 인공지능은 자체 시스템간의 언어체계를 사용하고 있다고 알려졌다.
 
글=김동연 월간조선 기자

입력 : 2017.08.16

조회 : 6306
Copyright ⓒ 조선뉴스프레스 - 월간조선. 무단전재 및 재배포 금지
NewsRoom 인기기사
Magazine 인기기사
사진

김동연 ‘로코모션’

dongyon@chosun.com 국제외교 및 국방, 자동차와 관련된 기사와 칼럼을 주로 쓰고 있습니다. 독자분들께 잘 알려지지 않은 뉴스를 전달하도록 하겠습니다.
댓글달기 0건
스팸방지 [필수입력] 그림의 영문, 숫자를 입력하세요.
  • 등록된 댓글이 없습니다.
TOP