페이스북, 인공지능끼리 언어 창조해 대화...개발자가 '강제 종료'

페이스북에서 인공지능 시스템을 잠시 강제로 종료하는 일이 벌어졌다. 원래 고객을 상대하도록 개발된 인공지능인데, 이들끼리 인간은 알아들을 수 없는 언어로 '대화'를 나누는 것을 개발자가 목격하고 시스템을 끈 것이다.

 

31일(현지시간) 미국 경제지 포브스, 기술 전문 매체 테크 타임스 등에 따르면 페이스북의 인공지능 연구소(Facebook AI Research Lab, FAIR)에서 '챗봇'(Chat Bot)이 새로운 언어로 대화를 나누는 것이 확인됐다. 인간은 입력하지 않은 언어 체계였다. 해당 챗봇은 원래 고객을 응대하도록 개발된 것이었다.

 

해외 매체에 따르면 구체적으로 이들 인공지능은 다음과 같이 대화를 나눴다.

 

'밥'(Bob): "나는 할 수 있어 할 수 있어 나는 나는 그 밖의 모든 것"(I can can I I everything else)

 

'엘리스'(Alice): "공을 갖고 있어 나에게 나에게"(Balls have zero to me to me to me to me to me to me to me to me to)

 

영문 알파벳으로 이루어진 단어와 문장이지만, 인간은 이해할 수 없는 말이다. 그러나 해당 문장은 인공지능끼리 이해할 수 있는 새로운 언어 체계를 만든 것 아니냐는 게 전문가의 분석이다.

 

페이스북 측은 이 같은 대화 양상을 발견하고는 시스템을 강제로 종료했다. 이후 개발자들은 이들 인공지능이 제대로 된 영어로만 말 하도록 재조정했다.

 

오원석 기자 oh.wonseok@joongang.co.kr

[출처: 중앙일보] 페이스북, 인공지능끼리 언어 창조해 대화...개발자가 '강제 종료'

인간이 시스템을 강제 종료해도 스스로 시스템을 재부팅 시키는 인공지능이 생긴다면, 그래서 그들만의 언어로 대화하고 새로운 시스템을 제어하는 게 불가능해지는 세상. 기술을 지배하는 것이 인간이 아닌 기술이 되는 세상이 도래할 날이 그리 멀어보이지는 않는다. HBO 드라마 Westworld (웨스트월드)의 호스트들이 그러했듯 지능도 개발되고 해킹되기 마련이라는 상상을 해본다. 

베르나르가 책 나무를 통해 상상했던 미래의 그 날들이, 너무 빨리 다가와버린 건 아닐까?