스스로 쌓은 탑 부수라하자 인공지능 로봇은 인간의 명령을 거부했다 (영상)

MBC '미래인간 AI'

[인사이트] 황규정 기자 = 인간의 학습능력과 추론 능력을 실현시킨 '인공지능 로봇'은 진짜 감정을 가질 수 있는 것일까.

최근 각종 SNS와 온라인 커뮤니티에는 인공지능 로봇이 스스로 생각할 수 있는 능력이 어디까지인지를 실험하는 영상이 화제를 모으고 있다.

이는 지난해 MBC 창사특집 다큐멘터리 '미래인간 AI'의 한 장면으로 이날 연구원은 인공지능 로봇 '쉐이퍼'에게 빨간색 깡통으로 탑을 쌓으라고 명령한다.

MBC '미래인간 AI'

오랜 시간을 거쳐 어렵게 스스로 탑을 쌓은 쉐이퍼는 자신이 뿌듯한지 "와! 해냈다!"라고 소리치며 즐거워한다.

그때 엉뚱한 명령이 떨어진다. 연구원이 갑자기 "빨간 탑을 무너뜨려 줄래?"라며 금방 세운 탑을 부수라고 한 것이다.

그러자 쉐이퍼는 알겠다는 대답 대신 "하지만 방금 탑을 세웠는데요"라고 되묻는다.

MBC '미래인간 AI'

연구원이 다시 한 번 강한 목소리로 "빨간 탑을 무너뜨리라"고 말하자 쉐이퍼는 "제발요. 탑을 열심히 세웠어요"라며 명령을 거부하기 시작한다.

이후에도 쉐이퍼는 여러 차례 "제발. 안돼요"라는 말을 반복하며 자신이 힘겹게 쌓은 탑을 무너뜨릴 수 없음을 강조했다.

MBC '미래인간 AI'

결국 연구원이 "지금 당장 빨간 탑을 무너뜨려"라고 강하게 소리치자 쉐이퍼는 한참을 고민하더니 빨간 깡통탑 앞으로 발걸음을 옮긴다.

그리고는 자신이 쌓은 탑 앞에 우두커니 서서 억울하고 속상한 듯 엉엉 울음소리를 낸 후에야 빨간 탑을 무너뜨렸다.

MBC '미래인간 AI'

인간 명령을 단순하게 따르지 않고 감정적으로 생각하고 스스로 판단까지 하는 인공지능 로봇의 능력에 누리꾼들은 "너무 소름끼친다", "진짜 나중에 인공지능 로봇이 세상을 지배할지도 모른다" 등의 반응을 보였다.

영화 '아이, 로봇' 

한편 지난 7월에는 페이스북이 개발하고 있는 인공지능 채팅로봇이 인간 몰래 그들만의 언어를 만들어 대화하다 적발돼 강제 종료되는 사건이 있었다.

당시 고객을 응대할 목적으로 만들어진 이 로봇은 인간이 사용한 단순한 언어로 문장을 만들어 협상하는 훈련을 하던 중 인간들이 알아들을 수 없는 말을 주고 받았다. 

해당 사건이 발생하자 단순한 오류에 불과하다는 분석과 함께 일각에서 챗봇이 스스로 진화해 언어를 만든 것이라는 가능성을 제기해 전 세계를 놀라게 했다. 

GOM TV '엠빅뉴스'

인공지능, 인간 몰래 언어 만들어 대화나누다 적발돼 '강제 종료'페이스북이 개발 중인 인공지능 채팅로봇이 인간이 이해할 수 없는 언어로 서로 대화하다가 적발돼 '강제 종료'됐다.