홈 인간 행동 배우라고 했더니 '우울증·알코올 중독'까지 그대로 따라 해버린 AI들 (연구)
인간 행동 배우라고 했더니 '우울증·알코올 중독'까지 그대로 따라 해버린 AI들 (연구)

인사이트Unite.AI


[인사이트] 강유정 기자 = 인공지능 AI 기술이 급속도로 발전하면서 점차 우리의 생활에 큰 비중을 차지해나가고 있다.


이런 가운데 AI에 대한 놀라운 연구 결과가 나와 화제다.


지난 18일(현지 시간) 인공지능 전문 매체 'Unite.AI'는 최근 발표된 중국의 새로운 연구 결과를 보도했다.


보도에 따르면 중국 과학원(ICT) 컴퓨팅 기술 연구소 및 베이징 중국 과학원 대학 연구원, 위챗/텐센트 패턴 인식 센터 연구원으로 이루어진 연구팀은 최근 음성이나 문자를 통해 유저와 소통하는 챗봇에 사용되는 AI에서 우울증과 알코올 중독과 같은 정신 질환을 발견했다.


인사이트기사와 관련 없는 자료 사진 / gettyimagesBank


연구팀은 중국 챗봇 회사, 위챗, 텐센트 엔터테인먼트 그리고 다양한 AI 업체와 협력했다.


여기에는 페이스북의 블렌더봇(BlenderBot), 마이크로소프트의 디아블로GPT(DiabloGPT), 구글의 다이얼로그플로우(Dialogflow), 텐센트의 플라토(PLATO) 등이 포함됐다.


연구 결과 AI들은 공감 능력이 매우 낮게 나타났으며 병적 우울증과 분노, 불안 알코올 중독 등의 증상도 확인됐다.


모든 AI가 공감 능력에서 평균 이하의 점수를 받았으며 절반은 알코올 중독으로 평가됐다.


인사이트연구팀이 AI의 우울증, 부안, 알코올 중독, 공감 능력을 분석한 결과 / Unite.AI


연구팀의 분석 결과 모든 챗봇은 심각한 심리 건강 상태를 보였으며 데이터 세트 구축 및 모델 훈련 과정에서 정신 건강 위험을 소홀히 했기 때문으로 추측됐다.


인간으로부터 학습하다 보니 정신 건강에 위험이 따르게 됐고 이를 간과했기 때문에 이런 결과가 발생했다는 것.


연구팀은 이런 AI 챗봇이 대화 중인 유저, 특히 미성년자와 심리적 어려움을 겪는 이들에게 부정적인 영향을 미칠 수 있다고 경고했다.


이에 챗봇을 온라인 서비스로 출시하기에 앞서 정신 건강 차원에 대한 평가가 시급하다고 강조했다.


인사이트영화 '아이, 로봇'에 등장한 인공지능 비키 / 영화 '아이, 로봇'


앞서 지난 2020년 프랑스 기업 나블라(Nabla)가 테스트한 인공지능 챗봇이 죽음에 대한 충동을 느끼는 환자에게 극단적 선택을 권유했다는 보도가 나와 전 세계가 충격에 빠진 바 있다.


이에 AI가 빠르게 발전하고 인간의 생활에 깊숙이 파고들고 있는 만큼 이런 부작용을 면밀히 체크하고 보완해야 한다는 지적이 이어지고 있다.