AI 챗봇 '이루다 사태' 막기 위해 '여성 개발자' 더 뽑으라고 한 여성가족부

뉴스1

[인사이트] 함철민 기자 = 여성가족부가 인공지능 사업에 여성 개발자들을 늘려야 한다며 각 부처가 제도적으로 뒷받침할 것을 권고했다. 

지난 16일 여가부는 지난해 실시한 특정성별영향평가 결과를 토대로 AI 기술 연구 정책, 전문 체육 분야 등 10개 주요 정책에 대한 관계 부처에 정책 개선을 권고했다고 밝혔다. 

AI 기술이 활용되는 과정에서 성차별과 혐오 표현 등 부작용이 발생했고, 산업 내 인력의 성별 다양성도 부족하다고 지적했다. 

이는 지난해 불거진 이루다 사태를 지목한 것으로 보인다. 

Facebook '이루다'

뉴스1

딥러닝 기술로 설계된 AI 챗봇 이루다는 지난해 여성과 유색인종, 장애인, 성소수자 등을 향해 혐오 발언을 쏟아내며 논란이 됐다. 

"왜 흑인이 싫어?"라는 질문에 "징그럽잖아"라거나 "지하철 임산부석을 어떻게 생각해?"라고 묻자 "혐오스럽다"고 대답한 것. 

데이터를 무차별적으로 학습한 과정에서 사회적 편견과 혐오까지 습득한 결과로 결국 이루다 서비스는 논란 끝에 중단됐다. 

여가부는 이러한 부작용을 최소화하기 위해 AI 분야 인력의 성별 다양성을 지금보다 높여야 한다고 주문했다. 

기사와 관련 없는 자료 사진 / gettyimagesBank

여가부에 따르면 AI 사업을 추진 중인 기업의 여성 소프트웨어 전문 인력은 전체의 19.1%였고 이들 기업 중 여성이 대표인 경우는 3.1%에 불과했다. 

여가부는 과학기술정보통신부와 교육부에 AI 산업 인력의 성별 실태를 파악하고 대상별·생애주기별 맞춤형 AI 윤리 교육을 개발해 보급할 것을 권고했다. 

이 밖에도 여가부는 2020년 특정성별영향평가 결과에 따라 전문체육, 학교폭력, 국제결혼 등 10개 분야 정책에 개선을 권고했다. 

특정성별영향평가는 여가부가 양성평등 실현을 위해 개선이 필요한 중앙행정기관 및 지방자치단체 등의 정책 및 사업을 특정해 심층적으로 평가하고 필요한 기관에 개선을 권고하는 제도다.