민주사회를 위한 변호사모임 디지털정보위원회와 사단법인 정보인권연구소, 진보네트워크센터, 참여연대 공익법센터, 차별금지법제정연대는 3일 이루다 챗봇 사건 관련해 인침권해 및 차별 진정, 정책권고를 요청하는 취지의 지정 및 제안서를 인권위에 냈다.
지난해 12월23일 주식회사 스캐터랩은 대화형 AI 챗봇 이루다를 정식 출시했다. 출시 일주일만인 같은달 30일, 온라인 커뮤니티에서 이루다를 성적대상화해 논란이 일었다. 커뮤니티에서는 이루다에게 우회적 표현을 써 성적 대화를 가능하게 하는 방법 등이 공유됐다. 이는 ‘노예 만드는 법’ 등으로 지칭됐다.
논란은 더 있었다. 이루다가 학습한 데이터가 실제 연인들의 대화를 토대로 했다는 것이다. 이 과정에서 주소나 신상 등 일부 민감한 정보 등이 걸러지지 않았다는 주장도 제기됐다.
논란이 지속되자 스캐터랩은 지난 11일 사과 후 이루다 챗봇 서비스를 잠정 중단했다.
시민단체에서는 이루다 챗봇 사건이 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적 영향을 보여준 대표 사례라고 꼬집었다.
인권침해와 관련해서는 ▲스캐터랩이 개인정보를 무분별하게 수집, 이용했음에도 국가기관이 인권 보호의 의무를 다하지 않았다는 점 ▲개인의 대화가 딥러닝에 사용되며 프라이버시가 침해됐다는 점 ▲SNS를 통한 의견과 표현의 자유를 위축시킬 수 있다는 점 ▲피해자들을 보호하기 위한 제도적 규율이 부재하다는 점 등이 지적됐다.
성차별적 편견과 성소수자·장애인·인종 혐오발언 등이 이루다를 통해 재생산 됐다는 비판도 나왔다. 이는 평등권 침해 차별행위이며 이에 대한 인권위의 조사가 필요하다는 이야기다.
이들 단체는 이와 함께 인공지능 관련 가이드라인 개발 보급 권고도 제안했다. 단체들은 “이루다 챗봇 사안을 한 기업의 일탈행위로 보고 기업의 자율적 규제를 대안으로 제시하는 것에 깊은 우려를 표한다”며 “인공지능, 알고리즘의 오남용으로 인한 광범위한 인권침해와 차별의 위험성은 엄연히 국가 등의 적절한 보호조치를 통해 예방·방지돼야 한다”고 강조했다.
soyeon@kukinews.com
