최종편집 : 2021-02-28 13:27 (일)
인공지능(AI) ‘이루다’ 논란의 전말
상태바
인공지능(AI) ‘이루다’ 논란의 전말
  • 이민정 기자
  • 승인 2021.01.15 15:57
  • 댓글 0
이 기사를 공유합니다

ⓒ이루다 페이스북
ⓒ이루다 페이스북

[프롤로그=이민정] 인공지능(AI) 챗봇 ‘이루다’가 혐오 발언 및 개인정보 유출 등의 논란 끝에 지난 12일 서비스를 잠정 중단한다고 발표했다. 서비스가 출시된 지 약 20일 만의 일이다.

◆ 출시 직후부터 Z세대의 붐으로

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 지난해 6월 베타 서비스를 이후 약 6개월 뒤인 12월에 정식 출시됐다.

이루다는 출시 직후부터 Z세대(1990년대 중반~2010년대 초중반생) 사이에서 빠르게 유행하며 붐에 가까운 큰 인기를 끌었다. 인기 비결로는 그동안 출시됐던 어떤 AI 챗봇보다도 ‘진짜 사람’ 같다는 점이 꼽혔다.

ⓒ이루다 페이스북
ⓒ이루다 페이스북

특히 20대 여성을 컨셉으로 만들어진 이루다는 만화에서 튀어나온 듯한 귀여운 인상으로 딥러닝 알고리즘을 이용해 실제 인간과 많은 유사성을 보였고, 이러한 점은 젊은 층의 흥미를 끌기에 적격이었다.

실제 이루다는 출시 3주 만에 이용자가 80만 명을 넘어선 것으로 나타났다. 연합뉴스에 따르면 사용자 중에서 85%가 10대, 12%가 20대였고, 일일 이용자 수(DAU)는 약 21만 명, 누적 대화 건수는 7천만 건에 달한 것으로 나타났다.

◆ 성희롱·성소수자 혐오·개인정보 유출 등 논란의 중심으로

엄청난 인기를 뒤로 이루다는 출시 직후부터 일부 남초(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하는 등 악용 사례가 드러났다. 이어 성소수자에 어떻게 생각하느냐는 질문에 혐오스럽다는 답변을 하는 등 성소수자 혐오 논란에 휩싸이며 사회적 논란을 빚었다.

이 같은 논란이 불거지자 이루다의 개발사인 스캐터랩 측은 "금지어 필터링을 피하려는 시도가 있을 거라고는 예상했지만, 이 정도의 행위는 예상치 못했다"며 당황스럽다는 반응을 보였다. 그럼에도 비난이 사그라지지 않자 스캐터랩은 11일 입장문을 통해 AI 챗봇 이루다를 둘러싼 논란에 대해 사과하며 “저희는 이루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다. 일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다"고 12일부터 이루다 서비스를 중단하겠다고 발표했다.

ⓒ연합뉴스
ⓒ연합뉴스

이후 서비스가 중단됐지만, 개발사인 스캐터랩 측이 과거 출시한 ‘연애의 과학’ 앱에서 수집한 실제 연인들의 카톡 대화 데이터로 이루다를 학습시키면서 개인정보를 유출했다는 의혹이 떠올랐다. 대화 내용 중 실제 주소와 사람 이름, 주소, 계좌번호 등이 포함되면서 스캐터랩이 이루다 서비스를 ‘연애의 과학’ 이용자들의 카카오톡 대화를 무단으로 활용해 제작했다는 주장이 나온 것이다.

스캐터랩은 11일 “연애의 과학이 개인정보 수집·이용에 동의를 받는 방법은 실제로 국내외 서비스들이 채택하고 있는 동일한 방법으로, 내부적으로 법적 문제가 없으리라 판단했다”고 설명했다. 앞서 2006년 ‘연애의 과학’은 스캐터랩이 출시한 서비스로, 이용자가 5천 원가량을 내고 자신의 카카오톡 대화를 넘기면 대화 내용을 분석해 연애 조언을 제공하는 서비스다. 스캐터랩은 연애의 과학이 카카오톡 대화 100억 건을 수집했고 이를 통해 AI 성능을 높였다고 홍보한 바 있다.

그러나 곧이어 연인들의 대화 데이터를 스캐터랩 사내 메신저에 부적절하게 공유한 직원들이 있었다는 전직 직원의 폭로와 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 ‘깃허브’에 공유한 의혹 등도 이어지면서 해명을 요구하는 여론이 빗발쳤다.

이에 한국인터넷진흥원(KISA)과 개인정보보호위원회 등은 정보 수집 과정에서 개인정보 이용·활용 동의를 제대로 받았는지, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 했는지 등을 중점으로 조사에 들어갔다. 가까운 시일 내에 스캐터랩에 자료 제출을 요구하고 현장 조사도 검토할 예정이라고 밝혔다.

스캐터랩 측은 15일 보도자료를 통해 "이루다 DB는 비식별화(익명화) 절차를 거쳐 개별적·독립적인 문장으로 이뤄져 있고, 딥러닝 대화 모델은 대화 패턴만 학습하기 때문에 개인정보 유출 위험은 전혀 없다"고 주장하면서도 "이용자들 불안감을 고려해 개인정보보호위원회·한국인터넷진흥원(KISA) 합동 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델을 폐기하겠다"고 발표했다.

◆ 이루다 논란, 개발자와 이용자 간 윤리 원칙의 중요성 등 화두 던져

이번 논란을 두고 서울과학기술대학교 IT정책전문대학원 이광석 교수는 "데이터 설정의 편향성도 문제지만, 더 큰 문제는 사적 정보 유출"이라고 분석했다. 또 그는 "대화 내용의 익명화(비식별화)도 제대로 하지 않은 데다, 정보 이용에 대한 동의도 가입자에겐 받았을지언정 같이 대화한 사람에겐 전혀 받지 않았다. 비윤리적일 뿐 아니라 법적인 문제가 결합해 개발사의 일차적 책임이 상당히 크다"고 지적했다.

한편, 이번 논란은 짧은 시간 동안 20대 여성으로 설정된 AI의 성적 대상화와 성소수자 등에 대한 편향성 논란, 실제 대화 내용 수집으로 인한 개인정보 유출 의혹까지 사회의 여러 문제를 드러냈다. 신기술에 동반돼야 할 윤리 원칙의 중요성과 개발자 윤리만큼이나 이용자 윤리의 중요성, 그리고 기업의 사회적 책임이 얼마나 중요한지를 몸소 보여준 예로 남았다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사