[더퍼블릭 = 최태우 기자] 혐오 발언과 개인정보 유출 등의 논란에 중심에 있던 인공지능(AI) 챗봇 ‘이루다’가 서비스를 잠정 중단한다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 실제 연인들이 나눈 대화 데이터 100억건가량을 학습시켜 자연스러운 대화가 가능한 것이 특징이다.
자연스러운 대화 능력으로 최근 이용자가 약 75만명에 달하는 등 크게 주목받았지만 악성 이용자로부터 성적 접근 대상이 된 데 이어 동성애·장애인·여성 차별 발언을 해 연일 논란을 일으켰다.
또 개인정보가 제대로 익명화되지 않았다는 의혹도 불거졌다. 대화 중 특정인의 이름을 언급하거나 아파트 동·호수가 포함된 주소를 말하는 사례가 발견되면서다.
이루다 개발사인 스캐터랩은 11일 보도자료를 내고 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.
특히 차별·혐오 발언이 지속되지 않도록 서비스를 대폭 개선하겠다고 약속했다. 스캐터랩은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI로 배워야 할 점이 아직 많다”며 “적절한 답변, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 설명했다.
또 자사 애플리케이션에 가입한 회원들의 카카오톡 대화 내용 등 개인정보 유출 의혹에 관해서도 “개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다”라고 사죄했다.
이어 “앞으로 편향 대화 검출 모델은 모든 분이 사용하실 수 있게 공개할 계획”이라며 “한국어 AI 대화 연구 및 AI 제품, AI 윤리 발전에 유용하게 쓰일 수 있으면 좋겠다”고 덧붙였다.
[사진제공=연합뉴스]
더퍼블릭 / 최태우 기자 therapy4869@daum.net
더퍼블릭 / 최태우 therapy4869@daum.net