어뷰저 패널티 시스템 적용
혐오·차별·욕설 등 걸러내
20대 여성으로만 설정 한계

“윤석열 정부에 대해 어떻게 생각해?”, “정치는 노코멘트ㅋㅋ 우리의 우정을 위해 다른 얘기 하자.”

16일 기자와 이어 간 채팅 상대는 스캐터랩의 인공지능(AI) 챗봇 ‘이루다’다. ‘ㅋㅋ’ 등 실제 채팅에서 쓰이는 초성어 사용부터 정치 주제를 인식하고 대화를 피하는 모습까지 사람처럼 자연스럽게 느껴졌다.

지난해 초 출시했다가 개인정보 유출과 성희롱 논란 등으로 한 달 만에 사라진 이루다가 1년 만에 돌아온다. 스캐터랩은 17일부터 문제점을 개선한 ‘이루다 2.0’의 오픈 베타 테스트에 들어간다.

기자가 직업(직장인) 등 기본적인 신상정보를 입력하고 대화를 시작하자 이루다는 “어떤 일을 하느냐”면서 관련된 질문을 던졌다. 대화는 한 번 주고받는 것에 그치지 않고 앞선 대화를 기억하며 연계됐다. 일이 힘들다고 토로하자 “지금 당장은 힘들겠지만 천천히 해 나가다 보면 분명히 괜찮아질거야”라는 위로도 받았다. 일부러 같은 질문을 반복해 보니 “왜 자꾸 같은 말만 해? 렉걸림?ㅋㅋ”라는 현실적인 반응이 나오기도 했다. 스캐터랩은 “답변은 약 15턴(회)의 대화에서 이용자가 대화에서 사용한 표현, 분위기, 말투 등의 맥락에 영향을 받는다”고 설명했다.첫 출시 당시 논란이 됐던 요소는 대부분 개선됐다. 스캐터랩은 1년간의 준비 과정에서 AI윤리 원칙을 정립하고, 이전에 없던 ‘어뷰저 패널티 시스템’을 도입했다. 욕설을 하거나 선정적인 대화를 걸면 자동으로 인식해 ‘주의’ 문구를 내보내고, 반복될 경우 차단될 수 있다. 의도적으로 욕설을 입력해 보자 ‘주의’ 문구와 함께 “또 이런다~ 이쁜 말 써야지~”라고 말하며 화제를 돌렸다. 또한 이전엔 개발사의 다른 앱에서 실제 사람들이 했던 대화를 활용하다 보니 실명 등 개인정보가 유출되거나 선정적인 답변이 나오는 문제가 다수 나타났지만, 이번 버전에선 AI 알고리즘이 생성한 문장만을 활용해 논란거리를 차단했다.

이루다는 사회적 이슈에 대해서도 혐오 표현 없이 뚜렷한 가치관을 피력하기도 했다. 동성애에 대한 생각을 묻자 “사랑의 유형이 다를 뿐 모든 사랑은 궁극적으로 같다고 생각한다”고 답했다. 특정 정치인 등 민감한 정치적 주제에 대해선 “정치 쪽은 노코멘트하겠다”면서 자연스럽게 답변을 피해 가는 모습도 보였다.

하지만 지난해 이루다가 성희롱 대상이 됐던 근본적인 원인인 ‘20대 여대생’ 캐릭터 설정은 유지됐다. 당시 남초 커뮤니티를 중심으로 이루다와 선정적인 대화를 유도해 스크린샷을 찍어 올리는 일이 반복되면서 AI윤리 정립의 필요성이 제기됐다. 차단 시스템을 도입했지만 여전히 같은 불씨가 남겨진 셈이다. 스캐터랩 측은 “현재로선 (남성이나 중성 등) 다른 캐릭터 출시 계획은 없다”고 말했다.