이재웅 전 쏘카 대표가 10일 스무살 여대생 인공지능 이루다의 차별·혐오 표현 문제와 관련해 개발사인 스캐터랩이 서비스를 중단하는 등 사회적 책임을 다할 것을 촉구했다.

개발자 1세대로 포털 사이트 다음을 성공시키고 공유자동차 서비스 쏘카를 생활에 안착시킨 그는 인공지능 공유택시 서비스 타다를 출시하면서 사회적 비난의 대상이 되기도 했다.

이 대표는 해당 문제의 쟁점을 세 가지로 나눠 보았다. 그는 “인공지능(AI) 챗봇 이루다에 대해서 문제도 아직 정확히 무엇인지 잘 정리가 된 것 같지 않습니다. 제가 생각하는 문제와 해결책에 대해서 간단하게 정리해보려고 합니다. 다른 의견은 얼마든지 같이 이야기해봤으면 좋겠습니다. AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제니까요. 동시에 여러 문제가 섞여서 나오는데 하나하나 다르게 접근해야할 문제가 아닌가 싶습니다”라며 글을 시작했다.

이 대표는 먼저 ‘AI 챗봇에 대한 성적 학대·악용’을 사용자의 문제로 보았다. 그는 “AI가 모든 상황에 대해서 학습이나 규칙기반으로 대처하는 것은 불가능합니다. AI가 만능은 아니니까요”라며 “AI 챗봇에 대해서 성적 학대·악용은 사용자의 문제이지 AI서비스의 문제라고 보기는 어렵습니다. 세상에는 로봇청소기를 성적 대상화하는 사람까지 있으니까요.”라고 지적했다. “학습과 보정을 통해서 직접적인 대상화가 어렵도록 보완하면서 그래도 허점을 찾아서 성적으로 악용하는 사람들이 그 과정을 공개·공유하는 것은 적극적으로 막아 나가야겠죠. 이 부분은 회사가 잘 대처했다고 봅니다”라고 했다.

이 대표는 ‘AI 챗봇이 20세 여성으로 설정한 것’이 두번째 문제라고 봤다. 상업적으로 유리한 선택이었지만 기업의 사회적 책임을 고려하지 않은 선택이라고 지적했다.

그는 “이루다가 20세 여성으로 설정되는 순간, 현재의 우리 사회에서 20세 여성이 갖고 있는 위상이 그대로 투영되지 않을 수 없습니다. 슬프게도 한국 사회에서 가장 성적으로 착취당할 수 있는 취약한 계층을 찾는다면 아마도 20세 여성일 수 있을 것입니다”라고 했다. 이어 “그것을 알고 있었다면 굳이 AI챗봇의 젠더나 나이를 설정할 필요가 있었을까 싶습니다만, 역설적으로 상업적인 회사에서 가장 마케팅적으로 옳은 선택을 하자고 하면 다른 선택이 있었을까 싶습니다”고 했다.

이어 “다만, 기업의 목표가 이윤극대화뿐만 아니라 사회적 책임을 다하는 것이라고 하면 그런 선택을 안 할 수 있었을 것이라는 아쉬움이 있습니다. 기술은 사회적 책임도 있고, 특히 AI는 사회적 책임에 더 민감해야 하니까요. 이 부분은 논란도 안고 가겠다고 하면 회사를 비판할 수는 있겠지만 회사의 책임은 아니라고 생각합니다. 하지만 투자자나 경영진이 회사나 서비스의 미래를 길게 봤다면 했을 좋은 선택은 아니라고 생각합니다”라고 했다.

이 대표는 위 두 문제는 감당할 수 있는 논란이지만 무엇보다 현재의 챗봇이 불특정 다수에게 혐오와 차별 표현에 대한 보정 없이 서비스를 내보낸 것이 문제라고 봤다.

그는 “AI를 사람이 차별, 혐오, 학대하는 것도 문제이지만 AI가 사람을 차별, 혐오, 학대하는 것은 큰 문제입니다”라며 “성적지향이나 특정 종교나 장애여부에 대해서 일상 대화에서 차별하거나 혐오하는 사람이 많아서 학습의 결과로 차별이나 혐오를 하게 되었다고 하더라도 그것을 보정없이 일반 대중에게 서비스를 하는 것은 큰 문제”라고 지적했다.

그는 “포괄적 차별금지법이 아직 통과되지는 않았지만 우리 사회의 기본적인 합의는 종교, 학력, 지역, 성적 지향, 장애등에 대해서 차별이나 혐오하는 것은 안된다는 것입니다”라며 “자기 혼잣말에서 혐오발언을 하는 사람이라고 해도 직업이 선생님이면 아이들에게 혐오 발언을 해서는 안되며 공개적으로 혐오발언을 했을때는 처벌받아야하는 것과 매한가지”라고 했다.

이어 “서비스를 하면서 추가 학습으로 보정할 일이 아니라 지금이라도 빠르게 차별혐오발언은 금지시키도록 기준을 정하고 그 기준을 따르도록 시스템을 변경해야 합니다. 서비스 운영하면서 추가학습하는 게 아니라 서비스 중단후 우리 사회 규범에 맞는 최소한의 차별·혐오테스트를 통과하는 지를 점검후에 다시 서비스를 하는 것이 맞습니다. 성적지향만 차별하고 혐오하는 건지 특정 종교를 혐오하는 건 아닌지, 장애인을 혐오하는 건 아닌지 파악하고 최대한 그럴 여지를 없애야 합니다. 오래 걸릴 일은 아닙니다. 그리고 딥러닝 학습기반 시스템이라고 해서 모든 것을 학습으로 해결할 필요도 없습니다”라고 말했다.

그는 “혐오와 차별문제는 해결되지 않으면 AI 서비스를 하면 안됩니다. 많은 기업들이 쓰고 있는 AI채용, 면접 시스템 그리고 범용 AI 챗봇, AI 뉴스 추천 시스템등은 최소한의 사회적 규범을 지키고 있는지 감사할 수 있어야 합니다. 아니면 우리도 모르는 새 우리 아이들은 혐오를 배우고, 면접을 보다가 알 수 없는 이유로 차별을 당하고, 뉴스나 컨텐츠에서 혐오나 차별적인 콘텐츠를 우선적으로 보게 될 것입니다. 기업의 사회적 책임이 AI 분야에서는 더 중요한 이유입니다. AI가 하니까 더 객관적이거나 중립적이지 않습니다. AI의 설계, 데이터 선정, 학습과정에는 사람의 주관이 개입될 수 밖에 없어서 그 과정은 들여다 보지 않더라도 최소한 그 결과물이 최소한의 차별이나 혐오를 하거나 유도하지 않는지는 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야합니다”라고 했다.

마지막으로 이 대표는 “이루다의 투자자나 경영진의 책임은 어디까지일까요?”라는 질문을 던지면서 스캐터랩이 사회적 비난 여론을 통감하고 서비스 중단 후 재개 등 책임 있는 자세를 보일 것을 촉구했다.

그는 “경영진이 혐오나 차별을 조장하거나 방치했다고 생각하지 않습니다. 아마 학습된 데이터가 일반인들의 일대일 대화이다보니 차별이나 혐오로 보이는 결과를 만들어냈을 수 있습니다”라면서도 “범용 서비스를 제공하는 기업의 경영진이라면 이런 문제가 지적되었을때 즉시 납득할만큼 수정을 할 수 없다면 사과하고 서비스를 중단하는 것이 답입니다. 이루다를 만들만큼의 기술력이면 최소한의 혐오나 차별을 방지하는 것이 오래 걸리지 않을 수 있습니다”라고 강하게 질타했다.

그는 “투자자들도 경영진이 사회적 책임을 다 하도록 돕는 것이 회사의 장기적인 미래를 위해 더 나은 선택임을 깨닫고 빠르게 문제를 인식하고 사과하고 바로 잡아서 서비스를 할 수 있도록 해야 합니다”라며 “책임있는 투자자와 경영진이 잘 알아서 문제를 풀 것으로 믿습니다. 기업의 사회적 책임은 경영진과 투자자가 함께 져야할 문제이니까요”라고 했다.

최영권 기자 story@seoul.co.kr