AI 챗봇 '이루다' 논란에… 카카오 "'증오발언'에 강경 대응"

장우정 기자
입력 2021.01.13 17:37
국내 기업 중 처음으로 ‘증오발언 근절을 위한 카카오의 원칙’ 마련

최근 인공지능(AI) 챗봇 ‘이루다’가 증오·혐오 발언 등으로 사회적 논란이 된 가운데 카카오가 국내 기업 중 처음으로 이를 근절할 원칙을 만들어 운영정책에 반영했다고 13일 밝혔다.

앞서 이루다는 성소수자 등에 대한 혐오를 여과 없이 드러낸 사실이 알려지며 물의를 빚은 바 있다.

논란이 된 AI 챗봇 ‘이루다’의 동성애자 혐오 발언. /스캐터랩, 페이스북 캡처
논란이 된 AI 챗봇 ‘이루다’의 동성애자 혐오 발언. /스캐터랩, 페이스북 캡처
카카오는 이날 공식 브런치를 통해 ‘증오발언 근절을 위한 카카오의 원칙’이라는 제목의 글을 올리고 "카카오는 이용자 표현의 자유를 보호하려고 힘쓰고 있지만, 이들의 인권을 보호하는 것 또한 카카오의 중요한 책무"라면서 "표현의 자유를 남용해 타인의 안전을 위협하는 온라인 증오발언을 근절하기 위해 노력해 나가려한다"고 밝혔다.

카카오는 우선 국가, 지역 등 출신·인종·외양·장애·질병 유무·사회 경제적 상황 및 지위·종교·연령·성별·성 정체성·성적 지향 등을 이유로 특정인, 특정집단을 공격하는 발언을 ‘증오발언’으로 정의했다.

그러면서 증오발언은 다양한 이용자들이 발언에 나설 자유를 위축시키고, 우리 사회의 신뢰·건강성을 저해한다고 강조했다. 카카오는 이용자의 인권, 존엄성을 훼손하고 안전을 위협하는 이런 증오발언에 대해 강경 대처하겠다고 밝혔다.

다만 이런 원칙은 공개 게시물에 한정된다고 카카오 측은 설명했다. 카카오톡 사적 대화공간이나 메일, 톡서랍 등 개인화한 서비스, 커뮤니티 비공개 게시물 등에는 프라이버시 존중을 최우선가치로 적용한다는 것이다.

카카오는 한편으론 증오발언을 근절하기 위해 정책, 기술, 서비스 기획, 디자인을 고도화해나가겠다고 발표했다. 사내 교육, 모니터링 강화 등을 통해 카카오 내부로부터의 차별과 증오발언도 경계하겠다고 밝혔다.