더불어민주당 윤영찬 의원이 카카오에 뉴스 배치에 항의하는 문자 메시지를 보낸 것에 대해 카카오는 "2015년 6월부터 인공지능(AI)이 뉴스 편집을 담당했다. (뉴스)배치 등에 대해 사람이 간여할 여지가 전혀 없다"고 해명했다. 이에 '다음'을 창업한 이재웅 전 쏘카 대표는 "포털의 'AI가 했으니까 우리는 중립적이다'라는 이야기도 윤 의원의 항의만큼이나 무책임한 답변"이라고 지적했다.
이 전 대표는 9일 자신의 페이스북 계정에 "국회의원이 마음에 안 드는 뉴스가 메인에 올라왔다고 바로 포털 담당자를 불러서 강력히 항의하는 것은 문제라고 생각한다"면서 "하지만 과연 뉴스편집을 AI가 전담하면 뉴스의 중립성은 괜찮은 것이냐"는 내용의 글을 게재했다.
이 전 대표는 "많은 사람들이 AI는 가치중립적이라고 생각하지만 그렇지 않다. 규칙 기반의 AI는 그 시스템을 설계하는 사람의 생각이 반영될 수 밖에 없다"고 주장했다.
그는 "예를 들어서 AI 시스템이 채용면접을 한다고 했을 때 규칙기반의 AI는 그것을 설계한 사람이 학점에 비중 0.1 웃는 외모에 비중 0.2 수능성적에 비중 0.3 동아리 리더십 경력에 비중 0.2를 두겠다고 결정하면 그것에 맞춰서 계산해서 점수를 낸다. 중립적이고 차별이 없다고 이야기할 수 있나"라고 반문했다.
이 전 대표는 "그래서 AI시스템이 차별하지 않는지 정치적으로 중립적인지 판단하기 위한 감사 시스템이 필요하다. 어떻게 그런 판단을 했는지 들여다보고 분석해보지 않고 AI시스템이니까 중립적이라고 답하는 것은 잘못된 이야기다"며 "어떤 가치판단을 가지고 어떻게 뉴스편집을 하도록 설계된 AI인지를 밝혀야 한다"고 말했다.
그러면서 "뉴스편집 AI는 물론, 대출심사 AI, 채용면접 AI, 입학심사 AI, 자율주행 AI등 사람을 평가하거나 사람의 생각에 영향을 미치는 경우는 그 시스템이 우리 사회의 문화나 윤리를 잘 반영하는가 분석하고 감사해볼 필요가 있다. 아니면 우리도 알지 못하는 편향이나 차별을 기계에 의해서 강요받고도 책임을 묻지 못하는 슬픈 상황이 올 수도 있다"고 했다.
허남수 기자 kdf@kdfnews.com
