인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제

Abstract

인공지능이 21세기의 핵심기술로 여겨진다. 희망과 기대가 높은 것에 비례해서 불안과 우려 역시 그에 못지않다. 이런 불안과 우려가 응축된 개념이 바로 알고리즘의 지배(Algocracy; Algokratie)의 위협이다. 알고리즘의 지배(Herrschaft der Algorithmen) 즉, 알고크라시는 다름 아닌 디지털지배(digitale Herrschaft)이다. 알고크라시는 공공의 의사결정과정의 정당성(legitimacy of public decision-making processes)을 위협한다. 자유로운 주체로서의 개인은 현대 헌법국가의 선험적인 존재이고, 모든 정당성의 최후의 주체이기에, 알고크라시는 매우 위협으로 다가오는 것은 자연스럽다. 공법에서 알고크라시의 문제는 궁극적으로 정당화(Legitimation)의 물음이다. 국가적 맥락에서 도입된 컴퓨터시스템의 아웃풋은 정당화의 주체가 결정을 통해 충분히 정해져 있다는 의미에서 정당화의 주체에 귀속될 수밖에 없다. 현재의 국가권력의 행사는 관료제의 아날로그 조직방식에 기반한 정당화의 구조에서 이루어져 왔는데, 컴퓨터시스템이 사람의 인식과정이 생략된 채 사람을 대신하여 어떤 결정을 내리고 행위를 하는 인공지능시스템은 분명 이런 전통적인 정당화의 구조와는 충돌한다. 따라서 인공지능시스템을 공공부문에 도입하는 데 있어서는 먼저 다소간 자율적인 컴퓨터시스템을 고권주체가 도입하는 것이 이런 범주에서 정당화될 수 있는지 여부와 아니면 디지털지배의 시대를 위한 새로운 정당화구상을 필요로 하지 않는지 여부의 물음이 검토되어야 한다.