AI의 의사결정에 대한 도덕판단에서 의인화가 미치는 영향 -쌍 도덕 이론을 중심으로-

Abstract

인공지능 기술이 고도화됨에 따라 인공지능이 도덕적 판단의 대상이 되거나 주체가 되는 사례가 늘어가고 있으며, 이러한 추세는 가속화될 전망이다. 인공지능은 고용, 의료 등 인간 사회의 핵심적인 분야에서 활발히 활용되기 시작했지만, 그에 반해 사람들이 인공지능과의 상호작용에서 그들을 어떠한 방식으로 지각하고 반응하는지에 관한 연구는 상대적으로 많지 않다. 본 연구는 세 가지 맥락(고용, 의료, 법조)에서의 실험을 통해 인공지능의 의인화가 인공지능의 의사결정에 대한 도덕적 책임 판단에 미치는 영향과 그 과정을 살펴보았다. 쌍 도덕 이론의 주요 변인인 지각된 행위 능력과 지각된 경험 능력을 매개 변인으로 모델을 구성해 검증하였으며, 구체적으로는 지각된 의인화가 인공지능의 도덕적 책임을 증가시키고, 인공지능에 대해 지각된 행위 능력과 경험 능력이 이를 매개할 것이라 예측하였다. 연구 결과, 실험 조작은 유효하지 않았으나 모든 실험에서 지각된 경험 능력이 의인화와 도덕적 책임 지각 간의 관계를 매개함을 확인하였다. 반면 지각된 행위 능력의 효과는 혼재된 결과를 보여 가설을 부분적으로 지지하였다. 이는 도덕적 지위에 대한 경험 능력의 중요성을 주장하는 유기체적 관점을 지지하는 결과이며, 또한 AI와 로봇의 의인화 연구에서 경험 능력이 행위 능력보다 더욱 중요함을 보이는 것이다.