의료 AI에 대한 규제체제와 책임의 귀속 - 진단 AI와 수술로봇을 중심으로

Abstract

현 단계의 수술로봇은 현상적 차원에서의 자율성을 전제하는 AI 와 구별될 수 있고, 자율성을 전제하는 AI의 권리주체성 논의는 적용되기 힘들다. 따라서, 현재 수준의 수술로봇에 대해서는 단순히 의사가 의료행위를 실행하는데 필요한 도구로서의 지위를 부여할 수밖에 없다. 하지만, 장래에는 AI 수술로봇, 즉 수술실에서 환자의 진단정보를 기반으로 수술환경을센서로 지각해 자율적 판단으로 수술작업을 담당하는 AI 수술로봇이 등장할 수 있는 것으로 보인다. 이러한 AI 수술로봇의 상용화를 위해서는 먼저 (i) 식품의약품안전처에 의해 “자율수술시스템” 안전기준을 포함해 AI 수술로봇에 대한 안전기준이 제정되어야 하고, (i) 문제된AI 수술로봇이 해당 안전기준에 따라 제작되었는지 검증해 인증하는 절차를 설정하여야 한다. 동시에 보건복지부는 (i) AI 로봇 안전기준을 통과한 AI 수술로봇으로 로봇 수술을한 경우 수술에 직접 참여하지 않은 의사를 어느 정도로 면책시켜 줄 것인가에 대하여, 또한 (iv) AI 수술위험의 사회화 여부를 판단해 의료기관 개설자에 대해 AI 수술에 대한 위험책임을 부과할 것인가 등에 대하여 정책 결정을 하여야 한다. 진단 AI는 인공지능을 이용해 질병을 진단, 관리하거나 예측하는 기능을 수행할 수 있다. 이 점에서 현 단계의 진단 AI는 현상적 차원에서의 자율성을 전제하는 AI로 취급할수 있고, 자율성을 전제하는 AI의 권리주체성 논의가 적용될 수 있다. 하지만, 의료기관에서 진단 AI를 이용하는 모습을 보면 수술로봇과 같이 단순한 도구로만 사용하고 있고, 그자율적 결정에 대하여 독자성을 부여하지 않는다. 즉 의료기관 혹은 의사가 진단 AI를 이용해 진단하더라도 최종적 결정은 스스로 행하는경우 의료기관 혹은 의사가 직접 의료행위를 담당한다고 볼 수 있기 때문에 현재와 같이병원과 의사는 모든 의무와 책임을 부담하고, 책임법적으로 AI의 책임으로 다룰 수 있는쟁점은 발생하지 않는다. 하지만, 진단 AI의 진단율이 진단의보다 높아지고 또한 진단행위의 자율성을 고려한다면, AI의 진단행위에 대해서 진단의의 주의의무를 감경 혹은 면제해줄 가능성이 존재한다. 그런데, 진단 AI를 이용하는 진단의와 의료기관에 대해 주의의무를 실제로 감경 혹은면제해 주기 위해서는 (i) 진단 AI의 진단능력이 진단의 수준을 넘어서야 하고, 또한 (i)그 수준을 담보할 수 있는 진단 AI 에 대한 인증절차가 설정되어야 하고, (i) 그 인증기준으로서 “자율진단시스템” 안전기준이 제정되어야 한다. 이러한 진단 AI의 안전기준규제체제가 설정되면 인증된 진단 AI를 사용한 진단의의 주의의무를 어느 정도로 면책시킬 것인가의 논의가 진행될 수 있고 보건복지부는 이에 대한 정책적 결정을 해야 할 것이다.