요약:
미국 유타주에서는 의료 인공지능의 적용 범위를 더욱 확대해 AI 시스템이 특정 조건에서 환자를 직접 평가하고 치료 계획을 결정하고 처방을 내릴 수 있도록 하고 있다. 새로운 파일럿 프로그램이 시작되면서 유타주는 미국에서 의료 AI 규제에 대한 가장 공격적인 테스트 장소 중 하나가 되고 있습니다.
이 새로운 프로젝트는 의료 AI 스타트업 Nolla Health가 시작했으며 주로 경증에서 중등도 여드름 환자를 대상으로 합니다. 사용자는 먼저 앱을 통해 얼굴 사진을 찍고 병력과 개인정보를 입력해야 한다. AI는 피부 상태를 분석하고 여드름의 심각도를 평가한 뒤 환자가 제공한 의료 정보를 바탕으로 승인된 약물 목록에서 적합한 치료 계획을 선택한다.
기존 원격의료와 달리 이 과정의 핵심은 AI가 먼저 검사를 완료한 후 의사가 최종 진단을 내리도록 하는 것이 아닙니다. 대신 AI가 약품 처방 여부에 대한 최종 결정을 내리고 환자가 지정한 약국에 처방전을 직접 보낼 수 있도록 해준다.
그러나 이 프로젝트가 처음부터 의사의 개입을 완전히 없애지는 못했습니다. 파일럿의 초기 단계에서 AI로 생성된 모든 처방전은 유타 면허를 소지한 의사의 검토와 서명이 필요합니다. 프로젝트가 진행됨에 따라 의사 참여가 점차 줄어들어 결국 AI가 의사의 사전 검토 없이 자격을 갖춘 처방전을 발행할 수 있게 됩니다.
유타 주 당국이 발표한 파일럿 계약에 따라 Nolla Health는 현재 성인 환자의 경증에서 중등도 여드름만 치료할 수 있으며 처방 범위는 지정된 크림과 젤을 포함한 소수의 국소 약물로 엄격히 제한됩니다. 이 시스템은 심각한 여드름 치료에 사용할 수 없으며 경구 약물이나 이소트레티노인과 같은 더 위험한 치료 옵션을 처방할 수도 없습니다.
환자는 신원과 연령 확인도 받아야 하며 처방전은 유타 주소로만 보낼 수 있습니다. 심한 여드름 환자, 임신 중이거나 임신을 계획 중인 환자, 수유 중인 환자, 면역체계가 저하된 환자, 관련 약물에 부작용을 보인 환자 등의 경우 AI 시스템이 자동 처방 과정을 중단하고 인간 의료진에게 전달해야 한다.
유타주가 이런 실험을 할 수 있는 이유는 최근 주정부가 구축한 'AI 규제 샌드박스' 시스템과 관련이 있다. 이 시스템을 통해 기업은 명확하게 정의된 한도 내에서 일부 기존 규제 요구 사항을 일시적으로 면제하면서 정부 감독 하에 인공 지능 제품을 테스트할 수 있습니다.
이는 회사가 무제한의 'AI 의료 라이센스'를 취득하는 것이 아니라, 주 정부 및 관련 규제 기관과 협약을 체결한 후 제한된 기간 동안 특정 제품, 특정 질병, 특정 집단에 대한 테스트를 수행할 수 있다는 의미입니다. 기업은 계약에서 면제되지 않는 기타 법적 요구 사항을 계속 준수해야 합니다.
실제로 올해 초 유타주는 AI가 처방전 리필을 자동으로 처리할 수 있도록 허용한 미국 최초의 주가 되었습니다. 당시 닥트로닉은 장기간 치료를 받은 환자들에게 의사의 직접적인 개입 없이 일부 만성질환 약물을 재처방할 수 있는 AI 의료 서비스를 출시했다.
이 프로그램은 일반적으로 사용되는 약 190개의 비통제 약물을 다루지만 진통제, 주사제 및 ADHD 치료에 사용되는 일부 약물은 포함하지 않습니다. 환자는 먼저 신원 확인과 의료 정보 확인을 거쳐야 하며, AI는 과거 처방과 환자의 현재 상태를 기반으로 리필 허용 여부를 결정합니다.
유타주의 현재 새 정책은 AI 의료 실험이 '자동 리필'에서 '첫 번째 처방'으로 더 나아가고 있음을 의미합니다. 둘 사이에는 분명한 차이가 있습니다. 리필은 환자가 이전에 의사로부터 치료 계획을 처방받았다는 것을 의미하고, 처음 처방은 AI가 환자의 현재 상태에 따라 새로운 임상 결정을 내려야 함을 의미합니다.
놀라헬스 프로젝트가 주목받는 이유다.
유타주 당국은 Nolla Health가 프로그램 초기에 두 명의 공인 의사가 모든 처방전을 검토하도록 요구합니다. 프로젝트가 진행됨에 따라 감사 방법은 점차 사후 감사 및 무작위 조사로 변경될 수 있지만, 새로운 단계에 들어갈 때마다 주 정부의 서면 승인을 받아야 합니다.
또한 기업은 전문가 책임 보험에 가입하고 부작용이 발생한 후 규제 기관에 보고해야 합니다. 동시에 약국은 처방전이 AI 시스템에 의해 생성된다는 점을 명확하게 알려야 하며 문제를 처리하기 위해 관련 의사에게 연락할 수 있어야 합니다.
유타 규제 당국은 또한 기업이 다른 용도로 환자 데이터를 판매하거나 전송하지 못하도록 요구하고 AI와 의사 판단 간의 일관성 정도와 같은 지표를 포함하여 프로젝트 운영에 대한 데이터를 정기적으로 제출해야 합니다.
유타 정부는 이 모델이 AI가 일부 일반적이고 위험도가 낮은 의료 시나리오에서 의료 비용을 절감하고 의사 자원 부족 문제를 완화할 수 있는지 여부를 탐색할 수 있다고 믿습니다. 상대적으로 간단한 질환을 앓고 있는 일부 환자의 경우 휴대폰을 통해 평가를 완료하고 약을 처방할 수 있으면 병원까지 이동하는 데 소요되는 시간과 비용을 잠재적으로 줄일 수 있습니다.
그러나 의료계에서는 이 모델에 대해 명백한 논란이 있었습니다.
겉보기에 단순해 보이는 질병이라도 의사들은 약을 처방할 때 표준화된 질문과 답변을 통해 쉽게 발견할 수 없는 환자의 나이, 병력, 기타 약물, 알레르기, 일부 임상 징후 등을 고려해야 한다는 것이 비판론자들의 의견이다. 판단을 전적으로 AI에 의존하면 시스템이 중요한 정보를 놓치면 잘못된 치료가 발생할 수 있습니다.
올해 초 유타주의 AI 약품 리필 시스템 안전성 테스트도 논란을 불러일으켰다. 보안 연구원들은 상대적으로 간단한 프롬프트 단어 공격을 사용하여 관련 AI 시스템이 특정 약물의 복용량을 잘못 늘리고 위험한 약물 권장 사항을 제공하는 등 잘못된 의학적 조언을 생성하도록 했습니다. 이러한 테스트는 의료 AI와 일반 챗봇의 차이점을 더욱 강조합니다.
의료 AI의 가장 큰 위험 중 하나는 일반 챗봇의 잘못된 답변이 단순히 잘못된 정보로 이어질 수 있다는 것입니다. 그러나 의료 AI가 약을 처방할 권한을 갖게 되면 오류가 실제 의료 결과로 직접 이어질 수 있습니다.
따라서 현재 유타의 파일럿은 실제로 매우 중요한 질문을 탐구하고 있습니다. 어떤 조건에서 인공 지능이 '의사를 위한 보조 도구'에서 '의학적 결정 실행자'로 전환될 수 있는지입니다.
지지자들은 AI가 반드시 의사를 대체할 필요는 없지만 표준화되고 반복적이며 상대적으로 위험이 낮은 작업을 많이 수행할 수 있다고 믿습니다. 예를 들어, 간단한 피부 질환 평가, 장기 만성 질환에 대한 약물 리필, 명확한 임상 지침을 준수하는 기타 상황은 AI가 의료 시스템에 진입하는 첫 번째 영역이 될 수 있습니다.
반대자들은 일부 사례가 단순해 보이더라도 모든 환자가 표준 모형에 적합하다고 가정할 수는 없다고 주장합니다. 특히 AI가 처방할 수 있는 권한을 갖게 되면 시스템 오류로 인한 비용은 일반적인 정보 질문 및 답변 오류보다 훨씬 더 높아질 것입니다.
현재 유타주는 AI가 제한 없이 '의사가 되는 것'을 허용하지 않습니다. 놀라헬스의 여드름치료제와 기존 AI 약물 리필 프로젝트 모두 엄격하게 특정 약물, 특정 환자, 특정 프로세스에 국한돼 있어 기업은 지속적인 감독을 받아야 한다.
그러나 산업 발전의 관점에서 유타주의 중요성은 여전히 매우 특별합니다. 과거 의료 AI는 주로 영상인식, 보조진단, 의무기록 수집, 의사결정지원 등에 활용됐으나, 이제는 AI가 점차 실제 임상 의사결정 권한을 확보하기 시작했다.
이러한 파일럿을 통해 AI가 엄격한 제한과 지속적인 검토에 따라 일부 저위험 의료 작업을 안전하게 완료할 수 있음을 입증할 수 있다면 미국의 다른 주에서는 향후 유사한 모델을 참조하여 의료 분야에서 AI 적용 범위를 더욱 완화할 수 있습니다.
반대로, 파일럿 과정에서 심각한 의료 오류가 발생하거나, 시스템이 공격을 받거나, AI 판단이 전문 의사의 판단과 크게 벗어나는 경우, 유타 실험은 규제 기관이 의료 AI 권한을 강화하는 중요한 사례가 될 수도 있습니다.
최종 결과가 어떻든 유타에서 진행 중인 실험은 분명한 변화를 의미한다. 인공지능이 의료 산업에 진출하는 단계는 '의사의 업무를 돕는 단계'에서 '제한된 범위 내에서 직접 의료 결정을 내리는 단계'로 점차 옮겨가고 있다. AI가 이러한 책임을 맡을 수 있는지 여부는 더 이상 실험실의 기술적인 문제가 아니라 실제 환자와 실제 처방을 통해 점점 더 테스트될 것입니다.
댓글