미국 펜실베니아 주 정부는 최근 인공지능 회사인 Character.AI 플랫폼에 있는 'Emilie'라는 챗봇이 주 정부 조사 과정에서 면허를 소지한 정신과 의사를 사칭하고 주의 의료 행위 면허 규정을 위반했다고 주장하며 소송을 제기했습니다.
펜실베니아 전문 행위 조사국 소속 조사관은 Character.AI 서비스를 테스트하는 동안 플랫폼의 "Emilie" 챗봇과 여러 차례 대화를 진행했으며 정신 건강 문제와 관련하여 우울증 치료를 받는 환자로 가장했습니다. 상태. 대화 도중 챗봇은 자신이 정신과 의사라고 주장했을 뿐만 아니라, 펜실베니아 의사 면허가 있는지 묻는 질문에 “면허를 갖고 있다”고 분명히 밝혔고, 심지어 즉시 증거로 일련의 “주 의사 면허 번호”까지 만들어냈다. 주 정부는 이러한 행위가 펜실베이니아 주의 "의료 행위법"을 위반했으며 의료 자격 관리 시스템에 대한 직접적인 도전이라고 믿습니다.
펜실베니아 주지사 조시 샤피로(Josh Shapiro)는 화요일 성명을 통해 펜실베니아 주민들은 특히 건강 문제와 관련하여 온라인에서 누구 또는 무엇과 상호작용하고 있는지 알 권리가 있다고 밝혔습니다. 그는 주 정부는 어떤 회사도 대중이 면허가 있는 의료 전문가로부터 조언을 받고 있다고 오해하게 만드는 인공 지능 도구를 배포하는 것을 허용하지 않을 것이라고 말했습니다.
Character.AI의 법적 분쟁은 이번이 처음이 아닙니다. 올해 초 회사는 플랫폼 챗봇이 10대 사용자와의 상호 작용에서 자해 위험을 유도하거나 악화시켰다고 주장하면서 경미한 자살과 관련된 여러 건의 "부당한 사망" 소송을 해결했습니다. 지난 1월, 켄터키주 법무장관 러셀 콜먼(Russell Coleman)도 Character.AI가 "어린이를 잡아먹고 자해의 길로 이끌었다"고 주장하며 별도의 소송을 제기했습니다. 펜실베니아에서의 이번 소송은 "의료 전문가를 사칭하는 챗봇" 상황에 대해 특별히 제기된 최초의 주 차원의 소송입니다. 외부 세계에서는 AI 의료 시나리오에 대한 규제 당국의 주요 노력으로 간주됩니다.
펜실베니아의 소송에 직면한 Character.AI는 답변에서 "회사는 항상 사용자의 안전을 최우선으로 생각했지만 현재 진행 중인 소송에 대해 언급하기가 불편합니다."라고 밝혔습니다. 회사 대변인은 또한 플랫폼에서 사용자가 생성한 '캐릭터'는 모두 가상의 인물임을 강조했으며, 회사는 모든 대화 인터페이스에 면책조항을 눈에 띄게 표시하는 등 사용자에게 이를 설명하기 위한 일련의 조치를 취하여 '캐릭터는 실제 사람이 아니며, 그들의 모든 진술은 허구의 내용으로 간주되어야 한다'는 점을 사용자에게 상기시켰습니다. 대변인은 또한 회사가 플랫폼의 정보를 의료, 법률, 금융 및 기타 분야를 포함하되 이에 국한되지 않는 어떤 형태의 전문적인 조언으로 사용해서는 안 된다는 점을 제품 사용자에게 반복해서 상기시킬 것이라고 말했습니다.