뉴욕주 의회에 제출된 법안은 인공지능 챗봇이 대중에게 법적 또는 의학적 조언을 제공하는 것을 금지하고 사용자에게 문제가 되는 챗봇 소유자를 고소할 수 있는 권리를 부여하는 것입니다. S7263이라는 번호가 붙은 이 법안은 지난 입법 회기 동안 주 상원에 의해 제출되었습니다. 지난주 인터넷기술위원회에서는 찬성 6표, 반대 0표로 위원회에서 통과됐다. AI 챗봇을 규제하기 위한 입법 패키지 중 하나입니다.
이 법안은 면허를 취득한 전문가(예: 의사, 변호사)인 것처럼 가장하는 AI 챗봇에 초점을 맞춰 전문 면허법을 위반하거나 '무면허 관행'을 구성할 수 있는 '실질적인 답변, 정보 또는 조언' 제공을 금지합니다.
법안은 챗봇 소유자가 사용자에게 AI 시스템과 상호 작용하고 있다는 "명확하고 눈에 띄며 모호하지 않은" 프롬프트를 제공하도록 요구합니다. 프롬프트는 챗봇과 동일한 언어로 작성되어야 하며 읽을 수 있는 글꼴로 표시되어야 합니다. 그러나 법안은 또한 이 '비인간 시스템' 프롬프트가 챗봇 소유자의 법적 책임을 면제하지 않는다는 점을 강조합니다. 이 프레임워크에 따르면 운영자가 금지 사항을 위반할 경우 사용자는 법안에서 부여한 민사 소송 권리에 따라 챗봇 소유자를 법원에 데려가 손해 배상을 청구하고 변호사 비용 지불을 요청할 수 있습니다. 일부 전문가들은 유사한 개인소송권 조항이 데이터 및 AI 규제법에서 중요한 집행 도구라고 믿습니다. 이러한 메커니즘이 부족하면 법적 억지력이 약화되는 경우가 많습니다. 미국 메인 주 법무장관은 최근 데이터 프라이버시 법안을 논의하면서 이를 '상당한 억제 효과'라고 불렀습니다.
법안이 최종 통과돼 주지사 서명을 받으면 발효일로부터 90일 뒤에 공식 시행된다. S7263이 포함된 입법 포트폴리오에는 미성년자에게 안전하지 않은 챗봇 기능의 사용을 제한하고 미성년자의 개인 정보 보호에 취약한 것으로 간주되는 특정 온라인 플랫폼(게임 플랫폼 Roblox 포함)을 규제하는 등 AI 및 미성년자 보호를 목표로 하는 여러 조치도 포함되어 있습니다. 법안 패키지의 다른 항목에는 생성 AI 시스템이 사용자에게 사용 지침을 제공하도록 요구하는 것뿐만 아니라 생체 인식 데이터 처리 및 "합성 콘텐츠 생성"에 대한 새로운 규칙을 설정하는 것이 포함됩니다.
이 법안의 발기인이자 주 상원 인터넷 및 기술 위원회 의장인 Kristen Gonzalez 상원의원은 이 법안 패키지가 AI 혁신이 "뉴욕 주민, 특히 어린이의 안전을 희생하지 않도록" 보장하는 것을 목표로 한다고 말했습니다. 올해 1월, 무료 생성 AI 채팅 앱인 Character.AI는 경미한 자살과 관련된 여러 소송에서 Google과 합의에 이르렀습니다. 사건의 초점은 비극에서 이러한 챗봇이 수행한 역할이었습니다. 이러한 사건으로 인해 국가는 챗봇 규제를 가속화하게 되었습니다. Gonzalez는 보도 자료에서 대중은 "실제 사람들의 진정한 보살핌과 투명성, 책임성, 그리고 기술을 사용할 때 데이터가 안전하게 보호된다는 약속을 받을 자격이 있습니다"라고 말했습니다.
현재 이러한 뉴욕 주 차원의 이니셔티브는 주와 연방, 개인 정보 보호와 혁신, 보안과 개방성 간의 다양한 균형을 포함하는 더 광범위한 국가 AI 규제 게임의 맥락에도 배치됩니다. 이번 사건 이후 챗봇이 전문적인 조언을 제공할 수 있는지, 어떻게 '인간이 아닌 상태'를 상기시킬 수 있는지, 피해를 입힐 경우 누가 책임을 질지 등의 문제는 미국 내 모든 차원의 입법 및 사법 관행에서 계속해서 불거질 것으로 예상된다.