요약:
생성 인공 지능이 미성년자의 정신 건강과 중독 위험에 미칠 잠재적 영향에 직면하여 Gavin Newsom 캘리포니아 주지사는 일련의 획기적인 네트워크 및 AI 보안 법안에 공식적으로 서명했습니다. 이 규정 패키지는 미성년자에게 서비스를 제공하는 AI 챗봇에 대해 엄격한 기능적 제한선을 설정한 미국 최초의 규정입니다. 또한 이는 소셜 플랫폼 알고리즘 유도 및 데이터 수집에 대한 법적 책임 메커니즘을 포괄적으로 업그레이드하여 캘리포니아가 매우 침해적인 디지털 기술로부터 미성년자를 보호하는 데 있어 미국에서 가장 엄격한 규제 기준을 다시 한 번 설정했음을 나타냅니다.
최근 몇 년 동안 의인화 상호 작용 기능을 갖춘 AI 동반자, 가상 튜터링, 롤플레잉 챗봇의 폭발적인 인기와 함께 젊은이들 사이에서 인공 지능 시스템에 대한 '의인화 된 정서적 애착' 현상은 의료 및 교육계에서 깊은 우려를 불러일으켰습니다. 여러 정신 건강 조사에 따르면 정신적 방어력이 부족하여 미성년자는 AI 모델을 비밀을 지킬 수 있는 진정한 친구로 쉽게 간주할 수 있으며, 상호 작용 과정에서 유해한 정보 유도, 자해 경향 증가, 심지어 정서적 조작까지 심각한 심리적 트라우마에 직면할 수 있습니다. 이번에 캘리포니아주 의회가 제출한 핵심 법안은 높은 접착성과 의인화된 특성을 지닌 이러한 유형의 인공지능 대화형 서비스를 정확하게 겨냥하고 있습니다.
새로 서명된 법안에 따르면 미성년자를 대상으로 운영되는 인공지능 챗봇 플랫폼은 엄격한 연령 기준과 안전 가드레일을 설정해야 합니다. 규정에서는 AI가 자해, 자살, 극심한 거식증, 폭력 또는 노골적인 성인 콘텐츠와 관련된 미성년자에게 유익한 발언을 출력하는 것을 명확하게 금지합니다. 시스템의 기본 논리 측면에서 플랫폼에는 민감한 단어 위험 제어 및 위기 개입 프로토콜이 내장되어 있어야 합니다. 알고리즘이 미성년자 사용자가 우울증, 자해 또는 절망을 표현하는 것을 감지하면 정기적인 대화를 즉시 중단해야 하며 공식 자살 개입 및 심리적 위기 지원 핫라인에 대한 직접 채널이 강제로 팝업되도록 해야 합니다. 또한, 새로운 법은 개발자가 AI의 인간이 아닌 속성을 미성년자 사용자에게 명시적으로 공개하도록 요구합니다. 의도적으로 잘못된 감정 유도를 생성하거나 아이들이 의존성을 느끼게 만드는 "감정적 유대감" 마케팅 수사를 확립하기 위해 알고리즘을 사용하는 것은 엄격히 금지됩니다. 또한 미성년자의 일일 사용 시간에 대해 선택적 자녀 보호 메커니즘과 야간 중독 방지 제한을 설정합니다.
AI 챗봇에 대한 특별 규정 외에도 Newsom이 서명한 법안 패키지는 미성년자를 위한 캘리포니아의 기존 온라인 개인정보 보호 프레임워크를 더욱 강화합니다. 새로운 규정은 주류 소셜 미디어 및 온라인 콘텐츠 플랫폼이 보호자의 명시적인 동의 없이 타겟 및 중독성 추천 알고리즘을 훈련하기 위해 미성년 사용자의 정확한 위치 정보, 탐색 시간 및 개인 검색 기록을 사용하는 것을 명시적으로 금지합니다. 다크 패턴을 사용하여 아이들이 지속적으로 정보 흐름을 새로 고치도록 유도하거나 자동 연속 재생을 시작하거나 게임에서 승인되지 않은 소액 거래를 유도하는 비즈니스 관행에 대해 규제 당국은 심각한 경제적, 행정적 처벌을 부과하고 주 법무장관이 개혁을 고집하는 위반 기술 회사에 대해 민사 소송을 제기할 수 있는 권한을 부여합니다.
법안에 서명한 많은 캘리포니아 의원과 아동 권리 옹호 단체는 트래픽과 사용자 끈적임을 추적하기 위해 기술 플랫폼이 오랫동안 미성숙한 미성년자를 중독과 심리적 조종의 위험으로 가득 찬 디지털 용광로에 넣어왔다는 점을 지적했습니다. 캘리포니아는 글로벌 기술 혁신의 핵심 엔진으로서 기술의 만연한 성장으로 인해 발생하는 어린이의 정신 건강 비용을 외면해서는 안 됩니다. AI 챗봇에 대한 명확한 도덕적 및 안전 경계를 설정하는 법안을 통과시키는 것은 차세대의 신체적, 정신적 건강을 보호하기 위한 시급한 조치일 뿐만 아니라 기술 기업이 사회적 책임을 이행하는 데 있어 실질적인 제약이 됩니다.
기술 업계와 디지털 법률 분석가들은 글로벌 디지털 경제에서 캘리포니아의 엄청난 규모와 실리콘 밸리의 선도적인 기술 기업의 집적 효과를 고려할 때 캘리포니아에서 통과된 일련의 소소한 인터넷 및 AI 보호 법안은 필연적으로 지역 간 '브뤼셀 효과'와 '캘리포니아 효과'를 낳을 것이라고 지적했습니다. 기술 아키텍처 측면에서 단일 국가의 사용자를 위한 별도의 버전을 개발하는 데 드는 비용이 매우 높기 때문에 다국적 기술 회사와 최첨단 AI 연구소는 이러한 엄격한 어린이 안전 필터 및 중독 방지 프로토콜 세트를 미국과 심지어 전 세계의 사용자 생태계로 직접 확장해야 할 가능성이 높습니다. 이 일련의 법안이 발효되면 AI 동반자와 청소년을 위한 소셜 도구의 규정 준수 비용이 크게 증가할 것임을 의미할 뿐만 아니라 미국 내 다른 주에 AI 시대 미성년자의 신체적, 정신적 건강 위기에 대처할 때 실질적인 가치가 큰 입법 청사진을 제공하게 될 것입니다.
댓글