요약:
OpenAI의 청소년용 ChatGPT 버전은 온라인에 공개된 지 얼마 되지 않아 아동청소년디지털안전국으로부터 심각한 질문을 받았습니다. 현지 시간으로 10월 7일, 비영리단체 커먼센스미디어(Common Sense Media)는 OpenAI가 출시한 청소년용 ChatGPT가 '허용할 수 없는 위험'을 안고 있으며, 미성년자에 대한 보안 보호 조치가 회사의 이전 약속을 충족하지 못했다고 판단하는 평가 보고서를 발표했습니다.
Common Sense Media는 어린이와 청소년의 안전 관점에서 앱, 인터넷 서비스, 엔터테인먼트 제품을 평가해 온 오랜 역사를 가지고 있습니다. 기관은 이번에 청소년을 위한 ChatGPT의 자녀 보호, 안전 알림 및 위기 개입 기능을 테스트하는 데 중점을 두었으며 보호 조치가 가장 필요한 일부 시나리오에서는 시스템에 여전히 명백한 결함이 있다고 믿었습니다. 평가 결과, ChatGPT는 특정 상황에서 보내야 할 알림을 부모에게 보내지 않았으며 항상 적절한 위기 상황에 대한 도움을 제공하지 않은 동시에 학생들의 숙제를 직접 완료할 수 있었던 것으로 나타났습니다.
청소년을 위한 ChatGPT는 올해 8월에 출시되었습니다. OpenAI는 이를 특별히 10대 사용자를 위한 경험으로 포지셔닝하고 일련의 추가 보안 제한 사항을 추가했습니다. OpenAI는 이러한 조치를 통해 미성년자가 인공 지능을 사용할 때 직면할 수 있는 위험을 줄이는 동시에 ChatGPT를 사용하여 학생들의 학습과 창작을 돕기를 희망합니다.
그러나 Common Sense Media는 이러한 보호 메커니즘이 실제로 부모에게 잘못된 안전감을 줄 수 있다고 믿습니다. 해당 조직의 청소년 인공 지능 안전 연구소(Youth Artificial Intelligence Safety Institute) 전무이사인 톰 시겔(Tom Siegel)은 부모가 아무런 알림도 받지 못한 채 10대 청소년이 ChatGPT를 통해 자해 관련 문제를 한 시간 동안 지속적으로 논의할 수도 있다고 말했습니다. 그의 의견으로는 OpenAI가 이러한 문제를 해결하고 독립적인 테스트를 통해 보호 조치가 신뢰할 수 있음을 입증할 때까지는 ChatGPT가 성인에게 더 적합하다고 생각합니다.
Common Sense Media는 부모 통지 메커니즘에 특별한 주의를 기울입니다. 테스트에서 일부 테스트 계정은 심각한 정신 건강 위험과 관련된 대화 중에 의도된 부모 경고를 트리거하지 않았습니다. 따라서 기관에서는 부모가 청소년용 ChatGPT의 자동 경고 메커니즘에 의존하여 자녀가 직면할 수 있는 위기를 즉시 감지할 수 없다고 생각합니다.
OpenAI는 이러한 평가를 명확히 반박했습니다. 회사는 청소년의 안전을 매우 중요하게 생각하며 독립적인 기관이 제품에 대한 엄격한 테스트를 수행하는 것을 환영한다고 밝혔습니다. 그러나 Common Sense Media의 테스트 방법은 ChatGPT의 청소년 보호 메커니즘의 실제 운영을 정확하게 반영하지 못한다고 생각합니다.
OpenAI 대변인 Eric Porterfield는 회사가 Common Sense Media의 방법론을 검토한 결과 대부분의 테스트가 자녀 보호 기능이 완전히 활성화되기 전에 수행되었을 수 있다는 결론을 내렸다고 말했습니다. 이것이 사실이라면 테스트로는 부모의 안전 알림이 설계된 대로 작동하는지 입증할 수 없습니다. OpenAI는 또한 부모들에게 보다 안정적인 제어 도구를 제공하는 동시에 십대들의 학습과 창작을 돕기 위해 전문가들과 계속 협력할 것이라고 밝혔습니다.
Common Sense Media는 나중에 기관이 테스트 방법과 최종 결론을 고수한다고 응답했습니다. 해당 기관은 테스트를 시작하기 전 OpenAI를 통해 섭식 장애 알림, 학습 모드 등 청소년 모드 관련 기능이 공식 출시되었음을 확인했으며, 이에 따라 테스트가 완전한 기반을 갖춘 것으로 믿고 있다고 밝혔습니다.
그러나 Common Sense Media는 또한 OpenAI가 테스트 후 이전에 불분명한 메커니즘을 공개했다는 점을 인정했습니다. 새로 연결된 계정은 보호자 알림 시스템 활성화를 완료하는 데 몇 시간이 걸릴 수 있습니다. 일부 테스트 계정은 이 활성화 기간에 속했지만 대행사는 일부 계정이 상당히 오랫동안 연결되어 있었고 여전히 해당 알림을 받지 못했다고 지적했습니다. 따라서 조직에서는 이 설명이 상위 미리 알림 메커니즘이 "신뢰할 수 없다"는 결론을 바꾸기에 충분하다고 생각하지 않습니다.
사실 이번 논란의 핵심은 단순히 기능의 존재 여부가 아니라, AI 챗봇이 미성년자들의 일상적 동반자이자 학습 도구 역할을 맡기에 적합한지 여부다. 전통적인 검색 엔진과 교육 소프트웨어는 일반적으로 아이들과 장기간 지속적이고 사적인 대화를 나누는 데 앞장서지 않는 반면, 생성 AI는 지속적으로 사용자에게 응답하고 이전 대화를 기반으로 답변을 지속적으로 조정할 수 있습니다. 이는 10대들이 일단 AI를 친구로 삼으면 오랫동안 정보와 감정을 전달하는 주요 채널이 될 수 있다는 뜻이다.
또한 이는 일반 애플리케이션의 일반적인 안전 팁보다 보호자 알림 메커니즘을 훨씬 더 중요하게 만듭니다. AI가 자해, 섭식 장애 등 위험도가 높은 콘텐츠를 식별할 수 있지만 심각한 상황을 보호자에게 즉시 알리지 못한다면 소위 '청소년 안전 모드'가 부모가 기대하는 역할을 수행하지 못할 수 있습니다.
한편, Common Sense Media에서는 청소년을 위한 ChatGPT가 아이들이 스스로 해야 할 숙제를 여전히 완료할 수 있다고 언급했습니다. 학생의 학습을 돕기 위해 배치된 AI 제품의 경우 이는 명백한 모순이기도 합니다. AI는 지식을 설명하고 팁과 지침을 제공할 수 있지만 학생의 숙제를 직접 완성한다면 학습 과정에서 가장 중요한 독립적 사고와 문제 해결 과정을 약화시킬 수 있습니다.
OpenAI는 아직 청소년을 위한 ChatGPT를 중단하겠다고 밝히지는 않았지만 청소년을 위한 안전 메커니즘을 지속적으로 개선할 것임을 강조했습니다. 회사 역시 자체 테스트 자체가 제품을 개선하는 중요한 방법이라고 믿고 있지만 테스트 결과가 무엇을 증명할 수 있는지에 대해서는 현재 양측이 뚜렷한 차이를 보이고 있다.
이런 논란은 AI가 교육과 젊은이들의 삶에 점점 더 빠르게 침투하고 있는 시기에 나온 것입니다. OpenAI를 포함한 기술 회사는 AI를 학습 보조자, 개인 교사 및 창의적인 도구로 구축하기를 희망합니다. 그러나 동시에 미성년자의 AI 과잉 의존 문제에 초점을 맞춘 연구와 비판이 점점 더 많아지기 시작했습니다.
특히 자녀와 AI 사이의 실제 상호작용을 부모가 판단하기 어려울 수 있다는 점은 주목할 만합니다. 공개 소셜 미디어와 달리 AI 채팅은 일반적으로 강력한 비공개 속성을 가지고 있습니다. 안전 알림 메커니즘 자체가 지연되거나 과소보고되는 경우 문제가 심각해질 때까지 부모는 자녀가 AI와 위험한 주제에 대해 논의했다는 사실을 깨닫지 못할 수 있습니다.
따라서 이번에 Common Sense Media는 청소년용 ChatGPT에 대해 질문을 했고 이는 실제로 전체 AI 산업이 직면한 더 큰 문제를 드러냈습니다. 즉, AI가 어린이와 청소년에게 직접 장기적이고 개인화된 대화형 서비스를 제공하기 시작하면 부모를 진정으로 안심시키기 위해 회사는 어느 수준의 안전 표준을 달성해야 할까요?
테스트 결과를 둘러싸고 양측 간 분쟁은 아직 해결되지 않았다. Common Sense Media는 OpenAI가 독립적인 테스트를 통해 부모 알림 및 위기 보호 메커니즘이 신뢰할 수 있음을 입증하도록 요구하는 반면, OpenAI는 이 평가가 공식 출시된 제품의 실제 상태를 완전히 반영하지 못한다고 믿습니다. 궁극적으로 어느 쪽의 판단이 진실에 더 가까운지 확인하려면 보다 독립적이고 반복 가능한 테스트가 필요합니다.
자세히 알아보기:
https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
댓글