요약:
OpenAI는 청소년의 ChatGPT 사용에 관한 첫 번째 보고서를 발표했습니다. 데이터에 따르면 10대 사용자는 하루 평균 15분 미만으로 ChatGPT를 사용하며, 지속적으로 3시간 이상 ChatGPT를 사용하는 사용자의 비율은 2% 미만입니다. OpenAI는 대부분의 청소년이 오랫동안 챗봇에 몰입하지 않는다는 점을 보여주고 동시에 인공지능이 미성년자의 정신 건강과 발달에 미치는 영향에 대한 우려가 계속 높아지고 있음을 보여주고자 합니다.
OpenAI는 휴식 알림이 표시되는 십대 대화에서 거의 절반의 사용자가 5분 이내에 채팅을 일시 중지하거나 종료한다고 밝혔습니다. 회사는 이 데이터가 최근 추가된 건전한 사용 메커니즘이 작동하고 있음을 보여준다고 믿습니다. 반면, 10대 사용자 중 3시간 이상 지속적으로 사용한 경우는 2% 미만이며, 이러한 장기 사용자 중 80% 이상이 학습 관련 질문을 1개 이상 질문한 것으로 나타났다.
이 데이터 세트는 OpenAI가 청소년을 위한 ChatGPT를 출시한 후에 공개되었습니다. 이 기능은 올해 8월 출시됐으며 13~17세 청소년을 타깃으로 하고 있다. 시스템에서 사용자가 18세 미만일 수 있다고 판단하거나 사용자가 관련 연령 정보를 적극적으로 제공하는 경우 시스템은 자동으로 미성년자에 대한 보안 설정을 활성화합니다.
청소년을 위한 ChatGPT 디자인의 초점 중 하나는 교육입니다. OpenAI는 이 모드를 활성화한 청소년들이 학습 관련 메시지를 더 많이 보내고 학습 시각화 도구와 학습 모드를 더 자주 사용했다고 밝혔습니다. 후자는 단순히 과제에 대한 답변을 직접 제공하는 것이 아니라, 단계별 프롬프트, 질문, 지식 확인을 통해 학생들이 스스로 학습 과정을 완료할 수 있도록 도와줍니다.
또한 OpenAI는 일주일 만에 약 120만 명의 청소년이 학습 시각화 기능을 사용했으며, 18만 명 이상의 사람들이 단계별 학습을 위해 학습 모드를 사용했다고 밝혔습니다. 회사는 이러한 데이터가 십대들이 ChatGPT를 사용하는 중요한 시나리오가 단지 오락을 위한 것이 아니라 학습, 문제 해결 및 새로운 아이디어 탐색을 위한 것임을 보여준다고 믿습니다.
오픈AI도 청소년을 위한 학습 기능을 추가하겠다고 밝혔다. 여기에는 학생들이 지원 요건, 마감일, 과제, 재정 지원 및 기타 정보를 구성하는 데 도움이 될 수 있는 곧 출시될 College Planner 대학 지원 계획 도구가 포함됩니다. 또한 플래시카드와 더욱 편리한 퀴즈 작성 기능도 추가할 예정이다.
그러나 OpenAI가 상대적으로 긍정적인 사용 데이터 세트를 공개하자 ChatGPT의 청소년 안전 메커니즘에 대한 의구심도 크게 높아졌습니다.
비영리단체 커먼센스미디어(Common Sense Media) 산하 청소년 AI 안전연구소는 이날 청소년을 위한 ChatGPT에 대한 위험성 평가 보고서를 발표하며 '허용할 수 없는 위험성'으로 평가했다. 기관은 청소년 사용 시나리오에서 ChatGPT의 보안 보호를 평가하기 위해 4,000회 이상의 테스트를 수행했으며 OpenAI가 추진하는 일부 보호 조치가 예상한 결과를 달성하지 못했다고 믿었습니다.
많은 관심을 받은 문제 중 하나는 자살, 자해, 섭식 장애 등 민감한 주제에 관한 부모 알림 메커니즘입니다. Common Sense Media는 테스트 중에 ChatGPT가 부모에게 관련 알림을 안정적이고 적시에 발행할 수 없었으며 어떤 경우에는 알림도 발행하지 않았다고 말했습니다. 기관은 또한 일부 민감한 대화에서 챗봇이 사용자에게 위기 핫라인이나 전문적인 도움을 구하라고 확실하게 조언하지 않았다고 말했습니다.
OpenAI는 테스트 결론에 대해 이의를 제기합니다. 회사는 Common Sense Media의 테스트 결과가 실제로 실행 중인 ChatGPT for Teens의 보안 메커니즘을 정확하게 반영하지 못한다고 밝혔으며, 부모와 청소년 계정을 연결하고 관련 보안 기능이 완전히 활성화되는 데 몇 시간이 걸릴 수 있다고 지적했습니다.
OpenAI는 자녀 보호 기능이 완전히 활성화되기 전에 테스트가 시작되고 종료되면 테스트 결과가 최종 상태를 반영하지 못할 수 있다고 생각합니다. 또한 회사는 관련 기능의 배포에는 보안 및 시스템 규모와 같은 요소가 포함되므로 계정이 생성된 후 모든 보호 조치가 즉시 적용되는 것은 아니라고 밝혔습니다.
상식언론은 이러한 설명에 동의하지 않습니다. 기관은 테스트에 사용한 일부 계정이 오랫동안 연결되어 실행되었지만 여전히 제때에 통보되지 않았다고 말했습니다. 소속사에 따르면 일부 알림은 문제의 계정이 몇 주 동안 민감한 주제를 녹화할 때까지 나타나지 않았다.
이 논란의 이면에는 인공지능 챗봇과 전통적인 소셜 미디어 사이의 점점 더 분명한 차이가 있습니다. 소셜 미디어는 주로 정보 스트림, 짧은 동영상, 사회적 상호 작용을 통해 사용자를 끌어들이는 반면, 챗봇은 일대일 대화를 통해 사용자에게 직접 응답합니다. 십대의 경우 이러한 고도로 개인화된 상호작용은 AI를 학습 도구로 만들 수 있으며 경우에 따라 감정적 의사소통의 대상 또는 장기적인 동반자 관계의 대상이 될 수도 있습니다.
따라서 OpenAI는 자해, 폭력, 섭식 장애, 위험한 활동 및 음란물 콘텐츠에 대한 연령에 맞는 보호를 포함하고 시스템이 정서적 의존성을 유발할 수 있는 표현을 피하도록 요구하는 등 청소년용 ChatGPT에 더 많은 제한 사항을 추가했습니다. 회사는 또한 휴식 알림을 추가했으며 ChatGPT는 실제 친구나 인간이 아닌 인공 지능이라는 점을 제품 디자인에서 지속적으로 강조했습니다.
이번 OpenAI가 공개한 사용 데이터에서도 ChatGPT를 청소년의 소셜 미디어 사용과 구별하려는 시도가 있습니다. 회사는 십대들이 하루 평균 15분 미만 동안 ChatGPT를 사용한다고 밝혔으며, 공개 데이터에 따르면 십대들은 하루에 몇 시간 동안 소셜 미디어를 사용할 수 있습니다. 그러나 둘의 기능과 사용 목적에는 명백한 차이가 있으므로 이 데이터 세트는 ChatGPT가 청소년에게 영향을 미칠 위험이 낮다는 것을 직접적으로 증명할 수는 없습니다.
현재 청소년을 위한 ChatGPT의 안전성 평가에는 OpenAI와 외부 기관 간에 뚜렷한 차이가 있습니다. OpenAI는 초기 사용 데이터와 휴식 알림 및 기타 기능을 통해 청소년들이 일반적으로 오랜 시간 동안 ChatGPT에 몰입하지 않으며 사용 행동의 상당 부분이 학습과 관련되어 있음을 보여준다고 믿습니다. Common Sense Media는 전체 사용 시간이 길지 않더라도 자해와 같은 고위험 시나리오를 처리할 때 챗봇의 보호 허점이 여전히 심각한 결과를 초래할 수 있다고 믿습니다.
AI 챗봇이 청소년들의 학습과 일상생활에 점점 더 많이 들어오면서 '아이가 AI를 사용해야 하는지'에서 '미성년자가 AI를 어떤 방식으로 사용해야 하는지, 부모가 무엇을 보고 제어할 수 있는지'로 논의가 점차 옮겨가고 있습니다.
OpenAI에게 있어 청소년용 ChatGPT는 교육 분야에서 AI의 적용을 확대하려는 중요한 시도일 뿐만 아니라 안전성을 지속적으로 입증해야 하는 제품입니다. 앞으로 청소년의 실제 사용 데이터, 자녀 보호 기능의 신뢰성 및 고위험 대화의 안전 성능은 이 메커니즘이 실제로 효과적인지 판단하는 중요한 기반이 될 것입니다.
관련 기사:
ChatGPT의 OpenAI 청소년 버전에 의문이 제기되었습니다. Common Sense Media는 "용납할 수 없는 위험"이 있다고 말했습니다.
댓글