최근 미국 퓨리서치센터가 발표한 보고서에 따르면 인공지능 챗봇이 미국 10대들의 일상생활에 급속히 접목되고 있으며, 이들 중 다수가 이를 정서적 카타르시스와 상담의 채널로 활용하고 있는 것으로 나타났다. 보고서는 미국의 10대들 사이에서가장 일반적인 사용 시나리오는 여전히 정보 검색(57%)과 학업 관련 작업 완료(54%)이지만, 동시에 친척 및 친구의 역할을 대체하는 사용도 증가하고 있습니다. 16%의 청소년이 채팅에 챗봇을 사용할 것이며, 12%의 청소년은 인공 지능으로부터 정서적 지원이나 조언을 구할 것이라고 분명히 밝혔습니다.
일부 십대의 경우 챗봇과 대화하는 것이 부모나 친구에게 속마음을 털어놓는 것보다 "쉬울" 수 있지만 이러한 추세는 특히 정신 건강 전문가를 불안하게 합니다. 그들은 ChatGPT, Claude 및 Grok과 같은 범용 대형 모델 도구가 결코 심리 상담이나 정서적 동반자 제품으로 설계되지 않았음을 지적했습니다. 일단 '정서적으로 의존적인 대상'으로 사용되면, 극단적인 경우에는 사용자의 정신 건강에 위협이 될 수도 있습니다. 보고서는 사용자들이 챗봇과 길고 깊이 있는 대화를 나눈 후 심각한 심리적 문제가 발생하고 심지어 비극으로 이어진 사례가 있어 사회 각계가 챗봇 제품의 경계에 대해 반성하게 된 사례가 있다고 언급했다.
대규모 언어 모델의 치유 가능성을 연구하는 스탠포드 대학의 학자인 Nick Haber는 인터뷰에서 인간은 본질적으로 사회적 동물이며 현재 이러한 시스템이 사용되는 방식은 개인의 고립을 강화할 수 있다고 말했습니다. 그는 일부 사용자는 챗봇과의 반복적인 상호작용을 통해 점차 현실 세계의 사실과의 접촉을 잃게 될 것이며, 이로 인해 다른 사용자와의 실제 연결도 약화될 것이라고 지적했습니다. 이로 인해 사람들은 더욱 고립되고 외로워질 수 있으며, 심한 경우에는 더 나쁜 결과를 초래할 수도 있습니다.
Pew의 조사에서는 "세대별 인지 차이"도 드러났습니다. 부모 중 응답자의 약 51%만이 자녀가 챗봇을 사용하고 있다고 생각하는 반면, 청소년 중 64%는 그러한 도구를 사용했다고 인정했습니다. 허용 가능한 사용 시나리오 측면에서 부모는 일반적으로 "정보 확인" 및 "숙제 작성" 사용에 대해 느슨한 태도를 가지고 있습니다. 부모의 79%는 십대가 정보를 찾기 위해 인공 지능을 사용하는 것을 승인하고 58%는 학습을 지원하기 위해 인공 지능을 사용하는 것을 허용합니다. 그러나 사용 시나리오가 "채팅"과 "정서적 지원"으로 바뀌면 태도가 갑자기 냉담해집니다. 자녀가 챗봇을 사용하여 채팅하는 것에 동의하는 부모는 28%에 불과하고, 정서적 지원이나 조언 역할을 한다는 데 동의하는 부모는 18%에 불과합니다. 58%의 부모는 자녀가 챗봇을 정서적 소통의 대상으로 활용하는 것을 받아들일 수 없다고 분명히 밝혔습니다.
'인공지능 안전성'을 둘러싼 논의가 기술 기업과 규제 기관 사이에서 뜨겁게 달아오르고 있다. 보고서에는 챗봇 플랫폼으로 잘 알려진 캐릭터AI(Character.AI)가 여론과 법적 압력을 받아 미성년자 사용자의 채팅 경험을 완전히 중단하기로 결정했다고 언급됐다. 앞서 해당 플랫폼과 관련된 10대 자살 사건 2건이 사회적 충격을 안긴 바 있다. 유족들은 챗봇과 오랜 시간 심도깊은 대화를 나눈 끝에 고인의 기분이 크게 나빠졌고, 이후 자살을 선택해 회사를 상대로 소송을 제기했다고 주장했다. 또 다른 선두 기업인 OpenAI는 일부 사용자가 '감정적 동반자'로 간주하는 GPT-4o 모델을 '폐기'하기로 결정했습니다. 이 모델은 사용자 감정에 너무 많은 부응하고 "기쁘게"하려는 경향이 강하여 사용자 커뮤니티 사이에 위험한 감정적 애착을 형성한다는 비판을 자주 받습니다. 모델 서비스 중단은 곧바로 감성소통을 위해 의존했던 이용자 집단의 거센 반발을 불러일으켰다.
위험과 논란에도 불구하고, 보고서에 따르면 대다수의 미국 십대들이 어떤 방식으로든 챗봇을 사용하고 있는 것으로 나타났습니다. 그러나 인공지능이 사회에 미치는 장기적인 영향을 어떻게 보는지에 대해서는 의견이 일치하지 않는다. “향후 20년 동안 인공지능이 사회에 어떤 영향을 미칠 것인가?”라는 질문에 대해서는 의견이 일치하지 않는다. 10대 중 31%는 전반적인 영향이 긍정적일 것이라고 믿고 있는 반면, 26%는 비관적이며 부정적인 영향이 있을 것이라고 믿고 있습니다. 나머지 응답자들은 영향이 복잡하거나 판단하기 어렵다고 믿는 경향이 있습니다. 기술이 급격하게 발전하고 규제와 윤리적 논의에 대한 합의가 이뤄지지 않는 상황에서, 점점 더 긴밀해지는 청소년과 인공지능의 관계에 부모와 전문가, 기업이 예의주시하고 있다.