2024년 미국 대선 이후 X 플랫폼(구 트위터)의 당파적 공격적 발언에 대한 불만으로 많은 사용자들이 탈중앙화 소셜미디어 블루스카이(Bluesky)로 눈을 돌렸다. Bluesky는 콘텐츠 추천에 알고리즘을 사용하지 않으며 초기 단계에서 극단적인 발언과 잘못된 정보를 줄였습니다. 그러나 1년이 지나도 플랫폼은 여전히 반향실 효과를 나타냈습니다.
암스테르담 대학 연구진은 AI 시뮬레이션 실험을 통해 복잡한 알고리즘이 없어도 소셜 미디어가 게시, 전달, 팔로우 등 기본적인 기능만으로 자연스럽게 닫힌 원으로 분열되며 양극화 현상을 형성한다는 사실을 발견했습니다. 그들은 500명의 가상 사용자로 단순화된 플랫폼을 구축하고 미국 전국 선거 조사 데이터를 기반으로 사용자 특성을 설정했으며 ChatGPT, Llama 및 DeepSeek와 같은 대규모 언어 모델을 사용하여 사용자 행동을 시뮬레이션했습니다. 실험이 10,000번의 상호 작용 주기 동안 실행된 후 플랫폼에서 반향실, 영향력 집중, 극단적인 발언이라는 세 가지 주요 문제가 나타났습니다.
연구진은 게시물을 시간순으로 표시하거나 반대 관점을 밀어붙이는 등 6가지 개입을 시도했지만 문제를 완전히 해결하지 못했고 일부에서는 부정적인 현상을 악화시키기도 했다. 워싱턴 대학의 학자들은 이 결과가 "인간 본성과 소셜 미디어 관심의 역학 사이의 공명"을 반영하며 알고리즘이 제거되더라도 시스템 아키텍처는 여전히 독성을 유지할 수 있다고 믿습니다.
인디애나 대학의 전문가들은 AI 훈련 데이터 자체에 소셜 미디어 독성이 포함되어 있어 실험 결과가 본질적으로 양극화 쪽으로 편향될 수 있다는 의문을 제기했습니다. 뉴욕 대학교 연구원들은 간단한 해결책은 없지만 사용자가 중립적인 콘텐츠를 게시하는 것이 양극화를 완화하는 데 도움이 될 수 있다고 믿습니다.
본 연구는 소셜 미디어 양극화의 근본적인 메커니즘을 밝히고 기술적 조정만으로는 문제를 근절하기 어렵고 이를 해결하기 위해서는 다자간 전략의 결합이 필요함을 보여줍니다.