2월 21일, Bloomberg는 Wikipedia 설립자 Jimmy Wales가 Elon Musk의 AI 백과사전 Grokipedia를 포함하여 AI 생성 콘텐츠가 Wikipedia에 가하는 위협에 대해 걱정하지 않는다고 보도했습니다. 왜냐하면 그러한 정보는 종종 오류가 발생하기 쉽기 때문입니다.
웨일즈
위키피디아(Wikipedia)는 자원봉사자들이 항목을 작성하고 편집한 잘 알려진 인터넷 백과사전입니다.
"내가 위키피디아를 사용해야 하는 이유는 인간이 그에 대한 지식을 검토했기 때문입니다. 우리는 위키피디아 항목이 얼마나 나쁠 수 있는지 알기 때문에 AI가 위키피디아 항목을 직접 작성하는 것을 현재 고려하고 있지 않습니다. 따라서 걱정할 필요가 없다고 생각합니다."라고 Welsh는 말했습니다.
그는 OpenAI의 ChatGPT, Google Gemini 등 대규모 언어 모델에서 생성된 콘텐츠에 몇 가지 문제가 있음을 지적했습니다. 그 중 하나는 '환각'이 여전히 자주 발생한다는 점, 즉 잘못된 정보나 오해의 소지가 있는 정보가 생성된다는 점이다.
이 때문에 그는 머스크의 xAI가 지난해 출시한 온라인 AI 백과사전인 그로키피디아(Grokipedia) 등 경쟁사의 도전에 대해 걱정하지 않는다. 그는 Grokipedia에 전화합니다."백과사전의 패러디."
웨일즈는 주제가 더 대중화되거나 틈새화되면서 AI '환각' 현상이 더욱 분명하고 일반화될 것이라고 말했습니다. 그는 사람이 작성한 항목의 가치는 부정확한 정보를 방지하고 기사를 더욱 유익하게 만드는 데 도움이 되는 도메인 전문가의 기여를 통해 이익을 얻을 수 있다는 점을 지적합니다.
2025년 OpenAI가 실시한 연구에 따르면 고급 모델을 사용하더라도 환각은 여전히 흔하며 일부 테스트에서는 환각 비율이 79%에 달합니다.
Welsh는 “주제의 인기가 낮을수록 환각 문제가 더 커집니다.”라고 말했습니다. "그래서 AI가 필요하다고 생각하는 분야에서는 실제로 AI가 매우 제대로 작동하지 않습니다."