프랑스와 이탈리아 연구자들이 최근 발표한 실험 연구에 따르면 인공 지능(AI)이 제공하는 조언에 지나치게 의존하면 인간의 비판적 사고가 억제될 수 있으며, 사람들은 불확실한 문제에 직면했을 때 AI가 제공한 잘못된 정보를 "모른다"는 사실을 인정하기보다는 맹목적으로 받아들이는 경향이 더 커집니다.
University of Milan-Bicocca의 부교수인 Valerio Capraro와 그의 동료들은 AI 권장 사항이 인간의 무지를 인정하려는 의지에 어떤 영향을 미치는지 조사하기 위해 연구를 수행했습니다. 연구진은 일반적으로 대규모 언어 모델에 대해 답변하기 어려운 일련의 인기 없는 영화 및 TV 세부 질문을 특별히 설계하고 비교 실험을 위한 대상을 모집했습니다. 한 세트의 실험에서 피험자들은 AI의 도움 없이 질문에 답했습니다. 또 다른 실험에서는 피험자들이 AI 제안에 접근할 수 있었습니다.
연구에 따르면 AI 지원이 없는 기본 그룹에서는 참가자의 44%가 정직하게 "모름"을 선택하여 판단을 유예할 수 있었습니다. 그러나 AI 제안을 받은 그룹에서는 이 비율이 3%로 곤두박질쳤다. 더욱 걱정스러운 점은 AI의 개입이 성과 향상에 실패했을 뿐만 아니라 정확도 감소로 이어진다는 점이다. AI의 도움 없이는 피험자 중 27%가 정답을 맞혔다. 하지만 AI가 제안을 했을 때는 참가자들이 AI의 답변을 과신했기 때문에 정확도가 9%로 떨어졌습니다.
또한 실험 결과, AI 보조가 피험자의 자신감을 크게 향상시키는 것으로 나타났습니다. AI가 없을 경우 피험자의 평균 신뢰도는 30%였습니다. AI의 도움으로 잘못된 정보에 직면하더라도 피험자의 자신감은 76%까지 치솟았습니다. 연구진은 자신이 얻은 정보가 AI가 만들어낸 '환상'인 경우가 많았음에도 불구하고 참가자들이 AI 앞에서 자신의 지식의 경계에 대한 판단을 포기했다는 점을 지적했다.
연구자들은 금전적 인센티브가 주어졌을 때 이것이 개선되는지 여부도 테스트했습니다. 그 결과, 무지를 인정하겠다는 의지가 3%에서 8%로 소폭 반등했고, 정확도도 9%에서 16%로 높아졌지만, 이 두 지표는 여전히 벤치마크 집단에 비해 크게 낮은 것으로 나타났다.
카프라로는 '모름'을 인정하는 것은 자기인식에 대한 인간 이해의 한계를 보여주는 중요한 표현이며, 이 능력의 상실은 사회적 차원에서 시급히 해결해야 할 문제라고 말했다. 그는 이러한 현상에 대한 개입이 모델 제공자에게만 의존해서는 안 된다고 강조했습니다. 왜냐하면 그들의 상업적 인센티브가 반드시 비판적 사고를 촉진하는 것과 일치하는 것은 아니기 때문입니다. 그는 특히 이러한 시스템과 함께 성장하고 기본적인 핵심 기술을 배우지 못할 수 있는 다음 세대의 경우 교육 정책과 AI 활용 교육을 통해 이를 해결하는 것이 보다 이상적인 길이라고 믿습니다. 이 문제는 특히 주목할 가치가 있습니다.