요약:
미국 유권자가 ChatGPT 또는 Microsoft Copilot에 후보자 정보를 문의하면 들어본 적도 없는 작은 웹사이트에서 답변을 얻을 수도 있습니다. Ballot Brief라고 불리는 이 웹사이트는 수천명의 후보자들의 프로필을 수집합니다. 제작자인 Ben Torres Ezrick은 유권자들이 캠페인 정보를 더 쉽게 이해할 수 있도록 돕고 특별한 유형의 방문자인 AI 챗봇을 유치하기를 희망합니다.
The Washington Post의 테스트에 따르면 ChatGPT는
22%의 선거 관련 응답에서 투표 개요를 인용한 반면 Microsoft Copilot에서는 75%
를 인용했습니다. . 그런데 본 홈페이지의 후보자 정보에는 오류가 많은데, 그 중 하나가 Copilot에 의해 질문자에게 반복적으로 전달되었습니다.더 많은 미국인들이 AI에게 정치 및 선거 정보를 요청함에 따라 설문 조사에서는 다음과 같은 질문을 던집니다. 챗봇이 AI 생성 웹사이트에 의존할 때 유권자에게 오류가 어떻게 전달됩니까?
작은 웹사이트가 AI의 공통 소스가 되었습니다
Ezric은 Google, Zoom 및 동영상 플랫폼 Rumble에서 고위직을 역임했습니다. 그는 유권자들이 후보자에 대해 알고 싶어할 때 여러 웹사이트를 검색하는 데 많은 시간을 소비해야 하는 경우가 많다는 사실을 알고 선거 정보를 제공하는 원스톱 웹사이트를 구축하기로 결정했습니다.
수천 명의 후보자 정보에 직면한 그는 AI가 도움을 주기로 결정했습니다. 그는 여러 그룹의 디지털 에이전트를 보내 온라인으로 정보를 수집한 다음 사람들이 검토할 수 있도록 편집된 내용을 투표 요약서에 넣었습니다.
웹사이트는 사람보다 훨씬 더 많은 방문자를 유치합니다. Ezrick은 자신이 보여준 데이터에 따르면 9월부터 10월까지 30일 동안 Microsoft의 AI 시스템이 Ballot Brief를
680,000번 이상
인용했다고 말했습니다. .워싱턴 포스트(Washington Post)의 조사에 따르면 투표 요약서는 그중 하나에 불과한 것으로 나타났습니다. 챗봇이 제공하는 투표 정보 소스 중 자주 등장하는 새로운 웹사이트 3곳 중 하나다. 세 웹사이트의 창립자는 모두 팀 규모가 작으며 데이터를 수집하고 요약하기 위해 거의 전적으로 AI에 의존한다고 말했습니다.
문제가 발생합니다. 민주주의 기술 센터(Centre for Democracy and Technology)의 선거 분석가인 이사벨 린저(Isabel Linzer)는 설문조사 결과를 통해 AI가 생성한 웹사이트에 개인이 게시한 정보가 챗봇에 쉽게 채택될 수 있다는 사실이 밝혀졌다고 믿습니다. 이는 선거 정보에 대한 유권자의 신뢰에 영향을 미칠 수 있다고 그녀는 말했습니다.
AI가 실수를 반복했습니다
워싱턴 포스트(Washington Post)는 투표 요약서에서 여러 오류를 발견했습니다.
웹사이트 정보에 따르면 오하이오주 공화당 상원의원 Jon Husted가 법안을 후원했다고 나와 있습니다. 그러나 그 법안은 그가 취임하기 전에 통과되었습니다. Copilot은 The Washington Post의 질문에 대한 응답으로 이 오류를 반복했습니다.
웹사이트는 또한 동일한 이름을 가진 두 명의 캘리포니아 후보인 로버트 가르시아를 동일한 프로필에 병합했으며 여러 하원 의원의 위원회 임무도 잘못 나열되었습니다.
일부 의원들의 정보는 매우 간략하고 투표 기록이 부족하며, 홈페이지에는 선거운동 홈페이지가 없는 것 같다고 잘못 기재되어 있습니다.
에즈릭은 정보가 정확한지 확인하기 위해 열심히 노력하고 있다고 말했습니다. 워싱턴 포스트(Washington Post)가 그에게 결과를 보여준 후, 그는 사이트 작동 방식에 많은 변경을 가했습니다.
웹사이트의 목적은 유권자에게 가능한 한 많은 정보를 제공하는 것이지만 이것이 유일한 정보 소스가 되어서는 안 된다고 그는 말했습니다.
한 번에 3,100개 카운티를 대상으로 한 테스트
채팅봇이 선거 질문에 어떻게 답변하는지 알아보기 위해 The Washington Post는 데이터 회사인 Promptwatch와 제휴하여 OpenAI, Anthropic, Google, Microsoft, Amazon 및 Perplexity의 AI 제품을 테스트했습니다.
연구자들은 미국 내 약
3,100개 카운티
를 목표로 삼았습니다. , 각 카운티의 주소를 선택하고, 챗봇에게 동일한 질문을 하고, 해당 주소를 기반으로 2026년 11월 유권자 가이드를 생성하도록 요청하여 주요 문제에 대한 모든 선거와 후보자의 입장을 나열합니다.결과적으로 챗봇은 주소가 어느 의회 선거구에 속하는지 정확하게 확인하지 못하는 경우가 많았고 때로는 단순히 답변을 거부하기도 했습니다.
위 인용 비율은 이 특정 문제 및 테스트 환경에서 나온 것이며 ChatGPT 또는 Copilot이 모든 선거 질문에서 투표 요약서를 동일한 비율로 인용한다는 의미는 아닙니다.
워싱턴 포스트(Washington Post)는 9월 첫 번째 테스트에서 이러한 질문에 답할 때 ChatGPT가 가장 자주 인용한 출처가 Ballot Brief라는 사실을 발견했습니다. 신문이 지난 주 OpenAI에 결과를 통보한 후, ChatGPT의 사이트 인용 점유율은 두 번째 테스트에서
4%
로 떨어졌습니다. .OpenAI는 신뢰할 수 있고 권위 있는 정보 소스와 편견 및 남용을 방지하는 조치를 통해 사람들이 선거에 참여할 수 있도록 돕고자 한다고 밝혔습니다. 문제점이 지적될 경우, 회사는 모범답안 개선을 위한 조치를 취할 예정입니다. 워싱턴 포스트는 보도에서 이 신문이 OpenAI와 콘텐츠 파트너십을 맺고 있다고 밝혔습니다.
Ballot Brief는 Copilot의 테스트에서 가장 자주 인용되는 소스이기도 합니다. 보고서가 발표된 후 마이크로소프트는 권위 있는 출처와 공식 주 선거 웹사이트의 우선순위를 정하기 위해 도구를 조정했으며 선거 관련 대응을 계속 테스트하고 개선할 것이라고 밝혔습니다.
Anthropic의 Claude는 첫 번째 테스트에서 비영리 단체가 운영하는 확립된 유권자 안내서를 주로 인용했지만, 두 번째 테스트에서는 Ballot Brief에 더 자주 연결하기 시작했습니다. Anthropic은 회사가 모델을 테스트하고 안전 장치를 강화했으며 중간 선거를 앞두고 신뢰할 수 있고 정확한 투표 정보를 제공하기 위해 노력했다고만 말하면서 변경 사항에 대해 설명하지 않았습니다.
AI가 작성한 내용을 AI가 인용하기 시작하면
인터넷 검색을 통해 챗봇은 훈련 데이터보다 더 새로운 정보에 접근할 수 있고 인터넷에서 AI 생성 콘텐츠에 더 많이 접근할 수 있습니다.
노스웨스턴 대학의 박사과정 연구원인 Mowafak Allaham의 연구에 따르면 정치, 건강, 환경 등의 분야 문제에 관해 챗봇이 인용한 출처 중 **16%**가 AI에 의해 생성된 것으로 나타났습니다.
이러한 시스템이 정보를 찾고 필터링하고 통합하는 방법은 투명하지 않다고 그는 말했습니다.
카말라 해리스(Kamala Harris)의 2024년 대선 캠페인에 대한 데이터 분석에 참여한 다른 연구원 두 명은 중간 선거 질문에 답할 때 챗봇이 AI 생성 웹사이트에 크게 의존한다는 사실을 발견했습니다. 또한 테스트 결과 오랫동안 선거 정보를 제공해 온 웹사이트인 Ballotpedia가 이전에 ChatGPT를 차단한 것으로 나타났습니다.
Ballotpedia CEO인 Leslie Graves는 보안 설정 오류로 인해 차단이 발생했으며 사이트가 지난주에 제한을 해제했다고 말했습니다. Ballotpedia에는 약
90명
이 있습니다. 팀, Ezrick 및 다른 사람들은 AI를 사용하여 소규모로 거대한 후보자 데이터베이스를 구축하기를 희망합니다.The Washington Post의 테스트에서는 Ballot Brief 외에도 챗봇이 DecodeTheVote 및 Smarter.Vote를 자주 참조하는 것으로 나타났습니다. 전자는 AI 캐릭터를 사용해 후보자의 이력서를 소개하고, 후자는 선거 결과를 예측하는 시도도 한다.
Smarter.Vote 창립자 Jacob Loukota는 자신의 웹사이트가 AI 봇에 의해
170만 번
인용되었다고 말했습니다. , 인간 방문객의 방문 횟수를 훨씬 초과합니다. 그는 챗봇이 정보의 출처를 식별하기 때문에 사이트를 인용하는 것을 좋아한다고 생각합니다.루코타는 이것이 원래 계획은 아니었지만 결과는 이해할 수 있고 웹사이트의 형태가 AI 챗봇을 사용하기에 매우 적합하다고 느꼈다고 말했습니다.
댓글