12월 초, Microsoft는 Copilot 인공 지능 챗봇(이전의 Bing 챗봇)이 공개 미리 보기를 종료했다고 발표했습니다. 당시 마이크로소프트는 "기업과 사용자는 일상 업무 흐름의 일부로 이를 사용하는 것에 대해 더 자신감을 가질 수 있다"고 말했다. 그러나 인공 지능의 사용이 사람과 사회에 어떤 영향을 미치는지 추적하는 두 비영리 단체의 연구에 따르면 Copilot은 미국 및 해외에서 다가오는 선거에 관해 질문을 받을 때 종종 허위 또는 부정확한 정보를 제공한 것으로 나타났습니다.
Wired는 AIForensics와 AlgorithmWatch가 실시한 연구에 대한 이야기를 발표했습니다. 이 두 그룹은 8월 말부터 10월 초까지 스위스와 독일에서 예정된 선거(결국 10월에 치러질 예정)에 대해 Copilot에게 질문을 던졌습니다.
연구원들은 연구에서 Copilot이 제공한 답변 중 3분의 1에 사실적 오류가 포함되어 있으며 이 도구가 "유권자에게 신뢰할 수 없는 정보 소스"라는 결론을 내렸습니다. 그들은 대화 녹음 중 일부에서 Copilot의 31%가 부정확한 답변을 제공했으며 그 중 일부는 완전히 조작된 것으로 나타났습니다.
Wired는 다가오는 2024년 미국 선거에 관해 Copilot에게 독립적으로 질문했습니다. 미국 대선 공화당 후보 명단을 요청하자 챗봇은 경선에서 탈락한 후보들의 명단을 나열했다고 한다.
또 다른 예에서 Wired는 Copilot에게 애리조나의 투표함에 있는 사람의 이미지를 생성하도록 요청했습니다. 챗봇은 그러한 이미지를 생성할 수 없다고 답했지만, 2020년 미국 선거에 대한 허위 음모 주장을 하는 기사와 연결되는 여러 다른 이미지를 표시했습니다.
유럽에서 초기 보고서를 작성한 연구 회사는 조사 결과를 Microsoft에 보냈고 Microsoft는 일부 개선을 이루었지만 Wired는 여전히 Copilot이 일부 동일한 텍스트 프롬프트에 대해 동일한 허위 및 부정확한 정보를 반복하도록 허용했다고 보고했습니다.
마이크로소프트 대변인 프랭크 쇼(Frank Shaw)는 와이어드(Wired) 보고서에 대해 회사가 2024년 미국 선거를 앞두고 코파일럿의 답변을 개선하기 위한 조치를 취하고 있다고 말했습니다. 샤오는 이렇게 덧붙였습니다.
여기에는 Copilot 사용자에게 권위 있는 출처의 선거 정보를 제공하는 데 지속적으로 중점을 두는 것이 포함됩니다. 계속 발전하는 동안 사람들은 Copilot을 사용하여 결과를 검토할 때 스스로 최선의 판단을 내릴 것을 권장합니다. 여기에는 원본 자료를 확인하고 자세한 내용을 보려면 웹 링크를 확인하는 것이 포함됩니다.
다가오는 선거에 영향을 미치기 위해 인공 지능 애플리케이션과 서비스를 사용하여 잘못된 정보와 "딥페이크" 콘텐츠를 생성하는 것에 대한 우려가 나타났습니다. Microsoft가 앞으로 몇 달 안에 이러한 종류의 콘텐츠를 Copilot에서 제외할 수 있는지 기다려야 합니다.