오늘, 2024년 미국 대통령 선거가 공식적으로 시작되고, 아이오와주가 가장 먼저 전당대회를 개최하게 됩니다. 생성 인공 지능 회사인 OpenAI는 오늘을 통해 일부 그룹이 ChatGPT 및 DALL-E와 같은 도구를 사용하여 미국 대통령 선거는 물론 올해 전 세계 집중 선거를 훼손하는 데 사용할 수 있는 "딥페이크" 및 기타 허위 정보를 생성 및 확산하는 것을 방지할 계획을 설명하기로 결정했습니다.
OpenAI는 블로그 게시물을 통해 "정확한 투표 정보, 측정된 정책 시행, 투명성 제고"를 위해 도구를 사용할 것이라고 밝혔습니다. 그것은 다음을 추가했습니다:
우리는 보안 시스템, 위협 인텔리전스, 법률, 엔지니어링 및 정책 팀의 전문 지식을 모아 잠재적인 남용을 신속하게 조사하고 해결하는 선거 전담 부서를 보유하고 있습니다.
OpenAI는 자사 도구를 정치적 캠페인이나 로비 목적으로 사용하는 것을 허용하지 않을 것이라고 밝혔습니다. 또한 실제 후보자나 정부 그룹과의 채팅을 시뮬레이션하도록 설계된 챗봇을 만드는 데 도구와 서비스를 사용하는 것을 허용하지 않는다고 밝혔습니다.
회사는 사람들이 선거에서 투표하는 방식을 허위로 표현하거나 사람들이 투표하지 못하도록 설득하는 정보를 퍼뜨리는 데 자사 도구를 사용하는 것을 차단할 것이라고 말했습니다. 또한 사람들은 OpenAI에 위반 가능성을 보고할 수도 있습니다.
또한 OpenAI는 DALL-E를 통해 인공지능이 생성한 딥페이크 이미지를 식별하는 데 도움이 되는 도구를 개발하고 있습니다. "이미지가 일반적인 유형의 수정을 거쳤더라도" 인공 지능이 생성한 이미지를 찾아내는 데 도움을 줄 수 있는 "출처 분류기"라는 새로운 도구가 현재 개발 중입니다. 언론인을 포함한 테스터 그룹이 "곧" 도구를 시험해 볼 수 있을 것입니다.
최근 보고서에 따르면 OpenAI가 개발한 기술을 사용하는 Microsoft의 Copilot 챗봇은 2023년 선거에 관한 일부 질문에 대해 종종 잘못된 답변을 제공했다고 합니다. 지난 11월, 마이크로소프트는 정당이 광고나 비디오 등 자신이 만든 이미지가 진짜이고 인공 지능 도구로 수정되지 않았음을 증명할 수 있는 새로운 도구를 제공할 계획이라고 발표했습니다.
자세히 알아보기:
https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections