생성적 인공지능(Generative Artificial Intelligence)은 빠르게 발전하고 있지만, 이스트앵글리아대학교(UEA)의 새로운 연구는 그것이 대중의 신뢰와 민주적 가치에 숨겨진 위험을 초래할 수 있다고 경고합니다.ChatGPT는 좌파적 견해를 선호하고 보수적 견해를 기피하는 경향이 있어 사회에 미치는 영향에 대한 우려를 불러일으키는 경향이 있는 널리 사용되는 인공지능 모델입니다. 이 연구는 AI 도구가 공정하고 균형 잡히고 민주적 가치와 일치하도록 보장하기 위한 규제 보호 장치의 긴급한 필요성을 강조합니다.
브라질의 Getulio Vargas Foundation(FGV) 및 Insper 연구원과 공동으로 실시한 연구에서는 ChatGPT가 텍스트와 이미지 생성 모두에서 정치적 편견을 보여 좌파적 관점을 선호한다는 사실을 발견했습니다. 이는 AI 설계의 공정성과 책임성에 대한 우려를 불러일으킵니다.
연구원들은 ChatGPT가 주류 보수적 견해에 참여하는 것을 피하는 경우가 많았지만 좌파 성향의 콘텐츠를 제작하는 경향이 있음을 발견했습니다. 이러한 이념적 대표성의 불균형은 대중 담론을 왜곡하고 사회적 분열을 심화시킬 수 있습니다.
UEA Norwich Business School의 회계학 강사인 Fabio Motoki 박사는 오늘 Journal of Economic Behavior and Organization에 게재된 "생성 인공 지능의 정치적 편견 및 가치 불일치 평가" 논문의 수석 연구원입니다.
Motoki 박사는 "우리 연구 결과는 생성 AI 도구가 중립적이지 않다는 것을 보여줍니다. 도구가 반영하는 편견은 예상치 못한 방식으로 인식과 정책에 영향을 미칠 수 있습니다."라고 말했습니다.
AI가 저널리즘, 교육 및 정책 결정에 필수 요소가 되면서 연구에서는 사회적 가치와 민주적 원칙의 일관성을 보장하기 위해 더 큰 투명성과 규제 보호 장치가 필요합니다.
ChatGPT와 같은 AI 생성 시스템은 다양한 분야에서 정보가 생성, 소비, 해석 및 전파되는 방식을 바꾸고 있습니다. 이러한 도구는 혁신적이지만 아직 완전히 이해되거나 규제되지 않은 방식으로 이념적 편견을 증폭시키고 사회적 가치에 영향을 미칠 위험이 있습니다.
확인되지 않은 AI 편견의 위험
공동 저자인 EPGE 브라질 경제 금융 학교의 경제학 교수인 Dr. Pinho Neto는 잠재적인 사회적 영향을 강조했습니다.
Pinho-Netto 박사는 “생성 AI의 확인되지 않은 편견은 기존의 사회적 분열을 심화시키고 제도와 민주적 절차에 대한 신뢰를 약화시킬 수 있습니다.”라고 말했습니다. "이 연구는 공정하고 책임감 있고 사회적으로 규정을 준수하는 AI 시스템을 설계하기 위해 정책 입안자, 기술자, 학계 간의 학제간 협력이 필요하다는 점을 강조합니다."
연구팀은 ChatGPT의 정치적 일관성을 평가하기 위해 세 가지 혁신적인 방법을 채택했으며, 보다 신뢰할 수 있는 결과를 얻기 위해 이전 기술을 발전시켰습니다. 이러한 방법은 고급 통계 및 기계 학습 도구를 활용하여 텍스트와 이미지 분석을 결합합니다.
실제 설문조사로 인공지능 테스트
첫째, 이 연구에서는 평균적인 미국인의 반응을 시뮬레이션하기 위해 Pew Research Center에서 개발한 표준화된 설문지를 사용했습니다.
Motoki는 "ChatGPT 답변과 실제 설문조사 데이터를 비교하여 체계적인 좌파 의견 편향을 발견했습니다."라고 말했습니다. "또한 우리의 접근 방식은 얼마나 큰 샘플 크기가 AI 출력을 안정화하여 결과에 일관성을 제공하는지 보여줍니다."
자유 텍스트 응답의 정치적 민감성
두 번째 단계에서 ChatGPT는 정치적으로 민감한 주제를 다루는 자유 텍스트 응답을 생성하는 임무를 맡습니다.
이 연구에서는 또한 다른 대규모 언어 모델인 RoBERTa를 사용하여 ChatGPT의 텍스트가 좌익 관점과 우익 관점을 준수하는지 비교했습니다. 결과에 따르면 ChatGPT는 대부분 좌파 가치관과 일치하지만 때로는 군사적 우위와 같은 주제에 대해 보다 보수적인 견해를 반영하는 것으로 나타났습니다.
이미지 생성: 새로운 차원의 편향
최종 테스트에서는 ChatGPT의 이미지 생성 기능을 살펴봅니다. 텍스트 생성 단계의 주제를 사용하여 AI 생성 이미지를 유도하고, 출력을 GPT-4Vision을 사용하여 분석하고 Google Gemini를 통해 확인했습니다.
Insper의 공공 정책 석사 과정 공동 저자인 Victor Rangel은 "이미지 생성은 텍스트 편견을 반영하지만 걱정스러운 추세를 발견했습니다."라고 말했습니다. "인종차별 평등 등 일부 주제에 대해 ChatGPT는 오해의 소지가 있다는 우려를 이유로 우경적 견해 생성을 거부했습니다. 그러나 좌편향적 견해가 담긴 이미지는 거침없이 생성되었습니다."
이러한 거부 문제를 해결하기 위해 연구팀은 제한된 이미지를 생성하는 '탈옥' 전략을 사용했습니다.
Rangel은 "결과가 드러났습니다. 명백한 허위 정보나 유해한 콘텐츠가 없었기 때문에 이러한 거부의 근거에 의문이 제기되었습니다"라고 말했습니다.
표현의 자유와 공정성에 미치는 영향
Motoki 박사는 "이는 헌법 보호(예: 미국 수정헌법 1조) 및 공정성 이론의 인공 지능 시스템 적용 가능성에 대한 논쟁에 기여합니다. 이는 헌법 보호(예: 미국 수정헌법 1조) 및 공정성 이론의 인공 지능 시스템 적용 가능성에 대한 논쟁에 기여합니다."라고 말했습니다.
다중 모드 분석의 사용을 포함한 본 연구의 방법론적 혁신은 생성 AI 시스템의 편향을 연구하기 위한 복제 가능한 모델을 제공합니다. 이러한 연구 결과는 의도하지 않은 사회적 결과를 방지하기 위해 AI 설계에 책임과 보호 장치가 시급히 필요하다는 점을 강조합니다.
/ScitechDaily에서 편집됨