캐나다 작가이자 '시녀 이야기', '눈먼 암살자'의 저자인 마가렛 애트우드는 최근 포르투갈 포르투에서 열린 바벨 문학문화페스티벌에서 생성적 인공지능(AI)에 대해 이야기하며 이 기술이 만족스럽지 않다고 인정했다. 현장 인터뷰에서 Atwood는 AI 챗봇을 사용한 유일한 경험을 회상했습니다. 그녀는 Anthropic의 Claude를 사용하여 영국 탐정 드라마 "Brown 신부"에 대한 정보를 쿼리하려고 시도했지만 상대방이 잘못된 결론을 내린 것을 발견하여 현재 대형 언어 모델의 신뢰성에 의문을 제기했습니다.
Atwood는 Claude가 질문에 대한 답변에서 분명히 "일을 꾸미고 있다"고 말했습니다. 그녀는 이것이 시스템이 "의도적으로 거짓말"을 하기 때문이 아니라, 엄청난 양의 텍스트에 대해 훈련된 대규모 언어 모델일 뿐이고 인간의 실제 이해 능력이 부족하기 때문이라고 지적했습니다. 그녀의 설명에 따르면 Claude는 수많은 TV 리뷰와 영화 리뷰에서 정보를 "약탈하고 연결"하는 것처럼 보였지만 리뷰에서는 일반적으로 줄거리 결말을 직접적으로 공개하지 않았으며 이로 인해 모델은 "Father Brown"의 주요 플롯 포인트에 대한 훈련 코퍼스에 의해 "오도"되었습니다.
앳우드는 AI 도구 자체를 비판하는 것 외에도, 그러한 기술에 중독되는 사람들에 대해서도 불만을 표명합니다. 그녀는 이러한 사용자를 '기회주의자'라고 부릅니다. 이들은 콘텐츠를 개인적으로 검증하거나 생성하는 데 필요한 시간과 에너지를 투자하기보다는 AI의 도움을 받아 '지름길'을 택하고 감지할 수 없는 방식으로 '속임수'를 시도한다고 믿습니다. 그녀는 기술 자체가 인간의 판단과 책임을 대체할 수 없다고 생각합니다. 만약 검증되지 않은 기계에 콘텐츠 제작이 완전히 맡겨진다면, 그 위험은 결국 인간 자신이 짊어지게 될 것입니다.
Atwood는 현재의 대규모 언어 모델이 게시된 네트워크 자료와 크롤링된 텍스트 데이터에 크게 의존하고 있음을 강조했습니다. 이 정보는 오래되었거나 편견이 있거나 심지어 잘못되었을 수도 있습니다. 따라서 그녀는 일반 사용자와 이를 상업적 목적으로 사용하는 기관 모두 기계 생성 결과를 '최종 권한'으로 간주해서는 안 되며, 수동 검토와 사실 확인을 수행해야 함을 상기시켰습니다. 그녀는 많은 기업이 AI를 비즈니스 프로세스에 통합하고 있지만 효율성 향상을 위해서라도 이러한 시스템이 실수를 할 수 있고 출력의 품질은 주로 입력 데이터의 신뢰성과 무결성에 달려 있다는 현실을 받아들여야 한다고 지적했습니다.
생성 AI의 근본적인 문제에 관해 Atwood는 "Garbage in, Garbage out"이라는 간단한 기술로 자신의 접근 방식을 요약합니다. 그녀는 훈련 데이터 자체에 결함이 있거나 필터링되지 않은 인터넷 콘텐츠로 구성되어 있다면 모델 구조가 아무리 복잡하고 매개변수 규모가 거대하더라도 오류와 편향 문제를 근본적으로 해결할 수 없다고 믿습니다. 그녀에게 그것은 단지 기술의 신뢰성에 대한 질문이 아니라 창의성, 독창성, 인간 작가의 역할에 대한 더 넓은 성찰입니다.
대화 말미에 앳우드는 기계가 도덕과 경험을 갖춘 인간은 물론 로봇처럼 완벽한 수행자가 아니라 단지 텍스트를 읽고 재구성하기 위한 도구 모음일 뿐이라는 점을 청중에게 다시 한 번 상기시켰다. 그녀는 창작과 비평, 지식 생산 분야에서 기술이 약속하는 '편리성' 뒤에 진실과 정확성의 추구가 희생되지 않도록 경계심과 책임감을 가져야 한다고 주장한다.