요약:
WIRED에 따르면 인공지능 기반 콘텐츠가 확산되면서 출판계에서도 '소설은 인간이 쓴 것인가'를 둘러싼 논란이 확산되고 있다. 공포 소설의 내용 중 약 78%가 AI에 의해 생성되었을 가능성이 있다는 사실이 밝혀지고, 출판사가 출판 계획을 철회한 이후, 점점 더 많은 작가들이 걱정하기 시작했습니다. 작품 전체가 스스로 만들어졌다고 해도 문체 때문에 AI를 사용했다는 의심을 받을 수 있고, 심지어 보이콧과 명예 훼손에 직면할 수도 있다는 것입니다.
올해 3월에는 호러 소설 '샤이걸'이 논란의 초점이 됐다. 소셜 미디어에서는 이 책이 주로 AI에 의해 만들어졌다는 회의적인 시각이 많았습니다. 이후 출판사인 Hachette Book Group은 소설의 미국 출판 계획을 취소하고 영국 시장에서의 배급을 중단했습니다.
AI 감지 회사 Pangram은 책에 나오는 텍스트의 약
78%가 AI에 의해 생성되었다고 주장합니다
. 그러나 소설가 미아 발라드(Mia Ballard)는 AI를 사용하여 글을 쓰는 것을 거부합니다. 그녀는 편집자가 책의 자체 출판 버전에 AI 지원 변경 사항을 적용했으며 법적 조치를 취하고 있다고 말했습니다.'와이어드'는 이번 사건 이후 출판계에서도 비슷한 비난이 나오기 시작했다고 지적했다. 한 작가는 단편 소설상을 받은 뒤 심문을 받고 있고, 또 다른 작가는 자신의 범죄 소설이 출판사로부터 수백만 달러의 제의를 받은 뒤 AI 글쓰기 논란에 휘말리고 있다. 두 사람 모두 혐의를 부인하고 있다.
작가가 더욱 걱정하는 것은 작품이 전적으로 인간에 의해 창작되었음을 증명할 수 있는 일반적으로 받아들여지는 방법이 현재 없다는 점이다.
베스트셀러 작가인 안드레아 바츠는 '와이어드'와의 인터뷰에서 '샤이 걸' 사건이 발생한 후 거의 즉시 그것이 작가들에 대한 '마녀사냥'을 촉발할 수 있다는 것을 깨달았다고 말했습니다.
“누구나 AI를 사용했다고 비난할 수 있습니다.”
일단 혐의가 드러나면 확실한 증거가 없더라도 피해가 가해질 수도 있다고 그녀는 말했습니다.Baltz 자신도 Anthropic을 상대로 한 저작권 소송의 주요 원고 중 한 명입니다. 소송은 Anthropic이 AI 모델을 훈련하기 위해 불법 복제된 웹사이트에서 저작권이 있는 다량의 도서를 다운로드했다고 비난했습니다. Anthropic은 작년에
15억 달러
를 지불하기로 합의했습니다. 합의에 도달하세요.AI 글쓰기에 대한 점점 더 일반적인 의심에 직면한 기술 회사 그룹은 작품 창작 과정을 증명하기 위해 특별히 설계된 소프트웨어를 출시하기 시작했습니다.
Workings, Blindproof, Wintertext, Human Ink 및 ObraVera와 같은 도구는 작성자의 입력 과정, 문서 수정 내역을 기록할 수 있으며 암호화된 해싱 및 타임스탬프와 같은 기술을 사용하여 서면 작업에 대한 디지털 '지문'을 생성하여 질문 시 작성자가 창의적인 기록을 제공할 수 있도록 돕습니다.
그러나 이러한 도구로는 작품이 AI를 사용하지 않는다는 것을 실제로 증명할 수는 없습니다.
Pangram 공동 창업자이자 CEO인 Max Spero는 소프트웨어가 타이핑 과정을 완전히 기록할 수 있더라도 사용자는 여전히 AI 생성 콘텐츠를 그대로 입력하거나 자동 타이핑 프로그램의 도움으로 쓰기 프로세스를 위조할 수 있다고 지적했습니다.
또한 작가들은 종종 복잡한 방식으로 창작을 합니다. 여러 문서 사이를 전환하거나 초안을 반복적으로 수정하거나 휴대폰을 통해 음성 메모를 녹음할 수도 있습니다. 이러한 프로세스는 단일 소프트웨어로 완전히 기록하기 어렵습니다.
ObraVera 개발자들도 자사의 기술로 특정 텍스트가 언제 등록되었는지, 누가 제출했는지 증명할 수는 있지만 해당 텍스트가 AI에 의해 생성되었는지 여부를 독립적으로 확인할 수는 없다고 인정했습니다.
AI 탐지 도구 자체도 논란의 여지가 있습니다.
Pangram은 문예 창작 분야에서 자사 도구의 오탐률이
0.01%
에 불과하다고 주장합니다. . 그러나 Authors Guild의 Mary Rasenberger 대표는 사람들이 테스트를 위해 자신의 손으로 쓴 작품을 제출했지만 AI에 의해 생성된 것으로 판단되는 여러 사례를 협회에서 들었다고 말했습니다.Raxenberg는 작가에게 자신이 인간 작가라는 추가 증거를 제공하도록 요구하는 것 자체가 불합리한 부담이라고 믿습니다. 그녀는 협회가 작가들에게 그러한 도구를 사용하도록 강요하는 것을 지지하지 않는다는 점을 강조하고, 동료들이 AI를 사용했다고 쉽게 비난하지 말라고 작가들에게 상기시켰습니다.
출판 업계 전문가인 Jane Friedman은 출판사와 문학 대리인이 추가 비용이 필요하거나 시간이 많이 걸리는 저자 인증 시스템을 보편적으로 수용할 가능성이 낮다고 지적합니다. 통일된 표준이 제정되더라도 인증자료가 위조되거나 조작되는 것을 피하기는 여전히 어렵습니다.
이런 불신이 작품에 대한 시장 평가에 영향을 미쳤다.
Baltz는 작가들이 단지 자신의 작품이 'AI가 쓴 것처럼 읽혔다'는 이유만으로 서평 웹사이트 Goodreads에서 나쁜 평가를 많이 받았다는 이야기를 들었다고 밝혔습니다. 일부 독자들은 2022년 이후 출판된 작품이 AI 콘텐츠와 섞일 것을 우려해 읽기를 꺼린다는 의견도 나왔다.
아이러니하게도 2027년 출간 예정인 발츠의 신작 소설 '계정 삭제'는 공교롭게도 생성 AI를 기반으로 하고 있다. 그녀의 책에서 그녀는 의도적으로 대규모 언어 모델의 표현을 모방하여 가상의 AI 채팅 기록과 마케팅 카피를 만들었습니다.
이제 그녀는 일부러 AI를 흉내내는 이런 말이 자신을 의심하게 만들지 않을까 걱정하기 시작했다.
"어떤 콘텐츠라도 AI 글쓰기로 판단되면 어떻게 해야 하나요?"
발츠는 말했다.'Wired'는 AI 글쓰기 도구와 감지 기술의 지속적인 발전으로 출판 업계가 해결하기 어려운 문제에 직면해 있다고 지적했습니다.
기계가 인간의 글을 모방하는 능력이 점점 더 좋아지고 인간의 말이 기계에 의해 오판될 수 있는 상황에서 작가는 자신의 작품이 자신의 손에서 나온 것임을 어떻게 증명할 수 있을까요?
댓글