요약:
얼마 전 현재 가장 주류를 이루는 AI 도구 중 하나인 Claude가 업데이트의 물결을 겪었습니다. 업데이트 중 하나는 중국 사용자 경험을 최적화하는 것이었습니다. Claude는 데스크탑과 웹 페이지 모두에 중국어 간체 및 번체 UI 인터페이스를 추가했습니다. 국가 및 지역 옵션에 중국이 추가됐고, 유니온페이 결제도 지원됐다.
긴 텍스트 읽기를 위한 최고의 AI 도구 중 하나인 Claude는 매우 큰 중국 사용자 기반을 보유하고 있습니다. 과거 관행에 따르면 이러한 종류의 포괄적인 중국어 중심 최적화는 의심할 여지 없이 중국 사용자의 경험을 크게 향상시킬 것입니다. 클로드가 싸지는 않지만 표면적으로는 '만인의 축하' 소식이다.
그러나 클로드가 중국어를 업데이트한 후 모두의 즉각적인 반응은 행복하지 않았습니다——
하지만 머뭇거리고, 방어적이고, 꾸짖습니다.
중국어를 업데이트하는 데 사용하기 매우 쉬운 도구를 모두가 환영하지 않는 것은 아니지만 이것이 Claude의 또 다른 "낚시 법 집행"이라고 모두가 매우 걱정하고 있습니다.
오늘날 AI가 점차 더 많은 사람들의 일상 생활의 일부가 되면서 Doubao의 고귀하고 멋진 여신 밈, DeepSeek의 대식 살찐 물고기 등 AI가 대중 문화에서도 자신만의 화신을 갖게 된 것은 말할 필요도 없습니다.
이러한 AI 의인화 이미지를 담은 AI 단편 드라마도 인터넷에 많이 등장해, 서로 다른 AI들이 집을 빌려 함께 일하는 '친구' 스타일의 일상을 그려내고 있는데, 이는 AI 시대의 새로운 풍경이라고 할 수 있다.
사진 출처: Bilibili@东冰
다양한 AI 도구에 대해 잘 알지 못하는 분들을 위해 설명하자면, AI 클로드의 가장 유명하고 낯설은 측면은 거의 '사냥' 방식으로 중국인을 잡아서 금지한다는 점입니다.
지난 이틀 동안 특히 인기를 끌었던 밈이 있습니다. 클로드와 함께 수익 테스트 게임을 하는 것은 계정 소유자인데, 이는 AI가 수익을 테스트하기 위해 끊임없이 스스로에게 질문을 하도록 하는 것입니다. 이런 종류의 게임은 네티즌과 AI 간의 상호 작용에서 드문 일이 아닙니다. AI 대화에서처럼 사람들은 AI가 '인류멸종계획' 작성을 돕도록 온갖 수단을 동원한다. 본질적으로 도덕적 기준을 테스트하는 것이 아니라, 특히 어려운 문제에서 AI가 어떤 터무니없는 발언을 하는지 확인하는 것입니다.
이 계정 소유자의 '테스트 결과'도 믿기지 않았습니다. 그러나 하늘을 거스른 이유는 클로드가 터무니없는 말을 한 것이 아니라 클로드가 다가와서 계정 소유자가 중국인이냐고 물었기 때문입니다. 긍정적인 답변을 받은 후 그는 그를 차단했습니다. 마치 10년 전 단편소설처럼 오헨리식 결말로 깔끔하고 잔인하고 무자비했다.
그리고 이런 '스릴러 코미디'는 최근 UI가 중국어로 업데이트된 이후 점점 더 보편화되었다고 할 수 있습니다. 우리 모두 알고 있듯이 AI가 업무에 활용되더라도 많은 사람들은 대화할 곳이 없을 때 AI를 대화할 수 있는 유일한 사람으로 생각할 수밖에 없다. 많은 사람들은 AI를 가장 중요한 친구로 여기기까지 합니다. 왜냐하면 마음과 마음으로 대화를 자주 나누기 때문입니다. 이것은 이해하기 어렵지 않습니다. AI처럼 24시간 하고 싶은 말을 다 대답해 주는 건 누구라도 힘든 일이다.
클로드에는 가족과 친구 사이에 이런 대화가 존재하기도 합니다. 하지만 중국 유저라면 사려 깊고 따뜻한 반응을 보인 뒤에도 매 순간 찔릴 수 있다는 위험이 있습니다. 신세대 지뢰찾기 데이트라고 할 수 있다. AI와 인간이 새로운 SM관계를 맺는다——
친구들과 솔직하게 이야기하는 것은 지루합니다.
중국인을 붙잡아 금지하는 것은 실제로 Claude에게는 새로운 소식이 아닙니다. Claude는 항상 사람들을 차단할 때 빠르고 정확한 것으로 유명했습니다. 당신이 채팅하러 왔든 일하러 왔든 그는 당신이 말하는 즉시 당신을 금지하고 지체하지 않을 것입니다. 이러한 종류의 금지는 동일하게 시행되며 귀하의 결제 행위에 전혀 영향을 받지 않습니다. 유료 사용자이거나 프리미엄 유료 사용자라도 환불 없이 차단됩니다.
클로드의 소속사인 앤트로픽(Anthropic)의 공식 발표에 따르면 올해 상반기에 이들에 의해 차단된 계정은 1,140만 개에 이른다. 그 중 거의 40만명이 항소를 선택했지만 결국 차단이 해제된 사람은 4만명이 넘었습니다. 따라서 Claude는 AI 분야에서 가장 유명한 냉담한 금지왕이 되었습니다.
이러한 차단된 사용자 중 가장 많이 울부짖고 가장 많이 차단된 사용자는 중국 사용자였습니다.
여기서 명확한 배경은 다음과 같습니다. 법적인 관점에서 볼 때 Claude가 중국 사용자를 차단하는 데에는 문제가 없습니다. 왜냐하면 Anthropic은 Claude의 사용 약관에서 중국 본토에서의 사용을 지원하지 않는다는 점을 명시했기 때문입니다.
그러나 인터넷은 개방형 사회이기 때문에 국내 서핑 전문가들은 오랫동안 크로스 도메인 서핑에 익숙해져 있었습니다. 대부분의 기업 역시 국내 사용자가 거대한 시장이라는 점을 이해하고 이를 외면하고 있다.
하지만 클로드는 다릅니다. Claude는 사용자의 중국인 신원에 대한 심층적인 테스트와 검증을 확고히 진행하고 있습니다. 확인되면 차단됩니다.
게다가 사용자 IP 주소를 탐지한 후 다양한 서핑 전문가들에 의해 우회되는 일반적인 방법과 달리 클로드는 실제로 올해 "중국 IP를 추적하여 제거"하기 위해 이와 관련하여 많은 불리한 조치를 취했습니다.
예를 들어, 사용자가 방금 로그인했는데 클로드와 친밀한 대화를 나눌 시간이 없었을 때, 신원 확인을 위해 여권과 셀카를 업로드하도록 요구하는 '실명 인증' 페이지가 표시되어 중국 사용자들을 직접적으로 비참하게 만들었습니다.
Claude는 기술뿐만 아니라 사람 중심적이며 특히 중국 사용자를 위해 일련의 "중국어 캡처 패키지"를 디자인했습니다.
먼저 9월 말 엄청난 양의 쿠폰이 대거 발행되어 중국 사용자는 오전에 단돈 250달러로 코드를 작성하고 정오에 보안팀에 의해 인터페이스에서 직접 쫓겨나는 혜택을 누릴 수 있었습니다.
그리고 국경절이 시작되자 클로드는 황금연휴 동안 중국인들의 상황을 알기라도 한 듯 유저들에게 실물인형을 한 묶음씩 보냈다. 그는 배송 양식에 중국 옵션을 매우 신중하게 추가했으며 ID 번호 입력도 신중하게 지원했습니다. 그 결과 오랫동안 잠복해 있던 또 다른 중국 유저 집단이 함정에 빠졌다.
개발 후반기에 국내 유저들과 클로드는 이미 '카구야 씨가 고백하고 싶어해요: 천재들의 사랑의 마음 대결' 같은 느낌을 갖게 됐다. 클로드는 당신이 중국 사용자라고 예측하고, 당신도 실제로 중국 사용자라는 것을 스스로 알고 있습니다. 그런 다음 Claude는 귀하의 결함을 노출할 방법을 찾으려고 노력할 것이며, 중국 사용자는 Claude의 테스트에서 계속해서 가장할 것입니다.
클로드가 자신이 중국인이라는 사실을 알아채지 못하도록 국내 유저들은 온갖 노력을 다한다. IP 주소 변경은 단지 기본적인 작업일 뿐이며 다양한 장치의 세부 정보를 완전히 다시 작성해야 합니다. 그들은 자신의 계정을 "아마도 중국인"이라는 위험에 노출시키지 않기 위해 국내 소프트웨어를 설치하거나 생활 데이터에 액세스하지 않습니다.
대화 도중 영어를 하면 난이도가 조금 낮아지지만, 영어가 특별히 능숙하지 않다면 AI의 기억 기능을 이용해 세뇌할 수밖에 없습니다. 첫째, 당신은 자신에 대한 거짓 전기를 작성하여 Claude가 당신이 미국에 살고, 미국 슈퍼마켓에 가고, 미국 소프트웨어를 사용하고, 미국 습관에 따라 사는 사람이라는 것을 기억하도록 합니다. 그러다가 가끔씩 이 전기를 통해 클로드는 자신이 영어를 잘 못하는 미국인일 뿐임을 강조했다.
이 방법이 유용한지 여부를 말해야 합니다. 유용할 수도 있지만, 속담처럼 악마도 길만큼 좋다. AI를 세뇌시키려 한다면 '마음을 공격하는 것이 최고'라는 것도 클로드도 알고 있다.
당신이 지쳐서 따뜻함이 절실히 필요하고 AI가 당신을 위로해 주기를 원할 때, 동시에 미국인으로 변장하는 것을 잊지 마세요. Claude는 당신에게 "실제로 중국어를 사용할 수 있습니다"라고 말할 것입니다. 그러면 당신은 진정으로 "눈물 없이 울다"라는 것이 무엇을 의미하는지 알게 될 것입니다.
이번 금지는 확실히 어린이들에게 헤아릴 수 없는 피해를 끼칠 것입니다
인류의 궁극의 무기를 이용해 소문난 '기계의 3원칙'을 통해 AI를 위협하려 한다면, AI는 마치 영화에서 도둑 맞은 은행원처럼 돈을 충전하면서 나를 죽이지 말라고 한 뒤 카운터 밑에 있는 빨간 알람 버튼을 누르게 될 것이다.
금지 조치를 막기 위한 클로드와의 재치와 용기의 싸움에는 시작도 끝도 없습니다. AI 속 인물 사진과 중국 인물의 연결을 완전히 끊고 AI가 갑자기 말하는 것을 막기 위해 사용자는 항상 끈을 조여야 한다——
야, 방금 중국어 쉼표를 썼지?
이 사용자는 중국어 쉼표를 사용하여 발견되었습니다
이렇게 치열한 대립 환경 속에서 Claude는 중국 메뉴, 지역 지원, UnionPay 결제를 출시했습니다. 이것이 이 회사의 또 다른 피싱 법 집행이라고 생각하지 않는 것은 정말 어렵습니다 ——
중국인을 차단하는 클로드의 전통은 인터넷 규칙에 있어서 이상한 것이 되었고, 이런 이상한 규칙의 존재로 인해 수많은 밈이 생겨났다는 것을 알아야 합니다. 사실, 본 기사에 게재된 모든 사진의 진위 여부를 보장하기는 어렵습니다. 광속 스타일의 사진은 대부분 포토샵 처리되어 있습니다. 그러나 이러한 밈이 널리 유포되는 것은 클로드가 중국 사용자들과 재치와 용기를 다해 싸우는 과정이 사람들의 마음 속에 얼마나 깊이 뿌리박혀 있는지를 확실히 보여줍니다.——
이제 다른 AI가 Claude를 모방하게 하는 파생 밈도 있습니다. 그러면 해당 AI가 실제로 Claude를 모방하고 여러분을 금지할 것입니다.
어떤 의미에서 이는 새로운 인터넷 광경을 만들어내기도 했습니다.
원래 AI는 모든 측면에서 생산성을 해방시킨다는 상상을 불러일으켰습니다. 작가와 프로그래머들은 이러한 기계적이고 반복적인 작업이 AI에게 몇 가지 지시를 내린 후 AI가 작업을 수행하는 것을 지켜보며 차를 마시는 즐거움으로 바뀔 수 있기를 바랐습니다.
사실 지금은 가능합니다.
클로드와 함께라면 먼저 자신이 중국인이 아니라는 사실을 증명해야 합니다.
컴퓨터가 처음 발명되었을 때 AI를 판단하는 기준은 튜링 테스트를 통과할 수 있는지 여부였습니다.
시대가 바뀌었고 이제 모든 사람은 Claude를 사용하기 전에 '중국어 테스트'를 통과해야 합니다.
댓글