OpenAI는 자사의 챗봇 서비스 ChatGPT가 일본 총리에 대한 온라인 비방 캠페인을 계획하는 데 중국 법 집행 기관과 연계된 개인을 지원하는 것을 거부했다고 말했습니다. 샌프란시스코에 본사를 둔 이 스타트업은 "인공 지능의 악의적인 사용 방지"에 대한 최신 업데이트에서 사용자의 요청에 국내외 적 모두를 대상으로 하는 광범위한 은밀한 영향력 작전과 관련된 여러 상태 보고서의 수정이 포함되어 있음을 공개했습니다.
OpenAI는 획득한 증거를 바탕으로 이러한 조치가 중국 법 집행 기관이 "대규모, 자원 집약적이며 지속적인" 작전에서 반대 의견을 진압하려고 시도하고 있음을 보여준다고 판단했습니다.
이와 관련해 마오닝 중국 외교부 대변인은 1일 정례 기자회견에서 “당신이 언급한 상황에 대해 아는 바도 없고, 이런 비난에 대한 어떤 근거도 찾을 수 없다”고 말했다.
이 소식은 OpenAI 경쟁사인 Anthropic PBC가 자사의 대표적인 AI 보안 "가드레일" 약속을 완화하기로 결정한 동시에 관련 보안 제한을 약화하라는 미 국방부의 압력에 여전히 저항하기로 결정한 가운데 나온 것입니다.
OpenAI는 최근 자사 모델을 사용해 인도네시아 국민을 대상으로 한 온라인 로맨스 사기, 러시아와 관련된 소셜 미디어 콘텐츠 팜, 미국 관리로부터 정보를 얻기 위해 중국에서 유래했을 가능성이 있는 것으로 추정되는 더 많은 계정 등 일련의 부적절한 행동 사례를 확인했다고 밝혔습니다.
오픈AI에 따르면 사나에 다카이치 일본 총리를 겨냥한 이런 계획은 지난해 10월 중순, 당선 직전에 나타났다. 당시 가오시는 중국 내몽골 지역의 인권 상황을 공개적으로 비판했다. 관련 사용자들은 ChatGPT를 사용하여 Gao Shi에 대한 부정적인 댓글을 증폭시키고 그를 극우 인물로 묘사하며 인터넷에 대한 대중의 압력을 강화하려는 계획을 세우려고 했습니다.
이후 일본 총리는 중국이 자국 영토로 간주하는 자치도인 대만에 대한 발언으로 중국으로부터 비난을 받아왔다. 이번 일련의 분쟁으로 촉발된 외교적 긴장은 중국과 일본 간 관광과 무역에 계속해서 영향을 미치고 있습니다.