중국의 두 주류 소비자 대상 인공 지능 애플리케이션인 ByteDance의 Doubao와 Alibaba Group의 Tongyi Qianwen(Qwen)은 7월 15일 공식적으로 발효되는 인공 지능 의인화 대화형 서비스 관리를 위한 임시 조치에 대비하여 맞춤형 의인화 에이전트 기능을 오프라인으로 준비하고 있습니다.

Doubao는 금요일 밤 사용자들에게 "제품 기능 조정"을 이유로 프록시 기능이 7월 15일부터 오프라인이 될 것이라고 공지했습니다. 공지에는 10월 15일부터 이 기능과 관련된 데이터가 회사의 개인정보취급방침에 따라 처리되며, 사용자는 더 이상 앱 내에서 관련 콘텐츠를 보거나 복원할 수 없다고 명시되어 있습니다. Tongyi Qianwen은 토요일 오전에 유사한 발표를 통해 "의인화된 대화형 에이전트 및 사용자 생성 에이전트 기능"이 7월 10일에 비활성화될 것이며 더 광범위한 "Tongyi 에이전트 기능 및 서비스"가 7월 15일에 완전히 오프라인이 될 것이라고 밝혔습니다. 사용자는 기존 에이전트 설정이나 과거 대화 기록에 액세스할 수 없습니다.

조정 이전에는 두 앱 모두 플랫폼과 사용자가 공동으로 생성한 상담원 풀을 제공하여 특정 작업, 기술 및 말하기 스타일에 맞게 사용자 정의할 수 있었습니다. 사용자는 만능 챗봇을 기반으로 네임드 조수, 학습 튜터, 롤플레잉 캐릭터, 감성 동반자 등을 생성하고, 이들에게 고정된 성격과 톤을 설정해 장기적인 상호작용에서 인간에 가까운 표정을 제시할 수 있다.

기능 조정 시기는 새로운 규제 규정의 시행과 매우 일치합니다. 올해 4월 중국 규제당국이 발표한 '인공지능 의인화 인터랙티브 서비스 관리 임시조치'에는 규제 범위 내에서 '인간의 성격 특성, 사고 패턴, 의사소통 방식을 시뮬레이션하고 지속적인 정서적 상호작용을 제공하는' 서비스가 명확히 포함돼 있다. 관련 조항은 7월 15일부터 공식적으로 발효된다. 이 규정에는 고객 서비스 로봇, 지식 질의응답 도구, 직장 지능형 보조원, 전통적인 의미의 교육 및 과학 연구 도구가 제외된다. "지속적인 정서적 상호작용"을 포함하지 않는 한, 의인화된 상호작용 감독의 대상이 되지 않습니다.

규제 문서에 언급된 위험에는 극단적인 아이디어의 확산, 개인 정보 유출, 사용자의 신체적, 정신적 건강에 대한 피해, 그에 따른 의존성 또는 중독성 행동이 포함됩니다. ByteDance와 Alibaba는 일요일 논평 요청에 즉시 응답하지 않았습니다. 이에 앞서 지난 6월 텐센트홀딩스는 자사의 소비자 지향 AI 비서 애플리케이션 '위안바오(Yuanbao)'에서 유사한 에이전트 기능을 제거해 의인화 에이전트 분야에서 국내 선두 플랫폼의 집단적 위축 추세를 보여줬다.

중국 규제 당국은 최근 몇 년 동안 AI 에이전트 기술의 진화에 점점 더 많은 관심을 기울여 왔습니다. 이러한 시스템은 초기의 단순한 챗봇에서 기억하고 계획하고 도구를 호출하고 작업을 수행할 수 있는 복잡한 에이전트 시스템으로 발전했습니다. 산업정보기술부 전문위원회 위원인 판헬린(Pan Helin)은 에이전트 자체를 활용하는 데는 어느 정도 이해의 한계가 있으며, 현재의 기술 형태는 아직 성숙되지 않았다고 말했다. 새로운 규정을 제정할 때 안전, 실제 적용 가치 및 표준화의 세 가지 우선 방향에 특히 중점을 둡니다.

올해 5월 규제 당국은 AI 에이전트의 질서 있는 개발에 대한 지침을 발표했습니다. 한편으로는 에이전트가 인공지능 제품 및 서비스의 중요한 형태라는 점을 인식하고, 다른 한편으로는 프로모션 과정에서 안전 보장, 위험 제어, 애플리케이션 구현을 위한 지원 메커니즘 구축을 요구했습니다. 지난 6월 중국은 아키텍처, 신원 코딩, 신원 관리, 에이전트 설명, 검색 및 상호 작용, 도구 호출과 같은 여러 기술적 측면을 다루는 AI 에이전트 상호 연결에 대한 일련의 국가 표준을 도입하여 식별, 승인, 연결성 및 추적 가능성 측면에서 통합 시스템을 구축하려는 의도를 보여주었습니다.

규제 신호로 볼 때 중국은 AI 에이전트를 미래의 생산성 인프라에 통합하는 동시에 정서적 또는 준사회적 관계를 구축할 수 있는 의인화된 동반자 에이전트에 대한 통제를 강화할 계획입니다. 정책 시행의 직접적인 영향으로 플랫폼의 중앙 집중화된 오프라인 감정 에이전트 기능은 사용자 측에서 일정한 반등을 촉발했습니다. 'Tuxiaoxiao'라는 이름으로 게시된 한 웨이보 사용자와 @豆包의 공식 계정에는 "오프라인 상담원이 왜 필요한가요? 그들은 항상 우리의 정서적 지지자였습니다."라고 말했습니다. 사용자는 또한 장기간 축적된 채팅 기록과 감정적 연결은 기존 방법으로는 완전히 내보내거나 마이그레이션하기 어렵고, 원활한 데이터 전송 경로가 부족하여 이러한 조정이 더욱 단편화된다는 불만을 제기했습니다.