Meta CEO Mark Zuckerberg는 최근 소셜 플랫폼 Threads를 통해 회사가 "완전한 비공개" 채팅 경험에 초점을 맞춘 Incognito Chat이라는 새로운 Meta AI 기능을 출시했다고 발표했습니다. 그는 이를 "서버에서 대화 내용을 기록하지 않는 최초의 주요 AI 제품"이라고 부릅니다.
Meta가 공개한 정보에 따르면 시크릿 채팅의 대화는 사용자의 채팅 기록에 표시되지 않으며 채팅이 끝나면 메시지가 사라집니다. 사용 방식은 여타 AI 챗봇의 '시크릿 모드'와 유사하지만, 종단간 암호화 기능을 추가했다는 점에서 차이점이 있다고 회사측은 강조한다. Meta는 다른 애플리케이션의 익명 채팅은 기록에 흔적을 남기지 않지만 플랫폼에서는 사용자가 보낸 질문과 반환된 답변을 계속 볼 수 있다고 말했습니다. Meta의 시크릿 채팅에서는 "Meta 자체를 포함하여 누구도 대화 내용을 읽을 수 없습니다."
이러한 입장은 최근 AI 채팅 기록의 사생활 침해 논란에 대한 대응으로도 풀이된다. Google은 이전에 Gemini의 임시 채팅 데이터가 최대 72시간 동안 보관될 것이라고 밝혔습니다. OpenAI의 ChatGPT 임시 세션은 최대 30일 동안 유지될 수 있습니다. Anthropic의 Claude 시크릿 대화는 최소 30일 동안 보관됩니다. Anthropic과 OpenAI는 아직 Meta의 새로운 기능 출시에 대해 언급하지 않았습니다.
AI 채팅 기록 저장은 최근 몇 년간 여러 차례 법적 분쟁에 휘말려왔다. 캐나다 탬버린 리지(Tamborine Ridge)와 미국 플로리다 주립대학교에서 발생한 두 건의 총격 사건에서 ChatGPT를 사용하는 당사자들의 채팅 로그는 AI 시스템을 둘러싼 '설계 결함'을 주장하는 소송의 핵심 증거 중 하나가 됐다. 또한, 뉴욕타임스가 OpenAI를 고소한 경우에도 법원은 관련 채팅 기록을 '무기한' 보관하도록 요구했습니다. 동시에 구글은 제미니가 자신의 죽음을 초래한 '미션 스타일' 지시를 제공했다는 혐의로 36세 남성의 가족으로부터 고소를 당했다.
Meta는 Incognito Chat이 이전에 WhatsApp용으로 출시된 개인 처리 기술을 기반으로 구축되어 클라우드에서 비공개로 데이터를 처리한다고 말합니다. 이 새로운 기능은 앞으로 몇 달 안에 WhatsApp 및 독립형 Meta AI 앱에 출시되어 사용자에게 암호화된 임시 AI 대화 옵션을 제공할 예정입니다. 동시에 Meta는 최근 Instagram 다이렉트 메시지의 엔드투엔드 암호화를 취소했으며, 이로 인해 다양한 제품 라인에 대한 암호화 전략도 뚜렷한 대조를 이루고 있습니다.
개인 정보 보호 및 책임에 대한 경쟁업체의 여론 및 소송 압력이 높아지는 상황에서 Meta는 이 "보이지 않는 AI 채팅" 기능을 통해 대형 모델 시대의 사용자 개인 정보 보호에 대한 기술적 노력을 다시 강조하려고 합니다. 그러나 데이터 트레이닝과 로그 모니터링에 크게 의존하는 AI 서비스의 맥락에서, 이 '완전 프라이빗' 설계가 어느 정도까지 구현되고 시장에서 받아들여질 수 있을지는 지켜봐야 할 것입니다.