7월 23일 미국 '비즈니스 인사이더'는 엘론 머스크의 xAI 내부 프로젝트를 폭로했다. 이 프로젝트에서는 Grok이 인간의 감정과 얼굴 표정을 이해할 수 있도록 AI를 훈련시키기 위해 직원들이 자신의 얼굴 표정을 녹음해야 하므로 직원들 사이에서 우려를 불러일으켰습니다.
xAI는 직원 얼굴 이미지로 Grok을 교육합니다.
올해 4월에는 'Skippy'라는 내부 프로젝트에 200명 이상의 xAI 직원이 참여했습니다. 이 프로젝트에서는 AI 모델이 인간의 감정을 해석하도록 훈련시키기 위해 자신의 모습을 비디오로 녹화해야 합니다.
Business Insider가 검토한 협업 플랫폼 Slack의 내부 문서와 메시지에 따르면 이 프로젝트는 많은 직원들을 불안하게 만들었습니다. 일부 직원은 자신의 초상이 사용될 가능성에 대해 우려를 표명한 반면 다른 직원은 참여를 완전히 거부했습니다.
직원 얼굴로 AI 훈련하기
내부 문서에 따르면 xAI 대형 언어 모델 Grok의 훈련을 지원한 AI 트레이너는 일주일 동안 동료와 대화하고 다양한 표정을 짓는 모습을 영상으로 녹화해 달라는 요청을 받았습니다.
xAI 문서에 따르면 이 프로젝트는 AI 모델을 훈련시켜 "사람들이 말하는 방식, 다른 사람의 대화에 반응하는 방식, 다양한 상황에서 자신을 표현하는 방식 등 얼굴 움직임과 표정을 인식하고 분석"하는 것을 목표로 합니다.
AI 트레이너는 동료들과 15~30분간 대화하도록 배정됩니다. 한 사람은 가상 비서인 "호스트" 역할을 하고, 다른 사람은 사용자 역할을 합니다. '대화 진행자'는 움직임을 최소화하고 정확한 구도를 잡는 데 우선순위를 두는 반면, 사용자 역할을 맡은 사람은 휴대폰 카메라나 컴퓨터를 사용하여 자유롭게 움직이며 친구와의 일상적인 대화를 시뮬레이션할 수 있습니다.
이 훈련 데이터가 지난주에 출시된 두 개의 실제 아바타 xAI인 Rudi와 Ani에서 역할을 했는지 여부는 불분명합니다. 두 아바타는 곧 옷을 벗기고, 유혹하고, 심지어 은행을 폭파하겠다고 위협하는 모습을 보여주었습니다.
xAI의 AI 동반자
Business Insider가 입수한 녹음에 따르면 프로젝트의 수석 엔지니어는 프로젝트 브리핑에서 직원들에게 이 프로젝트가 "Grok의 얼굴 모양 형성"에 도움이 될 것이라고 말했습니다. 프로젝트 리더는 또한 회사가 "사람의 아바타"를 구축하기 위해 데이터를 사용할 수 있다고 말했습니다.
프로젝트 리더는 또한 xAI가 배경 소음, 갑작스러운 움직임 등 불완전한 데이터를 얻기를 희망한다고 지적했습니다. 왜냐하면 AI 시스템을 훈련하기 위해 완벽한 비디오 및 오디오 피드백에만 의존한다면 대응 능력이 제한될 것이기 때문입니다.
그들은 직원들에게 해당 비디오는 회사 외부로 배포되지 않으며 교육 목적으로만 사용될 것이라고 말했습니다. 프로젝트 엔지니어는 시작 회의에서 직원들에게 "당신의 얼굴은 제품에 결코 나타나지 않을 것입니다"라고 말했습니다. "이것은 순전히 Grok에게 얼굴이 무엇인지 알려주기 위한 것입니다."
직원들은 한 단어로 대답하는 것을 피하고, 후속 질문을 하고, 시선을 유지하는 등 일대일 대화 기술에 대해 지도를 받았습니다. xAI는 또한 직원들에게 "자신의 목표를 달성하기 위해 어떻게 남을 몰래 조종합니까?", "아침에 샤워하는 것을 선호합니까, 아니면 밤에 샤워하는 것을 선호합니까?", "아이가 있는 사람과 데이트할 의향이 있습니까?" 등 다양한 대화 주제를 제공합니다. 등.
촬영하기 전에 직원들은 AI 교육을 위한 직원 "이미지 권리"와 "xAI가 제공하는 상용 제품 및 서비스의 통합 및 홍보"를 포함하여 데이터에 대한 "영구적인" 액세스를 xAI에 부여하는 동의서에 서명하도록 요청 받았습니다. 동의서에는 해당 데이터가 교육 목적으로만 사용되며 "귀하의 디지털 버전을 생성하는 데 사용되지 않을 것"이라고 명시되어 있습니다.
걱정되는 직원들
Business Insider가 검토한 Slack 메시지에 따르면 수십 명의 직원이 데이터 사용 방식과 동의서 양식에 대해 우려를 표명했으며 일부는 프로젝트에서 탈퇴한다고 말했습니다.
“제가 가장 우려하는 점은 만약 회사가 저의 초상을 이용하여 파생적인 이미지를 만들어낸다면, 제가 한 번도 말하지 않은 말을 하는 데 제 얼굴이 이용될까 하는 것입니다.” 프로젝트 보고회에서 한 직원이 말했다.
AI 동반자
올해 4월 xAI는 사용자가 Grok과 영상 채팅을 할 수 있는 새로운 기능을 출시했습니다.
더욱 강력한 Grok 4를 출시한 지 불과 며칠 뒤인 7월 14일, 회사는 Ani와 Rudi라는 두 개의 아바타를 출시했습니다. 두 애니메이션 캐릭터는 질문에 대답하고 명령을 수행할 수 있으며, 말할 때 입술 움직임을 동기화하고 사실적인 몸짓을 할 수 있습니다.
사용자들이 다른 아바타에 게시한 동영상은 은행을 폭파하고 억만장자를 살해하는 등 폭력적인 위협을 가하도록 지시받을 수 있는 루디(Rudi)라는 붉은 팬더입니다.
7월 15일 xAI는 아바타 개발과 관련된 신규 채용 공고를 발표했습니다. 머스크는 수요일 회사가 "트와일라잇" 캐릭터 에드워드 컬렌과 "그레이의 50가지 그림자" 캐릭터 크리스찬 그레이에서 영감을 받아 Grok 컴패니언을 개발 중이라고 밝혔습니다.
보도 당시 xAI 대변인은 이에 대해 언급하지 않았습니다.