3월 26일OpenAI는 핵심 제품에 다시 집중하기 위해 에로틱한 챗봇을 "무기한" 출시할 계획을 보류했다고 Financial Times가 보도했습니다.이전에 OpenAI 직원과 투자자들은 에로틱한 AI 콘텐츠가 사회에 미칠 수 있는 영향에 대해 우려를 표명했습니다.
이 문제에 정통한 복수의 소식통에 따르면 OpenAI는 '성인 모드' 출시를 연기했으며 내부적으로 모델을 완전히 포기할지 여부를 논의했습니다. 이제 에로틱한 챗봇은 점점 더 큰 반대에 직면해 있습니다. AI 시스템에 대한 건강하지 못한 의존을 조장하고 미성년자를 문제 있는 포르노에 노출시킬 수 있다는 우려가 있습니다.
OpenAI는 에로 모델이 보류되었으며 아직 출시 일정이 없다고 확인했습니다. 7,300억 달러 가치로 평가되는 AI 회사는 현재 '실증적 증거'가 없다는 점을 인정하면서 제품 결정을 내리기 전에 에로틱한 채팅과 정서적 애착이 미치는 영향에 대한 장기적인 연구를 수행하고 싶다고 말했습니다.
이러한 움직임은 경영진이 "비핵심 비즈니스"라고 부르는 프로젝트를 포기하고 대신 생산성 도구에 리소스를 투자하기로 한 OpenAI의 결정을 나타냅니다. 코드 어시스턴트, ChatGPT 및 기타 제품을 '슈퍼 애플리케이션'으로 통합할 계획입니다.
이 문제에 정통한 두 사람에 따르면,OpenAI의 "성인 모드" 시도는 일부 투자자들 사이에서 불안을 야기했습니다. 이러한 제품은 위험하고 사업 수익이 상대적으로 제한되어 있기 때문입니다.
OpenAI의 성인 모드는 또한 낭만적인 사용을 장려하는 제품을 개발하는 것이 "AI가 모든 인류에게 이익이 되도록 보장"하는 창립 사명과 충돌하는지 의문을 제기하는 내부 직원들 사이에서 우려를 불러일으켰습니다.
"AI가 친구나 가족을 대체해서는 안 됩니다. 인간 사이에 감정적인 연결이 있어야 합니다." OpenAI의 전직 고위 직원은 이렇게 말했습니다. 그 직원은 이 문제 때문에 부분적으로 떠났다고 말했습니다.
OpenAI는 프로젝트의 사회적 영향에 대한 우려가 높아지는 것 외에도 성인 모델을 만드는 데 있어서 기술적 어려움에도 직면해 있습니다. 이 문제에 정통한 두 사람은 OpenAI가 AI 모델을 훈련하는 데 어려움을 겪고 있다고 말했습니다. 이전에는 안전상의 이유로 이러한 대화를 피했던 모델이 이제 노골적인 콘텐츠를 생성하도록 훈련되었습니다. 그들은 근친상간과 같은 불법 행위를 필터링하는 방법을 포함하여 에로틱한 콘텐츠가 포함된 데이터 세트를 사용하는 데 많은 어려움이 있다고 덧붙였습니다.
지난 몇 달 동안 OpenAI는 여러 청소년 가족이 ChatGPT가 피해를 입혔다고 주장하는 소송을 제기한 후 새로운 연령 예측 시스템을 시작했습니다.이 문제에 정통한 관계자에 따르면 이 기술은 오류율이 10% 이상이어서 미성년자의 콘텐츠 노출에 대한 우려를 더하고 있다. 월스트리트저널은 오픈AI의 정신·신체 건강 전문가 자문위원회가 성인용 제품에 대해 우려를 표명했다는 점을 지적하며 오류율을 처음 보도했다.