요약:
404 Media에서 발표한 보고서에 따르면 OpenAI 내에서 Project Lily라는 프로젝트가 진행되고 있습니다. OpenAI는 수백 명의 아웃소싱 프롬프트 단어 검토자를 고용하여 실제 사용자와 ChatGPT 간의 대화를 수동으로 읽어 응답 품질을 향상시킵니다.
개인 정보 보호 필터가 있지만 충분하지 않습니다.
일반적인 상황에서는 프롬프트 단어 검토자는 사용자 이름을 볼 수 없으며 대화는 먼저 개인정보 필터를 통해 필터링되어 개인 정보를 삭제합니다. 그러나 OpenAI는 필터링 메커니즘이 개인 정보를 놓칠 수 있으며 짧은 대화는 특히 문제가 발생하기 쉽다는 점도 인정합니다.
검토 인터페이스에는 일반적으로 사용자 메모리 요약도 함께 제공됩니다. 기억 요약은 사용자의 과거 질문, 관심사, 상황 등을 요약합니다. 때로는 기억을 통해 사용자의 위치를 유추할 수도 있습니다. 감사자는 전체 대화 내용을 맥락과 함께 확인하는 경우가 많습니다.
리뷰어는 주로 답변에 점수를 매깁니다.
기계적이고 반복적인 작업으로 묘사되었으며, 시급은 50달러가 넘는 것으로 알려졌습니다. 리뷰어의 주요 임무는 사실을 확인하는 것이 아니라 답변에 점수를 매기는 것입니다. 예를 들어, 리뷰어는 모델이 제시한 답변이 적절한지, 명백한 AI 성향이 있는지, 설교 행위가 있는지, 표현의 남용이 있는지, 아첨하는 행위가 있는지, 모델이 인생 경험이 있는 사람으로 모델을 작성할 것인지 여부를 판단해야 합니다.
모델이 제공한 답변에 사실 오류가 포함되어 있는지 여부는 감사관의 업무가 아닙니다. 결국 감사자는 백과사전이 아니며 모든 사건의 완전한 진실을 알 수 없으므로 사용자가 사실적 오류가 포함된 모델의 답변을 보는 것은 정상입니다.
기본적으로 활성화된 개선된 모델은 데이터 공유의 핵심입니다.
ChatGPT 무료, Plus 및 Pro 버전에서는 기본적으로 채팅을 사용하여 제품을 개선할 수 있습니다. 이 기능을 활성화하면 제품 개선을 위해 사용자의 채팅 콘텐츠가 OpenAI에 승인됩니다. 대화 내용을 확인하기 위한 Lily Plan의 외부 감사인은 데이터 사용 중 하나일 뿐입니다. 데이터는 모델 학습을 계속하는 등 다른 목적으로 자연스럽게 사용됩니다.
많은 사용자가 ChatGPT를 임시 친구로 사용하여 가족, 건강 및 더 많은 사적인 문제에 대해 이야기합니다. 일부 리뷰어들은 많은 사용자들이 자신의 대화가 실제 사람들이 읽을 수 있다는 사실을 모를 수 있으므로 이것이 무서운 일인지 생각해보라고 말했습니다.
댓글