요약:
로이터에 따르면 OpenAI는 목요일에 모델 사양을 업데이트했습니다. 회사가 원하는 AI 모델의 성능을 제시하는 공개 로드맵입니다. AI 시스템의 기능이 지속적으로 향상됨에 따라 OpenAI는 5가지 핵심 가치를 중심으로 이 사양 세트를 재구성했습니다. 다섯 가지 가치는 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간 자율성 존중, 배려입니다.
OpenAI
OpenAI는 인간 의도에 대한 충성심이 이 프레임워크의 기초라고 밝혔습니다. 따라서 모델은 단순히 명령을 문자 그대로 실행하는 것이 아니라 사용자, 개발자 및 OpenAI의 의도와 가치 지향을 이해해야 합니다.
OpenAI는 이번 업데이트가 모델이 항상 인간의 감독을 수용하면서 익숙하지 않은 상황에서 인간의 가치를 적용할 수 있도록 돕는 AI 정렬 노력의 일환이라고 밝혔습니다. 개정된 프레임워크는 모델이 피해를 최소화하고, 알고 있는 것과 모르는 것에 대해 투명해야 하며, 사용자가 스스로 결정을 내리고 목표를 추구하도록 도와야 한다고 말합니다.
회사에서는 현재 모델이 아직 업데이트된 '모델 사양'의 요구 사항을 완전히 반영하지 않았으며 모델이 이러한 원칙을 자체 동작에 내재화하는 데 도움이 되는 새로운 훈련 방법을 모색하고 있다고 밝혔습니다.
이 움직임은 경쟁사인 Anthropic의 '헌법적 AI' 접근 방식을 반영합니다. 이 접근 방식은 서면으로 작성된 원칙의 "구성"을 통해 모델의 동작을 안내하고 AI 시스템을 형성하는 가치를 더욱 투명하게 만듭니다.
댓글