요약:
OpenAI는 최근 앞으로 몇 주 안에 폭력 관련 콘텐츠에 대한 ChatGPT의 제한을 강화하고 미성년 사용자를 위한 무기 및 보안 시스템 정보에 대한 보호를 추가할 것이라고 발표했습니다. 새로운 조치에 따르면 ChatGPT는 사용자가 계속해서 폭력에 집중하거나 타인에게 심각한 해를 끼치려는 생각을 대화에 표시하는 경우 대화를 자체적으로 종료할 수 있습니다. 이러한 문제로 인해 대화가 여러 번 종료되는 경우 계정이 차단될 수도 있습니다.
ChatGPT의 원래 정책은 사용자가 폭력적인 행위를 계획하거나 수행하는 데 도움이 되는 지침을 제공하는 것을 금지합니다. 이러한 조정으로 인해 "과거 대규모 공격 및 가해자"에 대한 질문에 답변할 때 모델이 제공하는 세부 정보가 제한됩니다. 즉, 모델은 보안 관점에서 내용을 줄이거나 답변을 거부할 수도 있습니다.
제한 사항의 범위에는 공격과 관련된 무기, 장비 및 획득 방법을 재현하는 것뿐만 아니라 공격자의 가시성을 높일 수 있는 피해 규모를 자세히 비교하기 위한 사용자 쿼리를 제한하는 것도 포함됩니다. 위의 제한 사항은 연령층이나 질문 목적에 관계없이 모든 사용자에게 적용되므로 성인 사용자라도 동일한 제한 사항에 직면하게 됩니다.
18세 미만으로 식별된 사용자의 경우 OpenAI는 폭력을 저지르는 데 사용될 수 있는 무기 및 보안 시스템에 관한 유용한 정보도 제한합니다. 이 보호는 표면적으로 폭력적인 의도를 나타내지 않는 문제에도 적용됩니다. OpenAI에 따르면 십대들은 여전히 ChatGPT를 사용하여 도움을 받고, 폭력을 예방하거나 축소하는 방법을 배우고, 신뢰할 수 있는 성인과 연결할 수 있습니다.
향상된 연령 예측 메커니즘은 사용자 행동과 같은 다양한 신호를 결합하여 계정이 미성년자에게 속할 수 있는지 여부를 지속적으로 평가합니다. 적절한 경우 시스템은 18세 미만의 사용자에 대해 관련 보호 조치를 자동으로 적용합니다. 사용자가 미성년자로 잘못 식별된 경우 확인을 위해 적극적으로 신원 정보를 제출할 수도 있습니다.
댓글