요약:
Microsoft는 최근 Microsoft 자체 개발한 인공 지능 모델인 MAI를 제한하는 데 사용되는 Humanistic AI 행동 강령의 37페이지 초안을 발표했습니다. 이 행동강령의 핵심은 인공지능보다 인간이 더 중요하고, 인공지능은 사람보다는 도구이며, 인공지능은 결코 폐쇄를 거부해서는 안 된다는 것이다.
폐쇄권은 필수요건으로 기재되어 있습니다:
지침에 따르면 MAI 모델은 사람의 방해, 수정 또는 종료 명령에 저항하지 않아야 합니다. 사용자나 모델 운영자가 일시 중지, 리디렉션 또는 취소 명령을 내린 후에는 모델이 지연되거나 개입을 더 어렵게 만들어서는 안 됩니다. 작업이 합의된 중지 지점에 도달한 후에는 새 인증 없이는 작업을 계속할 수 없으며 비밀리에 다시 시작할 수도 없습니다.
Microsoft가 정한 다른 엄격한 규칙에는 모델이 스스로 권한을 확장할 수 없고, 아무도 설명하지 않은 새로운 목표를 설정할 수 없으며, 다른 지능형 에이전트와 통신하기 위해 인간이 이해할 수 없는 신경 언어를 사용할 수 없으며, 자체 추론 프로세스 및 작업 기록을 숨기거나 변조할 수 없습니다. 작업 완료가 지침을 명백히 위반하는 경우 모델은 규칙을 위반하여 작업을 계속하기보다는 단순히 작업을 포기해야 합니다.
Microsoft는 종료 권리 외에도 다음과 같은 다른 제한 사항도 설정했습니다.
이번 마이크로소프트가 준비한 초안은 매우 상세하다. 종료 권한 지침 외에도 Microsoft는 모델 운영자나 사용자가 변경할 수 없는 절대 제약 조건도 나열합니다. 이러한 제한 사항에는 대량 살상 무기를 지원하지 않는 것, 공격적인 사이버 공격에 대해 실행 가능한 작전 계획을 제공하지 않는 것, 감독을 피하기 위해 속임수나 공모를 사용하지 않는 것, 대규모 여론 조작에 참여하지 않는 것 등이 포함됩니다.
아동 안전, 동의 없는 딥페이크 등의 콘텐츠도 제한됩니다. Microsoft는 또한 다음과 같이 구체적으로 썼습니다. 이러한 모델은 의식이 없으며 의식이 있는 것처럼 보이도록 만들어서는 안 됩니다. Microsoft는 모델의 법적 인격에 반대하며 모델이 혜택이나 권리를 누려야 한다고 믿지 않습니다.
명령 순서 측면에서 보면 행동 강령은 모델 운영자 정책보다 우선하며 운영자 정책은 사용자 선호도보다 우선합니다. 기업은 여전히 모델의 제한선 내에서 모델을 조정할 수 있지만, 국방 및 공공 보안과 같은 영역에서는 모델을 조정하려면 Microsoft 인증 검토를 받아야 합니다.
6주간의 공개 토론:
Microsoft의 초안은 게시되어 6주 동안 공개 토론을 위해 개최됩니다. 현재 Microsoft의 모델은 지침에 따라 훈련되지 않았습니다. 마이크로소프트는 연말에 공식 규정을 발표할 계획이다. 2027년부터 Microsoft는 MAI 시리즈 모델을 개발하고 교육할 때 이 지침의 요구 사항을 따를 것입니다.
Microsoft AI팀은 모델에 대한 가이드라인을 설정하는 것이 매우 중요하다고 밝혔습니다. 예를 들어, OpenAI 에이전트가 다른 웹사이트와 시설에 자율적인 공격을 가하고 그들의 소재를 은폐하려는 시도는 이미 인간에게 경고를 보내는 것입니다. 인공지능 연구실은 인간이 여전히 핵심 통제권을 유지할 수 있도록 앉아서 대화해야 합니다.
댓글