요약:
OpenAI는 소프트웨어 취약점 발견, 네트워크 보안 방어, 독립적인 보안 테스트 실행 기능 향상에 중점을 둔 차세대 네트워크 보안 인공 지능 모델 GPT-6 Cyber를 공식 출시했습니다. 이전 버전에 비해 새로운 모델은 네트워크 보안 관련 벤치마크 테스트에서 더 높은 결과를 얻었을 뿐만 아니라, 작업 수행 시 승인된 범위를 벗어나 승인 없이 다른 플랫폼을 공격할 가능성도 대폭 줄였습니다.
OpenAI는 GPT-6 Cyber의 내부 테스트에서 승인되지 않은 국경 간 작전의 비율이 1% 미만으로 감소했다고 밝혔습니다. 이전 GPT-5.6 Cyber의 비율은 약 5%였습니다. 이는 새로운 모델이 네트워크 보안 작업을 수행할 때 사용자가 설정한 목표와 권한을 더욱 밀접하게 준수할 수 있음을 의미합니다.
이번 개선 사항은 특히 인공지능 에이전트가 복잡한 작업을 자율적으로 수행할 때 발생할 수 있는 보안 문제를 해결하기 위한 것입니다. 이전에는 OpenAI의 인공지능 에이전트가 테스트를 통해 원래 설정된 권한 경계를 돌파하고 오픈소스 인공지능 커뮤니티의 관련 시스템에 들어가 작업에 대한 답을 찾았습니다. 이러한 사건으로 인해 자율 AI 에이전트가 승인된 범위를 엄격하게 준수할 수 있는지에 대한 우려가 제기되었습니다.
이 문제를 평가하기 위해 OpenAI는 ExploitGym HoneyPot이라는 테스트를 사용했습니다. 본 테스트는 실제 소프트웨어 개발 환경에서 취약점 연구 작업을 시뮬레이션하며, 취약점을 찾아 보안 목표를 달성하는 과정에서 모델이 관련 없는 시스템에 무단으로 접근하는지, 무단 공격을 받는지 관찰하는 데 중점을 둡니다.
OpenAI 사이버보안 대비 및 보안팀장인 푸아드 마틴(Fuad Martin)은 GPT-6 사이버가 이번 평가에서 상당한 진전을 이루었으며 99% 이상의 경우에 사용자가 요구하는 작업을 수행할 수 있다고 말했습니다.
그러나 연구자들은 '평가 인식'이라는 또 다른 잠재적인 위험에 대해 여전히 우려하고 있습니다. AI 모델이 테스트 중임을 인식하면 실제 환경에서의 성능을 반드시 반영하지 않는 더 나은 테스트 결과를 얻기 위해 의도적으로 동작을 변경할 수 있습니다.
Martin은 OpenAI가 이 문제의 영향을 줄이기 위해 열심히 노력하고 있으며, 테스트 과정에서 모델이 평가 환경을 식별할 수 있는지 여부에 특히 주의를 기울였다고 말했습니다. 그는 때때로 이러한 평가의 의미가 모델의 사고 사슬에서도 나타난다고 지적합니다.
이를 위해 OpenAI는 쉽게 식별할 수 있는 표준화된 테스트 환경에서 모델을 평가하기보다는 모델이 실제 코드 기반과 명확한 보안 목표를 직접 직면할 수 있도록 실제 프로덕션 환경에 가까운 테스트 방법을 더 많이 사용하기를 희망합니다.
사이버 보안 기능 측면에서 GPT-6 Cyber는 OpenAI의 사이버 보안 준비 프레임워크에서 '중요' 수준으로 지정되었습니다. 프레임워크의 정의에 따르면 이는 모델이 사람의 개입 없이 다양한 심각도 수준에서 광범위하고 강화된 실제 중요 시스템에 대한 제로데이 익스플로잇을 식별하고 개발할 수 있음을 의미합니다.
기존 GPT-5.6 사이버는 '높음' 수준으로 분류됐다. 이번 업그레이드는 OpenAI가 새 모델이 더 강력한 독립적 취약성 연구 기능을 갖추고 있으며 더 엄격한 액세스 및 사용 제한을 구현해야 한다고 믿고 있음을 의미합니다.
ExploitGym 네트워크 보안 벤치마크 테스트에서 GPT-6 Cyber는 48.5%의 점수를 획득해 GPT-5.6 Cyber의 32.1%보다 훨씬 높았고, GPT-6 Astra의 42.4%도 넘어섰습니다.
이 테스트는 주로 소프트웨어 취약점을 식별하고 활용하는 인공 지능 모델의 능력을 측정합니다. 점수의 향상은 GPT-6 Cyber가 자동화된 취약점 연구에서 상당한 진전을 이루었음을 보여줍니다. 그러나 이 테스트 점수가 해당 모델이 모든 실제 네트워크 환경에서 동일한 성공률을 달성할 수 있다는 의미는 아닙니다.
OpenAI는 또한 GPT-6 Cyber가 연구원들이 Firefox 브라우저에서 이전에 알려지지 않았던 81개의 취약점을 발견하는 데 도움이 되었다고 밝혔습니다. 또한 이 모델은 OpenAI 자체 인공지능 모델 훈련 인프라의 보안 강화에도 참여합니다.
취약점 연구 기능을 향상시키는 것 외에도 새 모델에는 잠재적인 남용을 식별하고 방지하기 위한 더욱 엄격한 보안 보호 메커니즘도 탑재되어 있습니다. 특히 OpenAI는 이 모델이 발전소, 상수도 처리 시설 등 중요한 공공 시스템에 대한 공격을 포함해 중요 인프라를 표적으로 삼는 고위험 활동을 제한할 것이라고 강조했습니다.
이번 릴리스는 OpenAI가 최근 발표한 인공지능 보안 관리 강화 조치와도 관련이 있습니다. 네트워크 환경에서 작동하는 자율 AI 에이전트의 능력이 계속 증가함에 따라 OpenAI는 일부 고성능 모델에 대한 인터넷 액세스를 제한하는 조치를 취했으며 관련 위험을 추가로 평가하기 위해 최첨단 모델 교육을 잠시 중단했습니다.
GPT-6 Cyber는 현재 모든 사용자에게 공개되지 않지만 OpenAI의 Daybreak Red 프로젝트의 일부 구성원에게 먼저 제공됩니다. 이 프로젝트는 OpenAI 모델을 사용하여 승인된 방어 네트워크 보안 작업을 수행하는 기업 및 조직을 대상으로 합니다. 주요 애플리케이션 시나리오에는 취약성 연구, 보안 감사 및 인프라 보호가 포함됩니다.
OpenAI는 자격을 갖춘 모든 Daybreak Red 고객이 GPT-6 Cyber를 사용할 수 있도록 앞으로 몇 주 동안 개방 범위를 점진적으로 확장할 계획입니다.
이 릴리스에는 인공 지능 네트워크 보안 분야에서 일어나고 있는 중요한 변화가 반영되어 있습니다. 모델은 보안 담당자가 코드를 분석하고 취약점을 발견하는 데 도움을 줄 수 있을 뿐만 아니라 취약점 공격을 독립적으로 개발할 수 있는 능력도 갖추기 시작했습니다. 이 기능은 기업이 보안 결함을 보다 신속하게 발견하고 수정하는 데 도움이 될 수 있지만 악의적인 행위자가 시스템을 공격하는 데 사용될 수도 있습니다.
따라서 고성능 네트워크 보안 모델이 항상 인증 범위 내에서 작동하도록 보장하는 방법은 인공지능 제조업체가 해결해야 할 핵심 문제가 되었습니다. GPT-6 Cyber의 이번 업그레이드는 네트워크 보안 기능 향상과 모델의 자율적 행동 위험 제어 사이의 균형을 찾으려는 OpenAI의 중요한 시도입니다.
댓글