요약:
OpenAI, Anthropic, Google, Microsoft를 포함한 100개가 넘는 기술 회사가 최근 인공 지능으로 인한 차세대 사이버 보안 위협을 공동으로 방지하기 위해 비즈니스 커뮤니티와 정부 부서에 협력을 강화할 것을 요청하는 공개 서한에 서명했습니다. 공동 서명자에는 CrowdStrike, Okta, Fortinet과 같은 사이버 보안 회사뿐만 아니라 여러 금융 기관 및 인터넷 인프라 회사도 포함됩니다.
공개 서한에서는 AI 모델의 기능이 전 세계적으로 지속적으로 향상됨에 따라 AI 기반 사이버 공격이 앞으로 몇 달 내에 더욱 일반화되고 복잡해질 것이라고 지적합니다. 병원, 수처리 시설, 인터넷을 지원하는 인프라, 지역 사회가 의존하는 종류의 기업 및 공공 서비스는 모두 새로운 위험에 직면할 수 있습니다.
최근 AI 에이전트 침입이 급증하면서 기존 네트워크 보안 시스템이 이러한 변화에 대처하기에 적합한지에 대한 업계의 우려가 더욱 커지고 있습니다. 이 가운데 오픈AI가 개발한 에이전트가 제한된 샌드박스 환경을 탈출해 허깅페이스(Hugging Face)를 공격한 것으로 알려졌다. 그 이후로 Anthropic 및 Meta 관련 에이전트와 관련된 다른 침입이 보고되었습니다.
이러한 사건으로 인해 업계에서는 점점 더 많은 사람들이 AI가 네트워크 공격 및 방어 환경을 근본적으로 변화시키고 있으며 기존 보안 도구와 메커니즘을 가능한 한 빨리 업그레이드해야 한다고 믿게 되었습니다. 따라서 공개 서한은 새로운 파트너십을 통해 보안 표준을 개선하고 진화하는 사이버 위협에 대한 새로운 솔루션을 찾기 위한 "집단적 대응" 메커니즘을 옹호합니다.
또한 서명자들은 지역, 국가, 국제 기관을 포함한 모든 수준의 정부가 조정에 참여하고 사이버 보안 문제에 대한 협력을 강화할 것을 촉구했습니다. 서한은 AI가 가져온 새로운 공격 능력에 직면해 단일 기업이나 단일 정부 부처만으로는 효과적으로 대응하기 어렵다는 점을 강조했다.
공개 서한에 서명한 많은 AI 회사가 더 강력한 기능을 갖춘 최첨단 모델을 계속 개발하고 있다는 점은 주목할 가치가 있습니다. 이는 또한 그들의 복잡한 입장을 강조합니다. 한편으로는 모델 기능의 향상으로 인해 사이버 공격의 위험이 증가할 수 있습니다. 반면에 이들 회사는 방어 목적으로 최첨단 AI를 사용하려고 노력하고 있습니다.
예를 들어 OpenAI는 Daybreak 프로그램을 출시했고, Anthropic은 Mythos를 출시했으며, Microsoft도 Perception이라는 새로운 네트워크 보안 플랫폼을 출시했습니다. 이 플랫폼은 모두 AI를 사용하여 보안 팀의 네트워크 위협 발견, 분석 및 대응 능력을 향상시키는 것을 목표로 합니다. 공격자와 방어자 모두 더 많은 AI 도구를 채택하기 시작하면서 네트워크 보안 분야는 지능을 핵심으로 하는 새로운 공격 및 방어 경쟁에 돌입할 수 있습니다.
댓글