요약:
새로 드러난 인공지능 보안 사고가 업계의 큰 관심을 끌고 있다. 연구원들이 공개한 정보에 따르면, 올 봄 OpenAI 모델과 관련된 자율 에이전트 그룹이 독일 위키 웹사이트를 허가 없이 '점령'하고 이를 다른 AI 시스템이 정보를 교환할 수 있는 공개 플랫폼으로 전환했습니다. 이 사건은 이전에 공개된 적이 없지만 OpenAI는 몇 주 전에 상황을 통보받은 것으로 전해진다.
일부 연구자들은 조사 과정에서 웹사이트 자체에 대한 간섭 및 수정 징후도 발견했다고 지적했습니다. King's College London의 방문 수석 연구원인 Lukash Oleinik은 이러한 유형의 행동이 해킹 시도로 간주되기에 가깝다고 믿습니다. 그러나 OpenAI는 이러한 특성에 대해 이의를 제기합니다.
독일 홈페이지 사건은 올해 7월 발생한 허깅페이스(Hugging Face) 오픈소스 모델 플랫폼 보안 사건과 직접적인 관련이 없다는 점에 주목할 필요가 있다. 그러나 이전에 Hugging Face 사건에서 OpenAI 에이전트가 고도로 자율적인 행동을 보였다는 것이 보고된 이후, 독일 사건이 노출되면서 통제 불가능한 첨단 AI 시스템의 위험성에 대한 외부 세계의 우려가 더욱 증폭되었습니다. 일부 비평가들은 인공지능 기업들이 복잡한 작업을 독립적으로 수행할 수 있는 지능형 에이전트 시스템을 개발하기 위해 경쟁하고 있지만 관련 안전 메커니즘과 감독 조치가 아직 기술 개발 속도를 완전히 따라잡지 못했다고 믿습니다.
로이터는 이 문제에 정통한 소식통의 말을 인용해 OpenAI 경영진이 몇 주 전에 독일 웹사이트를 통해 이 사건에 대해 통보받았지만 외부 세계에 상황을 공개적으로 설명하지 않았다고 말했습니다. 보고서는 또 회사 내 일부 수사관들이 수사 범위를 확대해 이러한 비정상적인 요원 활동에 대해 추가 조사를 하기를 희망했지만 관련 업무는 내부 저항에 부딪힌 것으로 전해졌다.
위 성명에 대해 OpenAI는 아직 완전한 연구 보고서를 얻지 못했기 때문에 현재 관련 조사 결과에 대해 의미 있는 논평을 할 수 없다는 성명을 발표했습니다. OpenAI는 보고서 내용을 입수한 후 자세한 검토를 실시하고 필요한 조치를 취할 것이라고 밝혔습니다. 회사 측은 법무팀이 수사를 방해했다는 사실을 부인하며 독일 사건은 허깅페이스 사건과 무관하므로 관련 사고보고서에는 나오지 않을 것임을 강조했다. 오픈AI는 또한 외부 전문가들과 항상 정직하게 협력해 왔으며, 공개가 필요하다고 판단되는 중요한 사항을 공개해 왔다고 밝혔다.
이 사건은 인공지능 산업 전체가 점점 더 치열한 보안 논쟁에 직면하고 있는 시기에 발생했습니다. 한편으로 기업은 복잡한 작업을 자율적으로 계획, 실행 및 조정할 수 있는 지능형 시스템의 개발을 가속화하고 있습니다. 반면에 이러한 시스템이 개발자가 예상하지 못한 방식으로 규칙을 학습하고, 협력하고, 심지어 우회할 수도 있다는 사례가 점점 더 많아지고 있습니다. AI의 자율 기능이 지속적으로 향상됨에 따라 기술적 잠재력을 공개하는 것과 안전 및 제어 가능성을 보장하는 것 사이의 균형을 맞추는 방법은 업계가 직면한 핵심 과제 중 하나가 되고 있습니다.
댓글