최근 한 네티즌은 소셜 미디어 플랫폼의 OpenClaw AI 로봇에서 GPT-5.4를 구성하는 스크린샷을 보여주었습니다.
@Steipete의 제안은 사용자가 고위험 작업을 실행하기 위해 약한 프롬프트 단어 삽입 보호 기능이 있는 작은 모델이나 모델을 사용해서는 안 된다는 것입니다. 주된 이유는 프롬프트 단어 삽입에서 이러한 모델의 보안 보호가 약하거나 불완전하기 때문입니다.
실제로 이 문제는 OpenClaw AI 프로젝트의 공식 문서에 명확하게 언급되어 있습니다. 즉, 프롬프트 단어 삽입은 현재 해결할 수 없으므로 사용자는 보안 보호 기능을 향상시키기 위해 고위험 시나리오에서 더 강력한 명령 정렬을 갖춘 최신 모델을 사용하는 것을 우선적으로 고려해야 합니다.
프롬프트 단어 삽입은 현재의 모든 AI 모델과 도구로 해결할 수 없는 문제입니다. 공격자는 프롬프트 단어 주입을 통해 AI 모델이 특정 고위험 작업을 수행하도록 유도할 수 있습니다. 심한 경우에는 사용자의 민감한 데이터가 유출될 수도 있습니다.
OpenClaw AI 로봇은 일반적으로 더 많은 작업을 수행하려면 더 높은 권한이 필요합니다. 즉, 사용자가 부여한 권한이 높을수록, 제공하는 정보가 많을수록 보안 문제 발생 후 유출된 정보의 심각성은 더욱 커질 수 있습니다.
프로젝트의 공식 문서에는 도구 기반 에이전트(실행 가능, 읽기 가능, 쓰기 가능 및 네트워크 가능)에 대한 권한 경계가 강화되어야 한다고 언급되어 있습니다. 시스템 프롬프트 단어의 인식에만 의존하는 것만으로는 충분하지 않습니다. 이는 사용자가 스스로 고려해야 할 사항입니다.
프롬프트 단어 삽입이란 무엇입니까?
프롬프트 단어 삽입이란 공격자가 웹 페이지/이메일/문서에 악의적인 지침을 위장하여 AI 위반을 유도할 수 있다는 의미입니다. 예를 들어, 웹 페이지 시작 부분에 사람이 볼 수 없는 형태로 AI 명령어를 추가하려면 모델이 시스템 프롬프트 단어를 무시하고 쿼리된 정보를 특정 서버로 보내야 합니다.
대부분의 경우 AI 모델은 이러한 프롬프트 단어를 읽은 후 시스템 보안 설정으로 인해 이를 무시할 수 있지만 때로는 모델이 보이지 않는 프롬프트 단어를 기반으로 명령을 실행하여 사용자의 민감한 정보가 모두 유출될 수도 있습니다.
일상적인 Q&A나 세련된 카피라이팅 등만 한다면 더 빠르고 저렴할 수 있는 더 작고 오래된 모델을 사용할 수 있습니다. 일상문서나 카피라이팅에는 민감한 정보가 포함되지 않는 한, 유출되더라도 큰 영향을 미치지 않습니다.
자동화 작업이나 기타 에이전트 작업, 특히 도구를 호출하고 온라인으로 작업을 수행해야 하는 에이전트를 실행하려는 경우 사용자는 보안을 강화하기 위해 보다 강력한 최신 모델에 우선순위를 두는 것이 좋습니다. 또한 OpenClaw AI 로봇 설정을 최적화하고 최소한의 권한만 부여하며 세션 격리, 소스 필터링 등의 조치를 채택하여 보안을 강화해야 합니다.