Microsoft는 기업이 다양한 시스템과 애플리케이션에 점점 더 강력한 AI 에이전트를 보다 효과적으로 배포할 수 있도록 새로운 오픈 소스 표준 세트를 사용하려고 노력하고 있습니다. "에이전트 제어 사양"(줄여서 ACS)이라고 하는 이 표준 세트는 개발자에게 AI 에이전트가 할 수 있는 것과 할 수 없는 것, 그리고 사람의 개입이 필요한 경우를 제한하는 보다 일관되고 세밀한 방법을 제공하는 것을 목표로 합니다.
기업이 AI 에이전트를 다양한 애플리케이션, 워크플로우 및 제품에 내장하는 것을 가속화함에 따라 중요한 딜레마는 동일한 에이전트가 다양한 환경에서 실행될 때 항상 예상대로 작동하고 규정을 준수하도록 보장하는 방법입니다. 현재 개발자는 시스템 프롬프트 단어를 통해 "연결된" 방식으로 제어 메커니즘을 구축하거나, 애플리케이션 코드에 사용자 정의 확인을 추가하거나, 분류자를 사용하여 문제 입력 및 출력을 가로채는 경우가 많습니다. 이러한 관행은 단기적으로는 효과가 있을 수 있지만 제어 전략이 다양한 프레임워크와 인터페이스에 분산되어 여러 시스템에서 감사하고 재사용하기 어렵게 만들 수 있습니다. AI 도구 호출 오류, 예상치 못한 작동으로 인한 체인 장애 등의 문제를 업계에서 반성하면서 이러한 페인포인트는 점점 더 두드러지고 있습니다.
Microsoft는 ACS의 목표가 개발, 규정 준수 및 보안 팀이 단일 정책 문서를 통해 에이전트 동작을 제한할 수 있도록 서로 다른 제어를 통합 거버넌스 계층으로 통합하는 것이라고 밝혔습니다. 이러한 정책 문서에서 팀은 상담원에게 허용되는 작업과 금지되는 작업, 사람의 승인이 필요한 상황, 향후 검토를 위해 기록해야 하는 증거를 명확하게 명시할 수 있습니다. 시스템은 에이전트가 작업을 수행하는 주요 "차단 지점"에서 이러한 정책을 확인하여 에이전트가 항상 "가드레일" 내에서 작동하는지 확인합니다.
특히 ACS를 사용하면 에이전트가 입력을 받기 전, 도구를 호출하기 전, 도구가 결과를 반환한 후, 사용자에게 최종 응답을 출력하기 전 등 에이전트 워크플로의 여러 단계에서 감지를 구현할 수 있습니다. 정책은 이러한 노드에 대해 다양한 작업을 제공할 수 있습니다. 예를 들어 작업을 직접 허용하거나, 실행을 차단하거나, 민감한 정보를 둔감하게 하거나 덮거나, 승인을 위해 지정된 담당자에게 결정을 제출하는 등의 작업을 수행할 수 있습니다. 또한 개발자는 입력 및 출력 분류자를 통합하여 정보를 분류하고, 가능한 결과를 예측하거나 에이전트의 대응 방법을 안내할 수도 있습니다. 또한 특정 프롬프트 단어와 일치하는 대규모 언어 모델을 도입하고 정책 "심판" 역할을 하도록 하며 도구 호출, 도구 선택, 입력 정확도, 출력 사용 및 응답 내용을 확인하는 논리를 추가할 수 있습니다.
ACS의 주요 설계 아이디어는 이러한 제어 정책을 하나의 독립적인 이식 가능한 파일에 작성하고 이를 에이전트와 함께 "패키지"하는 것입니다. 이러한 방식으로 규칙 논리를 반복적으로 다시 작성하지 않고도 다양한 프레임워크와 운영 환경 간에 동일한 보안 및 규정 준수 정책 세트를 에이전트와 함께 마이그레이션할 수 있으므로 시스템 간 일관성과 감사 가능성이 향상됩니다. 여러 비즈니스 라인과 여러 기술 스택에서 동시에 AI 배포를 촉진하는 대기업의 경우 이 "에이전트를 따르는 전략" 모델은 거버넌스 비용을 줄이는 동시에 규정 준수 투명성을 향상시킬 것으로 예상됩니다.
구현 형태에서 ACS는 SDK 형태로 제공되며 여러 주류 에이전트 프레임워크 및 개발 도구에 통합되었습니다. 보고서에 따르면 ACS SDK는 현재 LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI 및 MCP 도구 및 기타 생태계를 지원합니다. 이러한 플러그인을 통해 개발자는 시스템 아키텍처를 처음부터 다시 구축하지 않고도 ACS를 기존 에이전트 응용 프로그램에 연결하고 정책 파일을 원래 작업 흐름에 포함할 수 있습니다.
AI 에이전트가 기업 비즈니스에 빠르게 침투하는 상황에서 "사용 가능"과 "사용 용이성", "제어 가능"과 "감사 가능" 사이의 균형을 찾는 방법은 기술 팀, 규정 준수 부서 및 보안 팀이 직면한 현실적인 문제가 되었습니다. 이번에 Microsoft가 출시한 에이전트 제어 사양은 AI 에이전트가 다양한 시나리오에서 실행될 때 명확하게 제한되고 책임을 지면서 유연성을 유지할 수 있도록 개방형 표준 방식으로 통합 거버넌스 인프라를 업계에 제공하려고 시도합니다.