요약:
인공지능 에이전트가 점차 사용자를 대신하여 쇼핑, 결제, 주문 작업을 완료하기 시작하면서 전 세계 금융 업계는 이 새로운 모델에 대해 점점 더 복잡한 태도를 보여 왔습니다. Bank of America와 Capital One Bank를 포함한 6개 대형 국제 금융 기관은 최근 AI 에이전트 중심의 "에이전트 쇼핑"이 큰 잠재력을 갖고 있지만 투명성, 보안, 개인 정보 보호 및 사기 위험과 같은 일련의 새로운 문제를 야기한다는 보고서를 공동으로 발표했습니다.
일명 에이전트 기반 쇼핑은 사용자 인증을 기반으로 인공지능 에이전트가 독립적으로 인터넷을 탐색하고, 상품을 비교하고, 결제 수단을 선택하고, 직접 구매 과정을 완료하는 것을 의미합니다. 지난 한 해 동안 많은 AI 개발자, 소매업체, 결제 기관에서는 AI를 소비자를 위한 '디지털 쇼핑 도우미'로 만들기 위해 관련 기술 구현을 추진해 왔습니다.
그러나 은행 업계에서는 AI 에이전트가 의사 결정에서 점점 더 많은 자율성을 갖게 되면 잠재적인 위험도 확대된다고 믿습니다.
'에이전트 기반 비즈니스 신뢰 구축'이라는 제목의 보고서에 따르면 위험은 투명성, 보안, 개인 정보 보호 및 데이터 보호, 사용자 선택, 다양한 플랫폼 간의 상호 운용성에 중점을 두고 있습니다. 보고서는 많은 소비자들이 AI 에이전트가 실제로 자신의 이익을 위해 결정을 내릴지 여부를 확신하지 못하기 때문에 이러한 유형의 기술에 대해 여전히 명백한 의구심을 갖고 있다고 지적했습니다.
보고서에 따르면 많은 사용자는 AI 에이전트가 잘못된 제품을 구매하거나, 예산을 초과하여 지출하거나, 심지어 사기, 계정 도용, 자금 손실과 같은 문제에 직면할 수도 있다고 걱정하고 있습니다. 소비자들은 제품 정보와 쇼핑 제안을 얻기 위해 AI를 사용할 의향이 있지만, 대부분의 소비자는 AI가 구매 프로세스를 완전히 제어하도록 하는 데 여전히 조심스럽습니다.
기술 업계는 에이전트 쇼핑의 발전 전망에 대해 전적으로 낙관적이지는 않습니다.
Apple 소매 시스템의 창립자 중 한 명이자 전 Apple 임원이었던 Ron Johnson은 최근 인터뷰에서 인공 지능이 실제로 온라인 쇼핑 경험을 향상시킬 수 있다고 말했지만 AI가 인간의 쇼핑 방식을 근본적으로 바꿀 것이라고는 믿지 않습니다.
그에 따르면 소비자는 궁극적으로 여전히 제품을 직접 경험하고 싶어하며 이는 AI로 대체될 수 없습니다. 인공지능은 사용자가 사전에 조사하고 제품을 더 잘 이해하는 소비자로 만드는 데 도움을 줄 수 있지만 실제 쇼핑 자체의 가치를 없애지는 않습니다.
은행 업계 보고서에서는 AI 에이전트가 비즈니스 인센티브 메커니즘의 영향을 받을 수도 있다고 추가로 지적했습니다. 예를 들어 일부 시스템에서는 수수료가 높은 제품, 거래 비용이 낮은 결제 채널을 우선적으로 추천하거나 컴퓨팅 비용을 줄이기 위해 차선책을 선택할 수도 있습니다. 이러한 행동은 소비자의 이익에 부합하지 않을 수도 있지만 AI 에이전트의 기본 선택이 될 수도 있습니다.
동시에 에이전트 쇼핑이 대규모로 도입되면 사기, 사기, 소비자 분쟁이 증가할 수도 있습니다. AI 시스템이 공격을 받거나 데이터 유출이 발생하면 사용자의 개인정보가 위협받을 수 있을 뿐만 아니라, 이러한 시스템에 의존하여 업무를 수행하는 기업도 심각한 손실을 입을 수 있습니다.
최근 일련의 사건으로 인해 이러한 우려가 더욱 강화되었습니다.
얼마 전 Meta는 AI 비서 Muse의 제로데이 취약점을 수정했다고 발표했습니다. 현재 Muse의 중요한 기능 중 하나는 에이전트 쇼핑이며, 이 취약점을 통해 이론적으로 공격자가 AI 도우미를 장악하고 사용자가 부여한 권한을 사용하여 다양한 작업을 수행할 수 있습니다.
동시에 Amazon은 Muse와도 대중적 마찰을 겪었습니다. Amazon은 Meta의 AI 에이전트가 전자상거래 플랫폼에 액세스할 때 자신을 명확하게 식별하지 못하여 계정 자격 증명 및 사용자 데이터 처리 방법에 대한 우려를 불러일으키고 이러한 행동을 중단할 것을 요구했다고 비난했습니다.
그래도 이들 6개 은행은 대리인 쇼핑의 미래를 완전히 무시하지는 않습니다.
보고서는 대리점 상거래가 앞으로도 소비자와 판매자 간의 거래를 수행하는 주류 방식 중 하나로 자리잡을 가능성이 여전히 높다고 지적합니다. 금융 기관 역시 장기적인 개발 잠재력에 대해 낙관하고 있으며 이 모델의 건전한 성장을 촉진하기 위해 고객, 업계 파트너 및 규제 기관과 협력하겠다는 의지를 표명했습니다.
그러나 에이전트 쇼핑이 실제로 널리 인기를 얻으려면 먼저 충분한 사회적 신뢰를 구축해야 한다고 생각합니다. 현재의 기술 발전 속도는 산업 규제, 정책 시스템, 소비자 보호 메커니즘의 구축 속도에 비해 훨씬 빠르며, 이는 업계가 해결해야 할 가장 시급한 문제입니다.
이를 위해 보고서 작성에 참여한 은행 연합은 투명성, 보안, 개인 정보 보호 및 데이터 보호, 사용자 선택, 플랫폼 상호 운용성이라는 5가지 핵심 원칙을 구현하는 방법을 더욱 명확히 하고 해당 산업 표준을 확립하기 위해 다음 단계의 연구 작업을 준비하기 시작했습니다.
인공지능이 점차 '제안 제공'에서 '대리 행동'으로 전환하는 새로운 시대에 은행 업계가 보내는 신호는 매우 분명합니다. AI 에이전트 쇼핑의 미래는 밝을 수 있지만 이것이 진정한 주류 소비 방식이 되기 전에 보안, 신뢰, 책임 메커니즘에서 해결해야 할 핵심 문제가 여전히 많이 남아 있습니다.
댓글