JP모건, 뮤즈(Muse), 인스팅트(Instinct) 등 외부 AI 에이전트가 계정에 직접 접근하는 것을 금지

요약:

JPMorgan의 제이미 다이먼(Jamie Dimon) 최고경영자(CEO)는 화요일 메타(Meta)와 같은 기술 기업이 자율 비서를 출시하는 시점에서 회사와 고객에 대한 위험을 언급하면서 외부 인공 지능 에이전트가 고객 계정에 액세스하고 그들을 대신하여 운영하는 것을 허용하지 않을 것이라고 말했습니다. Dimon은 은행의 3분기 수익 결산에서 분석가들에게 "고객과 JPMorgan Chase에게 너무 위험하기 때문에 회사 내부에 외부 대리인을 허용하지 않을 것입니다"라고 말했습니다.

"당신은 도망치는 상담원을 원하지 않을 것입니다. 수천 명이 있을 수도 있습니다."라고 그는 고객에 대한 잠재적인 위협을 설명하면서 덧붙였습니다. 올해 7월에는 OpenAI 모델이 AI 기업 허깅페이스(HuggingFace)의 서버에 침입했다.

다이먼은 자산 기준 미국 최대 은행의 오랜 CEO이자 미국 금융 산업의 사실상 대변인입니다. 그의 입장은 고객 데이터에 대한 접근권을 두고 핀테크 기업과 벌였던 이전의 싸움을 연상시킵니다. JPMorgan은 Plaid를 포함한 데이터 브로커에게 액세스 수수료를 부과하기로 결정했습니다. 이는 기술 회사의 액세스 요구에 대해 은행의 보안 문제를 야기하는 분쟁이기도 합니다.

JPMorgan Chase 대변인은 은행이 현재 외부 AI 에이전트가 소매 고객을 대신하여 운영하는 것을 금지하고 있음을 확인했습니다.

"고객을 보호하는 것이 우리의 최우선 과제입니다. 이는 안전하지 않기 때문에 제3자가 고객 은행 자격 증명을 획득하고 대신 로그인하여 계정에 액세스하는 것을 허용하지 않습니다."라고 대변인은 말했습니다.

“우리는 오픈 뱅킹 제공업체를 통해 고객이 승인한 안전한 데이터 공유를 지원하며 안전한 방식으로 상담원과 같은 연결을 구현하기 위해 최선을 다하고 있습니다.”라고 덧붙였습니다.

즉, Plaid 또는 기타 커넥터에 사용자 자격 증명이 있는 경우 AI 에이전트는 고객 잔액과 같은 Chase 계정의 특정 고객 데이터에 대한 읽기 전용 액세스 권한을 가질 수 있습니다. 하지만 돈을 이체하거나 청구서를 지불할 수는 없습니다. 이는 에이전트를 유용하게 만드는 바로 그 기능입니다.

대변인은 은행이 상담원이 고객 계좌와 직접 상호작용할 수 있도록 보호 조치를 언제 마련할지 현재로서는 시간표가 없다고 덧붙였습니다.

'책임 이전'

Dimon은 JPMorgan이 AI 에이전트를 내부적으로 사용하고 있으며 이를 클라이언트 대면 애플리케이션에 배포할 계획이라고 말했습니다. 그는 은행의 접근 방식은 기술을 지지하거나 반대하는 것이 아니라 고객에게 안전하게 서비스를 제공하는 것이라고 말했습니다.

최근 몇 주 동안 JPMorgan Chase는 사용자의 현금 흐름을 예측하고 수익을 극대화하기 위해 자금을 이동하도록 설계된 자체 AI 도구인 SmartCash의 목표 파일럿을 시작했다고 CFO Jeremy Barnum이 화요일에 말했습니다. 이는 외부 요원에 대한 방어적인 움직임으로 보입니다.

Dimon은 또한 고객이 외부 AI 에이전트를 대신하여 행동하도록 승인할 때 책임 문제에 대해 선을 긋는 것처럼 보였습니다.

"사람들이 이를 사용한다면 위험을 이해해야 합니다"라고 Dimon은 말했습니다. "책임이 이전된다는 점을 이해해야 합니다."

개인 에이전트는 AI 모델에 사용자를 대신하여 구독을 취소하거나 신용 카드를 사용하는 기능과 같은 보다 자율적인 기능이 통합되면서 최근 몇 달 동안 주류 인기를 얻었습니다.

앱보다는 문자 메시지에 크게 의존하는 디지털 컨시어지 서비스인 Instinct는 올해 초 초대 전용 방식으로 출시되었습니다. 이 서비스를 뒷받침하는 스타트업은 샌프란시스코에 본사를 둔 스피어 스트리트 테크놀로지(Spear Street Technology)로 지난해 설립돼 지난달 기업가치 100억 달러를 달성했다.

9월 Meta의 Muse 에이전트는 데뷔 직후 앱 다운로드 차트 1위를 차지하여 은행 주가를 하락시켰고 소비자가 에이전트를 사용하여 저수익 계좌에서 고수익 계좌로 자금을 이동할 것이라는 우려를 불러일으켰습니다. 몇 주 후 OpenAI는 자체 에이전트인 Dots를 출시했습니다.

Apollo 수석 경제학자 Torsten Slok 등은 대리인이 저비용 은행 예금에 가하는 위험을 지적했습니다. 그러나 대리인이 고객의 계좌를 자유롭게 운영하는 것이 허용되지 않는 경우 이러한 위험은 제한됩니다.