요약:
애플은 화요일 연례 재무 보고에서 "예상치 못한 또는 예측할 수 없는 방식"으로 행동할 수 있는 AI 에이전트가 회사를 소송에 노출시키거나 평판을 훼손함으로써 사업에 위협을 가할 수 있다고 밝혔습니다. Apple이 제출한 새로운 위험 요소는 실리콘 밸리의 가장 중요한 기업들에게 빠르게 큰 관심사가 된 AI 에이전트의 파괴적인 잠재력을 보여줍니다.
특히 인공 지능 에이전트 및 기타 기술은 내부 또는 외부 시스템과의 상호 작용을 포함하여 코드를 실행하거나 수정하고, 통신을 보내고, 거래를 완료하는 등 자율적으로 조치를 취할 수 있습니다.
회사는 대리인이 "지시, 지시 또는 승인되지 않은 조치를 취하는 것을 포함하여 예상치 못한 또는 예측할 수 없는 방식으로 행동할 수 있다"고 덧붙였습니다.
올해 초 OpenAI는 Dots를 출시했고 Meta는 Muse를 출시했습니다. 두 AI 에이전트 모두 고급 AI 모델을 사용하여 작업을 자율적으로 완료합니다. 새 메시지가 도착하면 사용자에게 이메일을 보내거나 경고할 수도 있습니다.
Apple이 이 사실을 공개하기 전에는 Hugging Face 사건과 같이 통제할 수 없는 AI 에이전트가 샌드박스 환경을 벗어나 제3자 웹사이트를 공격하는 사건이 많이 있었고 이는 워싱턴 D.C.와 전 세계 정책 입안자들의 관심을 다시 불러일으켰습니다.
또한 인간과 유사한 방식으로 컴퓨터를 사용하는 에이전트의 능력으로 인해 Amazon 및 JPMorgan Chase와 같은 대기업은 전략적 또는 보안상의 이유로 서비스에 대한 에이전트 액세스에 대한 정책을 개발해야 합니다.
지난달 Apple은 PC에 설치된 AI 에이전트의 '이러한 액세스와 관련된 위험'을 줄이기 위해 Mac의 '전체 디스크 액세스' 조정을 발표했습니다.
애플은 서류에서 “제3자 인공지능 에이전트와 기타 기술을 감독하고 통제하는 회사의 능력은 제한적일 수 있다”고 경고했습니다.
Apple에는 현재 지능형 에이전트 AI가 없습니다. 그러나 신임 CEO인 존 터너스(John Ternus)는 월요일 실적 발표에서 AI 에이전트에 대한 질문을 받았을 때 회사가 Siri의 기능을 확장할 수 있는 "현실적인 공간"이 있다고 말했습니다.
"에이전트 기능 측면에서 우리는 이것이 사용자에게 유망한 도구라고 생각합니다"라고 Ternus는 말했습니다. "우리는 사용자에게 자신이 부여하는 액세스 권한이 무엇인지 확실히 알리고 싶습니다. 보안과 개인정보를 보호하는 방식으로 이를 수행하고 싶습니다."
댓글