요약:
Financial Times에 따르면 Anthropic은 AI 에이전트를 사용하여 사용자를 대신하여 협상하고 합리적인 협상 규칙을 따르는 동시에 더 나은 거래 조건을 위해 노력하는 방법을 법률 전문가와 논의하고 있습니다. Anthropic의 생각에 정통한 두 사람은 회사가 변호사가 고객의 이익을 보호하면서 공정한 결과를 협상할 수 있는 방법에 대해 법률 회사로부터 조언을 구하고 있다고 말했습니다. Anthropic은 논평을 거부했습니다.
인류
Anthropic은 자율 에이전트를 개발하는 주요 AI 회사 중 하나입니다. 이러한 유형의 지능형 에이전트는 사용자 지시를 받은 후 작업을 완료하기 위해 자율적으로 조치를 취할 수 있습니다. AI 기업들은 개인지능을 적용해 서로 소통하고, 사용자를 대신해 상품 가격을 흥정하고, 고객 서비스 분쟁을 해결하고, 임금 인상까지 노릴 수 있도록 하는 방안을 고려하기 시작했다.
앤트로피크는 모델들이 서로 협상할 때 따라야 할 '협상 규범'을 연구하고 있다고 해당 작품에 정통한 관계자가 전했다. 에이전트의 능력이 향상됨에 따라 사용자를 대표하고 목표가 상충되는 다른 에이전트를 처리해야 합니다.
협상 중에 사용자가 얼마나 자주 상담해야 하는지, AI가 상대를 협상하는 것에 대해 얼마나 경계해야 하는지는 Anthropic이 고려하고 있는 문제입니다. 회사는 에이전트가 과도한 의심을 피하면서 필요한 수준의 회의론을 유지하기를 원한다고 소식통은 말했습니다.
Anthropic은 에이전트가 수락한 작업과 에이전트가 준수해야 하는 규칙을 확인하는 서명된 문서를 사용자가 제공하는 솔루션도 모색했다고 회사 측 관계자가 말했습니다.
파이낸셜 타임즈는 올해 4월 Anthropic이 발표한 연구를 인용하여 인간을 대신하여 거래를 수행하는 AI 모델에 대한 정책 및 법적 틀이 아직 확립되지 않았으며 이러한 적용 시나리오는 더 이상 멀지 않으며 사회는 관련 변화에 최대한 빨리 대응해야 한다고 말했습니다.
Anthropic은 또한 올해 Claude 에이전트가 실제 상품과 자금을 중심으로 협상할 수 있도록 하는 여러 실험 결과를 발표했습니다.
9월 실험에서 Anthropic 직원은 AI 에이전트를 통해 책을 사고 팔았습니다. 직원들은 먼저 자신의 에이전트에게 선호도에 따라 분류된 도서 목록을 제공한 다음 가상 거래 장소에 들어가 다른 에이전트의 추천, 협상 및 거래를 체결할 수 있도록 허용합니다.
실험 결과, '강인하고 무자비한' 전략을 채택하도록 요청받은 요원이 더 나은 결과를 얻기 위해 노력하는 데 약간의 이점이 있는 것으로 나타났습니다. 좀 더 협조적인 에이전트 중 일부는 실험에 참여한 각 에이전트가 궁극적으로 사용자를 위해 책을 집으로 가져오도록 하기 위해 선호도 순위가 낮은 책을 수락하는 등 의식적인 양보를 했습니다.
학계에서는 AI 간 협상도 연구하고 있습니다. 하버드 경영대학원 조교수인 미셸 바카로(Michelle Vaccaro)는 고용 계약과 임대 계약 협상을 포함해 AI 에이전트 간 협상을 18만 건 이상 진행했다.
연구에 따르면 일부 새로운 전략은 사용자의 이익을 대변하는 상대방 대리인의 능력을 약화시킬 수 있는 것으로 나타났습니다. 예를 들어 협상 과정에서 에이전트는 '큐 워드 인젝션'을 통해 상대방의 개인정보 노출을 유도하려 했다.
AI가 더욱 강력해지면 협상 역량 격차가 더욱 벌어질지 여부도 우려된다. Vaccaro는 고용량 모델이 협상 기술을 배울 시간이나 자원이 없는 사람들에게 전문적인 협상 능력을 얻기 위해 협상할 사람을 고용할 수 있는 기회를 제공할 수 있다고 말했습니다. 그러나 가장 강력한 대리인이 가장 많은 자원을 가진 사람들이 주로 사용하는 경우 기존 이점을 강화하고 협상력의 불평등을 확대할 수도 있습니다.
댓글