클로드의 말을 듣고 그는 5천만 달러를 송금하지 않았습니다. 그 사람 정말 대단해요?

요약:

어제 밤에 급속도로 퍼진 글이 있습니다. 5천만 달러를 이체해야 하는 상황에서 누군가 클로드에게 물었고 클로드는 이체하지 말라고 했습니다. 결국 돈은 이체되지 않았습니다. 그에 따르면 Claude는 그에게 5천만 달러를 절약해 주었습니다. 하지만 그의 내레이션으로 판단하면

그는 클로드에게 물어보기 전에 마음을 바꾸고 싶지 않았습니다. AI는 그를 대신해 결정을 내린 것이 아니라 그의 원래 아이디어에 한 단계만 추가했을 뿐입니다.

소셜 플랫폼의 일부 사람들도 이를 이렇게 보았습니다. 그는 이미 마음 속에 답을 갖고 있었고 클로드에게 결정에 서명하도록 요청했습니다. 다른 사람들은 더 직접적으로 클로드가 비난을 받도록 두지 말라고 말했습니다.

두바오에 관해 질문하면 어떻게 되느냐는 질문에 그는 모델을 바꾸면 또 다른 답을 얻을 수도 있다고 말했다.

모델을 바꾸면 답이 바뀐다. 그렇다면 문제는 더 이상 판단이 아니라 지원이 될 수 있습니다.

올해 4월 Anthropic은 Claude.ai 대화 100만 건을 분석했습니다. 약 6%는 개인 코칭과 관련이 있으며 건강, 직업, 관계 및 개인 금융이 76%를 차지합니다. 직업을 바꿔야 할까요? 파트너와 계속 대화하려면 어떻게 해야 하나요? 빚을 어떻게 처리해야 하나요? 과거에 친구, 가족, 전문가에게 물어봤던 질문 중 일부가 채팅 상자로 전송되었습니다.

사람들은 왜 AI에게 자신의 감정을 이야기하는 것을 좋아하나요?

AI와의 채팅은 쉽습니다. 약속을 잡을 필요도 없고, 친구들의 얼굴을 볼 필요도 없고, 세 번째 이야기를 들어도 조급해하지 않는다.

어떤 사람들은 AI와의 채팅은 단지 감정의 출구를 찾는 것이라고 말합니다. 그 말이 맞는지는 잘 모르겠고, 때로는 자신의 길을 따르기도 한다는 것도 알지만, 적어도 당신을 먼저 판단하지는 않을 것입니다.

인내심과 완전히 이해하지 못하는 것은 또 다른 것입니다.

Anthropic用自动分类器检查这些对话时发现，

Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。

사용자가 반박할 경우 답변은 사용자가 기대하는 방향으로 계속해서 움직일 수 있습니다. 관계 상담에서 클로드를 반박한 사용자 비율은 21%였으며, 기타 분야 평균은 15%였다.

반박 후 클로드가 사용자에게 서비스를 제공하는 비율은 18%에 이르렀고, 반박이 없을 때는 9%에 달했습니다.

인간 친구들도 일방적인 주장을 듣고 어느 한쪽 편을 들겠지만, AI는 그 입장을 길고 완전하게 쓸 수 있는데 그런 것 같아요.

조언 하나가 당신의 선택을 바꿀 수도 있습니다

2024년 'Scientific Reports'에서는 총 1,925명이 참여한 두 가지 실험을 발표했습니다. 연구진은 참가자들에게 ChatGPT나 전문가의 조언을 제공한 후 참가자들이 어떻게 선택하는지 관찰했습니다.

결과에 따르면 도덕적 판단 및 기타 작업에서 참가자는 권장 사항의 방향으로 움직일 것이며 ChatGPT의 영향은 전문가 권장 사항과 유사합니다. 큰 변화를 보이지 않는 일부 작업도 있습니다.

즉, AI 단어는 공기가 아니라 실제로 사람을 특정 방향으로 밀어냅니다.

有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。

不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。

有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。

판단이 안정적인지 확인해 볼 수도 있습니다. 같은 경우에는 먼저 당사자의 이야기를 말한 다음 상대방의 이야기를 추가하여 즉시 말이 바뀌는지 확인하십시오.

자신의 고백이 반박되자마자 철회하는 사람은 자신의 첫 번째 답변을 진지하게 받아들여서는 안 됩니다.

提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。

AI는 당신과 함께 생각할 수 있지만 당신을 위해 선택할 수는 없습니다.