요약:
의학적 조언을 구하는 것 외에도 야외 등산은 분명히 사람들이 "AI를 맹목적으로 믿어서는 안 되는" 분야 중 하나입니다. 최근 미국 캘리포니아주 시스키유 카운티의 샤스타 산(Mount Shasta)에 몇몇 젊은 등반가들이 오르자 구글 AI 채팅 로봇 제미니(Gemini)에 지나치게 의존해 재앙을 일으킬 뻔했다. AI는 원래 여행을 완료하는 데 8시간밖에 걸리지 않을 것이라고 예측했지만, 결국 산 정상에 도달하는 데 두 배의 시간이 걸려 모두가 심각한 문제에 빠지게 되었습니다.
참여한 등반가 3명은 이번 여행을 준비하기 위해 주로 구글 제미니(Google Gemini), 유튜브, 하이킹 애플리케이션 올트레일(AllTrails)을 참고했다고 밝혔다. AI를 활용해 경로를 계획하는 것 외에도 챗봇이 가져올 음식과 식수를 제안할 수도 있습니다. 당시 Gemini의 조언은 예상되는 8시간의 등반을 위해 지방보다는 단순 설탕과 탄수화물을 섭취하라는 것이었습니다. 지방은 "소화하는 데 너무 오래 걸리기 때문"이었습니다. 이 조언을 들은 팀원들은 이 "비교적 짧은" 등반에 대처하기에 충분하다고 생각되는 매우 제한된 양의 물과 보급품만 준비했습니다.
8월 29일, 세 명의 등반가는 클리어 크릭(Clear Creek) 상류 근처에 베이스캠프를 세웠습니다. 샌프란시스코 크로니클(SFGate)에 따르면 이 지역에서는 사실상 캠핑이 금지되어 있다. 다음날 새벽 3시, 세 사람은 공식적으로 캠프를 중단하고 등산을 떠났다. 하지만 실제 난이도는 AI가 예상한 것보다 훨씬 높았다. 오후 7시가 채 안 됐어요. 16시간의 험난한 산행 끝에 8월 30일 드디어 정상에 도달했다. 이 시점은 이미 현지 권장 복귀 노선인 정오 12시를 훨씬 초과했습니다.
정상에 도달한 후 상황은 더욱 악화되었습니다. AllTrails 내비게이션 경로를 보는 데 사용했던 전화기는 배터리가 완전히 방전되어 종료되었습니다. 밤이 되자 팀원 중 한 명이 헤드라이트 전력을 절약하기 위해 어둠 속에서 더듬거리며 앞으로 나아갔습니다. 불행하게도 그는 약 3,500미터 고도에서 넘어져 무릎 부상을 입었습니다. 음식과 물이 고갈되고 밤에 필요한 따뜻한 옷과 대피소 장비가 부족한 것을 보고 당황한 등반가들은 마침내 911에 도움을 요청했습니다.
당시 산악지대에 강한 바람이 불어 구조헬기가 두 차례 레펠과 인양에 실패했다. 8월 31일 오전 9시 30분이 되어서야 산림순찰대원들이 마침내 연락해 갇힌 3명을 걸어서 구조하는 데 성공했다. 이후 순찰대원의 질문에 겁에 질린 이들 젊은이들은 "우리는 인공지능에 너무 많이 의존하면서도 우리 자신의 비판적 사고는 소홀히 하고 있다"고 인정했다.
요즘에는 AI 챗봇의 조언을 맹목적으로 따르다가 부정적인 결과를 초래하는 일이 흔합니다. 이전에는 농부가 제초 및 해충 방제에 대한 챗봇의 지침을 따랐고 이로 인해 25에이커의 농작물이 직접적으로 사망했습니다. 누군가는 ChatGPT의 식이요법 조언을 따랐기 때문에 희귀한 19세기 정신 장애를 겪었습니다. 19세 청년은 치명적인 약물 조합을 추천한 ChatGPT로부터 맞춤형 약물 치료에 대한 조언을 구한 것으로 알려졌는데, 이로 인해 결국 고객이 사망하고 OpenAI에 대한 소송이 촉발되었습니다.
댓글