요약:
9월 15일, 저장성 자싱 뉴스 미디어 센터의 '샤오신 스토리텔링' 칼럼에 따르면 올해 4월 17일 시 씨의 어머니가 세상을 떠났습니다. 그의 가족은 그녀를 언제 묻어야 할지 논의하고 있었습니다. 그는 인공지능 '두바오(Doubao)' 소프트웨어를 생각했고, 그 소프트웨어는 그에게 4월 19일을 추천했다.
모든 것이 준비되자 시 씨는 19일이 적합한 날이 아닌지 확인하기 위해 '두바오'에게 다시 요청했지만 이를 변경하는 것은 매우 번거로울 것입니다. 이런 이유로 Shi 씨는 매우 화가 나서 "Doubao"를 만든 소프트웨어 회사를 고소했습니다.
보도에 따르면 시씨의 고향은 장쑤성 수양이며 현재는 자산(嘉山)에 거주하고 있다. 올해 4월 17일, 시 씨의 어머니가 갑작스런 질병으로 사망했습니다. Shi 씨의 가족은 다섯 명의 형제자매가 있습니다. 가족들은 어머니의 장례식에 대해 함께 논의했습니다. 가장 중요한 것은 매장 날짜를 결정하는 것이었습니다.
미스터. Shi는 기자들에게 "나는 Doubao를 더 신뢰합니다. 나는 항상 그것에 의지하고 그것이 모든 것을 알고 있다고 생각합니다. 그런 다음 Doubao에게 그가 언제 묻힐 것인지 물었습니다. Doubao는 4월 19일이라고 말했습니다. 나는 그것이 타당하다고 생각하므로 믿습니다."
소프트웨어의 Q&A 기록을 보면 당시 시 씨가 질문한 뒤 '두바오'가 가장 믿을 만한 추천일은 4월 19일이라고 답한 것으로 드러났다.
잠시 후 시씨는 "장례는 몇 시가 적당한가"라고 다시 물었다. '두바오'는 7~9시에 답변을 했는데, 이번에는 지난번과 조금 다른 답변이 나왔다. "Doubao"는 그의 답변에서 4월 19일은 적절한 날이 아니라고 언급했습니다.
미스터. Shi는 잠시 혼란스러웠다. 그는 여러 차례 물었고 '두바오' 측은 19일은 부적절하다는 답변을 내놨다. 이때 친척과 친구들은 이미 날짜를 변경하기에는 너무 늦었다는 것을 알렸습니다. 결국 시 씨는 어머니의 장례식을 치러야 했다.
장례식이 끝난 지 얼마 되지 않아 집에 있던 친척이 교통사고를 당해 크게 다쳤습니다. 그들은 Shi 씨의 준비에 대해 불평했습니다.
미스터. Shi는 "Doubao" 소프트웨어 회사에 불만을 제기했지만 답변을 받지 못하여 상대방을 고소하기로 결정했습니다. '두바오(Doubao)'는 또한 시 씨가 고소할 수 있음을 알리는 고소장을 작성하는 데 도움을 주고 기소 조치를 내렸습니다.
"Doubao" 소프트웨어의 사용자 계약은 "Doubao" 소프트웨어 및 서비스에 의해 생성된 콘텐츠가 참고용일 뿐이며 전문적인 조언을 제공할 의도가 없음을 보여줍니다. 중대한 영향을 미치는 상황의 경우 관련 전문가와 상담하는 것이 좋으며 조치 또는 무조치의 근거로 사용되어서는 안 됩니다. 출력된 내용에 따른 판단이나 이에 따른 후속 관련 작업의 결과와 책임은 사용자에게 있습니다.
기자는 자산현 인민법원이 이 사건에 대한 심리를 열었다는 사실을 알게 되었습니다.
변호사는 시 씨가 기소를 통해 자신의 권리를 변호하기 어려울 것이라고 믿고 있습니다. 시 씨가 권리 보호를 위해 소송을 제기하려면 AI 소프트웨어를 제공한 서비스 제공업체가 불법 행위를 저질렀다는 점을 입증해야 합니다. 우선 상대방의 잘못이 있어야 합니다. 또한, 상대방의 과실과 시씨가 입은 실제 손해 사이에는 인과관계가 있어야 합니다. 이것은 증명하기가 매우 어렵습니다. AI가 단지 잘못된 답만 제공한다면 이것만으로는 충분하지 않습니다.
'AI가 사람을 속인다'는 뉴스가 흔하다. 6월 18일, 창사에 거주하는 52세 장씨는 집에서 갑자기 어지러움을 느꼈다. 그는 습관적으로 휴대폰을 켜놓고 AI를 활용해 관련 증상과 치료 방법을 검색했다. 3일이 지나도 상태는 호전되지 않고 오히려 악화됐다. 가족들은 급히 환자를 의사에게 보냈고 상황은 반전됐다. 의사들은 AI 상담이 주로 환자가 입력한 정보 분석에 의존한다고 경고한다. 문자 설명만으로는 상태의 심각성을 판단하기 어려우며, 전문의와의 대면 상담을 대체할 수 없습니다.
우연이 아닙니다. 6월 5일, 난징의 한 시민은 지역 사회에서 채취한 버섯을 확인하기 위해 콩주머니를 사용해 사진을 찍었는데, 이 과정에서 식중독이 발생할 뻔했습니다. 또한 닝보 출신의 57세 양 사부는 AI의 '안내'를 받아 깊은 산 속으로 들어가 주말에 등산을 하다가 길을 잃고 갇히게 됐다. 그는 기진맥진해 구조를 요청한 뒤 소방관들에 의해 구조됐다. 대학 입시 수험생들은 AI를 활용해 지원자를 모집했지만, 조작된 전문 코드와 전년도 점수 순위로 인해 편향됐다. 농민들은 AI에게 어떤 농약을 써야 하는지 물었고, 수백 에이커의 참깨밭이 하룻밤 사이에 죽어버렸다… 이 사건들은 표면적으로는 말도 안 되는 일들로 가득 차 있지만, 그 뒤에는 우리가 AI를 어떻게 올바르게 보고 활용해야 하는지에 대한 심각한 문제가 있다.
이전 Douyin Group 관계자는 AI가 아직 개발 단계에 있으며 Doubao도 개인 안전 등 주요 문제와 관련하여 인식 정확도를 지속적으로 개선하고 있다고 답변했습니다. 피해가 발생하지 않도록 AI의 답변을 참고자료로 활용하고 다자간 주장을 구하는 것이 좋습니다.
The Paper는 다음과 같이 논평한 바 있습니다. AI의 힘은 매우 짧은 시간 내에 엄청난 양의 단편화된 네트워크 정보를 검색하고 이를 종합하여 "그런 것"이라는 답변을 만드는 능력에 있습니다. 그러나 그것이 주는 대답은 “절대적이고 정확하며 믿을 수 있는 진리”라기보다는 “진리와 가장 가까운 본문”이다. 깊은 산속의 복잡한 길을 파악하지 못하고, 간단한 설명만으로는 진단을 내리지 못하며, 농약의 주의사항도 모르고, 거짓 정보를 이해하고 조작하는 척도 할 수 없다.
기술이 강해질수록 더 많은 사람들이 깨어 있어야 합니다. AI는 정보를 찾고, 아이디어를 정리하고, 목록을 만드는 도구 도우미로 활용될 수 있지만, 사람의 생각과 의사결정을 대체할 수 있는 '마스터키'는커녕 만병통치약도 아니다.
특히 여행 안전, 신체 건강, 대학 입시 열망 등 한 번의 실수가 뒤집힐 수 있는 주요 문제에 있어서는 AI에 대한 신뢰를 무제한적이고 무조건적인 의존으로 업그레이드할 수 없으며, 우리는 생활 상식과 문제 해결을 위한 권위 있는 채널을 버려야 합니다. 고대인들은 “책을 믿는 것보다 책이 없는 것이 낫다”고 말했습니다. 오늘 우리는 아마도 AI를 믿는 것보다 AI가 없는 것이 낫다고 말해야 할 것입니다.
댓글