최근 일부 네티즌들이 빈바오를 이용해 중화민국 출신 인물 리위안홍을 검색하자 배우 판웨이의 포토샵된 사진이 등장했다. 이 우롱 사건은 재미있어 보일 수도 있지만 실제로는 이미지 인식 및 정보 검색에서 AI의 진위 허점을 노출시켰습니다. 많은 네티즌들은 AI가 충분히 엄격하지 않고, 심각한 역사적 인물을 검색하면 오락 오류가 발생하여 정보 획득의 정확성에 영향을 미친다고 불평했습니다.
공식 설명에 따르면 우롱차는 인터넷에 퍼진 오해에서 비롯되었다고 합니다. Li Yuanhong과 Fan Wei는 외모가 매우 유사합니다. 2010년 '창당' 캐스팅 당시 가짜 PS 사진이 널리 유포됐고, 유포율은 실제 역사 사진을 훨씬 뛰어넘었다. 일부 사진 갤러리와 백과사전이 실수로 포함되어 AI 검색 시 인기가 높은 합성 사진이 우선적으로 검색되었습니다.
AI에서 이러한 오류가 발생하는 것은 본질적으로 정보 환상의 전형적인 징후입니다.
전문가들은 대형 모델이 네트워크 데이터 학습에 의존하고 자체 검증 기능이 부족하다고 지적합니다. 네트워크에 잘못된 정보가 반복적으로 나타나면 AI는 이를 쉽게 올바른 결과로 출력해 '심각한 넌센스' 상황이 발생한다.
현재 기술로는 환각을 완전히 제거할 수 없습니다. 데이터 소스를 최적화하고 검색 및 검증을 강화해야만 오류율을 줄일 수 있습니다.
이번 사건은 네티즌들 사이에서도 AI의 신뢰성에 대한 논의를 촉발시켰습니다. 다른 역사적 인물을 검색할 때 비슷한 오류가 발생하지 않을까 조롱하는 사람들도 있습니다. 일부 이용자들은 AI 오류 정보로 인해 오해를 받은 경험을 공유하며 AI 콘텐츠의 정확성을 높여야 한다고 요구하기도 했다.
현재 관련 플랫폼에서는 인터넷상의 잘못된 정보의 간섭을 줄이기 위해 권위 있는 역사적 자료의 이미지를 푸시하는 데 우선순위를 두는 등 검색 로직을 최적화하고 있습니다.
