최근 상하이의 한 여성은 기이한 경험을 공유했다. 밤늦게 잠든 사이, 한 유명 생활 서비스 플랫폼 계정에 그녀의 이름이 자동으로 다른 사람의 게시물 아래에 "Wi-Fi가 있습니까?"라는 간단한 문장과 함께 댓글을 남겼습니다. 관련자는 나중에 해당 게시물을 본 적도 없고 이 댓글에 대한 인상도 없었다고 회상했다. 그는 게시 시간 동안 이미 잠들어 있었고 계정을 운영할 가능성이 전혀 없었습니다. 이전에는 유사한 판매자의 관련 콘텐츠만 찾아본 적이 있었습니다.
비정상적인 상황에 대해 플랫폼 고객 서비스에서는 전체 과정에서 계정이 내 휴대폰에서만 로그인되었음을 확인했으며 계정 도용 위험이 제거되었습니다. 그 이유는 사용자가 플랫폼의 '댓글을 달고 싶은가봐' 자동 댓글 기능을 실수로 터치한 것으로 의심되기 때문이었습니다.
이 설명은 관계자가 받아들이기 어려웠다. “그 계정은 제가 하기 싫은 말을 하고 있고, 제가 하기 싫은 댓글을 대리로 하고 있었습니다. 블로거가 답장을 안 했다면 저는 절대 발견하지 못했을 겁니다.”
사건이 발생한 후 많은 네티즌들은 AI가 배후에 있거나 비밀리에 작동하고 있다고 지적했으며, 이는 또한 공통된 우려를 드러냈습니다. 이제 AI 기술이 완전히 대중화되었으므로 플랫폼이 기술적 수단을 사용하여 사용자 계정을 제어하고 자동 댓글, 좋아요, 팔로우와 같은 작업을 비공개적으로 실행할 것인가?
우연히도, 다른 많은 네티즌들은 일부 소셜 플랫폼이 알림이나 알림 없이 비밀리에 개인 계정을 사용하여 익숙하지 않은 계정을 비공개로 팔로우하는 것 같다고 보고했습니다.
이러한 숨겨진 작전이 사실이고 계속해서 확산된다면 사이버 공간은 AI 로봇의 놀이터가 될 수도 있다는 점은 주목할 만하다. 이러한 플랫폼 수준의 백그라운드 작업에 권한 허점이 발생하면 사용자 계정 정보, 소비 기록 등 핵심 개인정보가 유출될 위험에 노출되어 막대한 보안 위험을 초래하게 됩니다.