생성적 AI 서비스는 인터넷 사용자와 사이버 범죄자 모두에게 큰 인기를 얻고 있습니다. FBI에 따르면 '합성' 콘텐츠가 다양한 사기 행위에 점점 더 많이 사용되고 있습니다. 그러나 개인은 올바른 예방 조치를 취하는 한 온라인에서 자신을 효과적으로 보호할 수 있습니다.
FBI가 인공지능 기술의 범죄적 오용에 대해 경고했다. 최근 공공 서비스 발표에서 국은 사기꾼들이 불법 계획을 더욱 설득력 있고 효과적으로 만들기 위해 인공 지능 생성 콘텐츠를 사용하고 있다고 미국인들에게 경고했습니다.
FBI에 따르면 생성 AI를 통해 범죄자는 표적을 속이는 데 필요한 시간과 노력을 줄일 수 있습니다. 이러한 인공 지능 도구는 사용자가 입력한 프롬프트를 기반으로 완전히 새로운 콘텐츠를 "합성"합니다. 특히 AI가 생성한 텍스트에서 의심을 불러일으킬 수 있는 인간의 오류를 수정하는 데 도움이 될 수도 있습니다.
인공지능을 이용해 콘텐츠를 제작하는 것이 본질적으로 불법은 아니지만 해당 콘텐츠를 사기나 강탈 시도에 이용하는 경우 범죄가 됩니다. FBI 경고는 생성 AI가 어떻게 오용될 수 있는지에 대한 몇 가지 예를 설명하고 사용자가 온라인에서 안전을 유지할 수 있도록 실용적인 조언을 제공합니다.
사회 공학이나 스피어 피싱 캠페인에서 AI가 생성한 텍스트는 매우 설득력이 있어 보입니다. 사기꾼은 AI 생성 기술을 활용하여 가짜 콘텐츠를 대량 생산하고, 가짜 소셜 미디어 프로필을 만들고, 메시지를 보내고, 더 정확하고 문법 오류는 적은 언어를 번역하고 있습니다. 이제 전체 사기 웹사이트를 기록적인 시간 내에 구축할 수 있으며, 피해자가 악성 링크를 클릭하도록 속이는 데 챗봇이 사용됩니다.
AI가 생성한 이미지가 현재 추세의 최전선에 있으며 사이버 범죄자들이 이를 최대한 활용하고 있다는 것은 의심의 여지가 없습니다. 사기꾼들은 사기 활동을 지원하기 위해 AI로 생성된 시각적 요소를 사용해 가짜 소셜 미디어 프로필과 가짜 신원 문서를 강화하고 있습니다. FBI에 따르면 인공 지능 알고리즘은 사회 공학 캠페인, 스피어 피싱, 사기, 심지어 "킬링 팬"에 사용되는 "현실적인" 이미지를 생성할 수 있습니다.
AI로 생성된 오디오 및 비디오 콘텐츠도 비슷한 위험을 안고 있습니다. 이제 범죄자들은 공인이나 표적 자신을 사칭하여 재정 지원을 요청하거나 은행 계좌와 같은 민감한 정보에 접근할 수 있습니다.
FBI는 사용자에게 신원을 확인하는 빠른 방법으로 신뢰할 수 있는 가족 및 친구와 함께 "비밀 단어"나 문구를 설정할 것을 권고합니다. 생성적 AI 범죄로부터 보호하기 위한 다른 팁에는 이미지와 비디오에 이상이나 불일치가 있는지 주의 깊게 확인하고 온라인에서 개인 이미지나 녹음의 가용성을 최소화하는 것이 포함됩니다.
FBI는 금융 요청을 처리할 때 문자나 이메일에 의존하기보다는 직접 전화 통화를 통해 적법성을 확인하는 것이 중요하다고 강조합니다. 온라인으로만 만난 사람들과 민감한 정보를 공유하지 마세요. 이것이 당연한 것처럼 보일 수도 있지만, FBI는 또한 낯선 사람에게 온라인으로 돈, 상품권 또는 암호화폐를 보내는 것은 매우 위험하며 종종 사기로 이어진다는 점을 반복적으로 강조합니다.