최근 호주 연구에 따르면 일반인은 인공지능이 생성한 얼굴과 실제 얼굴을 확실하게 구별하기 어렵다. "슈퍼 인식자"로 알려진 소수의 사람들에게도 이점이 분명하지 않습니다. 연구자들은 사람들이 사람을 식별하는 능력에 대해 종종 과신하기 때문에 이러한 매우 사실적인 합성 얼굴은 보안 허가 및 신원 확인에 심각한 문제를 야기할 수 있다고 경고합니다.
이번 연구는 뉴사우스웨일스대학교(UNSW 시드니)와 호주국립대학교(ANU) 심리학팀이 공동으로 수행했으며, 해당 논문은 영국 심리학 저널(British Journal of Psychology)에 게재됐다. 연구팀은 오늘날의 '합성 AI 얼굴'이 실제 인물 사진보다 주관적인 인식 측면에서 훨씬 더 '현실적'일 수 있으며 관련 실험 데이터가 이러한 판단을 뒷받침한다고 지적했습니다.
UNSW 심리학과 연구원인 제임스 던(James Dunn)은 사람들이 AI가 생성한 가짜 얼굴을 한 눈에 인식할 수 있다고 오랫동안 믿어왔다고 말했습니다. 초기 AI 시스템은 왜곡되고 기형적이며 불완전한 이미지를 생성하는 경우가 많았지만 생성 모델의 급속한 발전으로 극도로 사실적인 얼굴을 생성하는 것이 매우 쉬워졌습니다.
구체적인 실험에는 두 대학이 '슈퍼 인식자'로 식별된 피험자 36명과 대조군으로 일반 참가자 89명 등 총 125명의 참가자를 모집했다. 모든 사람은 온라인에서 동일한 테스트를 완료했습니다. 실제 얼굴과 AI가 생성한 얼굴이 화면에 무작위로 표시되고 피험자에게 각각이 "진짜"인지 "합성"인지 판단하도록 요청했습니다.
그 결과, 일반 사람들의 판단력은 무작위 수준인 '맹인' 사람들보다 약간 더 나은 반면, '슈퍼 인식자'는 전체 점수가 더 높았지만 그 장점은 매우 제한적이었습니다. 더욱 아이러니한 점은 인식 능력과 상관없이 모든 참가자가 'AI 가짜 얼굴을 꿰뚫어 보는 능력'에 대해 똑같이 높은 자신감을 갖고 있다는 점이다. 이는 상당한 과신을 의미한다.
연구에 따르면 최신 AI로 생성된 얼굴은 더 이상 초기만큼 명백한 결함으로 가득 차 있지 않습니다. 흐릿한 배경, 누락된 장기, 이상한 비율의 얼굴 특징과 같은 일반적인 "알고리즘 추적"이 점점 더 적게 나타납니다. 결과적으로 이러한 극도로 혼란스러운 가짜 얼굴의 잠재적 위험은 온라인 사기, 신원 도용, 사회 공학 공격 등의 시나리오에서 급속히 축적되고 있으며 결과적으로 개인과 기관 모두 피해를 입을 수 있습니다.
ANU 부교수인 에이미 다웰(Amy Dawel)은 오늘날의 AI 가짜 얼굴은 "뭔가 심각하게 잘못되었기 때문에 모습을 드러내는 것이 아니라 너무 좋기 때문에 모습을 드러낸다"고 지적합니다. 비정상적이라기보다는 "너무 정상적"이라고 말하는 것이 더 낫습니다. 얼굴은 대칭이 매우 잘 잡혀 있고, 얼굴의 특징은 균형이 잘 잡혀 있으며, 전반적인 특성은 통계적으로 "평균"입니다. 그들은 즐겁고 "눈에 즐겁다"고 보입니다. 그녀는 이러한 '비정상적으로 완벽함'과 '너무 평범함'의 외모 특성 자체가 AI가 생성하는 잠재적인 위험 신호로 간주될 수 있으며, 초안면 인식 능력을 가진 사람들은 이러한 미묘한 패턴을 더 잘 포착할 수 있을 것이라고 강조했습니다.
연구팀의 다음 계획은 기술적 자동 탐지 도구와 대량 인식 전략의 개선을 촉진하기 위해 이러한 "슈퍼 AI 가짜 얼굴 탐지기"가 어떤 지각 단서에 의존하는지 추가로 분석하는 것입니다. 현재 UNSW는 공식 웹사이트에서 AI 가짜 얼굴 인식 기능의 무료 데모 버전이 포함된 'UNSW 얼굴 테스트' 온라인 테스트를 시작했습니다. 일반 사용자도 자신의 인지도를 평가할 수 있습니다.
글쓴이는 직접 테스트에 참여한 결과 20개의 얼굴 중 12개의 AI 가짜 얼굴을 두 번 정확하게 식별한 사실을 발견했다. 공식 지침에 따르면 이번 결과는 일반 참가자들의 평균 점수가 11/20 수준인 반면, 이번 결과는 '슈퍼 인식자'로 분류될 것으로 예상된다. AI가 생성한 이미지가 지속적으로 향상됨에 따라 이러한 약간의 앞선 것만으로도 기술과 인간 인식 사이의 격차가 커지고 있음을 강조하기에 충분합니다.