요약:
최근 인공지능이 생성한 악어 사진이 싱가포르에서 실제 수색을 촉발했습니다. 사진이 실제 사진으로 착각되자 현지 경영진은 인기 수역 활동을 잠정 중단하고 자원을 동원해 수색에 나섰다. 사진을 제작하고 유포한 남성은 현재 최대 10년의 징역형에 처해질 법적 처벌을 받고 있다.
사례 정보에 따르면 30세 예린(Ye Lin)은 올해 8월 Google Gemini를 사용해 판단 저수지에 나타나는 바닷물악어의 사진을 생성해 동료에게 보냈습니다. 이 행위는 농담으로 시작됐을지 모르지만, 이후 해당 사진이 더욱 유포되면서 결국 악어 목격 사실이 싱가포르 국립 수자원청 PUB에 보고되는 것으로 이어졌다.
판단 저수지(Pandan Reservoir)는 인기 있는 현지 카약 및 수상 스포츠 장소입니다. 통지를 받은 PUB와 국립공원관리청은 대중에게 경고를 발령했을 뿐만 아니라 해당 지역의 모든 수상 활동을 중단하고 인력을 조직하여 악어 수색 및 포획 작업을 수행하는 등 신속한 조치를 취했습니다.
조사 결과, 관련 부서는 일명 악어 사진이 실제로 AI가 생성한 허위 이미지였다는 사실을 다음날 확인했습니다. 이후 PUB는 해당 사건을 경찰에 신고했고, 해당 사건은 공식적으로 범죄 수사 절차에 돌입했다.
경찰 조사 결과 예린은 사건 이후 자신의 휴대전화에서 관련 사진과 제미니 애플리케이션을 삭제한 것으로 드러났다. 법 집행 당국은 이러한 조치가 증거를 은폐하고 사법 절차를 방해하는 것으로 간주했습니다. 따라서 '허위 사실 유포' 혐의에 더해 '사법 방해' 혐의도 추가됐다.
싱가포르 법률에 따르면 허위 정보를 유포하는 행위는 최대 3년의 징역형, 최대 S$10,000의 벌금형 또는 두 가지 모두에 처해질 수 있습니다. 사법을 방해하면 최대 7년의 징역형을 받을 수 있습니다. 두 가지 혐의 모두에서 유죄가 선고될 경우 그는 최대 10년 형을 선고받게 된다.
이 사건은 또한 생성 인공지능의 오용 위험에 대한 논의를 촉발시켰습니다. 이번 사건은 국민의 오판을 불러일으켰을 뿐만 아니라, 존재하지도 않는 보안사고를 처리하기 위해 여러 정부기관이 인력과 자원을 투입하게 만들었다. 관계자들은 허위 정보와 편집, 변조 또는 AI 생성 콘텐츠가 대중을 당황하게 하고 귀중한 공공 자원을 낭비할 수 있으므로 관련 행위가 심각하게 처리될 것이라고 지적했습니다.
예린은 유죄를 인정할 계획이며 변호인을 선임하지 않겠다고 밝힌 것으로 알려졌다. 이 사건은 올해 11월에 다시 심리될 예정이다.
이 사건은 생성 인공지능 시대의 대표적인 사례로 꼽힌다. AI 영상생성 기술이 점점 현실화되면서 실제 콘텐츠와 인공 콘텐츠를 어떻게 구별하고, 관련 기술이 남용되지 않도록 방지하는 방법은 각국의 규제기관과 대중이 직면한 새로운 과제로 대두되고 있다.
댓글