요약:
지난 이틀 동안 특히 흥미로운 뉴스를 보았습니다. 호주에는 그리스 신화에 나오는 속임수의 여신 이름을 딴 Apate.ai라는 회사가 있습니다. 이 회사가 한 일은 특히 터무니없습니다. 그들은 350,000개의 AI를 구축했습니다. 그리고 매일 이 35만 개의 AI가 하는 주요 임무는 사람들에게 거짓말을 하는 것입니다.
단지 그들이 속이는 대상이 조금 특별할 뿐입니다.
그들은 사기꾼을 전문으로 합니다.
그렇습니다. 그는 여러분이 생각하는 그런 종류의 거짓말쟁이입니다.
각 AI는 노소, 남성, 여성 등 평범한 사람인 척합니다. 심지어 그들은 서로 다른 억양을 가지고 있고, 여러 언어를 구사할 수 있으며, 심지어 그들만의 개성도 가지고 있습니다.
사기 전화, 피싱 웹사이트, 투자 사기 등 사기꾼을 찾으면 거기에 AI를 보내고 피해자인 척하며 사기꾼과 채팅할 방법을 찾을 것입니다.
가장 중요한 점은 이러한 AI가 매우 재미있는 공통 특징을 가지고 있다는 것입니다. 즉, 속이기 매우 쉽다는 것입니다.
사기꾼은 돈을 이체해 달라고 요청했고 문제가 되지 않을 것이라고 말했습니다.
사기꾼이 나에게 웹사이트를 열어보라고 했더니 괜찮다고 하더군요.
사기꾼이 은행 카드 번호를 입력하라고 했지만 예, 문제없다고 답했습니다.
그러다 실행 단계가 되면 갑자기 멍청한 행동을 하게 됩니다.
앗, 은행 카드를 어디에 넣었나요?
앗, 이게 무슨 비밀번호인가요?
아, 저는 나이가 많아서 시력이 좋지 않습니다. 형님, 다시 한 번 말씀해 주시겠어요?
사기꾼과 너무 갑작스럽게 대화하면 어떤 전화 통화는 2시간 이상 지속될 수도 있습니다...
거짓말쟁이는 거의 쓰러질 뻔했습니다.
하지만 전화상대 할머니는 매우 정중하셨습니다.
"미안해요 청년님, 다시 가르쳐 주세요."
Apate 자체에 따르면, 그들의 AI는 사기꾼들과 250만 번 채팅을 했고, 지금도 매일 같은 시간에 수만 명의 사기꾼들과 채팅하고 있습니다.
사기꾼이 사기를 치는 데는 총 17년이 걸렸습니다.
17년이군요...
호주 통신사 TPG는 응답을 위해 거의 590,000건에 달하는 의심스러운 전화를 Apate의 AI로 직접 전송했습니다. 그 결과, Commonwealth Bank of Australia는 공개적으로 보고된 사기 손실을 76%까지 직접적으로 줄였습니다.
가장 웃긴 점은 사기꾼들이 이런 AI들에 의해 가끔 전화로 쓰러지고 욕을 하는 지경까지 끌려가는 경우가 있다는 점이다.
Apate는 화를 내지 않았을 뿐만 아니라 자금 조달 로드쇼 자료에도 이러한 저주적인 단어를 포함했습니다. 공동 창업자는 Apate가 아마도 사용자가 자사 제품을 비판할 때 이를 축하하는 세계 유일의 회사일 것이라고 말했습니다.
이 모든 일의 시작은 몇 년 전 가족 소풍이었습니다.
Apate의 창립자는 Dali Kaafar입니다. 그는 그날 가족과 함께 소풍을 나갔는데 이상한 전화를 받았습니다. 이 전화는 너무 무례하고 사기꾼처럼 들렸습니다.
그러나 그는 포기하지 않았습니다. 아이들을 행복하게 만들기 위해 그는 바보 같은 요정에게 홀린 척하면서 추상화에 참여하기 시작했고, 거짓말쟁이와 한 문장 한 문장 이야기를 나누는 등 매우 협조적이었습니다.
이 대화는 44분 동안 이어졌고, 이후 온 가족이 웃음을 터뜨렸습니다.
웃다가 갑자기 카파르는 뭔가를 깨달았습니다.
이 44분 동안 사기꾼은 계속해서 그와 전화 통화를 했고 다른 사람에게 전화할 시간도 없었습니다. 원래는 혼자 사는 노인이 이 전화를 받을 수도 있고, 자신의 생존을 지탱할 수 있는 마지막 연금까지 사기를 당할 수도 있다.
물론 그도 44분 동안 입장했다는 게 대가다.
그래서 그 순간 그는 새로운 아이디어가 떠올랐고, 이 문제를 AI에 맡길 수 있을지 스스로에게 질문을 던졌습니다.
Kafar는 원래 시드니의 Macquarie University에서 네트워크 보안 연구를 하고 있었기 때문에 그와 그의 동료들은 사기 전화 연구를 전문으로 하기 시작했고 AI를 사용하여 사기꾼의 말을 조금씩 해체했습니다. 2024년에 그 아이디어는 Apate가 되었습니다.
44분의 소풍이 총 17년이 걸린 후견이 되었습니다.
이 세상에 내가 정말 싫어하는 것이 하나 있다면 그것은 사기일 것이다.
저와 같은 생각을 하시는 분들이 많을 거라 믿습니다.
그러나 이제 AI는 과거에 특히 불공평했던 것, 즉 악을 행하는 것과 악을 예방하는 것 사이의 대가를 바꾸는 것 같습니다.
최근 미얀마 북부의 통신 사기에 관한 다큐멘터리를 보고 있었습니다. 평범한 사람들이 속지 않도록 모두가 열심히 노력하고 있다는 느낌이 들었습니다.
그러나 사기에 대한 매우 역겨운 점 중 하나는 사기의 비용 구조가 당연히 사기꾼에게 유리하다는 것입니다.
예를 들어 거짓말쟁이는 하루에 수백 명에게 전화를 걸 수 있습니다. 처음 몇백 명이 다 전화를 끊어도 상관없습니다. 도박이기 때문입니다. 그러나 결국 한 사람이라도 속으면 큰 돈을 벌 수도 있습니다.
그러나 평범한 사람들이라면 이전에 수천 번도 속임을 당하지 않았을 것입니다.
오직 천번만에 연기를 유난히 잘하는 거짓말쟁이를 우연히 만났고, 그날 기분이 안 좋았고, 나만의 약점을 마주하게 됐다.
그렇게 되면 귀하가 평생 저축한 돈이 사라질 수도 있습니다.
거짓말쟁이는 수없이 실패할 수 있지만, 당신이나 나 같은 평범한 사람들은 안타깝게도 한 번도 실패할 기회조차 갖지 못할 때가 있습니다.
그래서 우리나라, 우리 사회 전체는 수많은 일을 해왔고 일반 사람들의 경계심을 높일 수 있는 방법을 찾으려고 노력해 왔습니다.
이제 AI가 등장했기 때문에 사기꾼은 기술을 사용하여 악행에 드는 비용을 줄일 수 있습니다.
그렇다면 동일한 기술을 사용하여 다른 사람을 보호하는 데 드는 비용을 줄일 수 없는 이유는 무엇입니까?
올해 8월 Apate는 시드 라운드 자금 조달로 815만 달러를 받았습니다. 전체 AI 물결에서 그들은 작은 것처럼 보이지만 여전히 경외감을 느낄 것입니다. 더욱이 실제로 은행이나 통신 사업자와 같이 실제로 지불할 의사가 있는 고객을 확보하기 시작했습니다.
영업권이 계속 작동하고 복제되고 확장될 수 있게 되면 그것이 생성하는 힘은 한 사람의 능력을 훨씬 초과할 수 있다고 생각합니다.
정말 우연이네요.
아파테 사건이 유명해졌을 때 중국에서도 아주 비슷한 일이 벌어지고 있었습니다.
최근 많은 화제를 불러일으킨 것은 AI 샤오하이다.
많은 분들이 알고 계시리라 생각하여 간략하게 요약해 드리겠습니다.
아마 AI를 사용해 잘 생긴 소년들을 일괄 생성하고 매일 카메라를 향해 '이모'라고 외치는 사람들이 있을 것입니다.
왔다 갔다 한다는 것은 오늘은 아버지가 아프고, 내일은 왕따를 당하고, 모레는 돈이 부족할 것이라는 뜻이다. 어쨌든 나는 계속해서 비참한 고통을 겪을 것이다.
결국 일부 중·노년층 여성들은 그를 안타까워하며 그의 창구에서 수수료가 높은 제품을 구매하기도 했다. 일부 수수료는 심지어 55%까지 높았습니다. 아마 이런 패턴이었을 겁니다.
가장 황당한 점은 전화상으로 샤오하이를 진심으로 믿었던 79세 노부인이 있다는 것이다. 그녀는 혼자 기차표를 사서 그를 찾기 위해 산시성으로 달려갔다.
샤오하이가 함께 살구꽃 구경도 하고 곰보버섯도 따러 가자고 해서요.
그런데 할머니는 산시에 도착해서 어디로 가야 할지조차 모르고 계셨습니다.
그녀는 샤오하이가 거기에 있다는 것만 알고 있었습니다.
나중에 경찰은 뭔가 잘못된 것을 발견하고 그에게 물었습니다. 결국 그는 가족에게 연락해 그를 다시 데려갔다.
그런데 이 사건이 폭로된 직후 중국의 한 무리의 젊은이들이 그들의 마법과 지혜를 바탕으로 AI를 사용하여 반격하기로 결정했습니다.
그 중 한 명은 Xiaozhou라는 19세 대학생이었습니다.
그는 친구 집의 한 노인이 샤오하이를 불쌍히 여겨 자신의 창가에서 여러 가지 물건을 샀다는 사실을 발견했습니다.
그래서 Xiaozhou는 노인이 Xiaohai를 믿었기 때문에 특히 흥미로운 방법을 생각했습니다.
샤오하이가 노인에게 자신이 거짓말쟁이라고 직접 말하게 하여 노인도 AI를 사용하여 30초짜리 동영상을 생성했습니다.
여전히 샤오하이의 얼굴이지만, 이번에는 샤오하이가 양복을 입고 저택에 사는 부자 2세로 변신했다.
이것은 Xiaozhou와의 베이징 뉴스 인터뷰 스크린샷입니다.
이 영상에서 샤오하이의 백발의 아버지는 달려와 그 이모, 엄마들에게 다시는 거짓말을 하지 말라고 충고했다.
그래서 샤오하이는 등을 돌리고 그 이모들은 전혀 신경 쓰지 않는다고 말했습니다. 그가 소리만 지르면 그들은 와서 돈을 주곤 했습니다.
결국 그는 아버지를 쫓아냈습니다.
이 동영상이 게시된 후 실제로 좋아요가 수십 개에 불과했지만 샤오저우의 친구가 집에 있는 노인들에게 동영상을 보여주었습니다.
샤오하이에게 물건을 사주던 노인은 책을 읽은 후 이렇게 말했습니다.
"아, 왜 이럴까요."
"나는 그 사람에게서 다시는 아무것도 사지 않을 것입니다."
그렇게 30초짜리 동영상은 노인의 결정을 바꾸게 만들었습니다.
나중에 점점 더 많은 젊은이들이 감염되고 영감을 받아 가입하기 시작했습니다.
어떤 사람들은 샤오하이에게 감옥에 가라고 했고, 어떤 사람들은 샤오하이에게 담배와 술을 권유했고, 어떤 사람들은 그에게 금목걸이를 차고 맨션에서 돈을 세어 보라고 했습니다.
어떤 사람들은 샤오하이에게 죄수복을 입고 감옥의 쇠창살을 붙잡고 카메라 앞에서 자신이 거짓말쟁이임을 인정하라고 요구하기도 했습니다.
이렇게 멋진 AI 대결이 시작됐다.
특히 베이징 뉴스와의 인터뷰에서 샤오저우가 한 말이 마음에 듭니다.
"친절한 사람은 속으면 안 됩니다."
이렇게 간단한 문장 하나가 소위 AI 선언문보다 더 강력하다고 생각합니다.
아파테와 샤오저우의 두 이야기를 읽고 정말 감동받았습니다. 더욱이 이는 AI 시대의 아주 특별한 변화를 완벽하게 보여주었다.
과거에는 보통 사람이 선한 일을 하고 싶어도 그것을 하지 못할 수도 있었습니다.
이제 그에게 마침내 AI와 기술을 활용해 선의를 증폭시킬 기회가 생겼습니다.
얼마 전 17세 남자 고등학생이 AI 행세를 하고 답글로 B역 전체를 치료했다는 기사를 쓴 적이 있다. 다들 평범하지만 대단한 사람들이에요.
매일 우리는 모델이 얼마나 똑똑한지, 어떤 벤치마크를 깨뜨렸는지, 과거에는 인간만이 할 수 있었던 작업 중 얼마나 많은 작업을 완료할 수 있는지에 대해 논의합니다.
물론 이것들은 중요합니다.
그러나 점점 더 강력해지는 AI 뒤에는 사람들에 대한 순수한 친절이 훨씬 더 소중하다고 생각합니다.
내가 가장 보고 싶은 AI의 미래는 아마도 이것이었을 것이다.
기술 자체는 사실상 지위가 없습니다.
AI가 증폭시키는 것은 결코 인간의 능력만이 아닙니다.
또한 사람들의 선택을 증폭시키고 있습니다.
미래에는 가장 진보된 기술을 사용하여 인류의 가장 오래되고 단순한 친절을 보호할 수 있는 날이 오기를 바랍니다.
나 역시 친절한 분들을 바랍니다.
절대 자신의 친절함 때문에 그렇게 할 필요는 없습니다.
그리고 또 상처를 받습니다.
댓글