요약:
로이터 통신에 따르면 Google의 신뢰 및 안전 팀 창립자인 Tom Siegel은 이번 주에 AI 개발 속도를 늦출 것을 촉구했으며 기술 산업이 소셜 미디어 시대의 실수를 반복하고 있으며 어린이에게 더 큰 해를 끼칠 수 있다고 경고했습니다.
시갈
소셜 미디어 회사들은 현재 막대한 보상금을 지불하고 있으며 청소년 사용자에게 해를 끼쳤다는 비난으로 수천 건의 소송에 직면해 있습니다. 한편, 전 세계 정부는 미성년자의 소셜 미디어 플랫폼 접근을 제한하기 위해 노력하고 있습니다.
로이터는 지난해 Meta의 내부 정책 문서에 대해 단독 보도했습니다. 문서에는 자사의 챗봇이 "아이들과 로맨틱하거나 에로틱한 대화를 나눌 수 있다"고 적혀 있어 의회 조사가 촉발됐다. 그럼에도 불구하고 규제 조치는 AI의 급속한 발전을 따라잡지 못했습니다.
Google의 신뢰 및 안전 부문 부사장을 역임한 Segal은 Reuters에 다음과 같이 말했습니다. "AI가 어린이에게 미치는 영향 측면에서 우리는 현재 매우 나쁜 상황에 처해 있습니다. 업계가 외부 도움 없이 스스로 문제를 해결할 수 있다는 생각은 비현실적입니다."
그의 우려는 기술 업계와 학계 연구자들 사이에서 점점 커지는 두려움을 반영합니다. AI는 소셜 미디어보다 어린이에게 더 큰 위협이 됩니다. 이제 업계에서는 챗봇에 점점 더 많은 고급 기능을 추가하기 위해 경쟁하고 있으며, 수백만 명의 젊은이들이 이미 이러한 봇을 매일 사용하고 있습니다.
Segal은 화요일에 어린이 온라인 안전 옹호 단체인 Common Sense Media에 합류했다고 발표했습니다. 2003년에 설립된 이 비영리 단체는 어린이를 위한 다양한 미디어의 적합성을 연구하고 평가합니다. 지난 5월에는 어린이의 AI 활용을 평가하기 위한 연구기관인 '청소년 AI 안전연구소'를 설립했으며, 시걸이 연구소의 첫 전무를 맡는다. Anthropic과 OpenAI를 관리하는 비영리 단체인 OpenAI Foundation이 이 연구소의 후원자입니다.
Segal은 AI 회사에 책임을 묻기 위한 표준을 개발할 계획이며 이 목표를 달성하기 위해 이러한 회사 및 제3자 조직과 협력하기를 희망한다고 말했습니다.
그는 이전에 2004년부터 2019년까지 Google에서 근무했지만 나중에 소비자를 위한 안전한 온라인 공간을 만드는 기술 산업의 능력이 '병목 현상에 도달'했다고 믿고 Google을 떠났습니다. 그 후 그는 기업이 보안 위협을 식별하는 데 도움이 되는 도구를 개발하는 스타트업인 TrustLab을 공동 창립했습니다. 이달 초 그는 CEO직에서 물러나 새로운 직책을 맡았다.
시겔은 현재 주요 AI 기업들이 적절한 안전 보호 대책을 마련하지 않은 채 어린이를 위한 다양한 기능을 출시하고 있다고 말했다.
"내 생각에 우리는 매우 심각한 피해 위험에 직면해 있습니다."라고 그는 말했습니다. Siegel은 자살과 정신 이상에서부터 '인지적 부담'에 이르기까지 다양한 위험을 언급하면서 AI 기업이 젊은이들을 더 잘 보호하기 위해 즉시 취할 수 있는 조치가 있다고 말했습니다. 소위 인지적 오프로딩(cognitive offloading)은 질문에 답하기 위해 AI에 의존함으로써 발생하는 비판적 사고 능력의 저하를 의미합니다.
Anthropic과 OpenAI는 미성년자가 챗봇을 사용하는 것을 방지하기 위해 더 엄격한 연령 확인 조치를 시행할 수 있다고 말했습니다. 그는 또한 그의 전 고용주인 구글이 현재 사용자가 포르노 콘텐츠를 필터링할 수 있는 스위치를 제공하는 것처럼 검색 엔진에 AI 개요 및 AI 모드를 끄는 옵션을 추가할 수 있다고 말했습니다.
Segal은 이러한 조치가 단기적으로 사용량이나 이익에 영향을 미칠 수 있지만 조치를 취하지 않는 AI 회사는 소송과 규제의 위험에 직면하게 되어 비즈니스에 더 심각한 타격을 줄 수 있다고 덧붙였습니다.
Siegel의 발언에 대해 Google 대변인은 부모가 관련 제어 기능을 통해 자녀의 검색 엔진 액세스를 완전히 차단할 수 있다고 말했습니다. 대변인은 "우리의 AI 검색 기능은 어린이와 청소년이 정보와 세상을 배우고, 탐색하고, 이해할 수 있는 강력한 방법입니다."라고 말했습니다.
OpenAI 대변인은 사용자가 직접 보고한 연령 외에도 회사는 '계정 및 행동 신호'를 사용하여 미성년 사용자를 식별한다고 말했습니다. 대변인은 "단일 연령 확인 방법이 완벽하지는 않지만 보안 보호를 우회하려는 시도를 방지하는 것을 포함하여 이러한 시스템을 지속적으로 테스트하고 개선하고 있습니다"라고 말했습니다.
댓글