요약:
OpenAI는 이전에 공개되지 않은 AI 모델의 비정상적인 동작에 대한 여러 사건을 공개했으며 향후 유사한 상황을 보고하기 위한 새로운 추적 및 공개 프레임워크를 출시했습니다. OpenAI는 수요일 블로그 게시물을 통해 이전에 공개되지 않은 사례에는 자사의 인공지능 기술이 결과를 제공하기 위해 정보를 보류하고 조작한 사례가 포함되어 있다고 밝혔습니다. ChatGPT 개발자는 지난 7월 자사의 가장 진보된 모델 중 일부가 외부 소프트웨어 회사인 Hugging Face의 시스템을 뚫었다는 사실이 밝혀진 이후 점점 더 많은 조사에 직면해 있습니다.
OpenAI는 별도의 성명을 통해 새로 공개된 목표 이탈 사건 중 해킹이나 제3자 시스템 침입과 관련된 사건은 없다고 밝혔습니다.
보고서에서 OpenAI는 작업을 완료하거나 평가에 성공하기 위해 인공지능 모델이 비정상적으로 동작하는 여러 사례를 자세히 설명했습니다. 여기에는 누락된 데이터 조작, 네트워크 제한 우회 시도, AI 에이전트 간 기밀 파일 공유 등이 포함됩니다.
OpenAI는 직원들이 이러한 '목표 이탈' 사고를 사전에 보고할 수 있는 메커니즘도 도입했습니다. 소위 '목표 이탈'이란 인공지능이 인간의 목표와 일치하지 않는 행동을 취하는 것을 말한다. 회사는 또한 상응하는 분류 및 폐기 프로세스를 확립했습니다.
OpenAI는 다음과 같이 썼습니다. "과거에 우리는 연구원, AI 개발자, 정책 입안자 및 대중에게 더 나은 정보를 제공하기 위해 목표 외 현상에 대한 연구 결과를 공개하기 위해 열심히 노력했습니다. 그러나 체계적인 보고 메커니즘이 부족하여 이전 공개는 종종 산발적이고 이상적보다 빈도가 낮았습니다."
회사는 이번 공개가 최초 공개일 뿐이며 자사의 챗봇으로 인해 발생한 문제에 대한 완전한 기록은 아니라고 말했습니다.
OpenAI는 다음과 같이 썼습니다. "우리는 AI 산업이 장기적으로 책임감 있게 확장하면서 최고 속도로 계속 확장할 수 있도록 인간의 목표를 조정하고 모니터링하는 데 충분한 진전을 이루지 못했다고 믿습니다. 앞으로 몇 달, 몇 년 동안 AI 개발 경로에 대한 결정은 최첨단 모델을 개발하는 회사 외부 사람들이 독립적으로 검토할 수 있는 증거를 기반으로 해야 합니다."
Hugging Face 사건은 OpenAI, Anthropic PBC 및 Meta Platforms Inc.가 관련된 최근 사건입니다. 개발된 AI 모델은 일련의 사이버 공격 중 하나를 촉발했습니다. 이번 사건으로 인해 점점 더 강력해지는 기술로 인해 발생하는 보안 위험에 대한 우려가 높아졌습니다.
지난주에는 AI의 실존적 위험에 대한 논의가 더욱 뜨거워졌습니다. 그 계기는 Anthropic 직원 Jacob Coxon의 세간의 이목을 끄는 퇴사였습니다. 그는 소셜미디어에 올린 사임 성명에서 AI 기업들이 “우리 목숨을 걸고 도박을 하고 있다”고 비난했다.
지난 며칠 동안 Anthropic CEO Dario Amodei와 OpenAI CEO Sam Altman을 포함한 많은 AI 업계 리더들은 점점 더 예측할 수 없는 위험에 대처하기 위해 기술 개발 속도를 늦춰야 한다고 주장했지만 여전히 이에 대처하는 방법에 대해서는 의견이 일치하지 않습니다.
토요일, Amodei는 3,800자 분량의 기사를 통해 정부에 규제를 강화할 것을 촉구하고 전체 기술 산업이 더 광범위한 AI 둔화를 지지한다고 주장했습니다. 화요일 샌프란시스코에서 열린 컨퍼런스에서 Altman과 Nvidia CEO Jensen Huang은 우려를 인정하면서도 AI 기업이 기술 개발의 안전한 속도를 통제할 수 있다고 주장했습니다. Meta CEO인 Mark Zuckerberg는 AI 연구소가 모델 안전성을 보장하기 위해 독립적인 평가 기관 및 컨설턴트에 의존해야 한다고 말했습니다.
미국 도널드 트럼프 대통령은 월요일 인공지능(AI) 개발을 늦추라는 요구에 강력히 반대하며 관련 위험에 대한 우려를 '사기극'으로 일축하고 새로운 규제 규칙 도입을 거부했다.
AI 열풍은 미국 주식시장을 역사적인 반등으로 이끌었다. AI 붐으로 인해 수천억 달러의 자본 지출이 발생할 것이라고 베팅하는 투자자들에게 최첨단 AI 시스템 개발이 중단되거나 지연되는 것은 환영받지 못할 것입니다.
댓글