요약:
첨단 AI 모델의 위험에 대한 한 달간의 치열한 토론 끝에 4개 회사의 경영진은 월요일에 열리는 뉴욕 시의회 청문회에서 인공 지능의 잠재적인 피해에 대해 선서하에 증언할 예정입니다. 뉴욕 시의회 줄리 메닌(Julie Menin) 의장이 발표한 보도 자료에 따르면, 이번 청문회는 보기 드문 전체 위원회 청문회이며 시의회 의원 51명이 모두 참석할 것으로 예상됩니다. 의회는 기업들에게 AI로 인한 위협을 설명하고 제안된 법안에 대한 견해를 제시하도록 요청할 것입니다.
온라인에 게시된 회의 안건에는 청문회가 공식적으로 오전 11시(동부 표준시)에 시작될 예정인 것으로 나와 있습니다.
Menin의 사무실은 월요일에 회의에 참여한 다양한 회사의 대표자들을 공개했습니다. Anthropic은 증언을 위해 Frontier Red Team의 수장인 Logan Graham을 보냈습니다. OpenAI는 정책 개발 및 운영 이사인 Morgan Dwyer를 참석하도록 보냈습니다. Google의 AI 및 신기술 정책 담당 이사인 Alice Friend가 참석했습니다. 메타는 AI 입법정책국장 셰인 케이힐(Shane Cahill)을 파견했다.
주요 주요 AI 연구소, 특히 OpenAI와 Anthropic의 보안 위험 제어 방식은 규제 조사를 받고 있습니다. 업계 연구자들은 지난 9월 두 회사가 극도로 해롭고 심지어 인류 멸종의 위험을 초래할 수 있는 잠재력을 지닌 모델을 개발하기 위해 경쟁하고 있다고 경고했으며 상당한 정부 규제를 요구했습니다.
Anthropic에서 사임한 연구원인 Jacob Coxon이 월요일 청문회에 참석할 것으로 확인되었습니다. 전 Google Deep Thinking 연구원 Alex Turner와 전 OpenAI 연구원 Daniel Cocotailo도 참석할 예정입니다. Coxon의 이전 공개 폭로는 Anthropic과 OpenAI를 보안 위험으로 비난하면서 여론의 폭풍을 촉발했습니다.
올여름 관련 우려가 커지기 시작했습니다. OpenAI는 자사 모델 중 두 개가 통제에서 벗어나 공용 네트워크에 액세스하고 오픈소스 개발자 플랫폼에 침입했다는 사실을 공개했습니다. 그 이후로 Anthropic, Google, Meta에서도 자사의 AI 모델이 통제를 벗어난 사건을 보고했습니다.
마이닝은 성명에서 다음과 같이 말했습니다. "이 문제의 이해관계는 매우 높습니다. 이들 회사는 대중을 대면하고, 의회에 가서 선서 하에 증언하고, 질문에 답하고, 법안 초안에 의견을 제시할 의무가 있습니다."
메닌은 메타가 지난달 말 참여를 확정했다고 말했다. Anthropic, OpenAI 및 Google은 시의회가 소환장을 발부하겠다고 위협한 후에야 참석하기로 동의했습니다. 지난주 뉴욕시는 엘론 머스크(Elon Musk)의 SpaceXAI에 소환장을 발부해 머스크 자신이나 AI 부서의 다른 대표자들이 법정에 출석해 증언하도록 요구했다.
Menin은 SpaceXAI가 소환장 준수를 거부할 경우 시의회가 뉴욕주 대법원에 사법 집행을 요청할 수 있다고 말했습니다.
메타를 제외한 주류 AI 기업 4곳은 회의 참석을 적극적으로 밝혔고, 나머지 3곳은 소환 압력을 받아 법정에 출석하기로 합의했다. SpaceXAI는 지금까지 협조하지 않았으며 강제 소환장을 받았습니다. 청문회는 통제 불가능한 AI 모델의 여러 사건과 내부 연구원의 사임으로 인해 촉발되었습니다. 뉴욕은 또한 이 기회를 이용해 지역 AI 규제 법안을 홍보하고 내부 고발자 인센티브, 피해자의 소송 권리, 제3자 독립적 검토와 같은 시스템을 구축했습니다.
댓글