요약:
법적 책임을 통해 인공지능(AI)의 안전을 보장하려는 트럼프 행정부의 시도는 AI 모델이 통제 불능일 때 누가 손실을 감수해야 하는지, 즉 이러한 시스템을 개발하는 회사 또는 관련 기술을 배포하는 사용자를 두고 향후 분쟁의 장을 마련했습니다.
AI 개발자에게 제품 안전에 대한 재정적 책임을 지도록 요구하는 접근 방식에는 Scott Bessant 미국 재무장관과 전 백악관 AI 책임자인 David Sacks의 지지가 있습니다. 두 사람은 기존 책임법이 새로운 규제 규칙을 도입하는 것보다 더 효과적이라고 주장합니다. 도널드 트럼프 미국 대통령은 새로운 AI 안전 규제 조치에 반대하면서도 AI 모델이 통제 불능하게 행동하면 법무부가 개입해야 한다고 밝혔습니다.
정부가 AI 보안 문제를 해결하기 위해 점점 더 기존 법률을 활용하려는 의지가 있다는 최근 신호로, 트럼프가 새로 설립한 AI 실무 그룹은 금요일 늦게 개발 회사에 보안 사고를 보고하고 해결해야 하며 그렇지 않으면 결과에 직면할 위험이 있다고 경고했습니다.
Anthropic PBC가 보안 사고를 공개한 후 '초정보군'으로 알려진 실무 그룹은 다음과 같은 성명을 발표했습니다. "회사는 자사 모델과 관련된 사고를 즉시 공개하고 신속하고 단호하게 조치를 취하여 피해를 복구해야 합니다. 공개 지연, 불충분한 시정 조치, 책임 거부는 용납되지 않습니다."
그러나 책임성을 AI 보안의 핵심으로 삼으려는 트럼프 행정부의 접근 방식은 여전히 많은 불확실성에 직면해 있습니다. 법률 전문가들은 기존의 사이버 보안 및 제조물 책임 법률이 AI 에이전트로 인한 피해에 대한 연방 책임을 뒷받침하기에 충분하지 않을 수 있다고 말합니다.
피해자가 분명하더라도 통제 불능의 AI 에이전트로 인한 피해에 대해 누가 책임을 져야 하는지, AI 툴을 개발할 때 케어 기업이 어떤 의무를 져야 하는지 정의할 수 있는 법적 판례는 거의 없다. 문제를 더욱 복잡하게 만드는 것은 모델 동작이 시스템을 배포하는 개발자와 최종 사용자 모두의 영향을 받는다는 것입니다.
신미국안보센터(Centre for a New American Security)에서 기술 및 국가 안보 연구를 담당하는 부연구원 벤 하윰(Ben Hayum)은 "책임에 대한 명확성이 계속 요구되고 있음에도 불구하고 AI 기업이 모델이 해를 끼치지 않도록 보장할 법적 의무가 있는지, 사용자가 모델에 제공하는 지침에 대해 법적 책임을 져야 하는지 여부는 여전히 해결되지 않았습니다."라고 말했습니다.
기업이 AI 기술 도입을 가속화하면서 책임에 대한 논의가 더욱 시급해지고 있습니다. 월스트리트 금융 기관, 소매업체, 항공사는 고객 서비스, 송장 처리 등 점점 더 광범위한 비즈니스 시나리오에 AI 에이전트를 적용하고 있습니다. 이 논쟁의 결과는 AI의 인기와 업계 선두주자인 OpenAI와 Anthropic의 향후 자본 시장 진출 계획에 영향을 미칠 수 있습니다.
AI 에이전트를 사용할 때 최종 사용자는 일반적으로 작업 목표만 설명하고 실행 방법을 자세히 지정하지 않습니다. 이를 통해 AI 에이전트는 사용자가 검토하지 않은 결정을 내리거나 심지어 유해한 조치를 취할 수도 있습니다. 이 경우 책임이 개발자에게 있는지, 사용자에게 있는지는 여전히 불분명합니다.
트럼프 행정부의 책임 규명 추진은 AI 규제 완화에 대한 전반적인 입장과 일치합니다. 인공지능 개발은 트럼프 대통령의 경제 어젠다에서 중요한 부분을 차지했다. 트럼프 대통령은 지난주 백악관에서 약 20여 명의 실리콘밸리 기술 리더들을 만난 후 AI 산업이 주로 자율 규제에 의존하는 동시에 기업들이 내부 보안 통제를 강화하도록 장려하기 위해 법적 구속력이 없는 산업 협약을 출범시키기를 희망한다는 뜻을 다시 한번 밝혔습니다.
동시에 모델 문제의 의무 공개에 관한 금요일 성명은 백악관이 새로 구성된 AI 팀을 기존 법률을 집행하기 위해 사용할 의향이 있음을 보여주었습니다. 팀은 국가정보국(National Intelligence) 국장 Jay Clayton이 이끌고 있습니다.
걱정스러운 보안 사고가 연이어 발생하고, AI의 재앙적 위험을 경고하는 Anthropic CEO Dario Amodei의 글이 널리 유포되면서, AI의 위험을 줄이는 방법에 대한 논의가 계속해서 뜨거워지고 있습니다.
트럼프와 그의 측근들에게 소송 위협은 OpenAI 및 Anthropic과 같은 회사가 시스템이 안전하게 작동하도록 하기 위한 것입니다. Bessant는 지난 달 의회 청문회에서 "보안을 보장하는 가장 좋은 방법은 제작자가 자신이 만들고 생성한 것에 대해 책임을 지게 하는 것"이라고 말했습니다.
댓글