OpenAI의 하드웨어 및 로봇 엔지니어링 책임자인 Caitlin Kalinowski는 최근 회사에서 사임했다고 발표했습니다. 그녀는 2024년 11월부터 OpenAI의 로봇팀을 이끌게 됩니다. 그녀는 X와 LinkedIn에 "저는 OpenAI에서 사임했습니다. 저는 로봇팀과 우리가 함께 성취한 작업에 깊은 관심을 갖고 있습니다. 이것은 쉬운 결정이 아니었습니다. AI는 국가 안보에 중요한 역할을 합니다. 하지만 사법 감독 없이 미국인을 모니터링하고 인간의 승인 없이 치명적인 자율성을 달성하는 것은 실제보다 더 신중한 논의를 받아야 했던 두 가지 위험선입니다."라고 게시했습니다.
그녀는 자신의 결정이 "개인이 아닌 원칙에 관한 것"임을 강조했으며 여전히 Sam Altman과 팀에 대해 깊은 존경심을 갖고 있으며 우리가 함께 달성한 결과가 자랑스럽다고 말했습니다.
Kalinowski의 사임은 AI 회사가 미군의 기술 사용을 어느 정도 지원해야 하는지에 대한 업계 논쟁이 고조되는 가운데 이루어졌습니다. 미국 국방부와 Anthropic 간의 협상은 최근 회사가 국내 감시 및 자율 무기 사용에 대한 엄격한 제한을 주장하면서 결렬되었습니다. 협상이 결렬된 직후 OpenAI는 기밀 정부 네트워크에 AI 모델을 배포하기로 국방부와 합의했습니다. 이러한 움직임은 Anthropic이 관련 조건을 거부한 후 OpenAI가 인수했다고 믿었던 일부 직원과 관찰자들로부터 비판을 촉발했습니다. 이에 대해 OpenAI CEO인 샘 알트만(Sam Altman)은 나중에 이번 거래의 외부 발표가 "기회주의적으로 보였다"고 인정했으며, 이후 회사는 AI 시스템이 군대에서 어떻게 사용될 수 있는지에 대한 한계를 더욱 명확히 하기 시작했습니다.
OpenAI 대변인은 Kalinowski의 사임을 확인하면서 성명을 통해 회사는 국방부와 체결한 합의가 "국가 안보 분야에서 AI의 책임 있는 사용"을 위한 실행 가능한 경로를 제공한다고 믿고 있으며 국내 감시나 자율 무기가 아닌 한계선을 명확하게 그었다고 말했습니다. 성명서는 회사가 이러한 문제에 대해 대중이 큰 차이를 가지고 있음을 인식하고 전 세계 직원, 정부, 시민 사회 및 지역 사회와 계속 대화를 유지할 것이라고 지적했습니다.
OpenAI에 합류하기 전에 Kalinowski는 오랫동안 대규모 기술 회사에서 하드웨어 제품 개발에 참여해 왔습니다. 그녀는 2년 반 이상 Meta에서 하드웨어 임원으로 재직하며 증강 현실 안경 프로젝트 코드명 "Project Nazare"를 이끌었고 나중에 Meta가 "지금까지 만들어진 가장 진보된 AR 안경"이라고 부르는 제품인 "Orion"으로 공식 명명했습니다. 2024년 9월 Meta는 이 AR 안경의 프로토타입을 시연했습니다. Orion 프로젝트를 담당하기 전 그녀는 Meta의 Oculus에서 9년 이상 근무하며 가상 현실 헤드셋 개발에 주력했습니다. 그 전에는 약 6년 동안 Apple에서 근무하면서 Pro 및 Air 모델을 포함한 MacBook 제품 디자인에 참여했습니다.
Kalinovsky의 사임은 군용 및 민간용 이중 용도, 특히 감시 및 치명적인 자율 무기와 관련하여 AI 분야 내 윤리적 경계에 대한 당김과 불일치를 강조합니다. 한편으로는 국가 안보 기관의 고급 AI 기능에 대한 수요가 강하고, 다른 한편으로는 개인 정보 보호, 인간 통제 및 전쟁 자동화의 위험에 대한 기술자와 기업 간의 지속적인 우려가 있습니다. 미국 국방부와 주요 AI 기업 간의 협상이 진행됨에 따라 유사한 가치 갈등과 인력 흐름으로 인해 이 신흥 산업의 기술 경로와 윤리적 경계가 계속해서 재편될 수 있습니다.