25일 뉴스에 따르면 인공지능 스타트업 오픈AI는 설립 이후 줄곧 개방성과 투명성의 원칙을 견지하며 내부 문서를 대중에게 공개하겠다고 약속해왔다. 그러나 지난 11월 인사 변화는 그러한 약속에 변화를 가져온 것처럼 보였습니다. 문서 사본에 대한 Wired의 요청은 놀라운 거절을 받았습니다.

2015년 Elon Musk와 같은 기술 거물들은 비영리 연구소로 OpenAI를 공동 설립했습니다. 그들은 OpenAI를 통해 사회와 대중이 강력한 인공지능 개발에 참여할 수 있게 되고, 구글과 같은 거대 기술 기업의 폐쇄적 모델을 깨뜨릴 수 있을 것이라고 주장합니다. 이러한 정신으로 OpenAI는 설립 초기부터 미국 세무 당국에 일반 대중 누구나 관리 문서, 재무제표 및 이해 상충 규칙의 사본을 볼 수 있다는 보고서를 제출했습니다.

하지만 지난달 와이어드(Wired) 매거진이 오픈AI에게 이들 서류를 제공해달라고 요청했을 때 회사는 정책 변경을 언급하며 적은 양의 정보만 담은 재무제표만 제공하고 많은 양의 사업 정보를 생략했다. 회사 대변인 Niko Felix는 "우리는 요청 시 재무제표를 제공합니다. 2022년부터 OpenAI의 관행은 업계 표준에 부합하며 추가적인 내부 문서는 공개적으로 공유되지 않습니다."라고 말했습니다.

조용히 약속을 포기하세요

OpenAI는 오랫동안 지켜온 투명성 원칙에서 분명히 벗어났습니다. 이는 중요한 정보의 대부분을 모호하게 만드는 변화입니다. 이 정보는 최근 인공지능 분야에서 중추적인 역할을 하는 기업의 붕괴 직전 상황을 밝히는 동시에 해당 기업의 취약점에 대한 통찰력을 제공하는 데 매우 중요합니다. 지난해 11월 오픈AI 이사회는 샘 알트먼(Sam Altman) 최고경영자(CEO)를 갑자기 해고했다. 이는 그가 신뢰할 수 없으며 인공지능이 "모든 인류에게 이익이 되도록" 하는 OpenAI의 사명에 위협을 가했다는 의미였다. 그러나 직원과 투자자들의 반발로 인해 이사회는 신속하게 Altman을 복직시키고 이사회 대부분을 축출했습니다. 재구성된 이사회는 위기를 검토하고 주주의 신뢰를 회복하기 위해 구조적 변화를 시행하겠다고 다짐했습니다.

OpenAI의 이해 상충 정책을 철저히 이해하면 새 이사회가 Altman과 외부 사업에 상당한 영향을 미친다는 것을 알 수 있습니다. 여기에는 인공지능 프로젝트를 진행하는 수많은 스타트업과 원자로 제조업체에 대한 개인적인 투자가 포함됩니다. 이 문제에 정통한 소식통에 따르면, OpenAI에서 Altman의 일상 업무는 그의 개인 프로젝트와 불가분의 관계에 있으며, 이는 어느 정도 이사회 구성원의 그를 불신하게 만들었습니다. Wired 매거진은 이전에 OpenAI가 Altman이 투자한 스타트업인 Rain으로부터 인공지능 칩 5,100만 달러를 구매하기로 2019년 의향서에 서명했지만 아직 약속을 이행하지 않았다고 보도했습니다. 문제에 직면한 Felix는 Altman의 투자가 이사회에 통보되었으며 잠재적인 이해 상충을 관리하기 위한 절차가 준수되었다고 주장했습니다.

OpenAI의 거버넌스 서류는 회사가 특이한 기업 구조를 안정화하고 잠재적으로 Microsoft와 같은 후원자를 달래기 위한 조치를 취했는지 여부를 밝힐 수 있습니다. OpenAI가 2016년 IRS에 면세 서류를 제출한 결과 소수의 이사회 구성원이 회사를 장악하고 Altman을 축출할 수 있음이 나타났습니다. 2022년 현재 문서에 따르면 OpenAI의 관리 문서는 “중요한 변경”을 겪은 적이 없습니다. 그러나 Altman이 복귀한 후 회사는 Microsoft가 비영리 이사회에 투표권이 없는 참관인 자리를 허용하도록 정책을 업데이트한 것이 거의 확실합니다. 이전에 Microsoft CEO Satya Nadella는 Altman의 해고로 인해 자신이 당황했다고 공개적으로 불평했습니다. 당시 다른 변경 사항이 있었는지 여부는 여전히 미스터리입니다.

Wired가 OpenAI에 IRS 서류를 통해 공개하겠다고 약속한 정보를 제공해달라고 요청했을 때 비영리 단체의 변호사는 이를 거부했습니다. 이는 원래 투명성을 기반으로 한 프로젝트가 점점 폐쇄적인 방향으로 나아가고 있음을 의미합니다. OpenAI는 인공 지능 발명에 대한 수많은 세부 정보를 아낌없이 공유했지만 최근 가장 유명한 제품인 ChatGPT의 기술 세부 정보와 데이터에 대해서는 입을 다물었습니다. 회사 대변인 펠릭스는 OpenAI가 IRS와 캘리포니아 법무장관이 요청한 모든 자료를 공개했으며 연구 및 보안 노력에 대한 정보를 정기적으로 공개한다고 말했습니다. 동시에 ChatGPT와 같은 도구 형태로 연구 결과를 무료로 제공합니다.

OpenAI의 개방성 감소는 2019년부터 점점 더 뚜렷해졌습니다. 당시 비영리 단체는 AI 개발의 대부분을 지원하고 외부 투자를 유치하기 위해 영리 자회사를 설립했습니다. 이러한 움직임은 OpenAI와 Microsoft의 협력을 위한 기반을 마련했을 뿐만 아니라 개방형 정책의 변화를 위한 길을 열었습니다. OpenAI의 공동 창업자이자 현재 경쟁자가 된 머스크는 지난해 11월 이 회사를 "최대 이익을 추구하는 슈퍼 폐쇄 소스 AI 회사"라고 불러야 한다고 재치있게 말했다.

개방성이 줄어들고 내부 비밀이 엄격하게 유지됩니다.

OpenAI의 비영리 이사회는 회사의 활동과 기술에 대한 최종 의사결정 권한을 보유합니다. 미국 법률에 따라 모든 비영리 조직은 요청 시 IRS에 연간 보고서 사본을 공개해야 합니다. 동시에 이러한 조직은 공개 조사에 사용할 수 있는 헌장, 거버넌스 규칙 또는 이해 상충 정책과 같은 다른 문서가 있는지 여부를 제출물에 명확하게 표시해야 합니다.

빌 & 멜린다 게이츠 재단(Bill & Melinda Gates Foundation)과 같이 잘 알려진 많은 비영리 단체는 갈등 및 직장 관계에 관한 정책을 공개하지만 그러한 관행은 흔하지 않습니다. 전국비영리단체협의회(National Council of Nonprofits)의 최고 운영 및 커뮤니케이션 책임자인 릭 코헨(Rick Cohen)은 "많은 비영리 단체의 경우 내부 정책이나 관리 문서를 공개하는 것이 일반적인 관행이 아닙니다."라고 말했습니다.

그러나 7년 연속 OpenAI의 연간 서류 제출에서 회사는 "요청 시" 이를 제공했다고 밝혔습니다. 하지만 OpenAI가 관련 정보를 공개하지 않았기 때문에 실제로 그러한 요청을 한 사람이 있는지 여부는 불분명합니다.

지난 달 Wired는 OpenAI에게 거버넌스 문서, 충돌 규칙 및 재무제표를 포함한 문서를 요청했습니다. 이틀을 기다려도 결과가 나오지 않은 기자는 문서를 보기 위해 직접 샌프란시스코에 있는 OpenAI 본사를 찾았다. 그러나 접수원은 인터콤을 통한 그들의 요청을 거부하고 더 이상 연락하지 않았습니다. OpenAI는 이미 2023년 IRS에 제출한 서류에서 이전 정책을 변경했는데, 이는 올해 말까지 완료되지 않습니다.

비영리 단체의 투명성을 강화하기 위해 미국 세법에 따라 이러한 조직은 IRS에 최소한 연간 보고서를 제출해야 합니다. 이러한 보고서가 해당 기관의 웹사이트에 게시되지 않은 경우, 요청을 받은 날 공개 조사를 위해 사무실에 있어야 합니다. 그러나 "Wired" 기자들은 OpenAI가 이러한 보고서를 웹사이트에 게시하지 않았으며 공개 조사를 위해 사무실에 제공하지도 않았다는 사실을 발견했습니다. IRS 문서에는 위반자에게 하루 최대 $20, 최대 $10,000의 벌금이 부과될 수 있다고 명시되어 있습니다. 그러나 IRS는 세법의 기밀 조항 때문에 논평을 거부했습니다. OpenAI는 어떠한 잘못으로도 기소되지 않았지만 Felix 대변인은 해당 보고서가 정부 및 연구 데이터베이스를 통해 온라인으로 제공된다고 말했습니다.

비영리 단체가 IRS에 내부 문서를 대중에게 공개한다고 말하더라도 실제로는 얻기가 어렵습니다. 비영리 문제를 전문으로 하는 조지타운 대학교 법학 교수인 브라이언 갈레(Brian Galle)는 "내가 어떤 조직에 공개 성명을 요청할 때 기본적으로 IRS와 조직의 법무 자문위원을 모두 복사하지 않는 한 결코 그것을 얻지 못합니다"라고 말했습니다.

공개 문서에는 정보가 너무 적습니다.

OpenAI가 Wired의 요청에 응답했을 때 2022년 재무제표만 제공했지만 이 성명에는 ChatGPT 및 기타 서비스를 판매하는 부서인 가장 중요한 영리 부서의 데이터가 포함되지 않았습니다. OpenAI는 이는 업무상 기밀을 보호하기 위한 것이라고 설명했습니다.

성명서에 따르면 수익은 44,000달러에 불과했고 비용은 130만 달러였습니다. 비영리단체로서는 합리적인 수치로 보일 수도 있지만, 영리단체의 성과와 비교하면 분명 큰 차이가 있다. 오픈AI의 영리부문 매출은 지난해 수억 달러에 달했고, 지출 비용도 이 금액을 훨씬 웃돌았다고 한다.

OpenAI의 영리 부문에 속한 투자자와 직원은 회사의 일부 내부 기록에 접근할 수 있지만 기밀 유지 계약에 구속되어 이를 공개할 수 없습니다. 그리고 OpenAI의 비영리 부분은 대중으로부터 거의 지원을 받지 못하기 때문에 더 투명해질 인센티브가 부족합니다. 대조적으로, 많은 비영리 단체는 기부자를 확보하거나 기부자의 지갑을 느슨하게 하기 위해 더 투명해야 합니다.

OpenAI는 개방성을 유지함으로써 더 많은 고객의 충성도를 얻거나 규제 기관의 신뢰를 얻을 수 있습니다. 그러나 알트만은 회사가 지난 11월 인사 변동 이후 고객을 한 명도 잃지 않았다는 사실과 정치인들로부터 따뜻한 환영을 받았다는 사실이 투명성의 부족을 숨기지 않는다고 말했다.

OpenAI의 정책이 바뀌지 않는다면, 새 이사회가 Altman과 다른 경영진을 더 잘 감독하기 위해 이해 상충 정책을 개정할지 여부 등 점점 더 영향력이 커지는 조직에 관한 많은 사항이 대중에게 결코 알려지지 않을 수 있습니다. 2022년에는 OpenAI 본사에서 초인종을 눌러야 답을 얻을 수 있을 것입니다.