월요일(18일) 현지시간으로 인공지능(AI) 연구업체 오픈AI(OpenAI)가 AI 위험 예방 가이드라인을 발표했다. 주목할 만한 규칙 중 하나는 CEO 등 기업 리더가 AI 모델이 안전하다고 판단하더라도 이사회가 AI 모델 출시를 막을 수 있다는 점이다. OpenAI가 개발한 챗봇 ChatGPT가 출시된 지 1년이 되었습니다. 이러한 경이로운 적용은 AI 분야의 발전을 크게 촉진시켰고, 이에 따라 AI의 통제 불능 발전에 대한 우려도 나오고 있다.
전 세계 규제당국은 자체적으로 AI 규정을 제정하고 있으며, AI 분야의 선두주자인 오픈AI도 이에 나서고 있다.
오픈AI는 올해 10월 27일 AI로 인한 위험을 최소화하기 위해 ‘준비(Preparedness)’라는 보안팀 구성을 발표했다.
대비팀은 MIT 배치형 기계 학습 센터 소장인 Aleksander Madry가 이끌고 있습니다. 이 팀은 다양한 유형의 재앙적 위험을 추적, 예측 및 예방하기 위해 다양한 AI 모델에 대한 역량 평가 및 레드팀 테스트를 수행할 것입니다.
OpenAI는 월요일에 "준비 프레임워크"라는 지침을 발표하여 지침 세트가 아직 테스트 단계에 있음을 강조했습니다.
대비팀은 월별 보고서를 새로운 내부 보안 자문 그룹에 보낼 예정이며, 해당 그룹은 이를 분석한 후 OpenAI CEO인 샘 알트만(Sam Altman)과 이사회에 권장 사항을 제출할 예정입니다.
OpenAI의 공동 창업자 중 한 명인 Altman은 얼마 전까지 회사의 이사회 구성원이었으나 인사 충격으로 회사에서 해임되어 한동안 OpenAI를 떠났습니다. Altman은 결국 OpenAI로 돌아와 CEO직을 계속할 수 있었지만 새로 구성된 "초기" 이사회에는 자리를 잡지 못했습니다.
대비 팀은 아직 출시되지 않은 OpenAI의 가장 발전된 AI 모델을 반복적으로 평가하고 인식된 위험의 다양한 유형을 기준으로 낮음, 높음, 낮음, 중간, 높음, 심각의 4가지 수준으로 평가합니다. 새로운 지침에 따라 OpenAI는 "낮음" 및 "중간" 등급의 모델만 출시할 예정입니다.