요약:
OpenAI는 AI의 잠재적 피해에 대한 우려가 커지면서 미국이 다른 국가와 함께 최첨단 인공지능(AI) 표준 개발에 앞장설 것을 촉구합니다. 오픈AI는 월요일 블로그 게시물을 통해 인공지능을 안전하게 개발하기 위해서는 국제 기술 표준 개발, 특히 AI 모델과 관련된 사고 유형을 정의하는 데 도움을 주고, 국가가 AI 개발에 협력할 수 있는 방법을 명확히 하고, 그러한 기술을 개발하는 데 필요한 컴퓨팅 성능에 대한 접근성을 향상시키는 것이 필요하다고 밝혔습니다.
“안전하고 유익한 AI의 지속적인 발전을 위해서는 실험실과 국가의 AI 개발에 지침을 제공하기 위한 공동 표준을 개발하고 일치된 연구를 진행하는 것이 필요합니다.”라고 OpenAI는 말했습니다.
OpenAI는 자사 CEO인 샘 알트먼(Sam Altman)이 수요일 유엔 안전보장이사회에서 AI와 국제 안보 문제에 관해 연설할 계획이라고 밝혔다.
미국 베센트 재무장관은 지난 주말 미국이 국가 안보에 영향을 미치는 AI 사건을 다루기 위한 보고 메커니즘을 구축할 것을 제안했다고 말했습니다.
OpenAI는 블로그 게시물에서 가장 유능한 AI 모델을 개발하기 위한 보완적인 국내 및 국제 표준을 개발하기 위해 국가가 협력해야 한다고 강조했습니다. OpenAI는 이 작업이 AI 모델 테스트 및 관련 지침 개발을 지원하는 미국 상무부 산하 AI 표준 혁신 센터(CAISI)를 포함해 여러 국가의 기존 AI 안전 기관을 통해 추진될 수 있다고 제안합니다.
OpenAI는 또한 AI가 자율적으로 작동하는 능력 증가를 처리하기 위한 표준 개발을 요구하면서 AI가 궁극적으로 자체 코드를 수정하거나 인간의 개입 없이 기능을 향상시킬 수 있는 '완전 자율적' 재귀적 자기 개선이 '안전이 보장되지 않는 한' 추구되어서는 안 된다는 점을 지적했습니다.
댓글