요약:
Bloomberg에 따르면 화요일 Meta CEO인 Mark Zuckerberg는 AI 연구소가 모델의 안전을 보장하기 위해 독립적인 평가자와 컨설턴트에 의존해야 한다고 말했습니다. 주커버그는 화요일 AI 시스템이 인류에게 해를 끼치는 것을 방지하는 최선의 방법에 대한 글로벌 토론에 참여하는 점점 더 많은 기술 임원들과 합류했습니다.
주커버그
"독립 평가자 및 컨설턴트를 도입하는 것은 업계 모범 사례입니다." Zuckerberg는 X 플랫폼의 게시물에 썼습니다. 그는 일반적으로 더 크고 다양한 평가자 생태계를 갖는 것이 도움이 된다고 지적했습니다.
주커버그는 현재 AI 역량 개발을 늦춰야 하는지에 대한 많은 논의가 있으며 정렬 기술이 따라잡기를 기다려야 한다고 말했다. 그의 요점은 신뢰와 조정이 에이전트와 모델을 차별화하는 가장 중요한 기능이 되고 있다는 것입니다. 정렬을 심각하게 고려하지 않는 실험실은 뒤처지게 됩니다. 정렬이란 AI가 작업을 수행하는 방식을 인간의 이익에 맞추는 것을 의미합니다.
Zuckerberg의 게시물
현재 일부 회사 경영진은 AI 개발 속도를 늦추고 합의에 도달하기 위한 협력을 옹호하는 입장을 표명했습니다. Zuckerberg는 Meta가 먼저 동료들에게 진행 상황을 검토하도록 요청하지 않고 자체적으로 Muse AI 도구의 개발 속도를 늦추기로 결정했다고 썼습니다.
"메타는 안전과 보안에 집중하기 위해 Muse의 출시를 몇 달 동안 연기했습니다"라고 썼습니다. "우리는 다른 사람들에게 먼저 하고 나서 스스로 후속 조치를 취하도록 요청하지 않았습니다. 그것이 사용자와 우리 모두에게 분명히 옳은 일이었기 때문에 우리는 단지 일상의 일부로 이를 수행했습니다."
Zuckerberg는 AI의 반복적인 자기 개선을 촉진하기 위해 경쟁하기보다는 컴퓨팅 성능의 대부분을 사람들에게 봉사하는 데 집중하는 것이 이 기술의 안전한 개발을 보장하는 가장 좋은 방법 중 하나라고 믿습니다. Meta는 이러한 약속을 했고, 다른 연구실도 똑같이 할 수 있습니다.
지난 주말 Anthropic CEO Dario Amodei가 작성한 3,800자 분량의 기사는 AI의 경제적 및 보안 위험을 둘러싼 열띤 논쟁을 더욱 가열했습니다. 그는 연구원들이 잠재적인 위협을 더 잘 이해할 수 있도록 최첨단 시스템의 개발 속도를 늦출 것을 촉구했습니다. Amodei의 요청은 OpenAI CEO Sam Altman과 SpaceX CEO Elon Musk로부터 드물게 지지를 받았습니다.
댓글