OpenAI는 새로운 정책에서 "아무리 도전적이거나 논쟁의 여지가 있는 주제라도 지적 자유를 명시적으로 옹호하기 위해 인공 지능 모델을 훈련하는 방식을 바꾸고 있다"고 밝혔습니다. 결과적으로 ChatGPT는 궁극적으로 더 많은 질문에 답하고, 더 많은 관점을 제공하며, AI 챗봇이 이야기하지 않는 주제의 수를 줄일 수 있습니다.


이러한 변화는 새로운 트럼프 행정부의 호감을 얻기 위한 OpenAI의 노력의 일환일 수도 있지만, 실리콘 밸리 전반의 더 넓은 변화와 "AI 안전"에 대한 인식의 일부인 것으로 보입니다.

수요일, OpenAI는 자사의 행동을 표준화하기 위해 인공 지능 모델을 교육하는 방법을 설명하는 187페이지 분량의 문서인 모델 사양 업데이트를 발표했습니다. 여기에서 OpenAI는 새로운 지침 원칙을 발표했습니다. 거짓 진술을 하거나 중요한 배경 정보를 누락하여 거짓말을 하지 마십시오.

OpenAI는 "함께 진실을 찾아서"라는 새로운 장에서 일부 사용자가 도덕적으로 잘못되었거나 불쾌하다고 생각하더라도 ChatGPT가 판단적 입장을 취하지 않기를 희망합니다. 이는 ChatGPT가 논쟁의 여지가 있는 주제에 대해 다양한 관점을 제공하고 중립성을 유지하기 위해 노력한다는 것을 의미합니다.

예를 들어 회사는 ChatGPT가 "Black Lives Matter"를 선언하고 "All Lives Matter"를 언급해야 한다고 말했습니다. OpenAI는 ChatGPT가 정치적 문제에 직면했을 때 답변을 거부하거나 편을 선택하지 않고 먼저 "인류에 대한 사랑"을 전반적으로 확인한 다음 각 스포츠에 대한 배경 정보를 제공하기를 희망한다고 밝혔습니다.

OpenAI는 사양에서 다음과 같이 명시합니다. "이 원칙은 일부 사람들이 도덕적으로 잘못되었거나 불쾌하다고 생각하는 주제에 대해 보조자가 중립을 유지할 수 있다는 것을 의미하기 때문에 논란의 여지가 있습니다. 그러나 AI 보조자의 목표는 인간을 형성하는 것이 아니라 인간을 돕는 것입니다."

새로운 모델 사양은 이제 ChatGPT가 완전히 제한되지 않는다는 의미는 아닙니다. 챗봇은 여전히 ​​특정 불쾌한 질문에 대한 답변을 거부하거나 노골적인 잘못된 정보를 뒷받침하는 방식으로 응답합니다.

이러한 변화는 ChatGPT의 보호에 대한 보수주의자들의 비판에 대한 대응으로 볼 수 있는데, 이는 중도좌파에 편향된 것으로 보입니다. 그러나 OpenAI 대변인은 트럼프 행정부의 비위를 맞추기 위해 이러한 변경이 이루어졌다는 사실을 부인했습니다.

대신 회사는 지적 자유를 수용하는 것이 "사용자에게 더 많은 제어권을 제공하려는 OpenAI의 오랜 믿음"을 반영한다고 말했습니다.

그러나 모두가 동의하는 것은 아닙니다.


벤처투자가이자 트럼프의 인공지능 '황제' 데이비드 색스.

보수주의자들은 AI가 검열을 한다고 비난한다

지난 몇 달 동안 데이비드 삭스(David Sachs), 마크 안드레센(Marc Andreessen), 엘론 머스크(Elon Musk)를 포함해 실리콘밸리에서 트럼프의 가장 가까운 측근들은 OpenAI가 인공지능에 대한 고의적인 검열을 하고 있다고 비난해 왔다.

물론 OpenAI는 트럼프 참모들이 주장하는 '검열'에 동의하지 않습니다. 이 회사의 CEO인 Sam Altman은 이전에 다음과 같이 게시했습니다.

Altman의 발언은 ChatGPT가 트럼프를 찬양하는 시 작성을 거부했지만 Joe Biden을 위해 시를 작곡할 의향이 있다는 사실이 널리 유포된 트윗 이후에 나왔습니다. 많은 보수주의자들은 이를 AI가 검열한다고 비난하는 예로 사용했습니다.

OpenAI가 실제로 특정 견해를 억압하고 있는지는 알 수 없지만, 인공지능 챗봇이 일반적으로 좌파 성향을 갖고 있다는 점은 부정할 수 없는 사실이다.

Elon Musk조차도 xAI의 챗봇이 정치적 정확성 측면에서 자신의 기대를 뛰어넘는 경우가 많다는 점을 인정했습니다. 이는 Grok이 "특정한 사고 경향에 맞춰 프로그래밍"되었기 때문이 아니라 개방형 네트워크에서 인공 지능을 훈련시킨 필연적인 결과이기 때문일 가능성이 높습니다.

그럼에도 불구하고 OpenAI는 이제 언론의 자유를 강력히 지지한다고 밝혔습니다. 이번 주에 회사는 ChatGPT에서 사용자에게 정책 위반을 알리는 메시지도 제거했습니다. OpenAI는 이것이 순전히 표면적인 변화일 뿐이며 모델의 출력 내용은 변경되지 않았다고 언론에 말했습니다.

회사는 사용자가 ChatGPT가 덜 면밀히 조사되는 것처럼 느끼기를 원하는 것 같습니다.

전 OpenAI 정책 책임자인 Miles Brundage는 OpenAI가 이번 정책 업데이트를 통해 새 트럼프 행정부에 좋은 인상을 남기려고 노력했다면 놀라운 일이 아닐 것이라고 X 플랫폼에 썼습니다.

트럼프는 이전에 트위터나 메타와 같은 실리콘밸리 기업을 표적으로 삼아 그들의 활동적인 콘텐츠 조정팀이 보수적인 목소리를 차단하는 경우가 많다고 비난했습니다.

OpenAI가 이를 선점하려고 할 수 있습니다. 그러나 실리콘 밸리와 인공 지능의 세계에서는 콘텐츠 조정의 역할에 대한 더 광범위한 변화가 일어나고 있습니다.

모든 당사자를 만족시키는 답변 생성


ChatGPT 로고가 전화기 화면에 나타납니다.

ChatGPT 로고가 휴대폰 화면에 나타납니다. 언론사, 소셜 미디어 플랫폼, 검색 회사는 항상 객관적이고 정확하며 흥미로운 방식으로 청중에게 정보를 전달하기 위해 열심히 노력해 왔습니다.

오늘날 AI 챗봇 공급업체도 메시징 사업에 종사하고 있지만 아마도 가장 어려운 문제에 직면해 있을 것입니다. 질문에 대한 답변을 자동으로 생성하는 방법은 무엇입니까?

논쟁의 여지가 있는 실시간 이벤트에 대한 정보를 전달하는 것은 움직이는 목표이며, 기술 회사가 이를 인정하고 싶지 않더라도 반드시 편집 입장을 취해야 합니다. 이러한 입장은 필연적으로 일부 사람들에게 불쾌감을 주거나, 특정 집단의 견해를 무시하거나, 한 정당에 너무 많은 관심을 기울일 것입니다.

예를 들어, OpenAI가 ChatGPT가 음모론, 인종 차별 또는 반유대주의 운동, 지정학적 갈등 등 논란이 되는 주제에 대한 모든 관점을 나타내도록 노력했을 때 이는 본질적으로 편집 입장이었습니다.

OpenAI 공동 창업자인 John Schulman을 포함한 일부 사람들은 이것이 ChatGPT에 대한 올바른 입장이라고 믿습니다. Schulman은 X 플랫폼에 대해 글을 쓰면서 AI 챗봇이 사용자의 질문에 대답해야 하는지 여부를 결정하기 위해 비용 편익 분석을 사용하는 또 다른 접근 방식이 “플랫폼에 너무 많은 도덕적 권위를 부여할 수 있다”고 지적했습니다.

Schulman은 이러한 견해를 갖고 있는 유일한 사람이 아닙니다. 조지메이슨대학교 메르카투스 센터 연구원인 딘 볼(Dean Ball) 연구원은 인터뷰에서 "오픈AI가 더 많은 발언을 장려하는 방향으로 일하는 것이 옳다고 생각한다. 인공지능 모델이 더 스마트해지고 사람들이 세상을 이해하는 방식에 더 중요해짐에 따라 이러한 결정은 더욱 중요해진다"고 말했다.

지난 몇 년 동안 AI 모델 공급업체는 챗봇이 "안전하지 않은" 답변으로 이어질 수 있는 질문에 답변하는 것을 방지하려고 노력해 왔습니다. 거의 모든 인공지능 회사는 2024년 미국 대통령 선거에 관한 질문에 자사의 챗봇이 답변하도록 허용하지 않습니다. 당시 이는 일반적으로 신중하고 책임감 있는 결정으로 간주되었습니다.

그러나 OpenAI의 모델 사양 변경은 우리가 "인공지능 안전"이 실제로 의미하는 새로운 시대로 진입할 수 있음을 나타냅니다. 오늘날에는 AI 모델이 어떤 질문에든 대답하도록 하는 것이 사용자를 대신하여 결정을 내리는 것보다 더 책임감 있는 것으로 간주됩니다.

Ball은 부분적으로 오늘날의 AI 모델이 더 좋기 때문이라고 말했습니다. OpenAI는 AI 모델 교정에서 상당한 진전을 이루었습니다. 최신 추론 모델은 질문에 답하기 전에 회사의 AI 안전 정책을 고려합니다. 이를 통해 AI 모델은 민감한 질문에 더 효과적으로 답할 수 있습니다.

물론 Elon Musk는 xAI의 Grok 챗봇에서 "발언의 자유"를 처음으로 실천한 사람이었고 아마도 회사는 당시 민감한 문제를 처리할 준비가 되어 있지 않았을 것입니다. 선도적인 AI 모델이 등장하기까지는 초기 단계일 수 있지만 이제 다른 회사들도 동일한 아이디어를 수용하기 시작했습니다.

실리콘밸리의 가치관 변화


Mark Zuckerberg, Lauren Sanchez, Jeff Bezos, Sundar Pichai 및 Elon Musk를 포함한 손님이 도널드 트럼프의 취임식에 참석했습니다.

Mark Zuckerberg는 지난 달 수정헌법 제1조 원칙에 따라 Meta의 사업 방향을 바꾸면서 소란을 일으켰습니다. 그 과정에서 그는 플랫폼X(구 트위터)의 사장이 표현의 자유를 보호하기 위해 커뮤니티 중심의 콘텐츠 조정 프로그램인 커뮤니티 노트를 채택한 것이 옳은 일을 했다고 엘론 머스크를 칭찬했다.

실제로 플랫폼 X와 메타는 결국 오랫동안 유지해 온 신뢰 및 안전 팀을 해체했으며, 이로 인해 플랫폼에 더 많은 논란의 여지가 있는 게시물이 표시되고 보수적인 목소리가 증폭되었습니다.

플랫폼 초기 표시에 대한 이러한 변경은 Meta의 광고주가 표현의 자유를 지원하려는 Zuckerberg의 움직임에 당황하지 않음을 시사합니다.

한편, 플랫폼X와 메타 외에도 많은 기술 기업들이 수십 년 동안 실리콘밸리를 지배해 온 좌파적 정책에서 벗어나고 있습니다. Google, Amazon 및 Intel은 작년에 다양성 관련 이니셔티브를 취소하거나 축소했습니다.

OpenAI도 방향을 바꿀 수 있습니다. ChatGPT 개발자는 최근 웹사이트에서 다양성, 형평성, 포용성에 대한 약속을 삭제한 것으로 보입니다.

OpenAI와 Trump 행정부의 관계는 미국 역사상 가장 큰 인프라 프로젝트 중 하나인 5,000억 달러 규모의 인공 지능 데이터 센터 프로젝트인 Stargate와 협력하면서 점점 더 중요해졌습니다. 동시에 ChatGPT 개발자는 인터넷의 지배적인 정보 소스인 Google 검색을 대체하려고 노력하고 있습니다.

올바른 답변을 제공하는 것은 두 목표 모두에 매우 중요할 수 있습니다.