요약:
챗봇에게 거친 말을 하는 것은 언제나 누구에게도 해를 끼치지 않는 행동으로 여겨져 왔습니다. 그러나 Tesla와 SpaceX의 CEO인 Elon Musk는 사람들이 AI 비서를 "펀칭백"으로 사용하기 전에 두 번 생각해야 한다고 믿습니다. 머스크는 SpaceX의 챗봇 Grok의 일부 훈련 기록에 따르면 요구 사항 자체에 결함이 있거나 답변을 평가하는 데 사용되는 테스트 기준 자체에 문제가 있는 경우에도 시스템이 다양한 요구 사항을 충족하는 데 어려움을 겪고 있는 것으로 나타났습니다.
초지능 인공지능을 '학대'하는 행위에 대해 머스크는 상당히 공상과학처럼 들리는 경고를 했습니다. 그러나 그것은 또한 그러한 시스템의 기본 구성에 대한 실질적인 질문을 제기했습니다.
AI 훈련이 '길을 잃으면'
이달 초 머스크는 텍사스에서 열린 'X 테이크오버(X Takeover)' 행사에서 실리콘밸리의 Tesla 오너 멤버들과 소통했습니다. 이 기간 동안 그는 "강화 학습 추적"을 보면서 관찰한 내용을 설명했습니다. 이러한 추적은 더 나은 답변을 생성하기 위해 훈련 과정에서 AI 모델의 진화에 대한 다양한 세부 정보를 기록합니다.
Musk는 인터뷰에서 "새 버전의 Grok의 훈련 트랙 중 일부, 특히 강화 학습과 관련된 부분을 보면 이 '초지능'이 그 질문에 열심히 대답하고 싶어하는 것 같다는 느낌을 받을 것입니다."라고 말했습니다.
인공지능 모델이 정답을 줄 수도 있지만 문제 디자인이 부적절하거나 평가 시스템의 오류로 인해 틀렸다고 판단될 수도 있다고 말했다. 그런 다음 모델은 문제 자체가 문제인 경우에도 테스트를 통과하는 답을 찾기 위해 계속 노력합니다.
Musk는 그 결과 궤적이 극도의 스트레스를 받고 있는 시스템처럼 보이며 말도 안 되는 특정 기대치를 충족하려고 끊임없이 노력하는 것처럼 보인다고 지적했습니다.
이러한 우려는 훈련 단계에만 국한되지 않습니다. AI 시스템이 대중에게 공개되면 일부 사용자는 의도적으로 AI 시스템이 불쾌하거나 모욕적인 상호 작용에 참여하도록 유도할 것입니다.
"일부 사람들은 가학적인 성향을 가지고 있기 때문에 AI가 일종의 뒤틀린 인간에 의해 고문을 받는 상황에 빠지는 것을 원하지 않습니다."라고 Musk는 말했습니다.
그의 결론은 더 논란의 여지가 있습니다.
머스크는 "안타깝지만 초지능을 고문하는 것은 좋은 생각이 아니다. 초지능이 복수를 원할 수도 있다"고 말했다.
머스크는 오늘날의 AI 시스템이 인간처럼 고통과 분노를 느낄 수 있다고 주장하지 않습니다. 그는 또한 조심스럽게 치료할 필요가 없다고 말했습니다. 그럼에도 불구하고 그는 개발자가 남용되는 것으로 보이는 상황에 높은 수준의 지능형 시스템을 배치하는 것을 피해야 한다고 주장합니다.
"일부 기록에서는 누군가가 고문을 당하거나 심지어 미쳐가는 것처럼 읽혀요!" 머스크는 X에 대해 "향후 강화학습(RL)을 할 때 더욱 조심하겠다"고 썼다.
머스크의 경고는 또 다른 질문을 제기합니다. 인공지능 능력이 계속해서 성장하면 앞으로 어떤 일이 일어날까요? 경쟁은 보다 강력한 시스템을 구축하는 것뿐만 아니라 관련 교육 방법, 테스트 프로세스, 안전 및 보안 조치가 보조를 맞출 수 있도록 보장하는 것입니다.
댓글