요약:
한국과학기술원(KAIST)과 마이크로소프트 리서치 아시아(Microsoft Research Asia)는 인간의 뇌파를 분석해 인공지능이 사용자의 의도를 오해했는지 실시간으로 파악하고 그에 따라 행동을 조정할 수 있는 새로운 형태의 뇌-컴퓨터 인터페이스 기술을 개발했다. 연구팀은 이 기술이 인공지능을 '지시 따르기'에서 '의도 이해'로 한 단계 더 발전시킬 것으로 기대하고 있다.
연구원들은 이 기술을 '신경 가치 정렬(NVA)'이라고 명명했습니다. 이 시스템은 뇌파검사(EEG)를 사용하여 사용자가 인공 지능이 작업을 수행하는 것을 보면서 생성되는 신경 활동을 모니터링합니다. AI가 잘못된 목표를 설정하거나 사용자가 예상하지 못한 행동을 수행하면 뇌는 특정 예측 오류 신호를 생성합니다. 시스템은 이러한 변화를 포착하고 이를 피드백 정보로 변환하여 AI가 자신의 이해에 편차가 있음을 깨닫게 할 수 있습니다.
오랜 시간 동안 인공지능은 여러 분야에서 강력한 역량을 발휘해 왔지만, 인간과 인공지능의 소통에서는 여전히 오해가 자주 발생한다. 사용자가 자세한 프롬프트를 제공하더라도 AI는 관련성이 있지만 예상대로 부정확한 결과를 생성할 수 있습니다. 연구팀은 인공지능이 의도를 추론하기 위해 언어, 행동, 몸짓 등 외부 정보에 주로 의존하고, 이러한 행동 자체가 모호한 경우가 많다는 것이 문제의 근원이라고 믿고 있다.
연구원들은 컵을 집어 들면 물을 마시고, 컵을 닦고, 컵을 옮기거나 다른 사람에게 전달할 수 있다는 예를 들었습니다. 반대로 갈증을 해소하는 것이 목표라면 컵을 들거나 물병을 가져오거나 다른 사람에게 도움을 요청하는 등 다양한 방법으로 갈증을 해소할 수도 있습니다. 단순히 행동 자체를 관찰하는 것만으로는 진정한 목적을 정확하게 판단하는 것이 불가능한 경우가 많습니다.
이러한 '목표와 행동의 모호성' 문제를 해결하기 위해 연구팀은 인간의 뇌 자체에 주목했습니다. 실제 결과가 사람들의 기대와 일치하지 않을 때 뇌는 자연스럽게 특별한 예측 오류 신호를 생성합니다. NVA 시스템은 인공 지능이 어떤 링크에 오해가 있는지 판단하는 데 도움이 되는 추가 정보 소스로 이 신경 반응을 사용합니다.
연구팀은 두 가지 유형의 뇌 신경 신호에 중점을 두었습니다. 한 가지 유형은 결과가 개인적인 목표와 가치 기대를 충족하는지 여부를 반영하는 "보상 예측 오류"입니다. 다른 유형은 '상태 예측 오류'로, 실제 상황이 뇌가 예상하는 과정과 일치하는지 여부를 반영합니다. 이 두 신호를 동시에 분석함으로써 시스템은 AI 이해의 오류를 탐지할 수 있을 뿐만 아니라 오류가 대상 수준에서 발생하는지 실행 방법 수준에서 발생하는지 판단할 수 있습니다.
실험 결과에 따르면 EEG 피드백을 도입한 후 인공 지능은 사용자가 지속적으로 지시를 반복하거나 새로운 지시를 내릴 필요 없이 작업 실행 중에 사용자의 실제 의도를 더 정확하게 추론하고 편차를 사전에 수정할 수 있는 것으로 나타났습니다.
연구팀은 이번 결과가 로봇, 인간-기계 협업 시스템, 지능형 비서 등의 시나리오에 적용될 것으로 기대한다고 밝혔습니다. 예를 들어, 미래의 홈 로봇이 작업을 수행할 때 사용자의 마음 속에서 '이것은 내가 원하는 결과가 아니다'라는 반응을 감지하면 명시적인 지시를 기다리지 않고 적극적으로 행동 계획을 조정할 수 있습니다.
연구원들은 이는 인공지능이 미래에는 더 이상 명령에 수동적으로 반응하는 것이 아니라 뇌-컴퓨터 인터페이스 기술을 활용해 언어 뒤에 숨겨진 인간의 진정한 의도를 이해함으로써 보다 자연스럽고 효율적인 인간-기계 협업을 이룰 수 있음을 의미한다고 믿습니다. 관련 연구가 계속 발전함에 따라 인간의 인지 피드백을 감지하고 실시간으로 행동을 수정할 수 있는 차세대 지능형 시스템이 점차 현실화될 수 있습니다.
댓글