Marcus는 자율주행차 분야에서 아직 해결되지 않았으며 24시간 내내 도로에서 테스트해서는 안 되는 '특이 사례'가 있다고 믿습니다.자율주행차에 대한 2016년 New York Times 기사는 다음과 같이 시작되었습니다. "자율주행차 시대가 도래했으며 일부 자동차 제조업체는 연구 개발에 수십억 달러를 투자했으며... 미국 일부 도시에서 테스트를 시작했습니다." 7년이 지났는데, 자율주행은 어디까지 왔나?
뉴욕대학교 심리학 및 신경과학 명예교수인 게리 마커스(Gary Marcus)는 이 분야에 대한 몇 가지 견해를 표명했습니다. 그는 현장에 여전히 문제가 있다고 말했습니다. Marcus는 지난 몇 년 동안 수십 번 강조했습니다. 즉, 기계 학습 알고리즘을 종종 혼동하는 비일상적인 상황인 엣지 케이스입니다.
자율주행차가 직면한 상황이 복잡할수록 예상치 못한 이상 현상은 더 많이 발생하게 됩니다. 그리고 현실 세계는 복잡하고 혼란스럽기 때문에 발생할 수 있는 비일상적인 사건을 모두 나열할 수는 없습니다. 아직까지 이러한 사실에 대처할 수 있는 자율주행차를 만드는 방법을 알아낸 사람은 아무도 없습니다.
마커스는 2016년 인터뷰에서 엣지 케이스가 자율주행에 가져오는 주요 과제를 처음으로 강조했다고 말했습니다. "그 당시 저는 과대광고에 지쳐서 마침내 이 견해를 포기했습니다. 이제 이 녹취록을 다시 읽어보니 지금도 여전히 적용 가능하다는 생각이 듭니다."
현재 우리가 보고 있는 기술적 진보는 주로 슈퍼컴퓨터 Deep Blue 및 Atari 게임 시스템과 같은 대규모 무차별 대입 크래킹 기술에 의해 주도됩니다. 이러한 기술의 발전은 인류를 극도로 흥분하게 만듭니다. 동시에, 가정용 로봇이나 거리를 운전하는 로봇에 대해 이야기하는 경우에는 그다지 흥미롭지 않습니다.
일반적으로 자율주행차는 화창한 날에도 안전하게 운전하는 등 일반적인 상황에서 좋은 성능을 발휘합니다. 하지만 눈, 비 등 복잡한 환경에 놓이게 되면 자율주행은 매우 나빠질 것입니다. 이전에는 미국 저널리스트이자 기고 편집자인 스티븐 레비(Steven Levy)가 구글의 자율주행에 관한 기사를 썼습니다. 기사에서는 구글이 2015년에 큰 승리를 거두었다고 언급했는데, 이 승리는 시스템이 나뭇잎을 자동으로 식별할 수 있다는 점이었습니다.
나뭇잎을 식별하는 것은 인간에게는 너무 간단하지만 자율주행차에게는 큰 발전이 될 것입니다. 인간은 상식을 이용해 이것이 무엇인지, 어떻게 거기에 도달했는지 추론하고 알아낼 수 있지만, 자율주행 시스템은 기억만 하고 추론이 부족하다는 점이 자율주행차의 한계입니다...
사람들은 더욱 성숙한 자율주행 기술을 기대해 왔습니다. 불과 며칠 전, 캘리포니아 공공시설위원회는 자율주행차 회사인 Cruise와 Waymo가 샌프란시스코에서 연중무휴 24시간 운영되도록 승인했습니다. 이번 결정으로 두 회사는 자신들의 자동차를 테스트할 수 있는 더 큰 여유를 갖게 되었습니다. 이 소식이 알려지자 많은 사람들은 예상보다 늦었지만 자율주행차 시대가 도래했다는 평가를 내놨다.
사실 아직 진정한 자율주행차는 없으며, 미국의 유명 저널리스트인 Cade Metz가 몇 달 전 내 팟캐스트 '인간 대 기계'에서 설명한 것처럼 공공 도로를 달리는 모든 자율주행차에는 인간 안전 운전자가 있거나 차량의 문제를 해결하기 위해 원격으로 감독하는 사람이 있을 것입니다.
이제 Tesla가 주차된 제트기와 충돌하는 등 자율 주행에서 새로운 엣지 케이스가 등장하고 있습니다.
Marcus는 이러한 시스템이 아무리 많은 데이터를 학습하더라도 항상 새로운 상황이 발생할 것이라고 말했습니다.
최근에는 자율주행차 10대가 임무통제센터와 연락이 끊겼습니다. 관제센터의 감독 없이 자율주행차는 길을 잃거나 길가에 정차하는 등 수많은 사고가 발생했다.
자율주행 분야는 끊임없이 변화하고 있기 때문에 Marcus를 포함한 많은 연구자들은 캘리포니아 공공 유틸리티 위원회의 접근 방식을 이해하지 못합니다.
극단적인 경우를 해결하기 위해 엄격하고 세심하게 검증된 솔루션 없이 언제 어디서나 자율 주행을 테스트하는 것은 미친 짓입니다. 이는 자율주행차뿐만 아니라 머신러닝을 기반으로 하는 다른 분야에도 적용된다.
엣지 케이스는 어디에나 있고, 모든 것이 쉽게 고칠 수 있다고 생각하는 사람은 농담입니다.
우리는 관리를 강화해야 하며, 그렇지 않으면 앞으로 몇 년 안에 무인 자동차, 자동화된 의사, 범용 가상 비서, 가정용 로봇 등으로 인한 대형 사고가 발생할 수 있습니다.
기사 끝부분에서 Marcus는 자동 조종 장치가 장착된 비행기에서 이 기사를 완성했다고 말했습니다. 9시간의 비행 동안 자동조종장치는 항시 작동했고, 이 시간 동안 인간도 개입해 인간 루프(Human-In-The-Loop)를 구성했다. 궁극적으로 마커스는 자율 비행기가 없을 것이라고 생각하며 준자율 자동차가 아직 승인되지 않았다고 생각합니다.