요약:
Tencent의 수석 AI 과학자이자 전 OpenAI 연구원인 Yao Shunyu는 최근 홍콩에서 열린 과학 세미나에 참석하여 최첨단 인공 지능 모델이 생물학 분야로 빠르게 이동하고 있으며 그 능력이 곧 실제 생활에 해를 끼칠 수 있는 임계점에 도달할 것이라고 말했습니다. 이러한 변화는 신약 연구개발과 의료 혁신을 촉진할 것으로 예상되지만, 새로운 안전 문제를 야기하고 생물안전 위험에 대한 업계의 우려를 불러일으킬 수도 있습니다.
야오순위는 인공지능이 네트워크 보안 분야에서 실질적인 영향을 미칠 수 있을 만큼 충분한 능력을 입증했으며 생물학적 능력도 비슷한 수준에 접근하고 있다고 말했다. 그는 생물학 분야에서 AI의 향후 개발은 사이버 보안 분야보다 관리하기가 더 어려울 수 있으므로 개방형 모델 경로를 채택하는 중국 기업과 기타 기업 모두 관련 보안 문제를 심각하게 받아들여야 한다고 경고했습니다.
최근 몇 년 동안 첨단 AI 시스템이 생명과학, 의학 연구, 의약품 개발에 적용되기 시작했습니다. 업계에서는 AI가 약물 스크리닝과 연구개발 주기를 획기적으로 단축하고 치료 옵션 발견 속도를 높일 것으로 예상하는 것이 일반적으로 알려져 있다. 그러나 전문가들은 이러한 기능이 "이중 사용" 특성을 가지고 있다고 지적했습니다. 과학적 연구 진행을 촉진하는 동시에 범죄자들에 의해 악용될 수도 있어 새로운 생물보안 위험이 초래될 수도 있습니다.
야오순위의 연설은 텐센트가 AI 전략을 가속화하는 시기에 나왔다. 텐센트는 11월 4일 차세대 플래그십 모델인 Hy4를 공식 출시하며 회사의 가장 중요한 기본 모델 중 하나로 자리매김했습니다. 인공지능 평가기관인 인공분석(Artificial Analysis)의 자료에 따르면 Hy4는 현재 중국에서 가장 성능이 뛰어난 AI 모델 중 하나로 꼽히고 있다.
향후 개발 방향에 대해 Yao Shunyu는 Tencent가 '자율 과학 실험실' 구축 가능성을 모색하고 있으며 AI 시스템을 사용하여 일부 생물학 연구 작업을 포함한 복잡한 과학 연구 프로세스를 독립적으로 완료하기를 희망한다고 밝혔습니다. 그는 기술적인 관점에서 볼 때 대부분의 문제는 결국 해결될 수 있다고 믿습니다. 실제로 더 큰 과제는 사회 거버넌스, 조직 조정 및 안전 감독 시스템 구축에 있습니다.
잠재적인 위험을 줄이기 위해 Tencent는 Hy4 교육 과정에서 일련의 안전 조치를 채택했습니다. 회사는 소프트웨어 취약점 악용 및 공격 행위와 관련된 데이터를 의도적으로 제거하고 방어적인 네트워크 보안 지식만 유지하면서 보호 기능을 유지하면서 공격 기능을 줄이기를 희망한다고 밝혔습니다. 생물학 분야와 관련하여 Tencent의 내부 평가에서는 Hy4가 강력한 기본 생물학적 지식을 보유하고 있지만 실험 절차를 독립적으로 공식화하는 능력과 고위험 능력을 형성하는 능력 사이에는 여전히 분명한 격차가 있다고 믿습니다.
야오순위는 특히 네트워크 보안 분야에 비해 생물학 분야에서는 '공격 능력'과 '방어 능력'을 명확하게 구별하기가 더 어려운 경우가 많다고 강조했다. 이는 연구자가 모델 위험을 평가할 때 더 복잡한 상황에 직면하게 되므로 모델이 출시되기 전에 더 엄격한 테스트와 검증을 거쳐야 함을 의미합니다. Tencent는 현재 회사의 최고 보안 연구소와 협력하여 관련 역량에 대한 체계적인 평가를 수행하고 있습니다.
최근 논란이 되고 있는 '오픈 소스 대 폐쇄 소스' 논쟁에 대해 Yao Shunyu는 Anthropic과 같은 미국 기업이 잠재적인 사회적 위험을 줄이기 위해 가장 진보된 모델을 폐쇄형으로 유지하는 것을 옹호한다고 말했습니다. 이 견해에는 특정한 합리성이 있습니다. 그러나 그는 또한 개방형 모델이 방어자의 역량을 향상시키는 데 도움이 될 수 있다고 믿기 때문에 미래에는 업계가 단일 경로에만 전적으로 의존하기보다는 개방성과 폐쇄성 사이의 균형을 추구해야 할 수도 있습니다.
인공지능이 프로그래밍, 수학, 콘텐츠 생성에서 생명과학 분야로 점차 확장되면서 생물학은 다음 단계의 가장 중요한 AI 개척지 중 하나로 여겨지고 있습니다. 분석가들은 AI가 생물학적 지식을 깊이 이해하고 적용할 수 있는 능력을 갖게 되면 관련 기술이 약물 연구 개발과 의료 산업을 변화시킬 수 있을 뿐만 아니라 글로벌 규제 기관이 인공 지능 거버넌스 프레임워크를 재검토하여 후속 새로운 안전 문제를 처리하도록 유도할 수 있다고 지적했습니다.
댓글