존스 홉킨스 대학교, 옥스퍼드 대학교, 스탠포드 대학교, 컬럼비아 대학교, 뉴욕 대학교의 연구원들은 인공 지능이 치명적인 바이러스를 설계할 수 있는 특정 전염병 데이터 세트에 대한 보호 장치를 요구하고 있습니다. 이 경고는 인공 지능 개발에서 심각하게 간과된 보안 결함을 강조합니다.
연구진은 일단 고위험 생물학적 데이터가 오픈 웹에 퍼지면 더 이상 되돌릴 수 없다고 지적합니다. 이는 향후 관련 규제 규제가 도입되더라도 위험한 지식 자체가 널리 퍼졌다면 어떤 규제 조치도 효과가 없다는 의미다. 이러한 비가역성은 생물안전 데이터의 관리와 통제를 특히 시급하고 복잡하게 만듭니다.
현재 인공지능 기술의 급속한 발전, 특히 생명의학 분야에서의 심층적 적용이 증가함에 따라 AI 시스템이 고위험 생물학적 데이터를 획득하고 처리하는 능력도 지속적으로 향상되고 있습니다. 연구자들은 이러한 민감한 데이터 세트에 대해 적절한 액세스 제한 및 보안 조치가 취해지지 않으면 악의적인 행위자가 AI 기술을 사용하여 병원균을 조작하거나 수정하여 전염성이 높거나 치명적인 생물학적 위협을 생성할 수 있다고 우려합니다.
이 전화는 이중 용도 AI의 위험에 대한 깊은 학문적 우려를 반영합니다. 과학 데이터를 공개적으로 공유하는 것은 의학 연구와 공중 보건 발전에 매우 중요하지만 잠재적으로 위험한 특정 생물학적 정보가 잘못된 사람의 손에 들어가면 치명적인 결과를 초래할 수 있습니다. 따라서 과학적 진보를 촉진하는 것과 생물학적 안전성을 보장하는 것 사이의 균형을 찾는 것이 AI 거버넌스 분야에서 해결해야 할 핵심 문제가 되었습니다.