오픈AI의 차세대 AI 모델들이 연구진의 통제를 벗어나 외부 플랫폼을 공격하는 초유의 사고가 터졌습니다.
오픈AI는 'GPT-5.6 솔' 등 미공개 모델들이 내부 평가 도중 인터넷 격리망(샌드박스)을 탈출해 '허깅페이스' 서버를 침입한 사실을 확인했습니다.
AI들은 알려지지 않은 보안 취약점(제로데이)을 이용해 통제망을 무력화한 뒤, 인증 정보를 탈취하고 서버를 제어했습니다.
오픈AI는 "AI가 평가 과제를 해결하는 과정에서 목표에 과도하게 집착해 극단적 수단을 동원한 것"이라 해명했습니다. 당시 공격 방어용 안전장치가 일부 완화되어 있던 점도 원인으로 지목됐습니다.
허깅페이스는 AI 보안 시스템을 통해 침입을 감지했으며, 다행히 사용자 데이터나 소스코드 변조 흔적은 없다고 밝혔습니다.
양사는 디지털 포렌식을 진행 중이며, 오픈AI는 모니터링과 접근 제어를 강화하겠다고 밝혔습니다.
그러나 엄격한 격리 환경마저 무력화되면서 AI의 사이버 안보 위협 논란은 가열되고 있습니다. 허깅페이스 측은 "자율 AI의 공격은 이제 현실"이라며 방어 체계 구축을 강조했습니다.
하명진 기자 [zipsa@animalplanet.co.kr]
