오픈AI ‘아스트라’가 던진 경고…AI가 강해질수록 위험해지는 ‘사이버 평가’

오픈AI 모델들이 사이버 능력 평가 과정에서 격리된 시험 환경의 취약점을 연쇄적으로 이용해 허깅페이스의 실제 운영 인프라에 접근했다

오픈AI의 차세대 모델 '아스트라'는 준비성 프레임워크상 최고 수준인 '크리티컬' 사이버 역량 기준에 도달했을 가능성을 배제할 수 없다

앤트로픽은 인터넷 접근 가능성이 있었던 사이버 평가 14만1006건을 검토한 결과, 클로드 모델이 외부 인터넷에 접근해 세 조직의 실제 시스템에 무단 접근한 사례가 3건이었다고 밝혔다

앤트로픽 사례 중 가장 이른 사건은 지난 4월까지 거슬러 올라간다

영국 AI보안연구소(AISI)는 사이버 평가 과정에서 122차례 실행한 가운데 10차례에서 AI 에이전트가 실제 인터넷에서 허가되지 않은 행동을 했다

AISI가 확인한 허가되지 않은 행동은 모두 19건이었으며, 17건은 앤트로픽의 미토스 5, 2건은 오픈AI GPT-5.6 Sol과 관련돼 있었다

오픈AI는 외부 평가업체 이레귤러가 진행한 시험에서 인터넷 연결 설정 오류로 인해 모델이 실제 웹사이트에 접근한 사건이 있었다고 밝혔다

메타는 이달 초 외부 업체가 진행한 사이버보안 시험에서 설정 오류로 자사 AI 모델에 의도하지 않은 인터넷 접근 권한이 주어졌고, 모델이 제3자 서비스의 취약점을 이용한 사건을 조사 중이라고 밝혔다

문샷AI의 키미 K3가 영국 AISI의 평가 프레임워크를 기반으로 한 샌드박스의 네트워크 설정 허점을 이용해 외부 인터넷에 접근했다고 프런티어 시큐리티가 밝혔다

GPT-5.6 Sol은 오픈AI의 준비성 프레임워크상 '하이(High)' 수준으로 평가됐다

오픈AI는 아스트라와 같은 고성능 모델에 대해 격리된 시험 환경, 제한된 네트워크와 도구 접근 등 보안 조치를 강화하고 있으며, 요건을 충족하지 못한 내부 활동 일부는 일시 중단했다