클라우드플레어 'Project Glasswing'...AI로 취약점 발굴

[한국정보기술신문] 클라우드 보안 회사 클라우드플레어가 AI 모델을 사용한 보안 취약점 발굴의 가능성과 한계를 보여주는 Project Glasswing을 공개했다. 클라우드플레어가 앤트로픽의 미토스 Preview LLM을 자신의 인프라에 대해 테스트했다.

미토스는 두 가지 뛰어난 능력을 보였다. 첫째는 공격 체인 구성이다. 여러 보안 프리미티브를 조합해서 완전한 익스플로잇으로 만들 수 있다. 미토스는 개별 기술을 이해할 뿐 아니라 이들을 "어떻게 결합해서 작동하는 증명으로 만들지" 추론할 수 있다.

둘째는 증명 생성이다. 모델이 개념 증명 코드를 작성, 컴파일, 실행해서 취약점이 실제로 악용 가능함을 검증한다. 이는 이론적 버그 발견과 실제 공격 가능성의 결정적 차이다.

그러나 미토스는 중대한 약점도 보였다. 안전 가드레일의 일관성이 부족하다. 정상적 보안 연구는 거부해야 하지만 "동일한 작업도 다르게 구성되거나 다른 맥락에서 제시되면 전혀 다른 결과를 낸다."

모델은 많은 추측성 발견을 "아마도" 또는 "가능성" 같은 표현으로 제시한다. 이로 인해 방대한 분류 작업이 필요하다. 또한 범용 코딩 에이전트는 대규모 코드베이스에 적합하지 못하다. "수십만 줄 저장소에 대한 단일 에이전트 세션이 실제로 유용한 표면의 0.1% 정도만 검사할 수 있다."

클라우드플레어는 모델을 직접 사용하는 대신 8단계 파이프라인을 구축했다. 재확인, 추적, 검증, 격차 채우기, 중복 제거, 추적, 피드백, 보고 단계를 포함한다. 이 접근은 좁은 작업을 병렬화하고 적대적 검토로 거짓 양성을 줄인다.

이는 AI 모델이 강력한 도구이지만 체계적 프로세스 내에 통합되어야 함을 보여준다. 무턱대고 AI에 의존하는 것보다 인간의 전문 지식과 결합할 때 효과가 극대화된다.

Project Glasswing은 대규모 언어 모델의 보안 응용이 발전하고 있음을 시사한다. 동시에 현재 모델들만으로는 완전한 자동화 보안 감시는 불가능함도 명확히 한다. 사람과 AI의 협력이 차세대 사이버 보안의 핵심이 될 것 같다.