앤트로픽·모질라, AI로 파이어폭스 보안 취약점 22개 발견...14개 '고위험' 판정

클로드 오퍼스 4.6, 단 2주 만에 2025년 전체 고위험 취약점의 약 5분의 1 찾아내

앤트로픽이 모질라와 협력해 AI 모델로 파이어폭스에서 22개 취약점을 발견했다.

[한국정보기술신문] AI 기업 앤트로픽(Anthropic)이 오픈소스 브라우저 파이어폭스(Firefox)의 보안 강화를 위해 모질라(Mozilla)와 손을 잡았다. 앤트로픽은 자사 AI 모델 클로드 오퍼스 4.6을 활용해 약 2주간의 분석 끝에 파이어폭스에서 총 22개의 보안 취약점을 발견했으며, 이 중 모질라로부터 14개가 고위험 취약점으로 공식 지정됐다. 이는 2025년 한 해 동안 수정된 전체 고위험 취약점의 약 5분의 1에 해당하는 규모다.

탐색 시작 20분 만에 첫 취약점 발견

앤트로픽 연구팀은 파이어폭스의 자바스크립트 엔진을 시작으로 분석을 진행했다. 자바스크립트 엔진은 사용자가 웹 브라우징 시 외부의 신뢰되지 않은 코드를 처리하는 구조적 특성상 공격 표면이 넓어 보안상 매우 중요한 영역이다. 탐색을 시작한 지 단 20분 만에 클로드 오퍼스 4.6은 이른바 'Use After Free' 취약점을 발견했다고 보고했다. 이는 공격자가 임의의 악성 코드로 데이터를 덮어쓸 수 있게 하는 메모리 취약점의 일종이다. 연구팀은 해당 취약점을 독립적인 가상 환경에서 검증한 뒤 모질라의 이슈 트래커인 버그질라(Bugzilla)에 취약점 설명과 클로드가 작성하고 연구팀이 검증한 패치 초안을 함께 제출했다.

첫 번째 취약점 검증과 제출을 마치는 동안 클로드는 이미 50개 이상의 추가 충돌 입력값을 발견해낸 상태였다. 이후 앤트로픽 팀은 6,000여 개의 C++ 파일을 스캔하고 총 112건의 고유 보고서를 모질라에 제출했다. 대부분의 문제는 파이어폭스 148.0 버전을 통해 수억 명의 사용자에게 수정 패치가 배포됐으며, 나머지는 향후 릴리스에서 순차적으로 수정될 예정이다.

"AI가 취약점 발견엔 뛰어나지만, 악용에는 아직 한계"

앤트로픽은 이번 연구에서 AI의 취약점 탐지 능력에 더해 '익스플로잇(exploit)', 즉 실제 공격 도구 개발 능력도 함께 평가했다. 약 4,000달러(약 570만 원) 상당의 API 비용을 투입해 수백 회의 테스트를 진행한 결과, 클로드 오퍼스 4.6이 실제 공격으로 연결 가능한 익스플로잇을 완성한 경우는 단 두 건에 불과했다. 다만 이 익스플로잇은 현대 브라우저의 샌드박스 등 일부 보안 기능을 제거한 테스트 환경에서만 작동했다. 앤트로픽은 파이어폭스의 다층 방어 체계가 실제 환경에서 이와 같은 공격을 효과적으로 차단할 것이라고 설명했다. 그럼에도 AI가 브라우저 익스플로잇을 자동으로 개발하는 데 성공했다는 사실 자체는 우려할 만한 신호라고 연구팀은 강조했다.

AI 보안 연구의 새 모델 제시...방어자에게 현재는 유리

앤트로픽은 이번 모질라와의 협력 경험을 바탕으로 AI 기반 보안 연구의 모범 사례와 절차적 권고안을 공개했다. 핵심은 AI 에이전트가 스스로 결과를 검증할 수 있는 '태스크 검증기' 도입이다. 이 도구는 에이전트가 코드베이스를 탐색하는 과정에서 실시간 피드백을 제공해 취약점 발견 및 패치 품질을 크게 향상시킨다고 연구팀은 밝혔다. 또한 LLM 기반 취약점 연구 도구를 사용하는 연구자들에게 버그 제출 시 최소 재현 테스트 케이스, 상세한 개념 증명, 후보 패치를 함께 제출할 것을 강력히 권장했다.

앤트로픽은 "프런티어 언어 모델은 이미 세계 최고 수준의 취약점 연구자"라고 평가하며, 현 시점에서 AI는 취약점 발견 능력이 악용 능력보다 훨씬 앞서 있어 방어자에게 유리한 창이 열려 있다고 강조했다. 그러나 이 격차가 영구적이지 않을 수 있음을 경고하며, 개발자들이 이 기회를 활용해 소프트웨어 보안을 강화해야 한다고 촉구했다. 앤트로픽은 향후 오픈소스 소프트웨어의 취약점 탐색, 버그 리포트 트리아지 도구 개발, 직접적인 패치 제안 등 사이버보안 분야 활동을 대폭 확대할 계획이라고 밝혔다.

한국정보기술신문 인공지능분과 성연주 기자 news@kitpa.org