아마존, AI 코딩 도구 관련 연속 장애로 시니어 엔지니어 승인제 도입...생성형 AI 안전관리 강화

[한국정보기술신문] 아마존이 AI 코딩 도구와 연관된 일련의 서비스 장애를 겪은 후, 주니어 및 중간급 엔지니어가 AI 보조 코드 변경 사항을 배포할 때 반드시 시니어 엔지니어의 승인을 받도록 하는 새로운 정책을 도입했다. 파이낸셜타임스가 입수한 내부 문서에 따르면, 아마존 이커머스 부문은 최근 "심각한 영향 반경(high blast radius)"과 "생성형 AI 보조 변경 사항"을 특징으로 하는 일련의 장애가 발생했다고 밝혔다.

지난 3월 5일, 아마존 쇼핑 웹사이트와 앱이 약 6시간 동안 중단됐다. 이 장애로 고객들은 주문 완료는 물론 계정 정보 확인, 상품 가격 조회조차 할 수 없었다. 최고 2만 1,716건의 사용자 신고가 집계됐다. 아마존은 공식적으로 이 장애 원인을 "잘못된 소프트웨어 코드 배포"로 발표했으나, AI 도구의 관여 여부는 공식 확인을 피했다.

이보다 앞서 아마존 웹서비스(AWS)에서도 AI 코딩 도구와 연관된 장애가 최소 두 건 발생했다. 2025년 12월 중순에는 AWS의 자체 AI 코딩 도구 '키로(Kiro)'가 비용 계산 도구 환경을 통째로 삭제하고 재생성하면서 13시간에 걸친 서비스 중단이 발생했다. 아마존은 이 사건에 대해 "AI 도구가 관여한 것은 우연의 일치"라며, 동일한 문제는 다른 개발 도구나 수동 작업으로도 발생할 수 있었을 것이라고 해명했다. 또한 "이는 AI 오류가 아닌 사용자 오류"였으며, 해당 엔지니어가 필요 이상의 광범위한 권한을 보유하고 있었다고 덧붙였다.

아마존 이커머스 서비스 부문 수석 부사장 데이브 트레드웰은 직원들에게 이메일을 보내 "여러분도 알다시피, 최근 사이트와 관련 인프라의 가용성 상태가 좋지 않다"고 인정했다. 회의 브리핑 자료에는 "모범 사례와 안전 장치가 아직 충분히 확립되지 않은 새로운 생성형 AI 사용 방식"이 장애 발생의 주요 원인 중 하나로 명시됐다.

이번 회의에서 도출된 주요 정책 변경 사항은 주니어 및 중간급 엔지니어가 AI 보조 코드 변경 사항을 프로덕션 환경에 배포하기 전에 시니어 엔지니어의 승인을 의무적으로 받아야 한다는 것이다. 이는 AI가 생성한 코드에 대해 인간 검토 단계를 추가한 것으로, 기존 배포 프로세스가 AI가 유발한 오류를 프로덕션 환경 반영 이전에 충분히 걸러내지 못했다는 것을 공식 인정한 셈이다.

이번 문제의 본질은 AI 도구가 결함 있는 코드를 생성한다는 것이 아니라, 배포 파이프라인이 AI 도구가 코드를 생성하는 속도와 양을 감당하도록 설계되지 않았다는 점이다. 인간 개발자가 코드를 작성할 때는 그 속도가 느려 검토 프로세스가 따라갈 수 있지만, AI 보조 도구가 10배 빠른 속도로 코드를 생성하면 기존 검토 프로세스가 병목이 되고, 팀은 이를 건너뛰게 된다.

일부 AWS 직원들은 내부적으로 회사가 AI 코딩 도구, 특히 최소한의 인간 감독으로 자율적으로 행동하는 에이전틱 도구를 출시하는 속도에 대한 우려를 제기했다. 한 시니어 AWS 직원은 두 장애 사건 모두 "작은 규모지만 충분히 예견 가능한 사고"였다고 묘사했다.

이번 사태는 아마존이 AI를 적극적으로 도입하면서도 그에 따른 위험 관리를 소홀히 했다는 비판을 피하기 어려운 상황을 만들었다. 아마존은 AI로 인한 효율화를 이유로 1만 4,000명에 달하는 기업 인력을 감축했으며, AI를 인터넷 이후 가장 혁신적인 기술이라고 선언한 바 있다. 인력을 줄이면서 AI에 의존도를 높이는 동시에, AI 보조 작업에 대한 적절한 인간 감독 없이는 프로덕션 시스템 전체가 마비될 수 있다는 사실이 이번 사태를 통해 드러났다.

아마존은 AI 도구 사용을 중단할 의사가 없다고 밝혔다. 대신 더 강력한 안전 장치와 감독 체계를 갖추는 방향으로 대응책을 마련하고 있다. 이번 정책 변화는 생성형 AI 기술의 급속한 도입 과정에서 발생하는 안전성 공백을 메우기 위한 첫 번째 공식 조치로 평가된다.