AI 에이전트는 프롬프트가 아닌 제어 흐름이 필요하다...명령형 프로그래밍 구조로 신뢰성 높은 AI 시스템 구축

[한국정보기술신문] 현재 많은 기업과 개발자들이 대규모 언어모델 기반의 AI 에이전트를 만들고 있다. 하지만 기술 전문가는 복잡한 작업을 신뢰할 수 있게 처리하려면 단순히 프롬프트만 개선하는 것으로는 부족하며, 전통적인 소프트웨어 공학의 제어 흐름 개념을 도입해야 한다고 주장한다.

AI 에이전트를 만드는 과정에서 개발자들이 흔히 범하는 실수가 있다. 더욱 명확하고 강력한 프롬프트를 작성해서 문제를 해결하려는 것이다. 예를 들어 MANDATORY라든지 DO NOT SKIP 같은 강조 표현을 쓴다. 하지만 이러한 접근은 근본적인 문제를 해결하지 못한다.

프롬프트 기반의 시스템은 근본적으로 결정적이지 않다. 약하게만 명시되어 있으며, 검증하기 어렵다. 프롬프트 체인은 함수 호출 같은 명확한 반환값을 보장하지 않는다. 복잡성이 증가할수록 신뢰성은 급격히 떨어진다. 왜냐하면 전체 시스템의 추론이 불가능해지기 때문이다.

전통적인 소프트웨어 프로그래밍이 오랫동안 성공해온 이유는 명확하다. 라이브러리, 모듈, 함수로 구성된 재사용 가능한 구조를 만들 수 있기 때문이다. 이를 통해 개발자는 전체 시스템을 이해하지 못하더라도, 각 부분이 어떻게 작동할지 확신할 수 있다. 이것을 재귀적 합성성이라고 한다.

프롬프트 체인은 이러한 특성이 없다. 각 단계의 출력이 다음 단계의 입력이 되지만, 그 과정이 비결정적이다. 일반적인 함수처럼 신뢰할 수 없다는 뜻이다. 이는 복잡한 작업을 수행하는 에이전트를 구축할 때 심각한 문제가 된다.

신뢰할 수 있는 시스템을 만들려면 검증이 필수이다. 오류를 감지하고 처리하는 능력이 없으면 세 가지 중 하나를 선택해야 한다. 첫째는 항상 인간이 감시하기이다. 둘째는 실행 후 모든 결과를 자세히 검사하기이다. 셋째는 그냥 결과가 맞기를 바라기이다. 어느 것도 자동화된 에이전트 시스템으로는 부족하다.

언어모델 기반 에이전트도 더 큰 결정적 시스템 내의 한 부분이 되어야 한다. 모델이 텍스트를 생성하는 부분은 언어모델이 담당하지만, 어떻게 언제 그것을 호출할지는 명확한 제어 흐름이 결정해야 한다.

기업에서 AI 에이전트를 구축할 때 다음과 같이 설계해야 한다. 먼저 명확한 작업 흐름을 명령형 코드로 작성한다. 예를 들어 재무 보고서 작성 에이전트라면, 데이터 수집, 분석, 작성, 검증 같은 단계를 명확하게 정의한다.

각 단계에서 언어모델을 활용하되, 그 결과는 반드시 검증된다. 만약 모델의 출력이 기대한 형태가 아니면 다시 시도하거나 인간에게 보고한다. 전체 흐름은 프로그래밍 언어의 조건문, 반복문 등으로 제어된다.

업계 전문가들은 향후 AI 에이전트 개발이 이러한 방향으로 나아갈 것으로 예측하고 있다. 단순히 더 큰 모델을 만들거나 더 정교한 프롬프트를 작성하는 것이 아니라, 소프트웨어 엔지니어링의 기본 원칙으로 돌아가야 한다는 인식이 높아지고 있다. 이렇게 되면 에이전트 시스템은 더욱 신뢰할 수 있고, 감시하기 쉬워질 것이다.