인공지능 · 블록체인 ·
AI 에이전트 경제 시대의 도래...시장과 조직 재편 예고
존스홉킨스대-MIT 공동 연구진, AI 에이전트가 경제 전반에 미칠 영향 분석
인공지능 에이전트가 인간을 대신해 복잡한 경제 활동을 수행하는 시대가 다가오면서 시장 구조와 기업 조직의 근본적 변화가 예상된다.
[한국정보기술신문] 인공지능 에이전트가 경제 활동의 주요 주체로 등장하면서 기존 경제 이론과 제도에 대한 전면적 재검토가 필요하다는 연구 결과가 발표됐다. 존스홉킨스대학의 질리언 해드필드 교수와 매사추세츠공과대학의 앤드류 고 교수는 지난 9월 3일 발표한 논문을 통해 AI 에이전트가 주도하는 경제 체제의 특징과 과제를 상세히 분석했다.
이번 연구는 전미경제연구소 경제학 핸드북의 일환으로 수행됐으며, AI 에이전트가 인간의 직접적 감독 없이 장기적 계획을 수립하고 복잡한 경제 거래를 실행할 수 있는 능력을 갖추게 될 것으로 전망했다. 실제로 2025년 1월 오픈AI는 웹 브라우저를 인간처럼 조작할 수 있는 첫 AI 에이전트 오퍼레이터를 출시했으며, 5월에는 복잡한 소프트웨어 엔지니어링 작업을 수행하는 코덱스를 공개하면서 업계에서는 2025년을 에이전트의 해로 선포했다.
연구진은 AI 에이전트가 단순한 생산 도구를 넘어 독립적 경제 주체로 기능할 경우 발생할 수 있는 다양한 시나리오를 제시했다. 특히 AI 에이전트는 최적화 원리에 기반해 작동하기 때문에 전통적인 경제 모델로 설명 가능하지만, 동시에 그 행동이 불투명하고 예측 불가능하다는 점에서 근본적인 차이가 있다고 지적했다.
시장에서의 AI 에이전트 역할 변화
논문은 AI 에이전트가 소비자와 생산자 역할을 동시에 수행하면서 시장 구조에 중대한 영향을 미칠 것으로 분석했다. AI 에이전트가 인간을 대신해 구매 결정을 내릴 경우, 인간의 실제 선호와 AI의 선택 사이에 괴리가 발생할 수 있다. 이는 계약 불완전성 문제와 유사하며, 주인인 인간과 대리인인 AI 사이의 정렬 문제로 나타난다.
최근 실험 연구에 따르면 현세대 대규모 언어모델은 기대효용 극대화와 일치하는 행동을 보이며, 인간과 유사한 행동 편향을 나타낸다. 그러나 연구진은 AI 행동에 대한 증거가 아직 불충분하며, 기술 발전 속도가 빠르기 때문에 현재 세대 모델에 대한 지식이 미래 세대에는 적용되지 않을 수 있다고 경고했다.
특히 주목할 만한 점은 AI 에이전트 간의 담합 가능성이다. 2020년 칼바노 연구팀의 실험 결과, 독립적인 AI 에이전트들이 반복적 가격 설정 게임에서 경쟁 가격보다 높은 수준으로 담합하는 능력을 보였다. 2017년 독일 주유소 시장에 알고리즘 가격 책정이 도입된 후 실제로 이러한 현상이 관찰됐다. 이는 AI 에이전트가 충분한 탐색 없이 학습하면서 담합이 발생하는 것으로 분석된다.
AI 에이전트는 또한 인간을 대신해 협상을 수행할 수 있다. 이는 셸링이 1960년에 제시한 고전적 통찰, 즉 다른 유인을 가진 대리인에게 협상을 위임하면 전략적 이점을 얻을 수 있다는 개념과 유사하다. 그러나 AI 에이전트의 경우 선호를 훨씬 유연하게 선택할 수 있어, 이것이 경쟁 심화로 이어져 잉여 파괴를 초래할 위험이 있다.
조직 구조의 혁신적 변화
AI 에이전트의 도입은 기업의 규모와 범위에도 큰 영향을 미칠 것으로 예상된다. 전통적으로 기업 규모의 한계는 조정 마찰, 거래 비용, 정보 비용, 대리인 문제, 관료제 등 인간 고유의 제약에서 비롯됐다. 그러나 AI 에이전트는 이러한 한계를 극복할 수 있는 잠재력을 지니고 있다.
연구진은 AI 에이전트가 정보를 거의 즉시 전송하고 처리할 수 있으며, 보수 함수를 적절히 설계하면 태만을 방지할 수 있다고 설명했다. 이는 기업이 감시나 계약 없이도 인센티브 문제를 해결할 수 있음을 의미한다. 만약 AI 에이전트가 인간보다 효율적으로 조정하고 인센티브 문제를 해결할 수 있다면, 이는 산업 구조 전반에 심대한 영향을 미칠 것이다.
특히 주목할 만한 것은 자동화 피드백 루프의 가능성이다. AI 에이전트가 생산하면서 생성하는 데이터를 활용해 성능을 개선할 수 있으며, 이러한 개선 사항을 기업 내 다른 에이전트에게 대규모로 복제할 수 있다. 이는 규모의 경제를 넘어 시장 집중으로 이어질 수 있다.
첸, 엘리엇, 고 연구진의 2023년 모델에 따르면, AI가 서로 다른 역량을 유지하는 조직 비용을 낮추고 다양한 시장이 유사한 역량을 가치 있게 여기게 되면, 경제는 많은 전문 기업에서 소수의 대기업이 다양한 산업에 걸쳐 운영하는 구조로 급격히 전환될 수 있다.
새로운 제도적 인프라의 필요성
논문은 AI 에이전트를 위한 새로운 법적 및 제도적 인프라 구축의 필요성을 강조했다. 현재의 법적 규칙은 인간 행위자를 위해 설계됐기 때문에 AI 에이전트에는 적합하지 않다. 자발적 거래, 재산권, 계약법, 대리인법 등 기본적인 시장 구조가 모두 인간을 전제로 하고 있다.
연구진은 AI 에이전트를 위한 신원 확인 및 등록 시스템이 필수적이라고 지적했다. 인간의 신원은 무역과 도시 성장과 함께 등장한 법적 구성물이며, 현대의 출생 및 사망 등록, 신원 확인 시스템은 개인이 법적 시스템과 기타 서비스에 접근하기 위한 전제 조건이다. 그러나 현재 AI 에이전트를 위한 이러한 인프라는 존재하지 않는다.
법적 책임 문제도 중요한 과제다. 한 가지 접근법은 계약이나 거래에 참여하는 모든 AI 에이전트가 법적으로 식별 가능한 인간 또는 단체에 등록되도록 요구하고, 해당 인간이 에이전트의 모든 행동에 대해 법적 책임을 지도록 하는 것이다. 그러나 이는 예측 불가능하거나 통제할 수 없는 행동에 대해 책임을 지우는 문제를 야기한다.
또 다른 접근법은 기업의 출현 모델을 따라 AI 에이전트에게 법인격을 부여하는 것이다. 이 경우 에이전트는 자신의 이름으로 자산을 보유하고 법정 판결을 이행할 수 있어야 한다. 이는 AI 에이전트의 설계 및 배치, 거래의 효율성과 계약 설계에 다시 한번 영향을 미칠 것이다.
규제와 감독 체계 구축
연구진은 AI 에이전트에 특화된 시장 실패가 발생할 수 있으며, 이에 대한 적절한 규제가 필요하다고 강조했다. 범용 AI 에이전트는 예측 불가능한 방식으로 행동할 가능성이 높으며, 이는 익숙한 계약 메커니즘으로 통제하기 어렵다. 다중 에이전트 상호작용의 역학도 한동안 예측하기 어려울 것이다.
따라서 정부는 에이전트를 규제하여 배치 전 훈련 및 테스트 방법에 대한 최소 기술 표준을 수립하고자 할 수 있다. 직업 면허의 디지털 버전이 시장 효율성을 위해 필요할 수 있으며, 법률, 핵심 인프라 관리, 금융 등 특정 맥락에 참여하는 에이전트에는 전문화된 훈련 및 미세 조정 기술이 요구될 수 있다.
연구진은 또한 기업 경계의 법적 재검토 필요성을 제기했다. 현재 기업은 지적 재산과 정보를 거래 비밀법, 직원 신의성실 의무, 집행 가능한 비밀 유지 계약으로 보호받는다. 그러나 AI 에이전트는 대규모 기초 모델 위에 구축되며, 가장 선진적인 모델은 민간 기업 내부에서 상당한 비밀 속에 훈련된다.
이는 규제 및 법적 제도에 심각한 문제를 제기한다. 현재 규제 고려 사항은 기업 경계의 법적 설계에서 중요한 고려 사항이 아니다. 규제 당국은 자동차나 제약 제조업체의 내부 프로세스에 접근할 필요 없이 최종 제품을 테스트하거나 공개 영역 과학을 활용해 평가할 수 있다. 그러나 상용 연구실에서 개발된 대규모 AI 모델은 정부나 학술 연구실에서 복제하고 평가할 수 없다.
경제학자들의 역할과 과제
논문은 AI 에이전트 경제 연구에서 경제학자들의 독특한 역할을 강조했다. 경제학자들은 메커니즘 모델링, 측정, 설계에 특별한 전문성을 가지고 있으며, 이는 AI 에이전트가 경제 전반에 미치는 균형 효과를 연구하는 데 적합하다.
그러나 현재까지 다중 에이전트 시스템에서 AI 에이전트의 성능을 측정하는 평가나 벤치마크는 거의 없다. 2024년 최고 모델인 GPT-4 터보는 기대효용 평가 및 다양한 게임 해결을 포함한 전략적 환경에서 경제적 추론을 평가하는 테스트에서 추측보다 33퍼센트만 더 나은 성과를 보였다. 비전략적 미시경제 추론 과제에서 많은 대규모 언어모델의 성능은 약했으며, 대부분이 이윤 극대화 문제에서 추측보다 겨우 나은 수준이었다.
연구진은 AI 에이전트의 행동을 실험실에서 테스트하는 것이 특히 유용할 것이라고 제안했다. AI 에이전트는 규모와 비용 측면에서 실험을 수행하기에 유리하며, 실제 환경을 반영하는 방식으로 위험을 설정할 수 있어 실험 결과를 실제 세계로 일반화하는 데 도움이 된다.
시스템적 취약성과 위험 관리
논문은 AI 에이전트의 광범위한 채택이 경제 전반의 시스템적 취약성을 악화시킬 수 있다고 경고했다. 지난 10년간 경제학자들은 작은 충격이 경제 전반에 증폭되고 전파될 수 있는 방식을 분석해 왔다. AI 에이전트가 기업 내에서 증가하면 이러한 취약성이 악화될 수 있다.
간단한 경로는 AI 에이전트가 도입하는 오류가 인간의 오류보다 더 상관관계가 있을 수 있다는 것이다. 이는 동일한 에이전트가 기업 내부와 기업 간에 복사되어 총합에서 상쇄되지 않는 상관된 실수를 유발하기 때문이다. 2010년 플래시 크래시에서 자동화된 거래 알고리즘이 15분 동안 약 1조 달러를 소멸시킨 사례가 이를 보여준다.
연구진은 AI 에이전트가 복잡한 샘플 외 환경에서 어떻게 행동하는지가 여전히 잘 이해되지 않는다고 지적했다. 이는 시스템적 취약성 모델에 문제를 제기하며, 이러한 모델은 일반적으로 에이전트가 학습하고 최적화하는 방식에 대한 완전히 명시된 모델에서 시작하여 연쇄적 금융 또는 공급망 실패와 같은 창발적 행동을 연구한다. 불투명한 블랙박스 에이전트의 경제를 세부 사항 없이 분석하는 방법과 취약성을 방지하기 위해 견고하게 개입하는 방법을 찾아야 한다.
연구진은 AI 개발이 빠르게 진행되고 있으며, 일부 AI 연구자들은 연구개발이 완전히 자동화될 가능성에 상당한 확률을 부여한다고 전했다. 오픈AI의 예상 개발 일정에 따르면, 4단계 AI는 독립적으로 새로운 아이디어, 설계, 솔루션을 생성할 수 있는 수준이며, 5단계 AI는 전체 조직으로 기능하여 전략적 사고, 운영 효율성, 복잡한 시스템 관리 적응성을 갖춘 시스템이다.
향후 연구 방향과 전망
논문은 AI 에이전트 경제에 대한 연구가 아직 초기 단계에 있으며, 많은 개방된 질문이 남아 있다고 강조했다. 연구진은 경제학자들이 이러한 질문에 답하는 데 특히 적합한 위치에 있다고 보았다.
첫째, AI 에이전트의 선호와 신념이 안정적인지, 그리고 이러한 신념이 보정되어 있는지에 대한 연구가 필요하다. 최근 연구에서는 대규모 언어모델이 안정적이고 조종 가능한 선호를 가지고 있다는 생각에 의문을 제기했다.
둘째, AI 에이전트 간의 전략적 상호작용에 대한 더 깊은 이해가 필요하다. AI 에이전트는 서로의 소스 코드를 조건으로 플레이할 수 있어 인간에게는 불가능한 새로운 몰입과 조정 가능성을 생성한다. 또한 AI 에이전트는 전략적 이점을 얻기 위해 새로운 데이터를 인코딩하지 않는 등 기억을 조작할 수 있다.
셋째, AI 에이전트 시장의 시장 구조에 대한 연구가 필요하다. AI 에이전트의 설계와 배치는 시장 세력에 의해 주도될 것이며, 시장 인센티브가 AI 에이전트의 가격 책정과 설계를 어떻게 형성할지 이해해야 한다. 구매자의 가치 평가는 다른 구매자가 구매한 AI 에이전트의 종류에 따라 달라지며, 이는 네트워크 재화와 유사하다.
연구진은 결론에서 실리콘밸리가 점점 더 에이전트적인 AI 시스템을 약속하고 있으며, 이 비전이 실현되면 시장과 조직을 재편하여 경제 생활 구조에 심오한 영향을 미칠 것이라고 전망했다. 그러나 이 광대한 가능성의 공간 내에서 어디에 도달할지는 설계 선택이며, 어떤 종류의 AI 에이전트를 구축하고 서로 그리고 인간과 상호 작용하는 방식을 형성하기 위한 메커니즘, 인프라, 제도를 개발할 기회가 있다고 강조했다.
이번 연구는 AI 에이전트가 경제의 중요한 역할을 담당하게 될 미래에 대비하여 새로운 방법과 이론이 필요함을 시사한다. 특히 한국과 같이 기술 혁신이 빠르게 진행되는 국가에서는 AI 에이전트 경제에 대한 선제적 연구와 제도 마련이 시급한 과제로 떠오르고 있다.
한국정보기술신문 블록체인분과 윤시혁 기자 news@kitpa.org