한국정보기술진흥원한국인공지능올림피아드 (KOAI) 2026 개최안내

기업 95%, 400억 달러 생성형 AI 투자에 수익률 '제로'...MIT 연구진 "AI 투자 대부분이 실질적 비즈니스 수익 창출 못해"

thumbnail.webp
[한국정보기술신문] 지난 3년간 전 세계 기업들이 생성형 인공지능 프로젝트에 투자한 금액이 300억400억 달러(약 43조57조원)에 달하지만, 이 중 95%가 측정 가능한 수익을 얻지 못한 것으로 나타났다. 미국 매사추세츠공과대학교(MIT) 연구진이 최근 발표한 보고서에 따르면, 대다수 기업이 AI 도구 도입에서 실질적인 비즈니스 성과를 거두지 못하고 있다고 밝혔다.
연구진은 "통합된 AI 파일럿 프로그램 중 단 5%만이 수백만 달러 규모의 가치를 창출하고 있다"며 "나머지 대다수는 매출이나 수익에 전혀 영향을 주지 못했다"고 설명했다. 이는 AI 투자 열풍과 대조적인 결과로, 많은 기업이 기대했던 혁신적 변화가 현실화되지 않고 있음을 시사한다.

ChatGPT 등 AI 도구 도입 현황

주요 기업들의 80% 이상이 ChatGPT, 코파일럿(Copilot) 등 대형 언어모델 플랫폼을 이미 탐색하거나 시범 운영한 것으로 조사됐다. 또한 약 40%의 기업이 이러한 시스템을 어느 정도 수준에서 배치했다고 보고했다.
그러나 연구진은 대부분의 활용 사례가 전체적인 기업 수익 개선보다는 개별 직원의 생산성 향상에 국한되어 있다고 분석했다. 이는 AI 기술이 조직 차원의 변화보다는 업무 효율성 증대에만 기여하고 있음을 의미한다.
연구 보고서는 생성형 AI 도구가 실제 업무 프로세스와 제대로 연결되지 못하는 것이 주요 원인이라고 지적했다. 연구진은 "취약한 워크플로우, 맥락적 학습 부족, 일상적 운영과의 부실한 연계" 등이 문제점으로 나타났다고 설명했다.
인간과 달리 대부분의 생성형 AI 모델은 과거 피드백을 기억하거나 시간이 지남에 따라 새로운 추론 능력을 구축할 수 없다는 한계가 있다. 또한 맥락에 적응하거나 서로 다른 업무 간에 학습한 내용을 전이시키는 데도 어려움을 겪고 있다.

피드백 학습 능력 부재의 문제

"대부분의 생성형 AI 시스템은 피드백을 기억하지 못하고, 맥락에 적응하지 못하며, 시간이 지나도 개선되지 않는다"고 연구진은 강조했다. 이러한 특성이 없으면 장기적인 통합이 비용 대비 효과적이지 못하고 비효율적이 된다는 것이다.
직원은 새로운 지시사항, 과거 실수, 상황적 요구에 따라 조정할 수 있지만, 생성형 AI 모델은 재훈련되지 않는 한 이러한 기억을 업무 간에 전달할 수 없다는 근본적 차이점이 있다.
생성형 AI를 둘러싼 과대 광고는 기업 이사회에서 높은 기대를 불러일으켰지만, 보고서는 많은 투자가 아직 더 나은 수익이나 의미 있는 비용 절감으로 이어지지 않았다고 시사했다. 일부 기업이 고객 서비스, 마케팅, 작문 지원 등에 AI를 활용하고 있지만, 이러한 도구들이 직원들의 시간을 절약해 줄 수는 있어도 비즈니스 자체에 직접적인 수익을 추가하는 경우는 드물다.
투자자들과 경영진들은 지속적인 발전이 이러한 격차를 해소할 것이라는 희망으로 AI에 대한 강한 관심을 계속 보이고 있다. 하지만 단기적 전망은 많은 사람들이 예상했던 것보다 더딘 진전을 가리키고 있다.

일자리 대체 우려는 과장

흥미롭게도 이번 보고서는 생성형 AI가 단기간에 광범위한 일자리 손실을 야기할 것이라는 우려를 일축했다. 대신 그 효과는 기업의 외부 비용을 줄이는 데 있을 가능성이 높다고 분석했다.
"AI 시스템이 맥락적 적응과 자율적 운영을 달성하기 전까지는 조직적 영향이 내부 구조조정보다는 외부 비용 최적화를 통해 나타날 것"이라고 연구진은 밝혔다. 이는 기업들이 외주 업무에 대한 비용을 절감할 수는 있지만 대규모 직원 그룹을 곧바로 기계로 대체할 가능성은 낮다는 의미다.
전문가들은 많은 실패가 AI가 할 수 있는 것과 할 수 없는 것에 대한 오해에서 비롯된다고 말한다. 프로그램이 텍스트나 코드를 빠르게 생성할 수는 있지만, 인간이 학습하는 방식으로 진정으로 학습할 수는 없다는 것이다.
연구진은 "AI는 업무에는 강력하지만 전략에는 그렇지 않다"며 "전체 의사결정 프로세스를 대체할 것으로 기대하는 기업들은 실망할 것"이라고 경고했다. 현재로서는 생성형 AI의 비즈니스 사례가 주로 선별적인 성공 사례에 의존하고 있으며, 소수의 기업만이 큰 가치를 보고하고 대부분은 일상적인 업무에서 약간의 도움만을 받고 있는 상황이다.

향후 AI 도입 전략 방향

연구 결과는 AI의 잠재력은 크지만 기업들이 기대치를 조절해야 한다고 제시하고 있다. 이 기술은 아직 모든 산업이나 워크플로우에서 성과를 제공할 준비가 되어 있지 않다는 것이다.
보고서는 또한 도입을 둘러싼 더 스마트한 계획의 필요성을 강조한다. 조직들은 AI가 즉각적이고 측정 가능한 절약이나 생산성 향상을 가져올 수 있는 좁은 활용 사례에 집중해야 할 수도 있다. 이는 고객 지원 스크립트, 코딩 보조도구, 문서 작성 등을 포함할 수 있지만, 전사적 변혁은 아닐 것이다.
MIT 연구에 따르면 교훈은 명확하다. 기업들은 생성형 AI를 보장된 성장 엔진이라기보다는 제한적인 도구로 봐야 한다는 것이다. 관심은 여전히 높지만 전문가들은 과대광고를 쫓지 말라고 경고한다.
시스템이 인간처럼 더 적응하는 법을 배울 때까지 대부분의 기업에서 AI 도입으로 인한 수익은 여전히 손에 닿지 않을 것으로 보인다. 광범위한 통합은 여전히 시기상조이며 실패하기 쉬운 것으로 간주된다.
한국정보기술신문 실감형콘텐츠분과 박성빈 기자 news@kitpa.org

함께 읽으면 좋은 기사

정부, '전력감독원' 신설 추진...22일 국회서 전력 거버넌스 혁신 토론회...하반기 '전기사업법' 개정 앞두고 국회·전문가 공감대 형성, '전기국가' 도약 뒷받침

정부, '전력감독원' 신설 추진...22일 국회서 전력 거버넌스 혁신 토론회...하반기 '전기사업법' 개정 앞두고 국회·전문가 공감대 형성, '전기국가' 도약 뒷받침

유관기관 3
오픈 AI 모델, '최고 성능' 넘본다...美 리서치사 "앤트로픽 사업모델 흔들릴 수 있어"...무료 공개 '키미 K3'·'큐원 3.8'이 최전선 위협, 데이터센터·전력 안 가진 모델 중심 기업의 수익구조 취약성 지적

오픈 AI 모델, '최고 성능' 넘본다...美 리서치사 "앤트로픽 사업모델 흔들릴 수 있어"...무료 공개 '키미 K3'·'큐원 3.8'이 최전선 위협, 데이터센터·전력 안 가진 모델 중심 기업의 수익구조 취약성 지적

인공지능 4
엔비디아 '베라 루빈' AI 시스템, 전 세계로 확산...전력당 성능·토큰당 비용 앞세워 대형 클라우드에 도입...코어위브·구글 클라우드·MS·오라클서 가동, 30개국 350여 공장서 생산 이어져

엔비디아 '베라 루빈' AI 시스템, 전 세계로 확산...전력당 성능·토큰당 비용 앞세워 대형 클라우드에 도입...코어위브·구글 클라우드·MS·오라클서 가동, 30개국 350여 공장서 생산 이어져

반도체 5
샤오미, 로봇 기초모델 '샤오미-로보틱스-1' 공개...10만 시간 실제 조작 데이터로 학습...로봇 없이 모은 데이터로 사전학습해 '데이터 장벽' 넘어

샤오미, 로봇 기초모델 '샤오미-로보틱스-1' 공개...10만 시간 실제 조작 데이터로 학습...로봇 없이 모은 데이터로 사전학습해 '데이터 장벽' 넘어

인공지능 4
구글, 이모지 약 4,000개 '3D'로 통째 재설계...세계 이모지의 날 맞아 'Noto 3D' 공개...표현력·접근성 높이고 다크모드용 고대비 옵션 더해, 3D 모델은 오픈소스로 개방

구글, 이모지 약 4,000개 '3D'로 통째 재설계...세계 이모지의 날 맞아 'Noto 3D' 공개...표현력·접근성 높이고 다크모드용 고대비 옵션 더해, 3D 모델은 오픈소스로 개방

실감형콘텐츠 · 인공지능 4
세계유산 안동 하회마을 침수 위험, 실시간으로 감시한다...국가유산청·국립재난안전연구원, 문화유산에 첫 침수계측장비 시범 설치...계측 데이터를 침수모니터링시스템 'RAINSYS'와 실시간 연동해 상시 예측

세계유산 안동 하회마을 침수 위험, 실시간으로 감시한다...국가유산청·국립재난안전연구원, 문화유산에 첫 침수계측장비 시범 설치...계측 데이터를 침수모니터링시스템 'RAINSYS'와 실시간 연동해 상시 예측

정보통신 · 유관기관 3
미국 제약사 BMS, 세계 최강 '생명과학 AI 공장' 짓는다...엔비디아 '베라 루빈'으로 신약 개발 가속...모든 연구원에게 슈퍼컴 개방, 표적 발굴·분자 설계에 AI 전면 도입

미국 제약사 BMS, 세계 최강 '생명과학 AI 공장' 짓는다...엔비디아 '베라 루빈'으로 신약 개발 가속...모든 연구원에게 슈퍼컴 개방, 표적 발굴·분자 설계에 AI 전면 도입

인공지능 · 반도체 4
엔비디아, GPU 수십만 개 잇는 'AI 공장' 이더넷 '스펙트럼-6' 공개...이전 세대 2배인 초당 102조 비트 처리, 베라 루빈 플랫폼의 일부로 세계 대형 AI 데이터센터에 공급 시작...코어위브·마이크로소프트·테슬라 등 선도 기업 먼저 도입

엔비디아, GPU 수십만 개 잇는 'AI 공장' 이더넷 '스펙트럼-6' 공개...이전 세대 2배인 초당 102조 비트 처리, 베라 루빈 플랫폼의 일부로 세계 대형 AI 데이터센터에 공급 시작...코어위브·마이크로소프트·테슬라 등 선도 기업 먼저 도입

반도체 · 인공지능 · 정보통신 4
한-아세안, 'AI 교통' 미래 함께 그린다...22일 서울서 제16차 교통협력포럼 개막...동티모르 첫 참여 등 아세안 11개 회원국 고위급 참석, 자율주행 실증·AI 교통신호 등 한국 미래 교통정책 사례 공유

한-아세안, 'AI 교통' 미래 함께 그린다...22일 서울서 제16차 교통협력포럼 개막...동티모르 첫 참여 등 아세안 11개 회원국 고위급 참석, 자율주행 실증·AI 교통신호 등 한국 미래 교통정책 사례 공유

유관기관 · 인공지능 4
MPEG-4 비주얼 마지막 특허 만료...30년 만에 전 세계서 완전 무료화...브라질에 홀로 남아 있던 특허 7월 19일 소멸, DivX·Xvid 등 영상 코덱 자유롭게 쓸 수 있어

MPEG-4 비주얼 마지막 특허 만료...30년 만에 전 세계서 완전 무료화...브라질에 홀로 남아 있던 특허 7월 19일 소멸, DivX·Xvid 등 영상 코덱 자유롭게 쓸 수 있어

방송통신 3
삼성전자, '삼성 계정' 하나로 기기·서비스 잇는다...월렛·파인드·스마트싱스 아우르고 '가족 단위' 경험으로 확대

삼성전자, '삼성 계정' 하나로 기기·서비스 잇는다...월렛·파인드·스마트싱스 아우르고 '가족 단위' 경험으로 확대

정보기술 3
구글, "제미나이로 부업 창업하세요"...AI 하나로 사업계획부터 가격 책정까지...사업 구상·시장 조사·브랜드 디자인·업무 자동화·가격 설계 등 다섯 가지 활용법 제시, 24시간 일하는 AI 대리인 '스파크'도 소개

구글, "제미나이로 부업 창업하세요"...AI 하나로 사업계획부터 가격 책정까지...사업 구상·시장 조사·브랜드 디자인·업무 자동화·가격 설계 등 다섯 가지 활용법 제시, 24시간 일하는 AI 대리인 '스파크'도 소개

인공지능 3