AI 코드 생성 도구의 함정, '바이브 코딩'의 어두운 면...도박 중독과 유사한 심리 작용

fast.ai 연구원 "생산성 향상 착각...실제로는 19% 느려져"

AI 코드 생성 도구가 개발자들에게 도박과 유사한 중독성 있는 '어두운 몰입'을 유발한다는 연구 결과가 나왔다.

[한국정보기술신문] AI 코드 생성 도구의 과도한 사용이 개발자들에게 도박 중독과 유사한 심리적 함정을 만들어낸다는 지적이 제기됐다. fast.ai의 레이철 토마스 연구원은 최근 발표한 논문에서 'AI가 생성한 대량의 복잡한 코드를 만드는 바이브 코딩'이 개발자들의 생산성을 오히려 저하시키고 있다고 밝혔다.

토마스 연구원은 이러한 현상을 심리학자 미하이 칙센트미하이가 정의한 '플로우' 상태의 부정적 변형인 '다크 플로우' 또는 '정크 플로우'로 설명했다. 진정한 플로우 상태는 자신의 기술 수준과 도전 과제가 적절히 균형을 이루고, 성과를 명확히 파악할 수 있을 때 발생한다. 하지만 바이브 코딩은 도박의 다회선 슬롯머신처럼 실제로는 손해를 보면서도 승리한 것처럼 느끼게 만드는 '손실이 위장된 승리' 효과를 일으킨다는 것이다.

개발자들의 착각과 실제 성과의 괴리

실제로 AI 도구 사용이 생산성에 미치는 영향을 조사한 결과는 충격적이다. METR의 연구에 따르면 개발자들은 AI 도구를 사용할 때 자신이 20% 더 빠르게 작업한다고 생각했지만, 실제로는 19% 느려진 것으로 나타났다. 지각된 속도와 실제 속도 사이에 거의 40%에 달하는 차이가 발생한 것이다.

저명한 소프트웨어 개발자 아르민 론아허는 자신의 경험을 통해 이 문제의 심각성을 증언했다. 그는 "처음 클로드 AI를 사용하기 시작했을 때 잠도 자지 않고 두 달 동안 과도하게 프롬프트를 입력하며 토큰을 낭비했다"며 "많은 도구를 만들면서 그 순간에는 굉장히 좋다고 느꼈지만, 나중에 보니 실제로는 거의 사용하지 않거나 생각했던 대로 작동하지 않았다"고 밝혔다. 그는 이러한 경험을 '에이전트 정신병'이라고 표현했다.

토마스 연구원은 이러한 현상이 발생하는 이유로 세 가지를 제시했다. 첫째, 바이브 코딩은 자신의 성과를 명확하게 파악할 수 있는 단서를 제공하지 않으며 오히려 오해를 불러일으킨다. 둘째, 도전 수준과 기술 수준 간의 균형이 불분명하다. 셋째, 실제보다 더 많은 통제력을 가지고 있다는 착각을 불러일으킨다.

AI 전문가들의 예측 실패 사례

AI 기술의 발전 속도에 대한 과장된 예측도 문제로 지적됐다. 저명한 AI 연구자 제프리 힌튼은 2021년까지 AI가 방사선 전문의를 대체할 것이라고 예측했지만 실현되지 않았다. 구글 CEO 순다르 피차이와 AI 책임자 제프 딘은 2023년까지 모든 데이터 과학자들이 신경망 아키텍처 검색을 사용할 것이라고 예측했지만 이 역시 빗나갔다. 앤트로픽의 CEO 다리오 아모데이는 2025년 말까지 AI가 모든 코드의 90%를 작성할 것이라고 예측했다.

토마스 연구원은 "AI 도구는 인상적이고 계속 개선되고 있지만, 주요 파운데이션 랩들의 예측은 일관되게 개발 속도를 과장해왔다"며 "테크 기업들이 수십 년 동안 자사 제품을 과대 포장해온 것은 새로운 일이 아니다"라고 지적했다.

인간의 창의성과 사고력은 여전히 중요

이러한 문제점에도 불구하고 AI 도구 자체를 부정하는 것은 아니다. 토마스 연구원이 소속된 AI 기업에서도 매일 AI를 활용하고 있으며, AI가 유용한 도구임을 인정한다. 하지만 신중한 접근이 필요하다는 것이다.

AI 코딩 에이전트는 문법적으로 올바른 코드를 생성할 수 있지만, 유용한 추상화 계층이나 의미 있는 모듈화를 만들어내지는 못한다. 간결성을 추구하거나 대규모 코드베이스의 구조를 개선하는 가치를 이해하지 못한다. 코딩은 자동화되었지만 소프트웨어 엔지니어링은 자동화되지 않았다는 것이다.

fast.ai의 제레미 하워드는 "지금 AI 에이전트에 올인하는 사람들은 자신의 퇴물화를 보장하는 것"이라며 "모든 사고를 컴퓨터에 아웃소싱하면 기술 향상, 학습, 역량 강화를 멈추게 된다"고 경고했다. AI는 유용한 도구지만 핵심적인 인간의 능력을 대체하지는 못한다는 것이다.

토마스 연구원은 "AI 코딩 에이전트가 얼마나 효과적인지 실험해볼 가치는 있지만, 현재 보유한 기술 세트 개발을 포기해서는 안 된다"며 "바이브 코딩의 매력은 6개월이나 12개월 후 얼마나 효과적일지에 대한 추정에서 나오지만, 이러한 예측은 현실보다는 희망에 기반한 순전한 추측"이라고 강조했다.

한국정보기술신문 인공지능분과 김주호 기자 news@kitpa.org