서울시, 29개 생성형 AI모델 골라 쓴다…'생성형AI용량제' 시범 운영

조직 단위 사용량에 따라 비용 내는 새로운 방식 도입으로 행정 효율성 극대화 기대

[한국정보기술신문] 서울시 직원들이 앞으로 챗(Chat)GPT, 제미나이(Gemini) 등 29개 인공지능 모델을 행정 업무에 자유롭게 활용할 수 있게 된다. 지금까지는 구독제 방식으로 지정된 AI 모델 한 개만 이용할 수 있었으나, 이제는 사용자가 업무 특성에 맞는 모델을 폭넓게 선택할 수 있어 행정 업무 효율이 획기적으로 개선될 전망이다.

서울시는 생성형AI 서비스를 조직 단위 사용량에 따라 비용을 지불하는 '생성형 AI 용량제' 서비스 '서울AI챗'을 도입해 오는 12월까지 업무에 시범 활용한다고 4일 밝혔다. 이번 시범 사업은 기존 구독제의 한계를 극복하고 전 직원이 생성형 AI를 광범위하게 활용할 수 있는 기반을 마련하기 위한 것이다.

기존 구독제 한계 극복으로 확대 요구 해결

시는 지난해부터 생성형 AI를 업무에 시범 적용할 직원을 모집해 '신기술 이용료 지원(구독제)'을 시행해 왔으나, 지원 가능한 인원(570명) 대비 신청자가 3~4배를 넘어서면서 사업 확대 요구가 지속적으로 제기되어 왔다. 구독제 시범 사용에 참여한 직원들은 아이디어 획득(28%), 자료 조사(27%), 문서 작성(19%) 등 다양한 업무에 AI를 적극 활용했으며, 90% 이상이 '챗GPT'를 사용한 것으로 나타났다.

이번 '서울AI챗' 도입으로 그동안 특정 모델만 사용할 수 있었던 구독제와 달리 ▴챗(Chat)GPT ▴클로드(Claude) ▴제미나이(Gemini) ▴퍼플렉시티(Perplexity) ▴라마(Llama) ▴미스트랄(Mistral)AI ▴그록(Grok) 등 총 29개 모델을 상황에 맞게 활용할 수 있게 됐다.

새로운 시스템에서는 업무의 성격에 따라 최적화된 AI 모델을 선택적으로 활용할 수 있다. 예컨대 문서 작성과 요약은 '클로드', 실시간 검색은 정확도가 높은 '퍼플렉시티·제미나이', SNS 최신 트렌드 분석은 '그록' 등 AI 모델별로 특화된 기능과 업무를 선별해 활용할 수 있게 되는 것이다.

이러한 다양한 선택권은 업무 효율과 품질 향상에 크게 기여할 것으로 기대된다. 직원들은 단순히 하나의 AI 도구에 의존하는 것이 아니라, 각 업무에 가장 적합한 AI 모델을 전략적으로 선택하여 활용할 수 있게 됨에 따라 보다 정확하고 효과적인 결과를 얻을 수 있을 것으로 예상된다.

연간 28억원 비용 절감 효과 기대

경제적 측면에서도 용량제는 상당한 장점을 보인다. 개별 직원에 월 3만 원 수준의 정액 서비스를 지원하는 '구독제'를 전 직원으로 확대할 경우 연간 30억 원 정도가 필요하지만, 실제 사용량 기반으로 과금되는 '용량제'는 연간 약 2억 원 수준이면 운영할 수 있어 비용 측면에서도 경제적이다.

서울시는 생성형 AI 용량제 '서울AI챗'을 전 직원을 대상으로 도입하여, 시범 운영기간 동안 기존의 구독제와 용량제를 병행 운영하며 장단점을 분석할 예정이다. 또한 사용량과 빈도, 만족도, 서비스 품질 등을 종합적으로 검토해 내년 본격 도입 여부를 결정할 방침이다.

서울시는 '서울AI챗' 시범 운영을 통해 행정 효율과 직원 만족도가 동시에 높아질 것으로 기대하고 있다. 특히 반복되는 업무를 처리하는 데 소요했던 시간은 줄어드는 반면, 창의적인 기획과 정책 설계에 집중할 수 있는 환경이 구축될 것으로 예상된다.

한편 시는 AI 모델을 사용하는 전 직원에게 보안서약서를 통해 정보 보안에 노력하고 개인정보 보호 및 AI 윤리를 준수하도록 관리 체계를 마련했다. 특히 ▴민감정보 입력 금지 ▴생성물 검증·출처 명기 ▴편향·허위 정보 차단 등 공공기관 특성에 맞춘 관리 원칙을 철저히 준수하도록 했다.

전국 표준 모델 구축 목표

강옥현 서울시 디지털도시국장은 "이번 시범 사업으로 기존 구독제의 한계를 넘어 전 직원이 생성형 AI를 업무에 광범위하게 활용할 수 있게 됐다"며 "앞으로 AI를 시민이 체감할 수 있는 행정 도구로 활용하여, 서울시의 AI행정을 전국 최초에서 '전국 표준'으로 만들어 나갈 것"이라고 말했다.

이번 서울시의 생성형 AI 용량제 도입은 공공기관의 AI 활용 방식에 새로운 패러다임을 제시하는 사례로 평가받고 있다. 다양한 AI 모델의 특성을 활용한 업무 효율성 증대와 비용 절감을 동시에 달성하는 혁신적인 모델로서, 다른 지방자치단체들에게도 중요한 벤치마킹 사례가 될 것으로 전망된다.

한국정보기술신문 인공지능분과 이지원 기자 news@kitpa.org