개인정보위, GPA 서울서 '오픈소스 AI와 프라이버시' 논의의 장 열다

[한국정보기술신문] 개인정보보호위원회(위원장 고학수)가 9월 15일 서울에서 '오픈소스 데이'를 개최해 인공지능(AI) 혁신의 기반이 되는 오픈소스의 안전한 활용 방안을 논의하는 국제적 논의의 장을 마련했다. 이번 행사는 9월 16일 예정된 글로벌 프라이버시 총회(GPA) 개막에 앞선 사전 부대행사로 진행됐다.

구글, 메타, 마이크로소프트, 오픈AI, 셀렉트스타, 에임 인텔리전스 등 글로벌 오픈소스 모델·솔루션 기업들과 국내 AI 기업·연구자, 그리고 해외 감독기구 등 120여 명이 참석해 오픈소스 AI 생태계와 프라이버시 보호 방안에 대해 심도 있게 논의했다.

개인정보위가 행사에 앞서 실시한 간이 설문조사 결과에 따르면, 참여한 70명의 개발자·연구자 및 기업 관계자 중 약 62%가 오픈소스를 도입·활용한 경험이 있는 것으로 나타났다. 특히 오픈소스 모델을 활용한 미세조정 시 안전성을 고려한 경험이 있다고 응답한 비율은 77%에 달해, 업계의 높은 안전성 인식을 보여줬다.

이는 낮은 비용으로 높은 성능을 구현할 수 있는 오픈소스 모델에 대한 산업 현장의 관심과 수요가 높음과 동시에, 안전성과 신뢰성에 대한 우려도 함께 존재함을 시사한다.

행사에서 글로벌 AI 기업들은 각자의 오픈소스 생태계 구축 경험과 실제 적용 사례를 공유했다. 구글은 비용 효율적인 오픈소스 모델 운영을 위한 자사 플랫폼(Vertex AI)을 소개하며, LLM 품질 평가 도구와 프롬프트 최적화 기능, 안전성 강화 도구 등 신뢰성·안전성 확보를 위한 방안을 제시했다.

에임 인텔리전스는 고객 대상 AI 서비스 운영 과정에서 기업들이 현장에서 직면하는 다양한 안전성 및 정보보안 과제를 실제 경험과 함께 공유했다. 이 회사는 메타의 오픈소스 AI 필터링 모델 '라마 가드(Llama Guard)'를 한국 실정에 맞게 고도화해 '라마 임팩트 이노베이션 어워즈'를 수상한 바 있다.

마이크로소프트는 자사 플랫폼(Azure AI Foundry)을 기반으로 에이전트 AI를 구축한 고객사 사례를 제시하며, 차세대 패러다임으로 주목받는 에이전트 AI 구축을 위한 오픈소스 모델·도구 활용 가능성을 제시했다. 네이버는 자사 오픈소스 모델(HyperClovaX)과 더불어 공개 데이터셋과 벤치마크, AI 안전성 프레임워크 등을 소개하며 국내 오픈소스 생태계 확산에 기여한 노력을 공유했다.

오픈AI는 새롭게 공개한 자사 오픈소스 모델(gpt-oss-20b/120b)을 소개하며, 오픈소스 모델이 지니는 경제·사회적 가치와 더불어 안전성에 대한 우려와 책임성, 글로벌 차원의 논의 필요성 등을 제기했다.

행사 참석자들은 오픈소스 AI 도입 과정에서 개인·민감정보 필터링 및 검증 절차, 미세조정 시 고려사항, 레드팀 테스트 설계 방안 등 안전성 및 신뢰성 보장 방안을 집중적으로 논의했다. 실시간 질의응답 시간에서는 참석자들이 오픈소스 도입 과정에서 겪은 애로사항과 프라이버시 관련 고민 등 현장의 목소리와 함께 해결 방안을 공유했다.

이를 통해 "책임 있는 오픈소스 AI 생태계"에 대한 공감대를 형성하고, 개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현의 필요성에 대해 인식을 같이했다.

행사 마지막 순서로는 한국 개인정보보호위원회를 비롯해 영국 정보감독청(ICO), 이탈리아 개인정보보호청(GPDP), 브라질 개인정보보호청(ANPD) 등 4개국 개인정보 감독기구가 참석한 라운드테이블이 진행됐다. 각국 감독기구는 오픈소스 AI 생태계에서의 프라이버시 고려사항에 대해 논의하고, 향후 에이전틱(Agentic) AI 시대를 대비한 안전한 AI 생태계 구축을 위한 국제적 차원의 지속적 논의와 협력 필요성에 뜻을 모았다.

최장혁 개인정보위 부위원장은 "이번 오픈소스 데이는 에이전트 AI와 같은 혁신 서비스의 기반이 되는 오픈소스 AI 생태계와 개인정보 보호를 함께 고민하는 국내 첫 공개 논의의 장으로 의미가 크다"며, "기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장의 목소리를 경청하여 정책에 적극 반영하겠다"고 밝혔다.