홍익대 김주영, 성능 다른 기기도 함께 학습하는 연합학습 기법 개발해 대학생 IT논문경진대회 AI융합응용 금상...베이지안 사후분포로 중요한 부분 골라 학습, 저성능 기기도 참여하며 전체 성능 유지

[한국정보기술신문] 홍익대학교 김주영 학생이 2026 하계 대학생 IT논문경진대회 AI융합응용 트랙에서 금상을 받았다. 수상 논문의 제목은 '이기종 연합학습을 위한 베이지안 사후분포 기반 구조적 서브모델 선택 기법'이다. 성능이 서로 다른 기기들이 하나의 인공지능(AI)을 함께 학습할 때, 각 기기에 맞게 모델의 필요한 부분만 골라 학습시키는 방법을 제안한 연구다.

연합학습은 여러 기기가 각자 가진 데이터를 한곳에 모으지 않고, 기기에서 학습한 결과만 주고받으며 하나의 AI를 함께 키우는 방식이다. 이기종은 성능이 제각각인 여러 종류의 기기를 뜻한다. 서브모델은 전체 모델에서 떼어 낸 일부를 가리킨다.

김주영 학생이 연구를 시작한 계기는 AI가 스마트폰이나 사물인터넷(IoT) 기기처럼 다양한 환경으로 퍼지면서, 모든 기기가 같은 연산 능력을 갖고 있지는 않다는 점이었다. 수상 소식을 들었을 때 기쁨보다 놀라움이 컸다며, 결과가 기대만큼 나오지 않거나 방향을 다시 고민해야 했던 순간이 많았던 만큼 그 과정이 좋은 결과로 이어진 점이 뜻깊었다고 했다. 연합학습에서 성능이 낮은 기기가 학습 과정에서 빠지거나 제한적으로만 참여하게 되는 문제에 주목했다. 이런 환경에서도 여러 기기가 학습에 참여할 수 있도록, 각 기기의 능력에 맞는 모델을 주면서도 중요한 정보를 효율적으로 학습하는 방법을 고민한 것이다.

이 문제를 여러 사람이 각자의 스마트폰이나 컴퓨터에서 AI를 함께 학습하는 상황에 빗대 설명했다. 기기마다 성능이 달라 모두에게 똑같이 큰 모델을 학습시키는 것은 비효율적이라는 것이다. 그래서 김주영 학생은 각 기기의 성능에 맞춰 전체 모델에서 필요한 부분만 골라 학습하도록 하되, 임의로 고르지 않고 AI가 얼마나 확신을 갖고 학습한 정보인지를 함께 따졌다.

연구는 문제 설정과 선행연구 조사, 기존 방법의 한계 분석, 아이디어 설계, 알고리즘 구현, 실험과 비교, 논문 작성과 검증의 순서로 진행됐다. 아이디어를 처음부터 확정하기보다 실험 결과를 확인하며 문제점을 고치고 비교 방법을 더해 가는 과정을 반복했고, 논문을 쓰는 동안에도 연구 목적과 실험 결과가 자연스럽게 이어지는지를 계속 점검했다고 밝혔다.

이 연구의 가장 큰 차별점은 부분을 고르는 방식에 있다. 김주영 학생은 기존에도 기기 성능에 맞춰 작은 모델을 학습시키는 연구가 있었지만, 모델의 일부를 무작위로 고르거나 정해진 순서대로 반복해 고르는 경우가 많았다고 설명했다. 베이지안 학습으로 얻은 모델의 사후분포를 활용해, 학습할 때마다 중요한 뉴런이나 채널을 고르도록 했다.

베이지안 사후분포는 AI가 학습한 각 요소를 얼마나 확신하는지를 확률로 나타낸 것으로, 뉴런과 채널은 신경망을 이루는 계산 단위다. 김주영 학생은 이 방식으로 중요한 부분을 우선 학습하면서도, 특정 부분만 되풀이해 선택되는 문제를 완화하고자 했다고 밝혔다.

이 연구의 핵심 결론을 세 가지로 정리했다. 모든 기기가 같은 크기의 모델을 학습하지 않아도 연합학습에 참여할 수 있고, 베이지안 사후분포를 활용하면 무작위나 평균값에 기댄 선택보다 중요도와 다양성을 함께 고려할 수 있으며, 제안한 구조적 서브모델 선택 방식이 기본 신경망 구조인 MLP를 넘어 이미지 처리에 주로 쓰이는 CNN의 채널 선택에도 확장될 가능성이 있다는 것이다.

연구에서 가장 예상과 달랐던 지점은 다양성의 중요성이었다. 김주영 학생은 처음에는 중요한 부분만 계속 고르면 가장 좋은 결과를 얻을 것이라 생각했다. 하지만 실험을 진행하면서, 현재 중요도가 높은 부분만 반복해 고르는 것보다 다양한 부분이 학습에 참여하도록 하는 것도 중요하다는 점을 확인했다. 제안한 방식이 기존의 고정된 선택 방식보다 더 다양한 뉴런을 활용하면서도 비슷하거나 더 높은 정확도를 보인 점이 특히 기억에 남는다고 했다.

가장 어려웠던 부분은 아이디어 자체가 아니라, 제안한 방법이 실제로 의미 있는 개선을 만드는지 객관적으로 검증하는 과정이었다. 연구 초반에는 예상한 결과가 나오지 않거나 기존 방법과 차이가 크지 않은 경우도 있었다. 김주영 학생은 "좋은 결과가 나올 때까지 조건을 바꾸기보다, 어떤 요소가 결과에 영향을 미쳤는지 하나씩 분석하고 비교 실험을 추가했다"며 "이 과정에서 연구의 강점뿐 아니라 한계까지 더 명확하게 이해할 수 있었다"고 말했다. 검증에는 손글씨 숫자 자료인 MNIST와 사물 이미지 자료인 CIFAR-10을 써서 기존 방법들과 정확도, 모델 활용 범위를 견줬다.

김주영 학생은 이 연구가 스마트폰과 IoT 기기, 차량, 드론처럼 성능이 다양한 기기가 하나의 AI를 함께 학습하는 환경에서 쓰일 수 있다고 봤다. 실제 네트워크에서는 기기마다 연산 능력뿐 아니라 통신 속도나 배터리, 채널 상태도 달라 모두에게 같은 학습을 요구하기 어렵다고 설명했다. 앞으로 이런 통신 환경까지 함께 고려한다면, 제한된 자원을 가진 기기도 효율적으로 AI 학습에 참여하는 기술로 발전할 수 있다는 것이다.

후속 연구도 이 방향을 향한다. 지금까지는 주로 기기의 연산 능력 차이에 집중했지만, 실제 무선 환경에서는 통신 채널 상태와 대역폭, 전송 지연, 에너지 같은 제약이 함께 생긴다며, 통신 자원과 연산 자원을 동시에 고려해 어떤 모델 정보를 골라 전송할지를 연구하고 싶다고 밝혔다. 진로에 대해서는 AI와 통신 기술이 결합되는 분야를 계속 공부해, 제한된 자원 안에서 AI를 효율적으로 학습하고 활용하는 기술을 다루는 연구자나 엔지니어가 되고 싶다고 했다.

처음 논문을 쓰는 이들을 향해서는 새로운 아이디어를 만드는 것보다 왜 이 연구가 필요한지를 분명히 설명하는 일이 중요하다고 조언했다. "좋은 아이디어가 있어도 기존 연구와 어떤 차이가 있는지, 실험 결과가 무엇을 의미하는지가 명확하지 않으면 가치를 전달하기 어렵다"며 "처음부터 완벽한 주제를 찾기보다 작은 문제라도 직접 구현하고 실험하면서 질문을 구체화해 나가라"고 권했다.

논문을 쓸 때의 원칙도 소개했다. 결과와 그림, 표를 먼저 정리하면 무엇을 주장할 수 있고 무엇은 주장하기 어려운지가 분명해진다며, 글이 막힐 때는 한 문장을 오래 붙잡기보다 왜 이 문제가 중요한가, 기존 방법에는 어떤 한계가 있는가, 무엇을 제안했는가, 결과가 무엇을 보여주는가의 순서로 흐름을 다시 정리한다고 했다. 연구를 이끌어 준 지도교수에게 고마움을 전한 그는, 독자에게 남기고 싶은 한 문장으로 이렇게 말했다. "좋은 연구는 거창한 아이디어에서 시작되기보다, 당연하게 지나쳤던 문제에 '왜?'라는 질문을 던지는 것에서 시작된다고 생각한다."