마이크로소프트, 초보자를 위한 엣지AI 종합 교육과정 공개..."프라이버시와 실시간 처리 해법 제시"

마이크로소프트가 엣지AI 기초부터 프로덕션 배포까지 다루는 무료 오픈소스 교육과정을 공개했다.

[한국정보기술신문] 마이크로소프트가 엣지 인공지능 기술을 체계적으로 학습할 수 있는 종합 교육과정을 깃허브에 공개했다. 초보자부터 전문가까지 단계별로 학습할 수 있도록 구성된 이번 과정은 클라우드 의존 없이 로컬 디바이스에서 AI 모델을 실행하는 방법을 중점적으로 다룬다.

이번 교육과정은 총 8개 모듈로 구성되며, 완료까지 36시간에서 45시간이 소요된다. 초급 과정부터 고급 과정까지 단계별로 나뉘어 학습자의 수준에 맞춰 선택할 수 있다. 초급 과정은 엣지AI 기초와 소형 언어모델 개념을 다루며 7시간에서 9시간이 소요된다. 중급 과정에서는 모델 배포와 최적화를, 고급 과정에서는 프로덕션 운영과 멀티 플랫폼 배포를 학습한다.

프라이버시와 실시간 처리에 초점

엣지AI는 클라우드 서버가 아닌 데이터가 생성되는 장소에서 직접 AI 알고리즘을 실행하는 기술이다. 이를 통해 네트워크 지연을 제거하고 민감한 데이터를 로컬에서 처리함으로써 프라이버시를 강화할 수 있다. 또한 인터넷 연결 없이도 작동할 수 있어 네트워크 장애 시에도 기능을 유지할 수 있다.

마이크로소프트는 이번 과정을 통해 스마트폰, 라우터, 마이크로컨트롤러, 산업용 PC 등 다양한 엣지 디바이스에서 AI 모델을 실행하는 방법을 제공한다. 파이-4, 미스트랄-7B, 제마와 같은 소형 언어모델을 활용하여 메모리 사용량을 줄이고 빠른 응답 속도를 구현하는 방법을 학습할 수 있다.

50개 이상의 실습 예제와 프로덕션 배포

교육과정에는 50개 이상의 실습 예제가 포함되어 있으며, 8번째 모듈에서는 파운드리 로컬 툴킷을 활용한 10가지 종합 샘플을 제공한다. REST API 기반 채팅 애플리케이션부터 윈도우 11 네이티브 앱, 멀티 에이전트 시스템, RAG 애플리케이션까지 다양한 실전 프로젝트를 경험할 수 있다.

모델 최적화 과정에서는 양자화와 압축 기술을 통해 속도를 85퍼센트 향상시키고 크기를 75퍼센트 줄이는 방법을 다룬다. 윈도우, 모바일, 임베디드 시스템, 클라우드-엣지 하이브리드 환경 등 다양한 플랫폼에 배포하는 기술도 포함되어 있다.

제조·헬스케어·자율주행 등 산업 응용

이 과정은 제조업, 헬스케어, 자율주행차, 스마트시티, 모바일 애플리케이션 등 다양한 산업 분야에 적용할 수 있는 실무 지식을 제공한다. 마이크로소프트와 일본항공 등의 기업 사례 연구도 포함되어 있어 실제 구현 방법을 이해할 수 있다.

교육과정은 한국어를 포함해 40개 이상의 언어로 번역되어 전 세계 개발자들이 접근할 수 있다. 모든 자료는 깃허브 저장소에서 무료로 이용할 수 있으며, 학습 가이드와 자가 평가 도구도 함께 제공된다.

마이크로소프트는 이 외에도 생성형AI, 머신러닝, 데이터과학, 사이버보안, 웹 개발 등 다양한 초보자 교육과정을 운영하고 있다. 엣지AI 과정에 대한 자세한 내용은 깃허브 저장소에서 확인할 수 있으며, 학습 중 질문이 있을 경우 애저 AI 파운드리 디스코드 커뮤니티를 통해 전문가와 개발자들의 지원을 받을 수 있다.

한국정보기술신문 인공지능분과 김주호 기자 news@kitpa.org