AI 디지털 교과서 '편향성'이 교육 불평등 키울 수 있다...2025년 전면 도입 앞두고 국내 연구진 데이터·알고리즘 편향 문제 제기하며 형평성 확보 과제 제시

[한국정보기술신문] 2025년 인공지능(AI) 디지털 교과서(AIDT) 도입을 앞두고, AI 기반 맞춤형 교육이 학습자 사이의 불평등을 오히려 키울 수 있다는 연구 결과가 나왔다. 방준성 와이매틱스(Ymatics) 대표와 이상민 경희대 교수는 학술지 '멀티미디어 언어교육(Multimedia-Assisted Language Learning)' 제27권 4호에 실린 논문 '인공지능 기반 학습자 맞춤형 교육을 위한 형평성과 편향성 연구'에서, 데이터와 알고리즘에 내재된 편향이 교육 형평성을 위협할 수 있다고 지적했다. 형평성이란 모든 학습자가 배경이나 환경에 관계없이 공정한 학습 결과에 이를 수 있도록 돕는 것을 뜻한다.

교육부는 2025년부터 초등학교 3~4학년, 중학교 1학년, 고등학교 1학년을 대상으로 영어, 수학, 정보 과목에 AI 디지털 교과서를 단계적으로 도입할 계획이다. 종이 교과서가 모든 학생에게 똑같은 내용을 전달할 수밖에 없었던 것과 달리, AI 교과서는 개별 학습자의 지식 수준과 흥미, 진로를 고려한 맞춤형·개인화 학습을 제공한다는 점이 가장 큰 장점으로 꼽힌다. 연구진은 이러한 전환이 교육의 오랜 숙원을 실현할 가능성을 열었다고 평가하면서도, 그 이면에 형평성 문제가 존재한다는 점에 주목했다.

논문에 따르면 기존 AI 교육은 모든 학생에게 동일한 콘텐츠와 기회를 제공하는 '평등성(equality)'에 초점을 맞춰 왔다. 반면 개별 학습자의 필요에 따라 자원을 차등 제공하는 '형평성(equity)'은 맞춤형 교육이 본격화되면서 새롭게 부각된 개념이다. 예를 들어 모든 학생에게 같은 교육 자료를 주는 것이 평등성이라면, 학습장애가 있는 학생에게 추가 자원이나 맞춤 자료를 지원해 다른 학생과 비슷한 성과를 낼 수 있게 하는 것이 형평성에 해당한다.

문제는 맞춤형 콘텐츠를 제공하는 과정에서 발생한다. 학생을 성별, 국적, 거주지, 학습 이력 등 여러 속성에 따라 집단으로 나눌 때, 특정 집단이 불리한 처우를 받는 상대적 불평등이 생길 수 있다는 것이다. 특히 AI 모델의 출력은 학습에 사용된 데이터에 좌우되기 때문에, 데이터 자체나 이를 처리하는 알고리즘에 편향이 있으면 그 결과가 교육 현장에 그대로 반영된다.

연구진은 편향의 유형으로 과거의 차별 관행이 반영되는 역사적 편향, 특정 집단이 과대·과소 대표되는 표본 편향, 수집 도구가 특정 집단에 불리하게 작용하는 측정 편향, 알고리즘이 특정 패턴을 강화하는 알고리즘 편향 등을 제시했다.

구체적 사례도 지적됐다. 고소득층 학교는 디지털 학습 도구 접근성이 높아 학습 데이터가 많이 수집되는 반면, 저소득층 학교나 농촌 지역 학생의 데이터는 부족해 이들에 대한 AI의 예측 정확도가 떨어질 수 있다. 이 경우 교사의 적절한 개입이 제때 이뤄지지 못해 해당 학생들이 불이익을 받을 우려가 있다. 연구진은 AIDT가 전국적으로 도입되면 지역 규모와 학습 성취도, 한국어 능력 등 여러 요인에 따른 데이터 편향이 발생할 수 있으며, 특히 인구가 적은 지역 학습자는 표본 부족으로 시스템 정확도가 낮아질 수 있다고 내다봤다.

데이터뿐 아니라 알고리즘을 설계하거나 최적화하는 과정에서도 편향이 생길 수 있다. 모델이 훈련 데이터에만 지나치게 맞춰져 새로운 데이터에 대응하지 못하는 과적합, 특정 목표를 극대화하려다 일부 데이터 특성에 과도하게 집중하는 최적화 등이 대표적이다. 실제로 대규모 온라인 공개강좌(MOOC) 같은 가상학습공간을 분석한 한 연구에서는, 학습 플랫폼이 초기에 준비도와 동기가 높은 선도적 학습자의 행동 패턴을 기준으로 설계된 탓에 이후 유입된 저학력·준비 부족 학습자에게는 적절한 학습 경험을 제공하지 못했다는 결과가 나왔다고 논문은 전했다.

언어교육 분야는 편향의 영향이 더 크다는 점도 강조됐다. 논문은 미국 ETS의 자동 작문 평가 시스템 'E-Rater'가 인간 평가자와 비교해 중국인·한국인 응시자에게는 상대적으로 높은 점수를, 아랍·힌두 학습자에게는 낮은 점수를 부여하는 편향을 보였다는 초기 연구를 소개했다. 이 밖에 게시글의 언어가 영어인지에 따라 학습자 게시물을 불공정하게 자동 분류하거나, 모국어 화자 기준으로 개발된 어휘 지표가 제2언어 학습자에게 불리하게 작용한 사례도 함께 제시됐다. 또 AI가 특정 학생을 저성과자로 분류하면 교사가 덜 도전적인 과제를 주게 되고, 그 결과 학생의 성과가 실제로 낮아져 처음의 분류가 강화되는 '피드백 루프' 현상도 위험 요인으로 지목됐다.

연구진은 편향을 완화할 기술적 방안도 함께 내놨다. 데이터 수집 단계에서 다양한 인종, 성별, 연령, 사회경제적 배경을 포함하고, 무작위 표집 대신 대표성이 부족한 집단을 인위적으로 더 포함하는 '가중치 샘플링'을 활용하는 방식이다. 한부모가정, 탈북자가정 등 소외계층의 데이터를 의도적으로 더 수집하거나 데이터를 늘려 보강하는 방법도 거론됐다.

형평성을 정량적으로 평가할 지표로는 집단 간 모델 성능 차이를 측정하는 ABROCA, 하위 그룹 간 성능 격차를 포착하는 AUC Gap, 모델의 차별적 행동을 분석하는 MADD 등이 제시됐다. 연구진은 인종·성별·지역 등 속성별로 분류된 집단이 동등한 예측 성능을 제공받는지 비교·분석하고, 격차가 기준치를 넘으면 경보가 울리도록 시스템을 설계하는 방안도 제안했다. 비슷한 특성과 학습 이력을 가진 학생들이 유사한 결과를 받는지 살펴보는 방식으로 확장할 수 있다는 것이다.

데이터는 시간이 지나면서 달라지는 만큼, 특정 시점의 데이터만 쓰지 말고 주기적으로 갱신해 사회적 변화와 인구 변동을 반영해야 한다는 점도 제시됐다. 다만 한 집단의 편향을 줄이려고 최신 데이터를 쓰는 것이 다른 집단의 편향을 악화시킬 수 있어, 학습 전에 집단 사이의 형평성을 미리 평가할 필요가 있다고 연구진은 덧붙였다. 편향으로 형평성이 크게 훼손될 경우, 개인화 맞춤형 서비스의 범위를 일정 수준까지만 제공해 부정적 효과를 낮추는 방안도 대안으로 거론됐다.

다만 연구진은 기술적 해법만으로 편향성 문제를 완전히 해결할 수는 없다고 선을 그었다. AI 도구의 효과는 사용자의 활용 방식에 따라 크게 달라지는 만큼 교사의 역할이 중요하다는 것이다. 이들은 교사의 윤리 역량까지 포함한 TPCEK 모형을 소개하며, 이를 기르기 위한 포괄적이고 지속적인 교사 연수가 필요하다고 강조했다.

인터넷 접근성이 낮거나 AI 리터러시가 부족한 학생이 소외되는 'AI 격차(AI divide)'도 새로운 교육 불평등의 원인으로 지목됐다. 연구진은 "AI 격차는 데이터 대표성, 알고리즘 공정성, AI 리터러시 등 훨씬 복잡하고 다층적인 요인으로 구성되기 때문에 기술적 접근뿐 아니라 정책적, 교육적, 윤리적 차원의 종합적 노력이 요구된다"고 밝혔다.

연구진은 "AIDT 도입을 앞두고 현재는 교실 적용과 학습 효과성에 관심이 집중돼 있으나, 편향성 문제는 언제든 일어날 수 있는 만큼 도입 초기부터 기술적·정책적으로 이를 막을 방법을 모색해야 한다"고 제언했다. 다만 이번 연구는 실제 학습자 데이터가 아직 확보되지 않아 실증 분석을 수행하지 못했다는 한계도 함께 밝혔으며, 향후 실제 데이터가 마련되면 형평성을 평가할 지표와 알고리즘 개발이 이어져야 한다고 덧붙였다.