한양대 정기원, AI로 '한 결함 두 얼굴' 밝혀 대학생 IT논문경진대회 금상...같은 산소 빈자리가 D램엔 누설·양자컴퓨터엔 정보 붕괴, 큐빗은 D램보다 3000배 깨끗한 절연막 요구

[한국정보기술신문] 한양대학교 화학과 정기원 연구자가 2026 하계 대학생 IT논문경진대회 AI융합응용 트랙에서 금상을 받았다. 수상 논문의 제목은 '머신러닝 기반 HfO₂·HZO 게이트 절연막의 산소공공·도펀트 유발 트랩 보조 터널링 누설 예측'이다. 반도체 안에 들어가는 얇은 절연막에서 전기가 새어 나가는 정도를, 인공지능(AI)이 찾아낸 짧은 수식 하나로 예측한 연구다. 연구자는 이 수식을 성격이 전혀 다른 두 장치에 적용해, 같은 결함이라도 견딜 수 있는 한계가 크게 다르다는 점을 숫자로 보였다.

게이트 절연막은 반도체 소자에서 전류를 막아 주는 아주 얇은 막을 말한다. 이 막을 만들다 보면 산소 원자가 한두 개 빠진 자리, 이른바 산소공공이 생긴다. 연구자는 이 빈자리를 두고 "전자가 잠깐 머물다 가는 징검다리 역할을 하면서, 막아야 할 전기가 조금씩 새어 나가게 된다"고 설명했다. 전기가 이렇게 새는 현상을 트랩 보조 터널링이라고 부른다. 도펀트는 성질을 바꾸기 위해 일부러 넣는 다른 원소를 뜻한다.

이 연구의 핵심은 똑같은 산소 빈자리 하나가 어디에 쓰이느냐에 따라 전혀 다른 문제가 된다는 데 있다. 연구자는 이를 '한 결함, 두 얼굴'이라고 표현했다.

한쪽은 스마트폰과 AI 서버에 들어가는 D램 메모리다. 다른 한쪽은 양자컴퓨터의 실리콘 큐빗이다. 큐빗은 양자컴퓨터가 정보를 다루는 최소 단위로, 아주 작은 잡음에도 정보가 쉽게 무너진다. 정 연구자가 만든 수식으로 두 장치를 견줘 보니, 양자컴퓨터 큐빗은 D램에 비해 3000배 이상, 자릿수로 따지면 3.5자릿수나 더 깨끗한 절연막을 요구했다. 연구자는 "똑같은 산소 빈자리 하나가 한쪽에서는 전기가 조금 새는 문제로 끝나지만, 다른 쪽에서는 양자 정보가 무너지는 문제가 된다"고 말했다.

숫자로 보면 D램은 세제곱센티미터당 $10^{18}$개 정도의 결함까지 견디는 반면, 실리콘 스핀 큐빗은 $3 \times 10^{14}$개 정도에서 이미 정보의 결이 흐트러지기 시작한다. 그는 "메모리에 충분히 좋은 절연막이라고 해서 양자컴퓨터에도 충분히 좋은 절연막은 아니라는 뜻"이라고 정리했다.

연구자rㅏ 찾아낸 것은 복잡한 인공지능 모델이 아니라 항이 네 개뿐인 짧은 수식이다. 그는 "머신러닝의 결과물이 정체를 알 수 없는 예측값이 아니라, 밴드갭이나 도펀트의 크기, 전하 상태 같은 화학 정보로 이루어진 수식이라서 어떤 원소를 왜 넣어야 하는지가 식만 봐도 보인다"고 설명했다. 밴드갭은 물질이 전기를 얼마나 잘 통하는지를 가르는 에너지 간격을 뜻한다.

이 수식은 교차검증에서 결정계수 0.876을 기록했다. 결정계수는 예측이 실제 값에 얼마나 들어맞는지를 0에서 1 사이로 나타내는 지표로, 1에 가까울수록 정확하다는 의미다. 연구자는 정답을 무작위로 뒤섞어 다시 학습시키면 성능이 0 아래로 무너진다는 점을 들어 "우연히 맞은 것이 아니다"라고 밝혔다. 그는 예측이 문헌 안에서만 맴돌지 않도록, 원자 95개짜리 결정 구조를 직접 계산한 13개 사례로 따로 검증까지 거쳤다.

연구는 1인 연구로 약 4개월이 걸렸다. 연구자는 가장 어려웠던 순간으로 모델을 키울수록 성능이 오히려 나빠지던 3주를 꼽았다. 처음에는 딥러닝 구조를 직접 설계했지만, 두 종류의 결함을 함께 학습시킨 신경망과 물리 법칙을 넣은 신경망 모두 성능이 좋지 않았다. 오히려 선형 회귀 한 줄이 더 나은 결과를 냈다.

원인은 단순했다. 학습에 쓸 데이터가 33건뿐인데 모델이 지나치게 컸던 것이다. 그는 "데이터가 수십 건밖에 없는데 딥러닝을 쓰면 거의 확실하게 진다"며 "데이터 규모에 맞는 방법을 고르는 것도 실력"이라고 말했다. 방향을 바꿔 모델을 키우는 대신 수식 자체를 찾게 하자, 짧은 네 개 항짜리 식이 특징 14개를 쓴 복잡한 모델을 앞섰다.

연구자는 실패한 시도를 전부 기록해 둔 것이 연구의 뼈대가 됐다고 했다. 무엇을 시도했고 결과가 어땠으며 왜 실패했는지를 남긴 기록이 3개월 동안 50건 쌓였다. 그는 "같은 실수를 반복하지 않는 효과도 있었지만, 나중에 방법론을 쓸 때 이 방법은 왜 안 썼냐는 질문에 숫자로 답할 수 있었던 점이 더 컸다"고 말했다.

기억에 남는 발견도 있었다. 자신이 직접 계산한 결과를 학습 데이터에 넣었더니 성능이 0.82에서 0.58로 떨어진 것이다. 연구자는 그 값이 학습 범위 밖에 있기 때문이라는 것까지 확인한 뒤, 이 데이터는 검증에만 쓴다고 논문에 그대로 적었다.

연구자는 이 연구가 산업 현장에서 실험 전에 후보를 줄이는 용도로 쓰일 수 있다고 봤다. 절연막에 넣을 도펀트 후보를 실제로 만들어 평가하려면 조건마다 시간과 비용이 드는데, 이 수식은 화학 정보만으로 결함이 깊어질지 얕아질지 순위를 매겨 준다는 것이다. 그는 "SK하이닉스의 1c급 D램이나 삼성의 2나노 로직처럼 절연막이 한계까지 얇아진 공정에서는 누설이 곧 소비전력이나 데이터 보존 시간으로 이어진다"며 이렇게 미리 걸러 보는 작업의 가치를 강조했다.

다만 그는 이 연구가 문헌 데이터 33건과 근사 계산에 기반한 개념 증명 단계라는 점을 분명히 했다. 연구자는 "실제 공정에 바로 적용할 수 있는 단계는 아니고 실험 측정과의 대조가 반드시 필요하다"며, 심사에서 지적받은 뒤 최종본에서는 즉시 적용이라는 표현을 개념 증명으로 스스로 낮춰 적었다고 밝혔다.

연구자는 처음 논문을 쓰는 이들이 흔히 하는 실수로 결과를 키우는 데만 매달리는 점을 들었다. 그는 "심사위원은 얼마나 대단한 결과인가만 보지 않고 이 결과를 믿어도 되는가를 함께 본다"며 "결과를 키우는 것보다 근거를 단단히 하는 데 시간을 쓰라"고 조언했다. 결과가 잘 나왔을 때도 정답을 뒤섞어 보거나 데이터를 조금 바꿔 보며 우연이 아닌지 확인하라는 것이다.

수상 소식을 접했을 때의 심경을 묻자 그는 잠시 휴식을 취하던 중이었다며 "앞으로 성취해 나가야 할 것들의 빙산의 일각일 뿐이지만, 잘 걸어 나가고 있음을 느꼈다"고 답했다. 고마운 사람으로는 부모님을 꼽았다. 그는 묵묵히 응원해 주신 부모님께 "아들이 잘 성장하고 있다는 것을 보여드린 것 같아 뿌듯하다"고 전했다.

앞으로의 계획으로는 계산의 정밀도를 높이고 데이터를 늘리는 일을 꼽았다. 학부생으로 참여 중인 연구에서 실리콘 기반 큐빗의 잡음 데이터를 다루며, 잡음의 원인이 되는 결함이 소자 안 어디에 있는지를 되짚는 방향을 이어 가고 있다고 했다. 그는 재료를 다루는 화학과 소자를 다루는 물리 사이를 잇는 사람이 되고 싶다며, 독자에게 남기고 싶은 한 문장으로 이렇게 말했다. "AI를 도구로 적극 활용하는 것과 시도한 것을 빠짐없이 기록하는 습관, 이 두 가지를 강조하고 싶다. 실패한 시도까지 전부 남겨 뒀는데, 결국 그 기록이 논문의 뼈대가 됐다."