서울과학고 이승준, 양자컴퓨터로 '고차 포트폴리오' 최적화해 청소년 IT학술대회 금상...큐비트 4배·회로 깊이 161배 줄여 현재 기기서도 동작, 자원 줄이고도 고전 방식 대비 승률 51%

[한국정보기술신문] 서울과학고등학교 이승준 학생이 2026 하계 청소년 IT학술대회에서 금상을 받았다. 수상 논문의 제목은 'Ring XY-Mixer 및 Dicke State 기반 QAOA를 통한 고차 포트폴리오 최적화'다. 여러 자산에 돈을 어떻게 나눠 투자할지를 정하는 문제를, 현재 수준의 양자컴퓨터에서도 실제로 풀 수 있도록 알고리즘을 새로 짠 연구다.

포트폴리오 최적화는 주식이나 채권 같은 여러 자산에 자금을 어떻게 배분할지를 정하는 문제를 말한다. 양자컴퓨터는 큐비트라는 단위로 정보를 다루는 컴퓨터로, 여러 상태를 겹쳐 놓고 계산하는 방식이 특징이다. QAOA는 이런 양자컴퓨터로 최적의 답을 찾는 대표적인 알고리즘 가운데 하나다.

이승준 학생은 원래 물리와 정보 두 분야를 모두 좋아해 두 분야가 만나는 양자정보에 자연스럽게 흥미를 갖게 됐다고 했다. 그는 현재의 양자컴퓨터가 큐비트 수가 적고 오류에 취약한 이른바 NISQ 단계에 있어, 이론적으로 뛰어난 알고리즘이라도 실제 기기에서는 돌리기 어렵다는 점을 알게 됐다고 설명했다. 그래서 지금의 기기에서도 실행할 수 있는 알고리즘에 관심을 갖게 됐고, 그 대표 격인 QAOA를 적용할 분야를 찾던 중 포트폴리오 최적화가 에너지를 가장 낮추는 문제로 자연스럽게 바뀐다는 점에 주목했다.

이 학생이 다룬 것은 '고차' 포트폴리오 최적화다. 그는 지금까지 널리 쓰인 방법이 각 자산의 평균 수익률과 자산들이 둘씩 짝지어 함께 움직이는 정도만 본다고 설명했다. 이 방식은 수익률이 종 모양으로 퍼진다고 가정하는 것과 같아, 드물지만 큰 손실을 주는 극단적인 사건을 제대로 담지 못한다.

이를 보완하려면 자산 세 개나 네 개가 한꺼번에 얽히는 관계까지 따져야 하는데, 그러면 계산할 항의 수가 급격히 늘어 일반 컴퓨터로는 벅차진다. 이승준 학생은 "이 문제는 여러 상태 중 에너지가 가장 낮은 상태를 찾는 문제와 같은 형태로 바꿀 수 있어 양자컴퓨터로 다루기에 적합하다"고 말했다. 다만 지금의 양자컴퓨터는 쓸 수 있는 큐비트 수가 적고 오류에 약해, 기존 방식으로는 필요한 큐비트와 연산이 지나치게 많다는 한계가 있었다.

이승준 학생은 알고리즘을 세 단계로 나눠 이 한계를 넘었다. 먼저 자산을 넣을지 뺄지만 표현하는 방식으로 바꿔, 정보를 압축해 담는 과정에서 생기는 낭비를 없앴다. 그 결과 선행연구와 견줘 큐비트 수는 약 4배, 회로의 깊이는 약 161배 줄일 수 있었다. 회로의 깊이는 연산이 순서대로 쌓인 정도를 뜻하며, 깊을수록 오류가 쌓이기 쉽다.

여기에 회로 구조 자체가 정해진 개수만큼만 자산을 고르도록 보장하는 방식을 결합했다. 규칙을 어기면 벌점을 주는 식이 아니라, 애초에 규칙을 어긴 답이 나오지 않도록 설계한 것이다. 그는 이 덕분에 모든 문제에서 예산 제약을 한 번도 위반하지 않았다고 밝혔다. 이승준 학생은 "이론으로만 성립하는 것이 아니라 현재의 양자컴퓨터에서도 실제로 동작할 가능성이 높다는 점이 가장 큰 차별점"이라고 말했다.

성능 검증에는 미국 다우존스 산업평균지수(DJIA) 30개 종목 가운데 일부를 임의로 골라 과거 10년치 주가 자료로 문제를 만들어 썼다. 계산은 펜니레인이라는 양자 시뮬레이터로 진행했고, 같은 조건에서 선행연구의 방법 및 고전적인 방법과 비교했다.

가장 예상과 달랐던 점은 자원을 줄였는데도 답의 품질이 오히려 좋아진 것이었다. 이승준 학생은 "자원을 줄이면 그만큼 해의 품질도 나빠질 것이라고 생각했는데, 탐색 범위를 규칙을 만족하는 영역으로 한정한 덕분에 자원을 크게 줄이면서도 더 좋은 결과를 얻을 수 있었다"고 말했다. 실제로 고전적인 방식과 견준 승률은 51%로, 선행연구의 39%를 넘어섰다. 자산 수가 늘어도 성능이 안정적으로 유지돼 확장 가능성도 확인했다.

연구에서 가장 어려웠던 순간으로는 처음 잡은 아이디어가 적합하지 않다는 것을 알게 된 때를 꼽았다. 초기에는 다른 기법으로 성능을 개선하려 했지만, 구현해 보니 회로가 지나치게 깊어져 오히려 현재 기기에는 부적합하다는 결론에 이르렀다. 이미 많은 시간을 쓴 뒤였다. 이승준 학생은 기존 아이디어를 보완하는 대신 선행연구를 처음부터 다시 검토하며 어디서 자원이 낭비되는지를 찾는 쪽으로 접근했고, 그 과정에서 변수를 표현하는 방식 자체를 바꾸는 지금의 아이디어를 얻었다. 그는 "해결책을 찾았을 때의 안도감이 컸다"며 그 순간이 가장 기억에 남는다고 했다.

이승준 학생은 이 연구가 당장 양자컴퓨터가 일반 컴퓨터를 대체하는 단계는 아니라는 점을 분명히 했다. 그는 "지금은 실제 기기에서 검증해 볼 수 있는 실용적인 시험 문제를 제공하는 역할이 더 크다"고 말했다. 다만 종목 수를 정해 두고 포트폴리오를 구성하는 문제는 실제 자산운용에서 자주 다뤄지고, 규칙을 회로 수준에서 지키는 방식은 고를 개수가 정해진 다른 최적화 문제에도 쓸 수 있다고 봤다.

처음 논문을 쓰는 이들을 향해서는 결과를 부풀리지 말라고 조언했다. 그는 "특정 조건에서만 확인된 결과를 일반적으로 성립하는 것처럼 쓰거나 한계를 드러내지 않고 넘어가는 경우가 있는데, 검증되지 않은 주장은 결국 심사에서 드러난다"며 "한계를 밝히는 것은 연구의 가치를 떨어뜨리는 일이 아니라 어디까지가 자신의 기여인지를 분명히 하는 일"이라고 말했다.

논문을 읽을 때 지키는 자신만의 순서도 소개했다. 처음부터 차례로 읽기보다 초록과 결론을 먼저 읽어 무엇을 주장하는지 파악한 뒤, 각 절의 소제목과 결론으로 전체 구조를 잡고, 그림과 표를 중심으로 비어 있는 세부 내용을 채워 나간다는 것이다. 그는 읽은 내용을 요약한다는 마음으로 태블릿에 직접 필기하는데, 중간에 공백이 생겨 잊은 부분을 되짚는 데 큰 도움이 됐다고 했다.

앞으로는 잡음이 어느 정도 있는 상황에서도 더 좋은 답을 얻는 알고리즘을 고안해 보고 싶다고 했다. 이번 연구가 자원을 줄여 잡음을 피하는 방향이었다면, 다음 단계는 잡음이 있다는 것을 전제로 그 안에서 해의 품질을 높이는 방향이라는 것이다. 그는 최근 양자컴퓨터가 오류를 그대로 안고 계산하던 단계에서 오류를 일부 바로잡는 단계로 넘어가고 있는 흐름을 배경으로 들었다. 진로에 대해서는 물리학을 바탕으로 양자정보를 더 깊이 연구하고 싶다고 밝혔다. 그는 알고리즘 설계만으로도 현재 기기에서 할 수 있는 일이 크게 달라지지만, 결국 하드웨어의 한계가 알고리즘이 도달할 수 있는 범위를 정한다는 것도 느꼈다며, 알고리즘과 하드웨어를 함께 다룰 수 있는 연구자가 되고 싶다고 말했다. 그는 함께 준비해 준 지도교사에게 고마움을 전하며, 독자에게 남기고 싶은 한 문장으로 이렇게 말했다. "과장하지 않은 결과만이 후속 연구의 씨앗이 될 수 있다고 생각한다."