큐비트 대신 큐디트로 만든 양자 신경망,
실제 이온 프로세서에서 95.7% 정확도 달성
최근 양자 머신러닝에서는 더 많은 큐비트를 추가하는 대신, 하나의 양자 시스템이 더 많은 상태를 표현하도록 만드는 방법이 주목받고 있다. 중국과학기술대 연구진은 이 아이디어를 바탕으로, 여러 에너지 준위를 활용하는 큐디트(qudit) 기반 양자 신경망을 실제 이온 프로세서에서 구현했다.
연구진은 포획한 칼슘 이온 하나를 이용해 의류 이미지를 분류하는 양자 신경망을 만들었고, 고전적 컴퓨터와 양자 프로세서를 함께 사용하는 역전파 학습을 적용했다. 그 결과, Fashion-MNIST의 바지와 풀오버 이미지를 분류하는 테스트에서 95.7%의 정확도를 얻었다.
다만 이 결과는 대규모 양자 인공지능의 실용화를 입증한 것은 아니다. 학습 데이터가 매우 작고, 이미지도 네 개의 숫자로 압축한 뒤 사용했다. 이 연구의 중요한 의미는 성능 경쟁 자체보다, 큐디트 하드웨어에서 양자 신경망을 학습시키는 전체 과정을 실험적으로 보여줬다는 데 있다.
큐비트가 아니라 큐디트란 무엇인가
현재 양자컴퓨팅의 기본 단위로 가장 널리 알려진 것은 큐비트다. 큐비트는 0과 1에 해당하는 두 상태의 중첩을 이용한다. 반면 큐디트는 두 개보다 많은 상태를 하나의 양자 단위 안에서 활용하는 시스템이다.
예를 들어 한 큐디트가 네 개의 상태를 사용할 수 있다면, 이론적으로는 한 번에 네 차원의 상태 공간을 다룰 수 있다. 큐비트만 사용할 때 같은 차원을 표현하려면 여러 개의 큐비트가 필요하다.
큐디트의 상태 수를 d, 큐디트의 개수를 n이라고 하면, 이상적인 상태 공간의 차원은 dⁿ으로 확장된다. 따라서 큐디트는 같은 물리적 구성 요소 수로 더 큰 상태 공간을 제공할 가능성이 있다. 연구진이 주목한 지점도 바로 이 부분이다. 프로세서의 규모를 크게 늘리지 않고도 양자 신경망의 표현력을 높일 수 있는가라는 질문이다.
연구진이 만든 양자 신경망의 구조
이번 연구의 양자 신경망은 크게 세 단계로 구성된다.
첫째, 입력 데이터를 양자 상태로 변환한다. 연구진은 입력 벡터를 양자 상태의 진폭에 대응시키는 진폭 인코딩(amplitude encoding)을 사용했다. 입력 벡터의 각 성분은 큐디트의 서로 다른 에너지 준위에 분배된다.
둘째, 학습 가능한 파라미터화 양자 회로를 통과시킨다. 이 회로는 인접한 에너지 준위 사이의 전이를 조절하는 회전 연산들로 구성된다. 회로의 파라미터가 바뀌면 입력 상태의 진폭 분포도 달라지고, 그 결과 분류에 사용되는 출력값이 달라진다.
셋째, 출력 상태를 측정해 각 분류 항목의 확률을 계산한다. 이번 실험에서는 두 개의 출력 준위가 각각 ‘바지’와 ‘풀오버’에 해당하도록 설계했다. 출력값에는 소프트맥스 함수를 적용하고, 정답과 예측의 차이는 교차 엔트로피 손실로 평가했다.
양자 회로에도 역전파를 적용할 수 있을까
일반적인 인공신경망은 역전파를 이용해 각 가중치가 손실 함수에 얼마나 영향을 주는지 계산한다. 연구진은 이 아이디어를 큐디트 양자 회로에 맞게 변형했다.
전체 회로를 여러 개의 작은 하위 회로로 나눈 뒤, 먼저 양자 프로세서에서 각 하위 회로의 중간 상태를 측정한다. 그다음 고전적 컴퓨터에서 출력 오차를 뒤쪽 하위 회로에서 앞쪽 하위 회로로 전달하며 각 파라미터의 기울기를 계산한다. 계산된 기울기를 이용해 양자 회로의 파라미터를 경사하강법으로 업데이트한다.
즉, 이번 방식은 완전히 양자적인 학습이 아니다. 양자 프로세서는 상태를 준비하고 측정하며, 고전적 컴퓨터는 손실 계산과 기울기 업데이트를 담당하는 하이브리드 구조다. 현재의 소규모·오류가 있는 양자 장치에서 현실적으로 시도할 수 있는 접근이라는 점이 특징이다.
실험에는 칼슘 이온 하나를 사용했다
실험 장치는 선형 폴 트랩에 가둔 ⁴⁰Ca⁺ 이온 하나였다. 연구진은 이온의 여러 내부 에너지 준위를 이용해 네 차원의 입력 큐디트와 보조 준위를 구성했다.
729나노미터 레이저를 이용해 서로 다른 준위 사이의 전이를 제어했고, 단일 큐디트 전이 연산의 충실도는 99%를 넘었다. 입력과 출력의 진폭은 이온의 준위 점유율을 측정해 얻었으며, 진폭의 부호는 보조 준위와의 간섭을 이용해 판별했다.
실험 과정에서는 상태를 여러 번 반복 측정해야 했다. 연구진은 준위의 점유율을 측정할 때 1,500회, 진폭의 부호를 측정할 때 각 600회의 측정 샷을 사용했다. 이처럼 반복 측정이 필요한 이유는 양자 상태를 한 번의 실험으로 완전히 읽어낼 수 없기 때문이다.
Fashion-MNIST 이미지를 네 개의 숫자로 압축
성능 검증에는 널리 사용되는 Fashion-MNIST 데이터셋을 활용했다. 원본 이미지는 가로·세로 각각 28픽셀인 흑백 이미지지만, 이번 실험에서는 이를 그대로 양자 회로에 입력하지 않았다.
연구진은 주성분 분석(PCA)을 사용해 각 이미지를 네 개의 성분으로 줄였다. 이 네 개의 값이 4차원 큐디트의 입력 벡터가 된다. 네 개의 주성분은 학습 데이터가 가진 설명 가능한 변동의 73.69%를 보존했다.
분류 대상은 전체 의류 분류 문제가 아니라 바지와 풀오버 두 종류였다. 학습에는 바지 15장과 풀오버 15장, 총 30개의 샘플만 사용했다. 테스트 세트는 이온 손실로 측정할 수 없었던 샘플을 제외하고 바지 197장과 풀오버 198장, 총 395장으로 구성됐다.
이 설정은 실험을 단순화하는 데 도움이 되지만, 동시에 결과를 해석할 때 중요한 제한 조건이 된다. 28×28 원본 이미지를 직접 처리한 것이 아니며, 두 종류의 의류만 구분했기 때문이다.
학습 전 45.6%에서 학습 후 95.7%로 향상
학습 전 실험에서 테스트 정확도는 45.6%였다. 두 클래스를 무작위로 구분할 때의 수준과 크게 다르지 않은 결과다. 13번의 학습 에포크를 거친 뒤 정확도는 95.7%로 향상됐다.
연구진이 실험에서 얻은 파라미터를 사용한 잡음 없는 수치 시뮬레이션에서는 테스트 정확도가 96.7%였다. 실제 실험과 시뮬레이션 사이의 차이는 주로 환경 자기장 잡음과 유한한 측정 횟수에서 비롯된 것으로 분석됐다.
비교 결과만 보면 선형 SVM이 97.2%로 가장 높았다. 따라서 이번 연구가 고전 머신러닝보다 우월한 성능을 증명했다고 말하기는 어렵다. 연구진도 이 실험을 작은 규모의 개념 증명으로 제시했다.
그럼에도 실험적 의미는 분명하다. 단일 큐디트가 실제 양자 장치에서 데이터를 받아 처리하고, 측정 결과를 바탕으로 역전파 학습을 거쳐 분류 성능을 높일 수 있음을 확인했기 때문이다.
이 연구에서 가장 중요한 세 가지 포인트
1. 큐디트는 하드웨어 자원을 늘리는 다른 방법을 제시한다
양자 신경망의 규모를 키우는 전통적인 방법은 큐비트를 더 추가하는 것이다. 하지만 큐디트 접근법은 하나의 물리적 시스템에서 더 많은 준위를 활용한다. 이는 장치의 수를 크게 늘리지 않고도 더 높은 차원의 상태 공간을 이용할 수 있는 가능성을 보여준다.
2. 양자 신경망의 병목은 회로 설계뿐 아니라 학습 과정에도 있다
좋은 양자 회로를 설계하는 것만으로는 충분하지 않다. 회로의 파라미터를 실제 장치에서 안정적으로 학습해야 한다. 이번 연구는 중간 상태를 측정하고 고전적으로 기울기를 계산하는 역전파 절차를 큐디트 회로에 적용했다는 점에서 의미가 있다.
3. 작은 실험이지만 확장 방향이 비교적 분명하다
현재 구현은 큐디트 하나와 두 개의 분류 항목을 사용했다. 연구진은 향후 여러 큐디트를 결합한 구조로 확장할 수 있다고 본다. 또한 양자 회로 안에 비선형성을 도입하면 더 깊고 표현력 있는 네트워크를 만들 수 있다.
아직 해결해야 할 과제
이번 결과를 실용적인 양자 인공지능으로 확대하려면 몇 가지 문제가 남아 있다.
먼저 입력 데이터의 규모가 작다. 원본 이미지를 네 개의 값으로 압축했기 때문에, 복잡한 시각적 특징을 얼마나 보존했는지는 제한적으로만 검증됐다. 더 많은 입력 차원과 더 많은 분류 항목을 처리하려면 큐디트의 준위 수나 큐디트 개수를 늘려야 한다.
둘째, 측정 비용이 크다. 역전파에 필요한 중간 상태와 출력 상태를 얻으려면 같은 회로를 여러 번 반복 실행해야 한다. 양자 시스템의 측정 잡음이 커질수록 더 많은 샷이 필요할 수 있다.
셋째, 실험 환경의 잡음이 결과에 영향을 준다. 이번 연구에서는 환경 자기장 변화와 측정 통계 오차가 수치 시뮬레이션과 실험 결과의 차이를 만들었다. 더 큰 네트워크에서는 이러한 오차가 누적될 가능성도 고려해야 한다.
마지막으로, 이번 연구의 성능이 큐디트만의 장점에서 비롯됐는지를 판단하려면 더 다양한 데이터셋과 동일한 자원 조건에서의 체계적인 비교가 필요하다. 현재 결과는 ‘큐디트 기반 양자 신경망이 작동한다’는 점을 보여주지만, ‘큐디트가 항상 더 낫다’는 결론까지 뒷받침하지는 않는다.
결론: 성능보다 구현 가능성을 보여준 실험
이번 연구는 큐디트의 여러 에너지 준위를 이용해 양자 신경망을 구성하고, 실제 포획 이온 프로세서에서 역전파 학습을 수행한 실험이다. 단일 ⁴⁰Ca⁺ 이온으로 만든 4차원 큐디트는 30개의 학습 샘플을 사용해 바지와 풀오버를 분류했고, 395개 테스트 샘플에서 95.7%의 정확도를 기록했다.
이 결과는 고전적 분류기보다 뛰어난 성능을 보여준 사례는 아니다. 대신 제한된 물리 자원 안에서 큐디트의 높은 차원성을 활용하고, 양자 회로를 실제 측정 데이터로 학습시킬 수 있다는 가능성을 실험으로 제시했다.
앞으로 여러 큐디트를 연결하고, 더 큰 데이터와 더 복잡한 네트워크를 처리하며, 측정 비용과 잡음을 줄이는 기술이 발전한다면 큐디트 기반 양자 머신러닝은 현재의 큐비트 중심 접근을 보완하는 하나의 경로가 될 수 있다.
한 줄 요약: 큐비트를 더 많이 추가하는 대신 하나의 큐디트가 가진 여러 양자 상태를 활용해, 실제 이온 프로세서에서 학습 가능한 양자 신경망을 구현한 연구다.
용어 정리
•큐비트(qubit): 0과 1에 해당하는 두 상태를 이용하는 양자 정보의 기본 단위
•큐디트(qudit): 두 개보다 많은 양자 상태를 이용하는 양자 정보 단위
•양자 신경망(QNN): 파라미터화된 양자 회로를 신경망처럼 사용해 입력을 변환하고 분류 또는 예측을 수행하는 모델
•파라미터화 양자 회로(PQC): 회전각 등 조정 가능한 파라미터를 가진 양자 회로
•역전파(backpropagation): 출력 오차를 회로의 뒤쪽에서 앞쪽으로 전달하며 각 파라미터의 기울기를 계산하는 학습 방법
•Fashion-MNIST: 의류 이미지를 담은 대표적인 이미지 분류 데이터셋
