논리적 큐비트를 사각형 격자 구조인 표면 코드로 표현한 그림. 구글에 이어 판젠웨이 중국과학기술대 원사 연구팀은 표면 코드(논리적 큐비트 크기)가 커질수록 오류율을 크게 낮출 수 있는 오류정정 기술 확보에 성공했다고 발표했다. 사진 제공=구글

구글은 지난해 12월 양자프로세서(QPU·양자칩) ‘윌로’를 공개하며 양자컴퓨터 핵심 성능인 ‘오류정정’ 기술 경쟁에 불을 붙였습니다. 오류정정은 양자컴퓨터의 고질적 문제인 계산 오류를 최소화하는 기술이죠. 구글은 윌로가 임곗값 미만의 오류율을 달성한 세계 최초의 오류정정 양자칩이라고 선언했습니다.

같은 달 중국 ‘양자 과학기술의 아버지’ 판젠웨이 중국과학기술대 원사 연구팀은 구글과 동급 성능의 자체 양자칩 ‘주총즈 3.0’을 서둘러 공개하며 경쟁의 서막을 알렸는데요. 판 원사 연구팀은 약 1년이 지난 이달 22일(현지 시간) 구글가 윌로의 전매특허처럼 강조했던 임곗값 미만의 오류율 달성에 주총즈도 성공했다고 국제 학술지 ‘피지컬 리뷰 레터스’에 발표했습니다. 윌로에 맞선 차세대 양자칩 ‘주총즈 3.2’입니다.

양자컴퓨터 기본 연산단위인 큐비트는 입자의 양자 상태를 기반으로 구현되죠. 외부 영향에 취약해서 현재 컴퓨터보다 계산 오류를 일으키기 쉽습니다. 큐비트 수가 늘어날수록 오류 제어가 힘들어져 이 문제가 심각해지죠. 양자컴퓨터 성능이 현재 1000큐비트 이상으로 쉽게 높아지지 못하는 이유입니다.

그래서 ‘논리적 큐비트’ 방식이 쓰이고 있습니다. 여러 큐비트에게 동일한 계산을 맡겨 그 결과를 크로스체크(교차확인)한다는 거죠. 실제 계산에 동원되는 큐비트를 물리적 큐비트, 동일한 계산을 수행하는 이들이 모인 실질적인 계산 단위를 논리적 큐비트라고 합니다. 보통 논리적 큐비트는 물리적 큐비트 여러 개를 사각형 격자 도형인 ‘표면 코드’구조로 묶어서 구현됩니다.

오류를 더 쉽게 걸러내려면, 다시 말해 계산의 크로스체크를 더 잘하려면 논리적 큐비트 하나를 이루는 물리적 큐비트 수를 늘려야 하겠죠. 하지만 큐비트 수가 늘수록 오류 제어가 힘들어진다고도 했죠. 논리적 큐비트 하나를 이루는 물리적 큐비트 수를 늘리면 양자컴퓨터 전체의 큐비트 수가 늘고 이는 오류 제어가 힘들어지는 역효과가 발생한다는 의미입니다.

논리적 큐비트 방식의 양자컴퓨터가 실질적으로 계산 오류를 줄이려면 이 역효과를 잡아야 합니다. 앞서 구글은 물리적 큐비트 자체의 오류율을 일정 수준, 즉 임곗값 아래로 낮춘다면 이들이 모인 논리적 큐비트도 역효과에 따른 오류율 상승을 억제할 수 있다는 아이디어에 착안했고 실제로 구현했습니다. 그게 윌로라고 하고요. 구글은 당시 네이처 논문을 통해 표면 코드(논리적 큐비트) 크기를 3X3격자(물리적 큐비트 17개)→5X5격자(49개)→7X7격자(97개)로 키울 때마다 오류율이 2.14배씩 감소했다고 보고했습니다.

이번 판 원사 연구팀의 피지컬 리뷰 레터스 논문 ‘모든 마이크로파 누설 억제를 통한 표면 코드 임곗값 이하의 양자 오류정정 실험(Experimental Quantum Error Correction below the Surface Code Threshold via All-Microwave Leakage Suppression)’을 보면 1년 전 구글 네이처 논문과 비슷한 표현을 하고 있습니다. 연구팀은 “물리적 (큐비트) 오류율이 임곗값 미만일 경우 표면 코드가 커짐에 따라 (논리적 큐비트) 오류율을 기하급수적으로 억제할 수 있다”며 주총즈 3.2가 윌로처럼 비교적 큰 7X7 표면 코드의 논리적 큐비트에서 충분히 낮은 오류율을 구현했음을 보였습니다.

구글은 올해 10월 윌로에 이어 양자 알고리즘 ‘퀀텀 에코스(양자 메아리)’를 개발·탑재하고 이를 통해 현존 최강의 슈퍼컴퓨터보다 1만 3000배 빠른 실성능을 확인했습니다. 같은 달 주총즈 3.0은 차이나텔레콤의 클라우드 양자컴퓨터 서비스 ‘톈옌’에 연동되며 상용화를 시작했습니다. 미국과 중국은 올해 세계 양자 과학기술의 해를 거치며 내년 더 치열한 양자컴퓨터 경쟁을 예고하고 있습니다.