1월 18일 내란 우두머리 혐의로 체포된 윤석열 전 대통령이 출석한 가운데 구속 전 피의자심문(영장실질심사)이 열린 서울 마포구 서울서부지법에서 윤 전 대통령 지지자들이 법원 담장을 넘으려 시도하고 있다. 사진=공동취재단

‘나쁜 수단은 그 장본인들이 자신들의 명제의 설득력을 스스로 믿지 못한다는 것을 증명한다.’

양자역학 이론을 세운 베르너 하이젠베르크는 대표 저서 ‘부분과 전체’에 이렇게 썼습니다. 알베르트 아인슈타인의 강연장에서 상대성이론을 폄훼하는 쪽지를 돌리며 여론몰이를 하던 어느 ‘명망 높은 물리학자’를 목격한 하이젠베르크는 ‘수단이 비열하고 객관성을 상실한 걸 보면 이 반대자는 상대성이론을 과학적 논지로 반박할 수 있다고 생각하지 않는 것이 틀림없었다’고 했습니다.

하이젠베르크의 일화를 들은 닐스 보어도 ‘영국에서는 패배를 깨끗하게 인정하는 것이 가장 고상한 덕목 중 하나’라며 ‘패배를 깨끗이 인정하고 감수하면서 승자에게 너그러운 태도를 보이는 패자를 존경한다’고 했다죠. 이론과 증명으로 겨루고 그 결과에서 밀리면 승복하는 게 과학의 미덕이라는 거죠.

승복의 미덕은 양자역학에 특히 필요했습니다. 입자가 여러 상태에 확률적으로 동시에 존재할 수 있고 그 상태가 인간의 관측 여부에 따라 바뀐다고 말하는 양자역학은 당시는 물론 지금의 상식으로도 이해할 수 없고 단지 있는 그대로 받아들여야만 했던 실험적 사실이었으니까요. 직관을 거슬러 이를 받아들인 두 사람은 오늘날 양자역학 이론을 세웠습니다. 이들이 양자역학과 양자컴퓨터 산업을 있게 했다고 말해도 과언이 아닌거죠.

베르너 하이젠베르크. 사진=노벨재단

◇ 직관 버리고 사실에 승복한 하이젠베르크, 양자역학 100년사를 열다

올해는 양자역학 100주년을 기념하는 유엔(UN) 지정 ‘세계 양자 과학기술의 해’, 하이젠베르크는 그 100년사의 시작을 장식하는 인물입니다.

하이젠베르크는 서두의 일화처럼 ‘수단’에 집착한 과학자였습니다. 아직 양자역학이란 게 정립되기 전 원자에 대해 무지했던 20세기 초 그는 원자의 위치와 속도에 대해 말할 수 없다고 주장했습니다. 퀀텀점프 연재 1편으로 되돌아가보면 역학은 물체의 움직임을 계산하는 학문이고 그 움직임은 위치와 속도로 이뤄진다고 했죠. 달도, 골프공도, 눈에 보이지 않는 세포도 모두 위치와 속도를 갖고 움직입니다. 원자 역시 크기가 더 작은 물체인 뿐인데도 하이젠베르크는 위치와 속도 개념을 배제한 채 일상의 물체와 완전히 다른 방식으로 원자 이론을 세워야 한다고 본 것입니다.

원자 내 전자가 궤도를 이동하면서 에너지를 방출하는 모습을 설명한 그림. 위키

당시 원자의 존재를 느낄 수 있는 방법은 원자가 방출하는 에너지 정도였습니다. 원자가 에너지를 방출하는 원리는 지난 편에서 퀀텀점프(양자도약) 현상과 에너지 준위와 함께 설명했죠. 반면 원자는 내부 중심에 원자핵이 있고 주변을 전자가 도는 형태라는데 실제로 원자나 전자의 위치나 속도를 측정할 수는 없었습니다. 실체가 확인 안 된 추상적 개념을 버리고 측정 가능한 물리량만을 수단으로 삼아 이론을 세워야 한다는 게 하이젠베르크의 생각이었습니다.

이 같은 접근법은 결과적으로 성공했습니다. 100년 전인 1925년 하이젠베르크는 행렬역학을 창시했습니다. 행렬은 고등학교 수학시간에 배웠던 기억이 있을텐데요. 여러 숫자들의 행과 열로 이뤄져 복잡한 방법으로 곱셈을 하는 그 행렬로 표현되는 방정식이 행렬역학입니다. 입자의 위치 계산은 ‘위치 연산자’라는 행렬과 실제 해당 입자에게 주어진 조건을 반영하는 ‘상태벡터’라는 행렬을 서로 곱해 고윳값이라는 양을 구하는 식으로 이뤄집니다. 에너지를 계산하고 싶으면 ‘에너지 연산자’ 행렬을 대입해 에너지 고윳값을 구하고요.

1년 뒤인 1926년 나온 슈뢰딩거 방정식, 그러니까 에르빈 슈뢰딩거가 입자의 확률 분포를 계산할 수 있게 만든 ‘파동역학’ 방정식도 복잡하다지만 난해함으로는 행렬역학이 ‘한 수 위’였습니다. 파동역학은 입자의 확률 분포를 음파·물결파 같은 파동으로 상정해 그나마 직관적으로 이해할 수 있죠. 행렬역학과 파동역학은 형식과 계산법이 다르지만 결국 같은 양자역학 현상을 설명하는 대등한 이론으로 평가받습니다. 1932년 하이젠베르크, 1933년 슈뢰딩거가 나란히 노벨 물리학상을 받았죠.

대중에 더 알려진 하이젠베르크의 업적은 ‘불확정성 원리’입니다. 그동안 무시했던 관측 자체가 입자에 영향을 미치는 변수라는 사실을 깨닫고 이를 통해 입자의 위치나 속도를 정확히 아는 것은 근본적으로 불가능하다는 이치를 처음으로 발견한 이가 하이젠베르크입니다. 그 규칙이 불확정성 원리고요.

불확정성 원리. 위키

식으로 보면 관측되는 위치가 모호한 정도(σx)와 운동량(속도과 관련된 양)이 모호한 정도(σp)의 곱이 어떤 작은 숫자(ħ/2)보다 작아질 수 없다는 것을 알 수 있습니다. 둘 중 하나라도 0이 되면 둘의 곱이 0이 돼서 부등식에 어긋납니다. 둘 모두 0까지 줄어들 수는 없다, 즉 위치와 운동량의 모호함이 완전히 사라질 수 없다는 의미입니다. 만약 위치가 조금의 모호함도 없이 한 점으로 특정된다면 σx는 0이 되고 수학적으로 부등식을 만족하려면 운동량, 나아가 속도가 무한대가 돼야 하는데 이는 말도 안 되는 일이죠.

여기서 주목할 건 불확정성이 단순히 ‘모호한 성질’을 말하는 게 아니라 ‘정확히 얼마나 모호하다’고 계산할 수 있는 양이라는 것입니다. 불확정성 원리는 우리가 단순히 입자의 상태를 모른다는 게 아니라 얼마나 모르는지, 그래서 동시에 얼마나 알 수 있는지를 알려주는 일종의 메타인지 도구인 셈이죠.

이런 메타인지 도구는 오늘날 양자컴퓨터에도 중요합니다. 양자컴퓨터 기업들이 자사 기술의 성능을 소개할 때 종종 ‘코히어런스 시간’을 언급합니다. 쉽게 말하면 큐비트의 유지 시간입니다. 큐비트는 0과 1의 양자중첩, 즉 0인지 1인지 모르는 모호한 상태고 이 모호함을 의도적으로 유지해야 양자컴퓨터가 정확한 계산을 할 수 있기에 이 지표를 향상시키는 게 기술력 경쟁의 관건입니다.