수식 없이 단숨에 이해하는 최소한의 양자컴퓨터

수식 없이 단숨에 이해하는 최소한의 양자컴퓨터

후지이 게이스케 지음

부키 / 2026년 10월 / 296쪽 / 21,000원





제1장 양자역학 100년사



세상을 구성하는 것

고대 그리스의 철학자 데모크리토스는 모든 물질이 ‘원자’라는 더 이상 쪼갤 수 없는 최소 단위로 이뤄져 있으며, 세계는 크게 물질과 빛 두 가지로 구성되어 있다는 아이디어를 제시했다. 물질과 빛은 언뜻 전혀 다른 성질을 지닌 것처럼 보이지만, 미시 세계에서의 움직임에 주목하면 빛은 입자처럼 행동하기도 하고 전자 등의 입자는 파동처럼 행동하기도 하는 놀라운 공통점이 있다. 이렇게 입자와 파동의 성질을 함께 지닌 것을 ‘양자’라고 하며, 이 이중성을 기반으로 미시 세계를 통일적으로 설명하는 가장 기본적인 물리 법칙이 20세기 초에 탄생한 ‘양자역학’이다. 양자역학의 흐름은 20세기 초부터 1930년대까지의 ‘성장기’, 1980년대까지의 ‘제1차 양자 혁명기’, 1990년대부터 현재에 이르는 ‘제2차 양자 혁명기’라는 세 가지 단계로 나눌 수 있다.

사회를 바꾼 물리학 / 양자역학의 아버지 막스 플랑크

양자역학의 탄생은 공업 분야와 깊이 관련되어 있다. 온도를 지닌 모든 물질이 전자기파를 방출하는 ‘열복사’ 현상에서 온도와 파장의 관계를 이해하는 것은 제철 등 산업 발전에 매우 중요한 문제였다. 1900년 독일의 물리학자 막스 플랑크는 당시 상식이었던 ‘빛의 강도(전자기파의 에너지)가 연속적인 값을 가진다’라는 생각을 버렸다. 이는 공원에 있는 미끄럼틀의 경사면을 모두 계단으로 만드는 것만큼이나 당시의 상식으로 보면 엄청난 사고의 전환이었다. 그는 전자기파가 아주 작은 에너지를 지닌 알갱이(에너지 양자)의 모임이기 때문에 그 에너지가 하나, 둘과 같이 떨어진 이산적인 단위로만 변화한다는 ‘에너지 양자 가설’을 제창했고, 이를 바탕으로 도출한 ‘플랑크 공식’으로 모든 파장 영역의 실험 결과를 설명하는 데 성공했다.

아인슈타인이 발견한 ‘빛’의 비밀 / 불꽃 반응의 수수께끼

1905년 알베르트 아인슈타인은 금속에 빛을 쪼이면 전자가 튀어나오는 ‘광전 효과’를 설명하기 위해, 전자기파가 에너지 양자를 지닌 입자인 ‘광자’로 구성되어 있다는 광양자 가설을 발표했다. 아무리 강한 빛이라도 파장이 길면(진동수가 작으면) 전자가 방출되지 않고, 약한 빛이라도 특정 파장보다 짧은 빛을 쪼여야 광자 하나의 에너지가 전자를 떼어 낼 수 있다는 사실을 밝혀내 플랑크의 가설을 뒷받침했다. 이어 1913년 닐스 보어는 에너지가 이산적으로 변화한다는 양자화 조건을 이용해 ‘원자 구조의 안정성’을 설명했다. 리튬이나 나트륨을 불에 넣었을 때 특정 색의 빛만 방출하는 불꽃 반응은, 전자가 정해진 이산적인 궤도만을 돌며 두 궤도 사이를 이동할 때 그 차이에 해당하는 에너지를 빛으로 방출하기 때문에 나타나는 현상이다.

파동과 입자의 이중성 / 두 명의 천재 물리학자

고전역학이나 전자기학에 따르면 양성자 주위를 회전하는 전자는 전자기파를 방출해 에너지를 잃고 결국 양성자에 달라붙어 버려야 한다. 보어는 전자의 회전도 양자화된다는 가설로 이를 해결했고, 이후 루이 드 브로이는 전자 같은 입자도 파동의 성질을 지닌다고 생각하여 전자가 파동으로서 자기 자신과 정확히 겹치도록 돌 수 있는 궤도만 존재한다고 설명했다.

1920년대에는 두 명의 천재 물리학자가 등장해 지금의 양자역학을 구축했다. 1925년 베르너 하이젠베르크는 눈으로 관측할 수 없는 전자의 위치나 움직임을 관계성 정보의 표인 ‘행렬’로 대체한 ‘행렬역학’을 제안했다. 한편 1926년 에르빈 슈뢰딩거는 미시 세계의 입자가 한 점에 존재하는 것이 아니라 공간에 퍼져 있는 ‘중첩 상태’로 존재하며, 이를 파동함수로 다루는 ‘파동역학’을 제창했다. 막스 보른은 이 파동함수가 입자가 존재할 가능성을 나타낸다고 해석했고, 이는 입자가 관측 전까지 파동으로서 공간에 퍼져 중첩 상태로 존재하다가 관측하면 어느 한 점으로 위치가 결정된다는 ‘코펜하겐 해석’의 바탕이 되었다. 이후 폴 디랙이 두 역학이 같은 이론의 다른 표현임을 설명했다.

‘무작위’란 무엇인가? / 신들의 오셀로

양자역학에서의 무작위는 원리적으로 누구도 예측할 수 없고 결과가 정해져 있지 않은 상황을 의미한다. 이를 잘 보여 주는 것이 전자의 이중 슬릿 실험이다. 전자총으로 두 개의 가느다란 슬릿을 향해 전자를 하나씩 날려 보내면, 전자는 각각 하나의 입자로 스크린에 기록되지만 실험을 반복하면 파동이 겹쳤을 때 생기는 ‘간섭무늬’가 나타난다. 하나밖에 없는 전자가 가능성의 파동(중첩 상태)으로서 양쪽 슬릿을 동시에 통과해 자기 자신의 분신과 만나 간섭한 뒤, 스크린에 도달한 시점에 중첩이 풀리며 무작위로 한 점에 나타나기 때문이다.

만약 전자가 어느 슬릿을 통과하는지 계속 관측하면 간섭무늬는 사라지고 만다. 중첩이 어떤 상태인지 알기 위해 관측하면 그 중첩이 풀리고 마는 것, 즉 관측함으로써 대상에 영향을 미친다는 것에 양자역학의 본질이 있다. 고전역학의 세계가 두 명의 신이 두는 오셀로 게임을 인류가 그저 옆에서 바라보며 규칙을 해명하는 것이라면, 양자역학의 세계는 관측자조차 게임의 플레이어로 참여해 신을 상대로 오셀로를 두는 것과 같다. 관측자가 어디에 말을 놓느냐에 따라 상대의 다음 수가 달라지듯, 관측에 따라 세계의 전개가 변화하는 것이다.

모든 것은 전자가 쥐고 있다 / 반도체의 신비

두 개의 수소 원자가 전자를 공유해 수소 분자를 형성하는 ‘공유 결합’ 역시 전자가 두 원자 주위에 동시에 존재하는 양자역학적인 중첩 상태 덕분에 전체 에너지가 낮아져 안정되는 현상이다. 이런 양자역학적 이해는 제1차 양자 혁명을 불러왔다. 대표적으로 고체 물질 내에서 전자가 운동할 수 있는 에너지 영역인 전도대와 그렇지 않은 금지대(밴드갭)의 개념을 통해 금속과 절연체를 구분할 수 있게 되었다. 나아가 금지대의 폭을 작게 제어해 외부 전압에 따라 전류를 흐르게 하거나 막을 수 있는 ‘반도체’를 이용해 1947년 존 바딘, 월터 브래튼, 윌리엄 쇼클리가 ‘트랜지스터’를 발명했다. 전류를 제어해 비트(0과 1)를 표현하는 스위치인 트랜지스터는 집적화를 거쳐 현대의 컴퓨터와 스마트폰을 지탱하고 있다.

양자 터널 효과와 노벨 물리학상

고전역학에서는 공의 에너지가 언덕 높이보다 부족하면 언덕을 넘지 못하고 되돌아오지만, 양자역학에서는 입자가 파동함수로서 공간에 퍼져 존재하기 때문에 자신의 에너지보다 높은 장벽이라도 관통해 넘어갈 수 있다. 이를 ‘양자 터널 효과’라고 한다. 1956년 에사키 레오나는 반도체에서 절연체를 통과해 전자가 흐르는 양자 터널 효과를 입증하고 ‘터널 다이오드(에사키 다이오드)’를 발명해 1973년 노벨 물리학상을 받았다. 1980년대에는 존 클라크, 미셸 데보레, 존 마르티니스 등이 초전도 물질로 이뤄진 전기 회로에서도 양자 터널 효과를 관측했는데, 이 발견은 훗날 양자컴퓨터의 가장 중요한 부품인 ‘초전도 양자비트’로 이어져 이들은 2025년 노벨 물리학상을 받았다.

빛의 파동을 정렬하다 / 레이저의 원리

빛의 양자역학적 성질을 응용한 사례가 ‘레이저’다. 수영장에서 아이들이 줄을 맞춰 앞줄이 만든 파동의 타이밍에 맞춰 일제히 움직이면 커다란 파동을 만들 수 있듯, 파동이 일렁이는 타이밍인 ‘위상’을 가지런히 일치시키면 멀리까지 직진하는 빛을 만들 수 있다. 에너지가 높은 여기 상태의 원자에 같은 크기의 에너지를 지닌 빛을 조사하면, 그 빛에 유도되어 위상이 일치하는 빛이 방출되는 ‘유도 방출’(1917년 아인슈타인이 이론화) 현상이 일어난다. 마주 보는 두 거울 속에 수많은 원자를 넣어 연쇄 반응적으로 위상이 일치된 빛을 증폭시킨 것이 레이저이며, 이는 광통신 등 인터넷 인프라뿐 아니라 미시 세계를 조작하고 관측하는 ‘손’이나 ‘눈’으로서 빼놓을 수 없는 존재가 되었다.

‘100경분의 1초’의 빛을 만들다 / 미시 세계의 정밀 제어

2023년 노벨 물리학상은 ‘100경분의 1초’를 뜻하는 아토초 단위의 아주 짧은 순간의 빛을 만드는 ‘아토초 레이저’ 개발자들(안 륄리에, 피에르 아고스티니, 페렌츠 크라우스)에게 돌아갔다. 신칸센이나 나는 새를 흔들림 없이 찍으려면 카메라 셔터 속도를 짧게 해야 하듯, 단일 전자가 원자핵 주위를 운동하는 아토초 단위의 초고속 변화를 관찰하려면 아토초 레이저가 필요하다. 파장이 미묘하게 다른 여러 파동을 겹쳐 극소 영역에만 강한 빛의 펄스를 발생시키는 이 기술 덕분에 원자나 분자 내부를 운동하는 전자를 실시간으로 관측할 수 있게 되었다.

‘신은 주사위를 던지지 않는다’ / 양자 얽힘은 결함인가? / 불완전한 학문

초기 조건과 운동 방정식만 알면 미래의 모든 현상을 완벽히 계산해 낼 수 있다는 고전역학의 결정론적 세계관(‘라플라스의 악마’)과 달리, 관측하는 순간 물리량이 무작위로 정해진다는 양자역학의 해석에 아인슈타인은 강하게 반발하며 “신은 주사위를 던지지 않는다”라는 유명한 말을 남겼다. 아인슈타인이 1935년 양자역학의 결함으로 제기한 것이 바로 ‘양자 얽힘’이다. 양자 얽힘이란 두 입자가 아무리 멀리 떨어져 있어도 쌍둥이처럼 연동해 한쪽을 관측해 상태가 정해지면 다른 쪽도 동시에 똑같이 결정되는 상태다.

도쿄와 오사카에서 동시에 관측할 때 결과가 반드시 일치하려면 정보가 빛의 속도를 넘어 순식간에 전달되어야 하므로 ‘국소성’에 위배되고, 관측 전부터 이미 결과값이 정해져 있었다는 ‘실재성(숨은 변수)’을 가정하더라도 결국 멀리 떨어진 곳에 순식간에 영향을 미쳐야 하므로 국소성이 깨진다. 아인슈타인은 이처럼 국소성과 실재성을 모두 충족하지 못하는 양자역학이 불완전하다고 비판했다.

양자 혁명가의 휴일 / 패러독스에서 신기술을 낳다

오랫동안 금기시되던 이 문제에 정면으로 도전한 인물이 CERN의 연구자 존 벨이다. 그는 휴일에 취미 삼아 연구를 진행하며, 아인슈타인이 추구한 국소성과 실재성을 모두 갖춘 ‘완벽한 이론(숨은 변수 이론)’이 존재한다면 실험 결과의 계산값이 반드시 2 이하가 되어야 한다는 ‘벨의 부등식’을 도출했다. 반면 양자역학이 옳다면 이 값은 2를 넘게 되어 부등식이 깨진다. 이후 1970년대 존 클라우저, 1980년대 알랭 아스페 등이 실제 실험으로 이를 검증한 결과, 벨의 부등식은 성립하지 않았고 양자역학의 판정승(아인슈타인의 패배)으로 끝났다. 나아가 안톤 차일링거는 이 기묘한 양자 얽힘을 역으로 응용해 양자 정보를 전송하는 ‘양자 순간이동’을 실증했다. 물리학자들의 골치를 썩였던 패러독스가 양자 통신과 양자컴퓨터라는 제2차 양자 혁명의 신기술을 낳는 원점이 된 것이며, 이 세 사람은 2022년 노벨 물리학상을 수상했다.



제2장 양자컴퓨터 혁명



혁명 전야와 양자 화폐

1970년대 대학원생이던 스티븐 위즈너는 완벽한 복사본을 만들 수 없고 어설프게 관측하면 상태가 깨져 버리는 양자의 성질을 이용해 원리적으로 위조가 불가능한 ‘양자 화폐’를 제안했다. 오른쪽에서 보면 흰색, 왼쪽에서 보면 검은색이 되는 카멜레온이 있어서, 원래 흰색이었던 카멜레온을 누군가 실수로 왼쪽에서 관측해 검은색이 되어 버리면 다시는 흰색으로 되돌릴 수 없는 것과 같은 이치다. 1000마리의 카멜레온을 어떤 방향에서 관측해야 하는지 모른 채 모두 우연히 맞혀 위조하는 것은 거의 불가능하다. 개별 양자에 정보를 싣고 그 취약성으로 정보를 보호하겠다는 이 시대를 앞서간 발상은 훗날 찰스 베넷과 질 브라사르에 의해 발굴되어 ‘양자 암호’ 분야를 개척하는 계기가 되었다.

계산의 물리학 / 물리는 정보에서 탄생한다

1960년대 롤프 란다우어는 정보를 지울 때 반드시 에너지를 소비한다는 ‘정보 소거의 원리’를 제창했고, 폴 베니오프는 미시 세계의 양자역학이 언제든 원래 상태로 되돌릴 수 있는 ‘가역성’을 지녔다는 점에 착안해 에너지를 소비하지 않고 발열이 없는 가역 컴퓨터의 개념을 고안했다. 이런 ‘정보는 물리다’라는 철학이 확산되며 1981년 MIT에서 열린 전설적인 회의 ‘계산의 물리학’에서 리처드 파인만은 “자연계는 고전역학으로 움직이지 않는다. 따라서 자연계를 효율적으로 시뮬레이션하려면 컴퓨터도 양자역학의 원리로 만들어야 한다”라고 지적했다. 또한 이 회의에 참여한 존 휠러는 물리학의 근저에 정보 이론이 있다는 ‘세계는 정보로 이뤄져 있다(It from bit)’라는 개념을 제창했는데, 이는 최근 시공간이나 물질이 모두 양자 정보로 이뤄져 있다는 ‘It from Qubit’으로 진화하고 있다. 이후 휠러와 교류하던 데이비드 도이치가 1985년 양자컴퓨터의 원형인 ‘양자 튜링 기계’를 제시했고, 휠러의 제자인 휴 에버렛 3세가 내놓은 평행 우주 개념의 ‘다세계 해석’ 역시 양자컴퓨터 연구에 큰 영향을 미쳤다.

양자컴퓨터와 AI의 원류

1980년대에는 자석 내부 전자 스핀(위아래 두 방향을 가지는 작은 자석)의 움직임을 단순화한 ‘이징 모델’을 뇌세포에 비유해 특정 패턴을 기억하게 한 존 홉필드의 ‘연상 기억 모델’(1982년)과, 여기에 온도의 영향을 도입해 데이터를 학습시키는 제프리 힌턴의 ‘볼츠만 머신’(1985년)이 제안되며 훗날 딥러닝으로 이어지는 신경망 연구의 기폭제가 되었다. 흥미롭게도 이 무렵 리처드 파인만은 홉필드와 함께 칼텍에서 ‘계산의 물리학’ 강의를 맡고 있었다. 즉 오늘날 컴퓨터의 패러다임을 바꾼 AI와 양자컴퓨터라는 두 흐름은 ‘계산의 물리학’이라는 공통의 원류에서 출발한 셈이다.

고전 비트와 양자비트

전기가 흐르면 1, 흐르지 않으면 0으로 표현해 반드시 어느 한쪽만 선택해야 하는 고전 비트와 달리, 양자비트는 측정하기 전까지 0과 1의 가능성을 동시에 남겨 두는 ‘중첩’ 상태로 정보를 나타낸다. 예를 들어 6비트의 경우 고전 비트는 ‘000000’부터 ‘111111’까지 64가지 중 한 번에 하나만 나타낼 수 있어 모든 조합을 하나씩 계산해야 하지만, 양자비트는 한 번에 64가지 패턴을 동시에 중첩해 표현할 수 있다. 여기에 양자역학의 ‘간섭’을 이용해 오답의 가능성은 상쇄하고 정답에 해당하는 특정 패턴의 가능성만을 증폭시킴으로써 모든 가능성을 일일이 시도하지 않고도 적은 횟수로 답을 찾아낼 수 있다.

정체기를 타파하다 / 정확함과 속도 사이의 저울질 / 복잡함을 덜어 내다

1990년대 소인수분해 알고리즘의 발견으로 불었던 제1차 양자컴퓨터 붐이 기술적 한계로 정체기를 맞은 뒤, 2010년대 다시 열기를 지핀 것은 캐나다 스타트업 디웨이브가 상용화한 ‘양자 어닐링 머신’이었다. 이는 여러 도시를 한 번씩 방문하고 돌아오는 최단 경로를 찾는 ‘외판원 문제’처럼 경우의 수가 폭발적으로 늘어나는 ‘조합 최적화 문제’에 특화된 전용 머신이다. 기존의 ‘시뮬레이티드 어닐링’은 이징 모델에서 고온의 스핀을 서서히 식혀 에너지가 가장 낮은 최적의 조합을 찾는 방식인데, 문제가 복잡해지면 좀처럼 식지 않고 시간이 오래 걸린다는 한계가 있었다. 이에 1998년 일본의 니시모리 히데토시와 가도와키 다다시는 온도를 높이는 대신 저온에서 가로 방향 자기장을 걸어 양자 스핀을 위아래 중첩 상태로 만든 뒤, 양자 터널 효과를 이용해 자기장을 서서히 없애며 최적해를 찾는 ‘양자 어닐링’을 제안했고, 디웨이브가 이를 상용화한 것이다.

생성형 AI에 없어서는 안 될 존재 / 엔비디아의 성장, 인텔의 좌절 / 유사 양자컴퓨터?

원래 게임의 3D 그래픽 픽셀을 병렬 처리하기 위해 개발된 엔비디아의 GPU가 딥러닝과 생성형 AI의 방대한 연산에 폭발적인 위력을 발휘하며 시가총액 3조 달러를 돌파하고 전통의 강자 인텔을 제쳤듯, 조합 최적화에 특화된 양자 어닐링 머신이나 양자컴퓨터도 킬러 애플리케이션을 찾으면 제2의 엔비디아가 될 수 있다. 한편 일본에서는 자체 개발 기술을 해외 스타트업에 선점당했다는 반성과 함께, 기존 반도체 기술(고전 비트)로 이징 모델 계산을 모방해 고속화한 이른바 ‘유사 양자컴퓨터(이징 전용 계산 장치)’ 개발도 활발히 진행 중이다.