2014년은 SF 팬이나 새로운 기술에 민감한 엔지니어들에게는 다소 실망스러운 소식으로 시작했다. 바로 세계 최초의 양자컴퓨터로 화제를 모았던 D-Wave의 성능이 일반 컴퓨터와 그리 다르지 않다는 것이다. 심지어 일각에서는 D-Wave가 '제대로 된 양자컴퓨터가 아니다'는 얘기까지 한다. 사실 최초의 양자컴퓨터라는 타이틀치고는 D-Wave가 한 일이 별로 없긴 하다. 양자컴퓨터가 NP 문제를 쉽게 해결한다고는 하지만 어디까지나 적절한 알고리즘이 적용됐을 때의 이야기, D-Wave는 지금까지 록히드 마틴, NASA, 구글 딱 세 곳에 팔렸을 뿐이고 특별한 활약을 보였다는 얘기가 아직 없다. 요란한 기대만큼의 역할을 해주려면 아직 시간이 필요할 것으로 보인다.

여러 언론에서는 2013년부터 당장에라도 양자컴퓨터가 실용적인 수준에서 사용될 것처럼 보도하곤 했다. 최근 2년 들어 양자컴퓨터에 대한 대중적인 정보도 크게 늘었다. 심지어 '양자컴퓨터에 윈도 깔면 부팅 시간이 몇 초?'같은 황당한 질문들도 종종 보인다. 그런 질문에 정성스럽고 진지하게 답을 달아주는 모습까지.

과연 양자컴퓨터가 언론과 사람들의 기대대로 조만간 실현될까? 대부분의 전문가는 아직 한참 멀었다는 데 의견을 같이한다. 그것도 사람들이 기대하는 형태하고는 차이가 클 것이다. 현재의 기술 수준으로는 양자컴퓨터에 게임은 고사하고 업무용 프로그램은 물론, 윈도나 리눅스 같은 대중적인 운영체제조차 깔지 못할 것이다. 애초에 현재 연구되는 수준의 양자컴퓨터는 한정된 용도로만 사용 가능한 컴퓨터이기 때문이다.

언론과 대중의 이상할 정도로 과열된 관심은 양자컴퓨터에 대한 오해에서 비롯된다. 흔히 양자컴퓨터를 대규모 병렬 계산이 가능한 컴퓨터 정도로 생각하곤 한다. 그도 무리가 아닌 것이 양자컴퓨터는 양자적 상태의 조합인 '큐비트'를 이용하여 연산한다고 알려졌으며 그에 따라 한 단위가 다루는 정보도 0과 1의 두 가지가 아닌 00, 01, 10, 11 조합의 네 가지 상태기 때문이다. 그 결과 양자컴퓨터는 이진 코드를 사용하는 컴퓨터에 비해 곱절이나 빠른 처리가 가능할 것으로 기대된다.

비결정론적 튜링 기계는 문제에 대한 여러 가지 답을 동시에 계산할 수 있는 장치다. 간단히 말하면 여러 가지 경우의 수 중 최적의 해결책을 골라내는 것이다. 길 찾기 알고리즘이 좋은 예다. A에서 B까지 가는 합리적인 경로가 10가지라고 해보자. 비결정론적 튜링 기계는 목적지까지 가는 경로 10가지를 동시에 시뮬레이션하고 그중 가장 일찍 도착한 경로를 정답으로 내놓는다. 이는 10개의 서로 다른 계산장치가 각각 하나의 경로만을 계산하고 이들 중 가장 빨리 계산을 끝낸 장치가 결과값을 보고하는 것과 같다.

따라서 비결정론적인 튜링 기계는 다양한 원인과 요소들을 고려해야 하면서도 공식처럼 적용되는 표준 해법이 존재하지 않는 복잡한 문제들을 빠르게 해결할 수 있다. 예로 든 최적 경로를 찾는 문제나 암호 해독, 시장 분석, 유체 등의 복잡계 분석, 자연어 분석과 같은 과제들이 바로 비결정론적인 튜링 기계가 해결 가능한 문제들이다.

물론 NP 문제는 P 문제에 포괄되므로 고전적 컴퓨터인 결정론적 튜링 기계도 적절한 알고리즘만 짜면 NP 문제를 해결할 수 있다. 다만 그 시간이 엄청나게 오래 걸리는 것이 문제다. 특히 양자컴퓨터는 소인수분해나 이산 로그에서 강력한 것으로 알려졌다. 소인수분해나 이산로그 모두 큰 수에 대해서는 일반적인 해법이 존재하지 않아 대입을 통해 일일이 확인해보아야 하는 문제들이다. 이 두 가지 과제들은 현대 암호학의 공개키 알고리즘의 중요한 부분을 차지하기에 양자컴퓨터가 언급될 때마다 암호에 대한 얘기가 따라붙는다.

그러나 NP 문제는 양자컴퓨터 본연의 목적도 아니고 애초에 모든 NP 문제에 양자컴퓨터가 효율적인 것도 아니다. 양자컴퓨터가 그보다 더 막강한 능력을 발휘하리라고 기대되는 분야는 입자들의 미시적 운동을 분석해야 하는 학문 분야다. 양자컴퓨터에 대한 논의 자체가 미시세계의 운동을 분석하려면 슈뢰딩어 방정식에 기반을 둔 컴퓨터가 있어야겠다고 주장한 리처드 파인만의 논문으로부터 비롯됐음을 상기해보자.

이처럼 특정 분야에서는 기대를 한몸에 받는 양자컴퓨터지만 비가역적인 변환에 대해서는 오히려 기존 컴퓨터보다 취약할 수 있다. 양자역학적 시스템은 '유니터리'한 방식으로만 변화한다. 유니터리란 양자를 행렬로 표현했을 때 이에 대한 역행렬이 항상 존재한다는 뜻이다. 이는 양자에 어떤 변환을 가했을 때 역변환이 항상 가능해야 한다는 뜻이므로 양자컴퓨터로 계산한 결괏값으로부터 입력값을 다시 찾는 것이 항상 가능해야 한다. 그러나 일대일 함수가 아니라면, 즉 둘 이상의 입력값으로부터 동일한 결괏값이 나올 수 있는 경우에는 결괏값만으로 정확한 입력값을 찾아낼 수 없다.

간단히는 기본적인 형태의 이차방정식, x2=1의 경우를 생각해보면 된다. 제곱해서 값이 1이 되는 경우는 +1과 -1, 두 가지 모두 해당되므로 단지 제곱한 결과가 1이라는 정보만으로, 다른 단서가 없는 한 원래 x가 정확히 어느 값이었는지 판단하는 것은 불가능하다. 고전컴퓨터는 둘째치고 중등 이상의 교육을 받은 사람이 쉽게 암산할 수 있는 이런 문제가 양자컴퓨터에게는 난제가 될 수 있다. 물론 조건값을 삽입해서, 즉 'x가 1일 경우에는 제곱하면 1이다'와 'x가 -1일 경우에는 제곱하면 1이다'는 두 가지 형태로 분리해서 연산할 수 있기는 하지만 이는 어디까지나 연산 회수를 늘려야 하는 우회로일 뿐이다. 그래서 '양자컴퓨터가 평범한 컴퓨터에 깨졌다!'는 이야기는 어떤 연산으로 실험한 것인지를 먼저 살펴봐야 한다. 애초에 일반적인 컴퓨터와 양자컴퓨터는 용도가 다르기 때문이다.

결국, 양자컴퓨터에 기대감을 보이는 것은 좋지만 신중할 필요가 있다. 나중에는 모르겠지만, 현재 수준에서 양자컴퓨터는 개인용 컴퓨터를 대체할 일도 없고 연구 방향이 그쪽도 아니다. 양자컴퓨터의 가능성은 오히려 현재의 컴퓨터로 하기 어려운 일들에 있다. 양자컴퓨터와 기존 컴퓨터는 경쟁이 아니라 보완관계인 셈이다.

무엇보다 아직 기술적으로 해결할 과제도 수두룩하다. 양자컴퓨터의 기본 정보 단위인 큐비트를 충분한 시간 동안 유지하는 것도 관건이거니와 큐비트가 외부 환경 변화에 민감하므로 차폐시설에도 신경을 써야 한다. D-Wave가 그토록 고가인 이유도 큐비트를 유지하기 위해 초전도체를 사용하고 고도의 방음, 차진 설비를 적용했기 때문이다.

이러한 난점의 핵심은 바로 큐비트를 제대로 제어하기 어렵다는 데 있다. 입자의 성질 중 확연히 구분되는 상태를 지닐 수 있는 것은 무엇이나 큐비트로 이용할 수 있지만 양자적인 수준에서 제어하기란 무척 어려운 일이다. 가장 제어가 용이하리라고 예측되는 전자의 스핀조차 실용적인 수준의 컴퓨팅을 구현하기에는 일정한 상태를 유지할 수 있는 시간이 너무 짧다. 이는 마치 나중에 참고하려고 적어 둔 메모의 글자들이 제멋대로 바뀌는 것과 같을 정도로 심각한 문제다. 정보의 안정성이 보장되지 않는 것이다.

많은 과학자가 이 문제를 해결하려 시도하고 있다. 당연하게도, 안정성 높은 큐비트를 얻는 것은 공학자가 아니라 이론 물리를 연구하는 기초과학자들의 몫이다. 특히 전자의 스핀을 제어하는 방법에 대한 연구가 활발하여 아예 '스핀트로닉스'라는 이름이 붙었다.

다행히 스핀트로닉스 분야에서 주목할만한 성과들이 나오고 있다. 대표적인 연구가 지난해 IBS의 원자제어 저차원 전자계 연구단이 추진 중인 밸리트로닉스 관련 연구다. 이 연구단은 최근 기존의 실리콘 기반의 반도체를 이용하면서도 스핀을 쉽게 조절하는 방법을 찾아냈다. 스핀이 아닌 다른 특성, 파동양자수를 이용하여 스핀이 일정하게 유지될 수 있는 조건을 만들어 준 것이다. 이 연구는 특정 시스템에서 간단하고 확실하게 스핀이 분극되어 유지되는 현상을 관찰함으로써 진정한 양자컴퓨터의 실현 가능성을 높인 것으로 평가된다. 큐비트를 항구적으로 유지할 수 있는 기술과 함께 양자적 특성을 이용할 수 있는 알고리즘이 충분히 개발된다면 실제 양자 컴퓨터를 대중적으로 사용할 날도 그리 멀지는 않을 것이다.