에니그마(Enigma) 암호해독기
제2차 세계 대전 시기 독일군이 사용했던 암호기.
제1차 세계 대전 종전 후에도 바이마르 공화국은 구 독일 제국군의 암호체계가 뚫렸었다는 사실을 몰랐다. 그러다가 전쟁 종결 후 한참이 지난 후에 쓴 처칠의 1차 세계 대전 회고록을 읽고서야 암호가 깨졌음을 알아챘다. 독일군의 입장에서는 자기들이 줄곧 농락당하고 있었다는 사실을 알게 되었다는 점에서 그야말로 엄청난 충격이었다.
에니그마는 이에 대한 반성으로서 등장한 기구로 1923년 폴란드에서 상업용으로 출시된 것을 독일군에서 채용하였다. 상업적인 목적으로 개발되었기 때문에 제2차 세계 대전 종전 후에도 에니그마 암호기는 특허에 의해 보호되었다. 당시로서는 강력했던 기계식 암호화 기법을 사용했으며, 여기에 독일군이 추가로 여러 복잡한 장치를 추가해 장치를 더 강화하여 기존의 암호 해독 기술을 완전히 무력화시켰던 탓에 상당 기간 동안 난공불락의 암호체계를 자랑했다. 그러나 후술할 문제점들과 블레츨리 파크의 노력 덕분에 결국 암호를 해독할 수 있게 되었고, 결국 제2차 세계 대전의 판도는 바뀌게 된다.
에니그마의 작동 알고리즘. 같은 글자를 눌러도 다른 글자가 튀어나온다. 에니그마의 기어는 시계처럼, 가장 오른쪽 기어가 한바퀴를 돌면 그 다음 기어가 한 칸을 돌고, 가운데 기어가 한 바퀴를 돌면 가장 왼쪽의 기어가 한 칸을 도는 식으로 만들어져있다. 이 때문에 한 번 나왔던 기어설정을 다시 보려면 26*26*26=17576번 키보드를 눌러야 하지만, 대부분의 전신은 보통 수백 자, 정말 가끔씩 많아봐야 1000, 2000대였기 때문에 통상적인 방법으로는 복호화가 거의 불가능하다. 저 기어 3개는 각각 다른 글자설정을 가지고 있으며. 암호화와 복호화를 위해서는 사전에 정해진 기어 설정을 알아야 하는데, 이를 위해서 독일군에서는 암호책을 배부했다. 이 암호책에는 사용해야 하는 바퀴와 바퀴회전 수, 그리고 아래 플러그 설정 그리고 암호문에 사용할 부호가 명시되어 있다. 이 설정들은 매일 바뀌며 하루마다 한 줄씩 잘라낸다. 거기에 해군에서 사용한 암호책은 수용성 잉크로 작성되어 배가 침몰하거나 승조원들이 포로가 될 위기에 처하면 바다에 던져 책을 무용지물로 만들었다. 그래봤자 입수할 책들은 입수했지만 또한 기밀누설 방지를 위해 암호책은 한 달에 한 번씩 새로 배부되며, 암호책이 누설된 경우에는 임의로 다시 암호책을 배부하기도 했다. 즉 암호책을 입수해봤자 많아봐야 한 달간의 암호만 도청할 수 있었고, 다음 달부터는 다시 노가다로 뚫거나 암호책을 새로 입수해야 했다. 봄바 및 이하 기계들이 필요했던 이유다.
에니그마의 암호화 원리
에니그마는 자판, 입력축, 램프, 스크램블러, 반사판, 배전반 등으로 이루어져 있다.
1. 키보드를 눌러 신호를 입력한다. 이때 군에서 사용한 버전에서는 배전반(플러그보드)를 이용해 키보드의 두 글자의 신호의 위치를 바꾸었다. 예를 들어 플러그보드에서 A와 Q가 연결되어있고, M과 X가 연결되어있다고 하자. 신호를 보내는 사람이 A 키를 누르면 기어로 신호가 들어가기 전에 일단 Q로 이동한 뒤, 기어에서는 A가 아닌 Q가 연결된 전선으로 암호화를 거친다. 기어를 거쳐 암호화가 된 후, 램프로 신호가 다시 돌아올 때, 만약 이 신호가 M으로 돌아온다면 M에서 X로 옮겨가 최종적으로 램프에서는 X에 불이 들어온다.
2. 입력된 신호가 스크램블러(기어)에 도달하면 인접한 3개의 기어를 통해 암호화된다. 각각의 기어는 하나의 글자를 다른 글자와 연결한다. 각각의 기어의 설정은 다음과 같다.
만약 3개의 기어가 VI-I-II 라면 신호는 오른쪽부터 들어가므로 기어II->I->VI의 순서대로 통과한다. 처음에 Z키를 눌렀다면 II에서 Z에 해당하는 E를 거쳐, I에서 E와 연결된 A를 거쳐, 마지막으로 VI에서 A와 연결된 J가 되어 반사판에 도달한다.
3. 반사판은 26개의 알파벳을 13개의 쌍으로 이어주어 들어온 신호를 다른 글자의 배전으로 돌려 다시 돌려보낸다. 또한 반사판에서 한 글자는 무조건 다른 글자로 이어지기 때문에, 어떤 글자를 누르면 램프에서 절대로 그 글자가 뜰 수 없는 문제가 생긴다.이 치명적인 단점이 이 에니그마를 푸는 데 매우 중요한 역할을 한다.전기의 반사판은 회전이 불가능한, 말그대로 판이었으나 후기로 가면 이것도 회전하여 암호화 과정을 더 복잡하게 한다.
4. 반사판을 통해 되돌아간 신호는 1번과 2번의 과정을 다시 역행으로 반복한다.
즉 에니그마는 간단히 얘기하자면 키보드의 글자와 램프의 글자가 1대1로 회로를 통해 연결되어있고, 키보드를 누를 때마다 그 회로가 기어의 회전에 의해 바뀐다.
에니그마의 해독을 위한 노력
폴란드의 시도
2차 세계 대전 중에 사용된 암호기 중에서는 가장 해독이 어렵고 비용이 많이 드는 시스템이었으며 기기 자체도 가장 값비싼 물건이었다. 해독을 어렵게 하려면 회전자를 늘리는 등 에니그마 본체를 임의로 개조한 뒤 전체 조직에 일시 대량 보급해서 기존에 쓰던 기기와 교환하는 작업이 필요하기 때문이었다. 때문에 과거 독일과 러시아에 의해 분할점령된 적이 있었던 폴란드는 에니그마 해독에 총력을 기울였다. 그 이전에 암호해독에 동원된 인력은 대부분 언어학자나 고전학자들이었고, 이들만으로도 그 이전까지 독일의 암호를 해독하는 데에 폴란드 정보부는 별다른 어려움을 느끼지 못했다. 하지만 에니그마가 도입된 후 이들은 고전 끝에 GG를 쳤고, 폴란드군 참모본부(Sztab Generalny Wojska Polskiego) 산하 암호국(Biuro Szyfrow)은 고심 끝에 20명의 수학자들을 고용하였다. 이 중 마리안 레예프스키(Marian Rejewski)와 아담 미츠키에비츠 대학(Adam Mickiewicz University in Poznań) 수학과 동료였던 헨리크 지갈스키(Henryk Zygalski)와 예르지 루지츠키(Jerzy Rozycki) 등에 의해 암호 해독의 기초가 마련되었다. 수학자들의 뛰어난 능력과 에니그마 자체의 한계, 결함에 힘입어 1938년에 이르면 폴란드 측에서 폭탄이라는 뜻의 해독 기계 봄바(Bomba)를 6대 도입하여 완전하게 에니그마의 해독이 가능해진다. 특히 보안 상태가 제일 개판이었던 루프트바페의 암호는 개전 이전부터 이미 뚫려 있었다.
이후의 해독 노력
하지만 12월 15일 독일이 바퀴의 수를 5개로 늘린 다음 그 중 3개를 선택해 사용하게 하는 방식으로 에니그마를 개량하면서 기존의 해독법이 거의 무력화되었고, 누가 봐도 임박한 침략을 눈 앞에 둔 폴란드는 한계에 도달한다. 이 시점에서 자신들의 능력을 벗어났다 판단한 폴란드는 1939년 7월 25일에 자신들이 역설계한 에니그마 기계를 비롯한 각종 정보를 영국과 프랑스에게 넘겨주었다. 물론 폴란드 역시 암호 해독을 포기하지는 않았다. 나중에 폴란드 수학자 3인방은 폴란드 침공 이후 루마니아를 거쳐 프랑스로, 그 다음에는 영국으로 갔지만 암호 해독 작업 참여를 거부당했다. 루지츠키는 프랑스 여객선 침몰 사고로 1942년 사망했고, 지갈스키는 영국에 남았다가 1978년 사망했으며, 레예프스키는 폴란드로 돌아가 1980년 사망했다.
그리고 이를 전해받은 앨런 튜링과 영국 블레츨리 파크에 모여있던 암호해독팀의 손에 해독되었다. 여기서 컴퓨터의 조상뻘 되는 전자계산기인 콜로서스를 사용하여 해독했다는 루머가 있는데, 사실 콜로서스는 독일군의 최고사령부 레벨 보안통신기인 로렌츠 체계의 해독을 목표로 개발된 기계라서 완전히 맞는 말은 아니다. 로렌츠 체계의 구조는 기본적으로 에니그마와 같으나 바퀴의 개수가 12개이고 각각 바퀴의 캠 수도 달라 암호화 강도가 훨씬 높았다.
독일군은 암호체계를 강화할 목적으로 1942년에 기계를 한 번 더 개량, 바퀴 수를 8개로 늘리고 그 중 4개를 사용하는 식으로 바꿨다. (8P4==1680) 이 때문에 한동안 연합군의 암호 해독률이 크게 떨어진 기회를 틈타 크릭스마리네의 잠수함들은 그 어느 때보다 풍성한 실적을 올렸다. 이 개량된 에니그마 역시 나중에 해독에 성공한다. 실제로 독일 국방군 중 해군이 그나마 암호전에서 제일 오래 버티는 데 성공한 셈이다.
에니그마가 뚫렸다는 사실은 종전까지 독일 정보부에서 전혀 눈치채지 못했다. 암호 해독이 아닌 다른 방식으로 연합국이 정보를 수집한다고 판단했다. 그 예가 레이더. 위에 나온 암호체계 강화도 어디까지나 '지금은 안전하지만 앞으로도 그러리란 보장이 없으니 미리 미리 개선해두자'라는 통상적인 개량이었지 '들켰으니 얼른 바꾸자'가 아니었다.
타국에서의 사용
애초에 이 기계가 상업용으로 만들어진 만큼, 특허권도 보장되었고 독일 외의 국가에서도 많이 사용되었다.
스위스군에서도 사용했다. 나중에 프랑스군이 자신들의 암호를 도청한다는 것을 알아채면서 자신들만의 독자적인 체계를 구축하기는 한다.
이탈리아군 또한 기존에 판매된 에니그마와 비슷하지만 간략화된 상업용 암호기를 사용하였다.
일본도 소수를 도입하여 독일과의 연락용으로 사용했는데, 기존 에니그마와 차별화를 두기위해 전용 계산자와 난수표를 썼지만 역시 독일 에니그마가 뚤리면서 같이 전쟁 중에 다 뚫렸다. 또한 에니그마의 개량형이라고 할 만큼 괜찮은 암호기인 PURPLE을 최고위 외교 메시지 전송을 위해 만들긴 했지만 역시나 미국에게 뚫렸다.