정오각형 작도? '작도이야기'

[화평]

http://navercast.naver.com/science/math/935 

 

자와 컴퍼스로 작도하는 문제가 있다던데, 왜 두 가지로만 하나요? 3대 작도 문제가 무엇인가요? 정5각형의 작도법을 알려 주세요. 가우스가 정17각형을 작도했다는데 그게 무슨 의미가 있나요?

인류에게 가장 친숙한 도형은 직선과 원이다. 어느 집에나 직선을 그리는 자와, 원을 그리는 컴퍼스는 있을 것이다. 일부라도 반듯한 물건만 있으면 눈금은 없지만 자 대용으로 쓸 수 있고, 팽팽한 실에 연필을 매달면 남부럽지 않은(?) 컴퍼스를 얻을 수 있다. 이처럼 간단한 도구이므로 고대 사람들도 사용한 것은 자연스러운 일이다. 자와 컴퍼스는 단순한 도구지만, 멋들어진 제도 기구의 힘을 빌지 않아도 상당히 많은 작도를 할 수 있다. 예를 들어 정삼각형, 정사각형, 정오각형, 정육각형과 같은 정다각형을 자와 컴퍼스만으로 작도할 수 있다. 눈금이 없는 자와 컴퍼스 두 개만으로 작도하는 것을 ‘기하학적 작도’나 ‘유클리드 작도’ 혹은 ‘플라톤 작도’ 등으로 부르는데, 이 글에서는 ‘기본 작도’라는 용어를 쓰겠다.

 

자와 컴퍼스만 갖고도 많은 작도를 할 수 있지만, 아무리 해도 작도가 안 되는 것이 나오기 시작했다. 예를 들어 정7각형은 도무지 두 도구만으로는 작도할 수 없었다. 자와 컴퍼스만으로 작도하는 문제 중 가장 유명한 것은 고대 그리스에서 전해져 왔다는 ‘삼대 작도 문제’다. 삼대 작도 문제란 기본 작도만으로 다음을 작도할 수 있느냐는 문제를 말한다.

 

1. 주어진 정육면체보다 부피가 두 배인 정육면체
2. 임의의 각을 삼등분한 각                         
3. 주어진 원과 넓이가 같은 정사각형              

 

물론 자와 컴퍼스 이외의 도구를 이용할 수 있다면, 세 가지 모두 작도할 수 있다. 문제는 눈금이 없는 자와, 컴퍼스 겨우 두 개만으로 제한했다는 점이다. 무슨 일이나 그렇지만, 제한 조건이 까다로울수록 할 수 있는 일은 많지 않다. 단 두 개의 도구만으로 세상의 모든 것을 다 작도하려는 것은 만용에 가까운데, 그렇지 않았다면 원칙적으로 자와 컴퍼스 이외의 제도 기구는 불필요했을 것이다.

2000년이 넘는 세월 동안 많은 사람이 삼대 작도 문제를 시도했지만 실패했다. 하지만 ‘최선을 다했지만 안 되더라’는 것만으로는 불가능하다는 결론을 내릴 수는 없다. 좀더 읽어보면 알겠지만, 작도하지 못하는 것으로 보았던 정17각형도 사실은 작도할 수 있다는 것이 밝혀진다. 이런 이유 때문에, 어떻게 해도 안 된다는 것을 ‘증명’하기 전까지는 불가능하다는 말을 함부로 할 수 없다. 짐작할 수 있듯이 불가능성을 증명하는 것은 쉽지 않은 경우가 많다. 삼대 작도 문제도 19세기에 와서야 기본 작도만으로는 작도가 ‘불가능’하다는 것이 증명되었는데, 왜 그런지 증명(이라기보다는 간단한 설명)하는 것은 뒤로 미루고 여기에서는 무엇을 작도할 수 있는지부터 살펴보기로 하자.

중등 과정의 수학에서는 다각형이나 원을 포함한 도형을 많이 다루는데, 이 단원에 들어서면서부터 많은 사람이 수학에 흥미를 잃거나, 고전하는 것을 볼 수 있다. 보조선을 잘 그으면 문제가 쉽게 풀리는 경우가 많은데, 왜 그렇게 그어야 하는지 너무나 어렵기만 하기 때문이다. 기하학의 고전인 유클리드의 ‘기하학 원본’이 유럽 수학계를 지배하던 당시의 학생들도 똑같이 고민한 것을 보면 무리도 아니고, 고백하건대 필자도 고생을 많이 했다.

 

근세 철학의 아버지로 불리는 프랑스 수학자 르네 데카르트(René Descartes, 1596-1650)가 1637년 ‘방법서설’(方法敍說, Discours de la méthode)을 발표하면서부터 이 상황에 돌파구가 열렸다. 방법서설의 부록 세 편 중 한 편에 오늘날 ‘직교 좌표계’ 혹은 ‘데카르트 좌표계’(Cartesian coordinate system)라고 부르는 개념이 들어 있었던 것이다. 위의 그림처럼 평면에 동서 방향 및 남북 방향으로 각각 x축, y축이라 부르는 서로 수직인 두 직선을 그리고, 만나는 점을 원점 O라 한 것을 데카르트 좌표계라 부른다. 이렇게 하면 평면 위의 임의의 점 P는 각 축에 내린 수선의 발이 결정하는 두 숫자 a, b의 순서쌍 (a, b)와 일대일 대응한다. 누구나 생각할 수 있을 정도로 간단해 보이는 이런 발상이 현대 수학의 지평을 열었다는 것은 상당히 놀라운 일이다. 차츰 보겠지만, 좌표계를 도입하면 기하학의 많은 문제를 대수학의 문제로 바꿀 수 있다. 보조선을 긋지 않고도(!) 대수 방정식을 풀어서 기하학의 문제를 해결하는 시대가 열린 것이다.

거리가 a인 두 점을 작도할 수 있으면, a와 –a를 ‘작도수’ (constructible number)라 부르자. 이를 위해서는 거리의 기본 단위가 필요한데, 그 단위를 편의상 1이라 두자. 특히 1은 작도수다. 데카르트 좌표계를 보면, 점 (a, b)를 작도할 수 있다는 말과, 점 (a,0) 및 (0, b)를 작도할 수 있다는 말은 같다. 즉, a, b가 모두 작도수라는 것과도 같은 뜻이다. 따라서 기본 작도로 작도할 수 있는 것이 무엇인지 아는 것은, 작도수가 무엇인지를 아는 것과 같은 얘기다.

길이가 a인 선분의 한 끝에서 반지름이 b인 원을 그리고, 선분을 연장한 직선과의 교점을 생각하면, a+b, a-b를 작도할 수 있다. 따라서 a+b, a-b는 작도수이다. a, b가 작도수일 때, ab와 b/a는 아래 그림처럼 평행선을 이용하여 작도할 수 있다. 따라서, 두 작도수 a와 b의 사칙연산으로 이루어진 수는 모두 (0으로 나누는 것은 제외하고) 작도수다. 특히 1을 여러 번 더하고 뺀 정수는 작도수이며, 이들의 곱과 몫으로 이루어진 유리수도 작도수다. 그럼 과연 유리수만 작도수일까?

데카르트는 이에 더 나아가서, a가 (양의) 작도수일 때  √a(루트a라는 의미임, 이하 같음)를 작도할 수 있음을 윗 그림과 같이 보였다. AB가 반원의 지름의 양끝이면 ACB가 직각이므로 CH의 길이의 제곱이 AH와 BH의 길이의 곱이다. (삼각형 ACH와 BC가 닮았기 때문인데…) 따라서 CH의 길이가 √a라는 것을 알 수 있기 때문이다.

두 가지 사실을 종합하면 유리수로부터  사칙연산을 하거나, 제곱근을 취하는 것을 반복하여 얻는 수는 모두 작도수임을 알 수 있다. 예를 들어 다음과 같이 지저분해 보이는 수도,

유리수의 사칙연산 및 제곱근만으로 얻을 수 있으므로 작도수다. 이제 데카르트의 방법을 써서 이등분각과 정5각형 및 정17각형을 작도할 수 있다는 것을 설명하자.

일반적으로 각 x를 작도하는 것은 삼각비 cos(x)를 작도하는 것과 마찬가지다. (물론 sin(x)를 작도하는 것과도 마찬가지다.) 그러므로, 각 x를 이등분하는 문제는 “cos(x)를 작도했을 때, cos(x/2)도 작도할 수 있을까”라는 질문과 마찬가지다. 왼쪽 그림에서 OA:OB=AM:BM임을 이용하면 임을 알 수 있다. (혹은 삼각함수의 덧셈 정리를 이용해도 쉽게 증명할 수 있다.) 작도된 수에 사칙연산과 제곱근만 취했으므로 데카르트의 결과로부터 각 x/2는 작도할 수 있음을 확인할 수 있다. 물론 이등분각을 작도하는 법은 고대로부터 잘 알려져 있지만, 여기에서는 데카르트의 방법으로 재확인한 것이다.

정5각형을 작도하는 것은 360°/5 = 72°를 작도하는 것과 마찬가지다. 따라서 cos(72°)가 작도수냐는 질문과 동일하다. 오른쪽 그림은 이등변삼각형인데, 각 A, B는 72°이고 각 O는 36°이다. 각 B를 이등분하여 선분 OA와 만나는 점을 C라고 하자. 각 A가 72°이고 각 ABC가 36°이기 때문에, 각 BCA도 72°다. 따라서 삼각형 OAB와 ABC가 닮았고 대응변의 길이가 비례하므로 1+x:1=1:x이어야 한다. 방정식을 풀면 x는 황금비 (√5-1)/2이다. 그런데 cos(72°)는 CA/AB의 절반이므로 cos(72°)= (√5-1)/4임을 알 수 있다. 유리수의 사칙연산과 제곱근만 나오므로 cos(72°)는 작도수이고, 따라서 각 72°를 작도할 수 있다!

정오각형의 작도법은 기하학 원본에도 나와 있다. √2가 무리수임을 기를 쓰고 숨기려 했던 피타고라스 학파는 자신들의 학파의 상징인 정5각형에도 무리수가 들어있다는 것을 알았을까? 현재 정5각형의 작도법은 여러 가지가 알려져 있는데, 예를 들어 다음 그림에서처럼 A, B, C, D 순서대로 작도하면 정5각형의 한 변 AD를 얻는다.

AO=DO=a라 하면, BC는 각 B의 이등분각이므로 OC:CA=BO:BA=1:√5 로부터 OC= a(√5-1)/4를 얻는다. cos(DOC) = cos(72°)이기 때문이다.

정다각형 중 변의 개수가 3, 4, 5, 6, 8, 10, 12, 15, 16, 20, 24, …인 것은 자와 컴퍼스로 작도할 수 있었지만, 오랫동안 정7각형, 정9각형, 정11각형, 정13각형, 정17각형, …등을 작도할 수 있느냐는 것은 미해결이었다. 이 문제에 해결의 실마리가 열린 것은 19세의 청년 가우스(Carl F. Gauss, 1777-1855)가 1796년에 정17각형의 작도가 가능함을 보이면서부터다.

정17각형이 작도 가능하느냐는 것은 cos(360°/17)가 작도수냐는 것과 같다. 가우스가 보인 것을 알기 쉽게(?) 표현하면, 다음과 같다.

이 값이 사칙연산과 제곱근만으로 이루어져 있으므로, 작도할 수 있다는 것이 가우스의 결론이었던 것이다. 사실 가우스는 직접 정17각형을 작도한 적이 없다! 다만 작도할 수 있다는 것만 보인 것이다. 몇 년 뒤 실제 정 17각형 작도법이 나왔고 그 뒤 개선한 방법들이 나왔지만, 여전히 정17각형을 작도하는 것은 꽤 복잡하다.

데카르트는 자신이 얻은 결과의 역인 ‘유리수로부터 사칙연산 및 제곱근을 취해서 얻어지는 것만이 작도수’일 것으로 예상했지만, 증명은 하지 못했다. 가우스는 정17각형의 작도보다 한 걸음 더 나아가 어떤 정다각형이 작도 가능한지 밝혔지만, 실제로 그런 꼴의 정다각형만을 작도할 수 있는지는 증명하지 못했다. 이 두 가지 예상 및 삼대 작도 문제를 해결하는 데는 방법서설 출간 후 200년의 세월을 더 기다려야 했는데, 여러분은 필자의 다음 수학산책 몇 번만 기다리면 충분하다.