복소수와 프렉탈 : 만델브로 집합

[귀뚜라미]

2010년 10월 14일 프랙탈 이론의 창시자인 베누아 만델브로(Benoît Mandelbrot, 만델브로트, 망들브로)가 향년 85세로 사망하였다. 이번 글에서는 복소수를 이용한 예술이라 할 만한 프랙탈 그래픽에 대해 알아보자.

단순함 속의 복잡함

복소수의 덧셈은 실수부와 허수부의 합을 따로 다루면 되므로 별로 어렵지 않지만, 복소수의 곱셈은 그 모양새만큼이나 예측불허의 결과가 나타나는 경우가 많다. 프랑스 수학자 쥘리아(Gaston Julia, 1893-1978)는 지극히 단순한 식에서 뜻밖의 복잡한 결과가 나오는 문제를 제시하였다. 그는 복소수 c를 고정하였을 때, 다음과 같은 과정을 통해 복소수 z가 어떻게 변하는지를 관찰하였다.

언뜻 보기에 복잡해 보이지만, 이 과정은 처음에 적당한 복소수 z를 고르고, z를 제곱한 다음 c를 더하고, 다시 이 결과 전체를 제곱하고 c를 더하는 과정을 반복하는 것이다. 이것은 다음과 같은 점화식(漸化式)에서 n이 커짐에 따라 z_n이 어떻게 변하는지를 관찰한다고 할 수도 있다.

점화식이 일차식이라면 변화의 양상이라는 것이 너무나 단순한데, 차수가 겨우 하나 커진 이차식만 되어도 그 변화가 너무나 복잡해진다. 이 단순한 점화식에 대해 쥘리아는 다음과 같은 질문을 던졌다.

예를 들어, c=0인 경우를 복소평면에서 생각해보면, zn+1=zn2이므로 초기값 z1의 절댓값이 1보다 크면 zn은 0에서 점점 멀어지고, 초기값 z1의 절댓값이 1보다 작으면 zn은 0에 점점 가까워진다. 따라서 두 영역의 경계는 반지름 1인 원이 된다. c=-2인 경우를 생각해 보면, 초기값 z1이 -2와 2 사이의 실수가 아닌 한 모든 zn은 0에서 점점 멀어진다. 여기까지는 별로 어렵지 않다. 그런데 c가 실수가 아닌 복소수가 되는 순간, 문제는 갑자기 복잡해져서, 경계의 모양이 c 값에 따라 그야말로 천차만별로 변한다. 심지어 차이가 아주 작은 두 수를 c 값으로 생각하여 구한 경계가 너무나도 다르게 생긴 경우도 있다. 이런 현상을 ‘초기 조건의 민감성’이라 한다. 이 문제는 수학자들의 관심을 끌었지만 c 값에 따른 경계의 변화를 관찰하는 것이 너무나 힘든 일이어서 어느 수학자도 쥘리아의 질문에 명확한 답을 할 수가 없었다. 이런 종류의 질문에 답하기 위해서는 기존의 수학과 전혀 다른 새로운 이론과 도구가 나타나기를 기다려야 하였다. 그 도구는 바로 컴퓨터였다.

프랙탈 이론의 창시자 만델브로(Benoît Mandelbrot, 1924-2010).

만델브로, 컴퓨터를 만나다

베누아 만델브로는 1924년에 폴란드의 유대계 프랑스인 집안에서 태어났다. 나치를 피해 1936년에 파리로 이주한 만델브로는 1945년에 수학자였던 숙부에게서 쥘리아의 문제에 대해 듣게 된다. 처음에 만델브로는 이 문제에 별로 관심이 없었다고 한다. 이후 수학계에서 활발히 활동하던 만델브로는 세계 최대의 컴퓨터 회사였던 IBM으로터 연구원직을 제안 받고 1958년에 미국으로 이주한다. 수학자에게 컴퓨터란 단순한 계산 보조도구를 넘어서는 완전히 새로운 도구이자 새로운 세상이었다. 만델브로는 컴퓨터를 이용하여 쥘리아의 문제를 처음으로 시각화할 수 있었다. 만델브로는 쥘리아가 생각하였던 문제를 뒤집어 다음과 같은 문제를 생각하였다.

쥘리아의 문제 자체는 복소수 c마다 그림이 하나씩 그려지므로 무한히 많은 경우를 다루어야 하는 어려움이 있다. 만델브로의 문제는 이를 뒤집어 쥘리아의 문제를 복소평면 하나에 나타낸 것이라고 할 수 있다. 앞서 쥘리아의 문제를 설명한 예에서 알 수 있듯, c=0인 경우와 c=-2인 경우에 z_n의 절댓값은 발산하지 않는다. 만델브로는 문제의 c 값을 컴퓨터를 이용하여 구한 다음 화면에 그려 보았다. 단순한 이차식으로부터 만들어진 결과는 아래 그림 왼쪽과 같이 예상외로 복잡한 모양이었다.

무슨 벌레 같기도 한 이 그림은 ‘만델브로 집합(Mandelbrot set)’으로 불린다. 이 그림은 묘하게도 부분부분이 전체와 닮은 구조를 가지고 있다. 예를 들어, 큰 몸통(?)의 앞에 달린 머리 부분(?)을 확대하면, 그 앞의 뿔 부분(?)이 다시 머리 부분과 똑같이 생겼고 이런 일이 무한히 반복된다. 이런 현상을 자기유사성(self-similarity)이라 한다. 이 그림을 보면, 쥘리아의 문제가 어려웠던 것은 너무나 당연한 일이었다는 생각이 든다. 만델브로 집합을 손으로 계산하여 구하는 것은 거의 불가능에 가까운 일이지만, 컴퓨터 프로그래밍은 매우 간단하여 누구라도 이 그림을 만들어볼 수 있다. 조금 더 기교를 부려, z_n의 절댓값이 얼마나 빨리 커지는지에 따라 색깔을 달리 칠하면 아래 그림 오른쪽 같이 더욱 멋진 그림이 나타난다.

만델브로 집합.

화려한 만델브로 집합 그림. <출처: (CC) Wolfgangbeyer at Wikipedia>

프랙탈과 카오스

만델브로는 컴퓨터를 이용하여 다양한 쥘리아 집합을 구하여 보았다. 이것 역시 만델브로 집합처럼 자기유사성을 가지고 있고, 또 가까운 두 점이 전혀 다른 양상을 보이는 초기 조건의 민감성도 확인할 수 있었다. 만델브로는 이런 종류의 도형이 가지는 복잡한 정도를 나타내는 방법을 연구하였고, 그 결과로 정수가 아닌 차원인 하우스도르프 차원을 생각하였다. 그가 생각한 대부분의 도형은 이 차원이 1과 2 사이의 실수가 되어, 만델브로는 “조각”, “부분”을 뜻하는 라틴어 fractus를 변형하여 fractal이라는 단어를 만들어냈다. 이후 자기유사성을 가진 도형은 ‘프랙탈 도형’으로 불리게 되었다.

만델브로 집합에 대해 몇 가지 문제를 생각해보자. 우선 이 집합은 모두 연결되어 있을까? 확대할 때마다 끝없이 이어지는 가지가 나타나고 그 속에 원래의 만델브로 집합이 다시 나타나는 기묘한 이 집합은 놀랍게도 하나의 영역으로 연결되어 있음이 증명되었다. 이 집합의 경계선의 프랙탈 차원(오늘의 과학 [프랙탈 차원] 참조)은 얼마일까? 놀랍게도 만델브로 집합의 경계는 곡선이면서도 그 프랙탈 차원은 2차원이다. 이 사실은 1998년에야 증명될 정도로 대단히 어려운 문제였다. 평면 위에 놓인 곡선의 프랙탈 차원이 2차원이라는 것은 그 도형이 다른 어떤 도형보다도 복잡한 구조를 가지고 있다는 뜻이라 할 수 있다.

프랙탈 이론과 관련이 있는 것으로 카오스 이론이 있다. 이 둘을 혼동하는 사람도 흔히 볼 수 있는데, 사실 이 둘은 전혀 다른 분야라 할 수 있다. 자기유사성이 핵심 개념인 프랙탈 이론은 위상수학 분야에 속한다고 할 수 있고, 초기조건의 민감성이 핵심 개념인 카오스 이론은 미분방정식 분야에 속한다고 할 수 있다. 그런데 프랙탈 도형은 가까운 두 점이 가진 정보가 전혀 다르다는 점에서 초기조건의 민감성을 가지고 있고, 카오스 이론에 등장하는 각종 끌개(attractor)들은 프랙탈 구조를 가지고 있다. 이런 점에서 두 이론은 밀접한 관련을 맺고 있다고 할 수 있다.

글 박부성 / 경남대학교 수학교육과 교수