'자연의 진정한 기하학' … 만델브로트 집합

여러분은 이미 프랙탈(fractal) 개념을 들어 보았을 것이다. 프랙탈 형태는 우리 주변에 존재하는 것에서 쉽게 볼 수 있다. 위성사진을 보면 들쭉날쭉한 대륙의 해안선이 보인다. 사진을 확대하면 이번에도 톱니 같은 가장자리가 보인다. 한 번 더 확대하면 또다시 톱니 같은 가장자리가 보인다……….

우리는 고사리 같은 양치류에서도 프랙탈의 자기 유사성(Self-Similarity)을 찾을 수 있다. 양치류의 잎 모양은 전체를 닮은 작은 부분들로 구성되어 있고, 작은 부분은 자신을 닮은 더 작은 부분으로 구성되어 있다. 즉 모든 크기에 동일한 측면이 존재하는 것이다. 그러나 여기에는 일정한 한계가 있다. 대륙의 해안선이 그렇듯이 양치류의 자기 유사성도 무한히 계속되지는 않는다. 양치류를 계속 확대하면 결국에는 세포 크기의 수준에 도달하기 때문이다.

'끝없는 프랙탈' 형태는 우리의 물리적 세계에는 존재하지 않는다. 그러나 컴퓨터의 디지털 세계에는 존재할 수 있다. 우리는 디지털 세계 안에 영원히 계속되는 형태를 만들 수 있다. 프랙탈 양치류처럼 많은 디지털 식물들이 실제의 식물 형태와 비슷하지만 아주 독특한 형태를 띠고 있다.

첫 번째이자 가장 유명한 프랙탈은 1978년에 수학자 베노이트 만델브로트(Benoit Mandelbrot)에 의해 발견되었다. 이른바 '만델브로트 집합(Mandelbrot Set)'을 매우 중요하게 여기는 사람들은 그것을 '자연의 진정한 기하학'이라 부르기도 한다.

만델브로트는 컴퓨터를 이용하여 매우 간단한 다음 방정식을 시각화했다.

z = z²+c

변수가 Z와 C, 둘뿐인 아주 간단한 방정식이다. 그래도 수학이 끔찍하다면 두 변수를 숫자를 담을 수 있는 상자로 생각하면 될 것이다. 이제 C상자에는 숫자 1이 담겨 있고, Z상자에는 숫자 3이 담겨 있다고 가정해보자.

이 방정식의 의미는 '현재의 Z값은 이전의 Z값을 제곱한 것과 C를 더한 값이다.' 만약 이전의 Z값이 3이고 C의 값이 1이라면, 현재의 Z값은 3×3+1, 즉 10이다. 그런 다음 Z상자 안의 숫자 3을 10으로 대체한다. 그러면 이전 Z값이 10이 되고, 현재 Z값은 10×10+1, 즉 101이 된다.

이 방정식이 반복적으로 적용되면서 현재 상태를 새로운 상태로 전환시킨다. 이 방정식에서는 새로운 변수가 추가되는 것이 아니라 Z값만이 반복적으로 변화되는 것이다.

그러나 이야기는 여기에서 조금 더 흥미로워진다. 만델브로트는 이 방정식이 몇 개의 특이한 수와 관계가 있다는 사실에 관심을 기울였다. 그것은 3, 10, 21과 같은 실수가 아니라 가상의 수, 즉 허수였다. 허수가 있으면 지금까지는 불가능했던 문제, 즉 -1의 제곱근은 무엇인가에 답할 수 있다. 이 문제를 달리 표현하면 다음과 같다.

"제곱하면 -1이 나오는 값은 얼마인가?"

그것은 -1이 아니다. -1 곱하기 -1은 1이기 때문이다. 그리고 1도 아니다. 1 곱하기 1도 1이기 때문이다. 사실 실수에는 그 답이 없다. 전자계산기로 1을 누르고 부호를 -1로 바꾼 다음 제곱근 √ 버튼을 눌러보라. 에러 메시지가 뜰 것이다.

문제의 답은 i 이다. i 를 제곱하면 -1이 된다. 따라서 i 는 허수이다. 일반적으로 허수는 n+im으로 표현된다. n과 m은 그 허수의 크기를 알려주는 실수이다. 그래서 1+i2는 5+i4보다 작다.

만델브로트의 구체적인 관심사는 그의 단순한 방정식에서 나오는 값의 증가였다. 그는 어떤 C값에서는 방정식에서 나오는 허수의 값이 계속 증가할 것임을 알았다. 그러나 다른 C값에서 그 허수 값은 아주 작은 두 허수 사이를 왕복한다. 그래서 그는 컴퓨터를 이용, 허수 값이 무한히 발산하지 않는 각각의 C값을 화면 위에 점으로 표현했다. 그 결과 '만델브로트 집합'이라는 그림이 나왔다. 납작하게 눌린 벌레의 가장자리에 수많은 촉수가 달린 모습이었고, 어떻게 보면 잉크 얼룩과도 같았다. 그것은 정사각형이나 원 같은 순수한 기하학적 형태와는 거리가 먼, 뚜렷한 유기적(organic) 형태였다.

만델브로트는 그림이 너무 이상한 나머지 그것을 확대해보았으나 단지 더 세부적인 형태만 나왔다. 계속 확대해 들어가도 보이는 것은 더 복잡한 구조뿐이었다. 어떤 무늬는 '납작해진 벌레'가 뒤틀린 모습이었고, 또 어떤 무늬는 나선형, 늑골, 꽃잎 등의 생물학적 형태와도 비슷했다. 만델브로트 집합의 세부적 형태는 끝없이 계속된다는 사실이 곧 분명해졌다. 그것을 영원히 확대해도 같은 모양과 구조가 계속 나올 것이다.

오늘날 프랙탈 형태에 대한 일반적인 이해가 크게 증가했다. 프랙탈 예술은 보편화되었고, 과학자들 또한 만델브로트 집합의 신기한 성질을 연구하기 위해 오랜 시간을 투자하고 있다. 우리가 자연적 형태들 속에서 발견했던 기본상수들이 디지털 세계의 프랙탈 형태에서도 나타나고 있는 것이다.