자연의 기하학, 프랙탈

유클리드 기하학에 반기

로바체프스키와 만델브로트. 이 두 사람은 기하학에 혁명을 가져온 인물이라는 공통점을 지니고 있다. 2천 년의 역사를 가진 유클리드 기하학이 절대적 진리가 아님을 처음으로 밝힌 수학자는 러시아의 니콜라이 로바체프스키 교수이다. 그는 33살 되는 1826년  비유클리드 기하학을 발표했다. 궁핍한 가정에서 태어나 독학으로 30대 초반에 대학의 학장에 오르는 행운을 맛보기도 했지만 1856년 세상을 떠날 때 까지 30년 동안 그의 위대한 발견에 대해 당대의 사람들로부터 이해를 받지 못한 비운의 삶을 살았다.

한편 폴란드 태생의 유태인 베노이트 만델브로트 박사는 프랙탈 기하학을 창안하여 당대에 인정을 받았을 뿐 아니라 유복한 여생을 지내고 있다. 그는 12살 되는 1936년 나치스를 피해 파리로 피난을 감에 따라 정상적인 교육을 받지 못하였지만 1958년 미국으로 건너가서 IBM사의 연구원으로 취직이 된 뒤부터 유클리드 기하학에 정면으로 의문을 제기한다.

유클리드 기하학에서 모양은 직선, 원, 평면 또는 원추 등으로 표현된다. 그러나 만델브로트의 기하학적 직관으로는 "구름은 둥글지 않고, 산은 원추형이 아니며, 나무껍질은 반듯하지 않고, 번개는 직선으로 이동하지 않는다". 그는 울퉁불퉁하며, 둥글지 않고, 매끄럽지 않은 모양을 가진 우주의 삼라만상을 제대로 표현하기 위하여 새로운 기하학이 필요하다는 결론에 도달했다.
 

해안선의 길이

만델브로트의 사고에 전환점이 된 것은 해안선이다. 영국의 해안선은 그 길이가 얼마인가? 그는 1967년 논문에서 이와 같이 질문하고 그를 일약 유명하게 만든 해답을 발표했다. 영국의 해안선은 그 길이가 무한대라는 충격적인 대답이었다.

해안선의 길이는 정밀한 지도를 만들어 계산할 수 있다. 지도가 정밀할수록 들쭉날쭉한 것이 더욱 세밀하게 표시되기 때문에 해안선의 길이는 지도의 정밀도에 비례해서 그만큼 늘어나게 된다. 따라서 해안선에 있는 모든 세세한 것들, 이를테면 수많은 바위와 조약돌까지 모두 포함하여 길이를 측량한다면 결국 해안선의 길이는 무한대가 된다는 주장이다. 만델브로트의 논리에 의하면 영국의 해안선이나 울릉도의 둘레는 그 길이가 똑같다. 모두 그 길이가 무한대이기 때문이다.

만델브로트의 이론은 20세기 초의 수학자들을 괴롭힌 코흐 곡선(Koch curve)에 맥이 닿아 있다. 1904년 스웨덴의 수학자인 코흐는 다윗의 별처럼 생긴 눈송이를 만들었다.

코흐 곡선은 각 변의 길이가 1인 정삼각형에서 시작된다. 각 변을 3등분하여 가운데 부분에 새로운 정삼각형을 추가한다. 이 삼각형의 변은 길이가 1/3이다. 동일한 방법으로 이러한 삼각형을 계속하여 추가시키면 아주 상세한 윤곽을 가진 눈송이의 모양이 나타난다. 그 둘레는 길이가 '3×4/3×4/3…'가 되어 결국 무한하다.

코흐 곡선에서 매우 흥미로운 특성은 출발점이 된 첫 번째 삼각형 주위로 원을 그렸을 때 코흐 곡선이 결코 그 원 밖으로 그려지지 않는 것이다. 요컨대 눈송이의 면적은 항상 이 원의 면적보다 클 수 없다. 다시 말해서 반복을 거듭하여 작은 삼각형을 제아무리 무수히 추가시키더라도 코흐 곡선 안의 전체 면적은 유한하다. 무한한 길이의 곡선이 유한한 면적을 둘러싸게 되는 패러독스가 생긴 것이다.

이러한 패러독스 때문에 코흐 곡선은 수학자들에게 모양에 대한 합리적인 생각을 파괴하는 '괴물' 또는 '병리학적 구조'로 여겨졌다. 그러나 만델브로트는 코흐의 눈송이를 해안선의 모델과 유사한 것으로 보고 코흐 곡선을 통하여 해안선의 길이가 무한대라는 확신을 얻었다.
 

자연의 자기 유사성

코흐 곡선의 둘레는 유클리드 기하학으로 보면 선이므로 1차원이다. 그러나 만델브로트는 유한한 면적을 둘러싸고 있는 무한한 길이의 곡선이므로 단순한 선 이상의 것으로 보았다. 그렇다고 해서 코흐 곡선의 둘레를 2차원의 평면으로 볼 수는 없다. 요컨대 코흐 곡선은 1차원 이상이지만 2차원은 아니다.

만델브로트는 이러한 특이한 성격의 차원을 표현하기 위하여 1919년 독일 수학자 펠릭스 하우스돌프가 제안한 분수(fraction) 차원의 개념을 체계화하였다. 분수 차원은 유클리드 기하학에서 점은 0차원, 평면은 2차원 등 정수(整數)로 표현되는 개념을 정면으로 거부한 것이다. 분명하게 정의될 수 없는 물체의 성질들, 예컨대 불규칙적이거나 울퉁불퉁한 성질은 정수가 아니라 분수로 측정해야 된다는 혁명적인 발상이었다.

만델브로트는 유효 차원(effective dimension)의 개념으로 분수 차원을 계산하는 방법을 제시했다. 이를테면 공의 경우, 멀리서 보면 점같이 보이므로 0차원이지만 가까이 보면 3차원이 되고 다시 물러서서 보면 0차원으로 돌아간다. 공의 유효 차원은 관찰대상의 위치에 따라 0차원과 3차원 사이에서 분수로 표현된다.

그의 이론에 따르면 영국의 해안선은 1.25차원, 코흐 곡선은 1.2618차원, 단백질 표면은 2.4차원, 인간의 동맥은 2.7차원으로 계산된다. 한 마디로 분수 차원은 차원에 대한 고정관념을 완전히 뒤엎는 획기적인 발상이었다.

만델브로트는 분수 차원의 개념으로 자연 현상의 불규칙적인 패턴을 연구하여 자기 유사성(self-similarity) 개념을 창안했다. 이 세계의 자연 현상은 대부분 질서가 있으나 혼돈스러운 현상이다. 한 마디로 '규칙적인 불규칙성(regular irregularity)'을 보여 주고 있다. 그러한 불규칙성의 정도는 규모(scale)가 크건 작건 항상 일정하다. 이와 같이 모든 구조가 그 기초에 갖고 있는 기하학적 규칙성을 자기 유사성 또는 규모 불변성(scale invariance)이라 이른다.

자기 유사성은 물체를 다른 크기의 규모로 들여다보면 동일한 기본 요소가 반복적으로 나타나서 규모에 무관하게 스스로 닮은 성질이다. 예컨대 코흐의 눈송이, 나무의 잔가지, 신체의 혈관이나 축색 돌기가 좋은 본보기이다. 이들은 모두 규모가 점진적으로 작아지면서 상세한 모양을 되풀이해서 나타내고 있음을 보여준다.
 

혼돈의 기하학

자기 유사성은 혼돈(chaos) 이론과 밀접한 관계가 있다. 자기 유사성은 규모에 근거하여 불규칙성(혼돈)의 측정을 시도하는 접근 방법이기 때문이다. 말하자면 혼돈 속에 일정한 질서가 내재되어 있음을 보여줌으로써 바다의 난류, 심장에서 나타나는 갑작스런 진동, 주식 가격의 난데없는 폭락처럼 불규칙적이고 예측하기 어려운 혼돈 현상으로부터 질서를 찾아내려는 혼돈 과학을 이론적으로 뒷받침해 주고 있다. 프랙탈 기하학이 혼돈의 기하학으로 간주되는 이유이다.

만델브로트는 1975년 그가 생각해낸 새로운 모양, 차원, 기하학에 새로운 명칭이 필요하다고 생각하고, '부수다(break)'의 뜻을 지닌 라틴어에서 유래된 영어 'fracture'로부터 프랙탈(fractal)이라는 새로운 낱말을 만들어 냈다. 그의 새로운 모양은 프랙탈, 차원은 분수 차원, 기하학은 프랙탈 기하학으로 명명되었다. 이어서 1977년에 『프랙탈』이라는 저서를 펴냈다.

프랙탈 모양은 무한하게 세분되고, 무한한 길이를 가지며, 정수가 아닌 분수로 차원을 나타내고, 규모가 작아지는 방향으로 스스로 닮아 가며, 간단한 반복 작용을 계속하여 손쉽게 만들어 낼 수 있는 특성을 가진 모양으로 요약된다.

프랙탈 기하학은 무한과 혼돈을 표현해 주는 새로운 기하학이며, 우주와 자연의 본질을 완전히 새로운 눈으로 이해하는 수단이다. 한 가지 특기할 만한 사항은 혼돈 과학과 함께 프랙탈 기하학은 컴퓨터 시대의 산물이라는 것이다. 컴퓨터가 없었더라면 만델브로트는 결코 그의 연구를 수행할 수 없었다는 의미이다.

프랙탈 개념이 학계에 폭발적으로 확산된 것은 만델브로트의 두 번째 저서인 『자연의 프랙탈 기하학』이 출간된 1982년부터이다. 프랙탈 이론은 오늘날 거의 모든 과학 분야에 도움이 되고 있다. 왜냐하면 자연의 모든 현상이 불규칙적인 특성을 다소간 갖고 있기 때문이다. 지질학에서 생리학에 이르기까지 자연 세계에 대한 이해의 폭과 깊이를 확대 또는 심화시켜 주고 있다.

「아주 특별한 과학 에세이」(이인식) 참고