'비선형(非線型)'의 카오스와 프랙탈

'자와 컴퍼스'로 이루어지는 그리스시대의 수학이 유클리드 기하학이었다면, 오늘날 컴퓨터시대에는 거기에 어울리는 새로운 수학이 탄생하는 것이 당연한데, 그것이 바로 카오스(chaos) 이론과 프랙탈(fractal) 이론이다.

프랙탈 이론은 수학이라고는 하지만 그것은 우리 일상생활 속에 늘 존재하면서 과학전반에 걸쳐서 넓게 응용되고 있다. 또한 프랙탈과 카오스는 확률과 통계의 관계처럼 종이의 앞뒤와 같다.

프랙탈 이론은 교과서적인 수학지식이 거의 없는 사람도 충분히 직관적으로 이해할 수 있는 내용이다. 1898년 네덜란드에서 태어난 판화가 에셔(M.C. Escher)는 수학에 관한 체계적인 지식은 거의 없었다. 그러나 공간과 시간, 우주의 역설적인 구도를 통찰함으로써 카오스(프랙탈)적인 작품을 많이 남겼다. 많은 사람들이 그의 작품에서 깊은 수학적 통찰을 느끼는 것도 바로 그 때문이다.

카오스(chaos)라는 용어는 1975년 미국 메릴랜드 대학의 수학교수 요크(J. Yorke, 1941~)와 그의 대학원생 이천암(중국인)이 쓴 논문의 제목에서 비롯되었다. 이들은 생물의 증가수에 관한 함수식을 컴퓨터로 계산하는 과정에서 변수의 값에 따라 그 그래프가 미묘하게 변하면서 마침내는 카오스 상태가 된다는 사실을 발견하였다.

카오스는 정식으로는「비선형역학계(非線型力學系)에 형성되는 불규칙한 진동현상」이라는 까다로운 표현으로 정의된다. 이 '불규칙적인 진동현상'을 알기 쉽게 설명한 예로「나비효과(butterfly effect)」라는 것이 있다. 그것은 오늘 서울 남산에서 날고 있는 나비의 날개짓이 며칠 후 뉴욕에 폭풍을 일으킬 수 있다는 현상을 말한다. 이는 곧 처음의 사소한 차이가 미래의 결과에 엄청난 차이를 일으킨다는 것이다. 실제로 지하 30km의 단층에서 조그만 돌멩이가 약간 미끄러져서 자리를 옮긴 일 때문에 지상에서는 큰 지진이 일어날 가능성이 충분히 있는 것과 같다.

카오스는 갑작스런 날씨의 변화처럼 '비선형(非線型)'의 예측 불가능한 불규칙적인 물리현상이다. 그러나 우리가 겪는 물리적 현상은 대부분이 '선형(線型)'이며 예측 가능한 것이 보통이다. 즉 하나의 변수의 변화에 (반)비례하여 다른 변수가 변화하는 선형 방정식(1차 방정식)으로 나타내어지는 현상이 대부분이다. 가령, TV나 오디오의 볼륨을 2배로 올리면 소리도 2배로 커지는 것처럼 말이다. 따라서 자연과학은 물리적 현상이 일정한 질서 위에서 이루어진다는 가정 하에서 성립한다.

그러나 비선형의 세계에서는 그렇게 단순하지가 않다. 고장난 TV나 오디오처럼 볼륨 다이얼을 조금만 돌려도 소리가 갑자기 커지거나, 반대로 소리가 갑자기 작아지거나 변형되는 것처럼 기묘한 현상이 예측 불가능하게 일어난다.

한편 프랙탈은 '자기닮음(自己類似)'의 성질을 지닌 도형이며, 아무리 확대하거나 축소하여도 여전히 같은 형태를 지닌다. 바꿔 말하면 아무리 크게 하거나 작게 하여도 더 이상 단순해지지 않는 도형인 것이다. 이것은 수리과학(넓은 의미의 수학)의 전통과는 어긋나는 아주 난처한 현상이다. 수학(해석학)이나 물리학(역학)의 기본적 도구는 미분법(微分法)인데 그 근본적인 발상은 '충분히 확대하면 곡선도 직선으로 간주할 수 있다'는 데에 있다. 아무리 구부러져 있다 하여도 순간순간은 직선의 상태라는 가정이다. 그러므로 구부러진 상태가 여전히 구부러져 있다고 가정하면 미분법은 불가능해진다.

프랙탈 중에도 삼각형을 차례로 분활해서 만드는 단순한 선형의 자기닮음(시어핀스키 가스켓)부터 비선형의 카오스적 프랙탈까지 여러 가지가 있다. 그 중에서도 보다 중요한 것은 후자의 경우이다. 자연에는 이런 불규칙적인 자기닮음꼴을 곳곳에서 찾아 볼 수가 있다.

「프랙탈과 카오스의 세계」(김용운 외) 참고