혼돈(chaos) 이론

어떤 과학자나 철학자는 우주 전체를 톱니바퀴가 아주 많은 거대한 시계로 생각하곤 합니다. 천문학의 관측 내용은 이런 견해를 뒷받침해 줍니다. 태양은 날마다 뜨고 지며(즉 지구는 날마다 자전을 하며), 여러 행성이 태양 주위를 돌고, 달은 찼다가 기웁니다. 이 같은 현상은 지금까지와 마찬가지로 앞으로도 계속 진행될 것으로 보입니다. 모든 사물이 서로 조화를 이루고 있을 뿐만 아니라, 현재의 상태를 파악하면 미래의 상태를 예측할 수 있습니다. 그래서 19세기의 천문학자이자 수학자인 라플라스(P. S. de Laplace)는 우주에 있는 모든 분자의 초기 상태를 파악하면 우주의 미래 전체를 예측할 수 있다고 주장하기도 했습니다.

우주 전체에 비해 규모는 훨씬 작지만 적절하게 비교할 수 있는 사례 하나를 살펴봅시다. 우선 컵과 접시와 소금 그릇을 나란히 붙여 놓았다고 가정합니다. 그런데 컵을 접시 방향으로 15cm 민다면 컵은 접시를 15cm 밀 것이며, 그 결과 접시는 소금 그릇을 15cm 밀게 된다는 것을 우리는 정확히 예측할 수 있습니다. 그렇지만 시스템이 훨씬 복잡하다면 어떨까요? 컵 한 개가 접시 세 개를 밀고, 각각의 접시가 소금 그릇 여덟 개를 민다면 어떻게 될까요?

이제 혼돈(chaos) 이론으로 들어가 봅시다. 혼돈 이론은 흐르는 물이나 기후와 같은 커다란 계의 작동을 설명합니다. 혼돈 이론에서 말하는 ‘혼돈’은 우리가 일상적으로 사용하는 혼돈과 동일한 의미로 사용되지는 않습니다. 옷이나 책을 비롯한 온갖 잡동사니를 1주일 동안 밤마다 침대 밑으로 아무렇게나 던져 놓아 방이 엉망진창이 되는 혼돈을 의미하지는 않는다는 뜻입니다. 혼돈의 작용은 예측 불가능합니다. 예측 불가능한 이유는 과학자들의 표현대로 ‘초기 조건에 극도로 민감하기’ 때문입니다. 대표적인 예로 들 수 있는 것이 중국 베이징에 있는 나비 한 마리가 날개를 퍼덕거리면 한 달 후 뉴욕에 엄청난 폭풍이 일어난다는 이른바 ‘나비 효과’입니다. 쉽게 말해서 베이징에 있는 나비 한 마리가 일으킨 사소한 공기의 파동이 점차 커지고 복잡해지다가 마침내 뉴욕에서 폭풍으로 발전할 수 있다는 것입니다. 초기조건에 민감하다는 말은 초기 조건에 약간의 차이가 생기면 결국 엄청나게 다른 결과가 일어날 수 있다는 것을 암시합니다.

혼돈 작용의 예측 불가능성은 무작위성과 다릅니다. 무작위적 사건은 이 쪽 아니면 저 쪽으로 나아갑니다. 우리가 무작위적 행위라고 말할 때, 그것은 대체적으로 특정 결과를 불러  일으킬 다양한 요소를 아무렇지 않게 무시하는 경우를 의미합니다. 그렇지만 손으로 툭 던진 동전조차 던지는 손의 미묘한 압력과 공기의 흐름에 영향을 받습니다. 진짜 무작위 사건은 오직 원자 차원에만 발생합니다. 방사성 핵이 붕괴하는 정확한 순간은 본질적으로 예측 불가능합니다. 양자 행위는 통계 차원에서만 예측될 수 있습니다.

혼돈계는 대부분 일반적인 유형으로 전개되지만 구체적인 부분은 예측 불가능합니다. 만일 강둑에 앉아서 - 또는 덜 낭만적이지만 비바람이 몰아친 뒤 도랑 가장자리에 서서 - 물이 흘러가는 모습을 바라본다면 잔물결이 비슷한 모습으로 흘러가긴 하지만 끊임없이 변한다는 것을 알 수 있습니다. 혼돈계는 대부분 이처럼 일정 기간 규칙적인 형태를 전개하다가 급격한 변화를 일으키고, 다시 규칙적인 형태로 돌아옵니다. 강물은 조용히 흐르다가 전혀 예측하지 못한 소용돌이에 갑자기 휘말릴 수 있습니다. 이 같은 급격한 변화를 예측하기 어려운 이유는 이런 변화가 온갖 차원에서 발생하기 때문입니다. 하나의 커다란 소용돌이 안에는 작은 소용돌이가 여러 개 들어있고, 각각의 작은 소용돌이 안에는 더 작은 소용돌이가 여러 개 들어 있는 데까지 내려가야 하겠지요.

혼돈 이론은 질서와 무작위 사이, 그리고 통계와 무기력 사이에 있는 틈새를 연결하는 과학적이며 철학적인 도구입니다. 혼돈 이론은 불규칙하게 뛰는 심장 박동에서 별의 생성에 이르기까지 다양한 현상의 작용을 연구하는 데 필요한 도구를 과학자들에게 제공합니다.

『즐거움과 상상력을 주는 과학』(사계절)