카오스와 미래 과학

카오스(Chaos)란 혼돈이라는 의미의 그리스어에서 기원한 단어이며, 좀 더 구체적으로는 천지창조 이전의 무질서, 혹은 대혼란이라는 뜻이다. 질서 잡힌 우주라는 의미인 코스모스(Cosmos)의 반대어라고 볼 수 있다.

아주 오래전부터 사람들은 자연에 그 자체의 고유한 법칙과 질서가 있다는 생각을 해왔으며, 고대 그리스의 자연철학 이래에 그것을 밝혀내는 것이 과학의 궁극적 목표로 여겨져 왔다. 17세기 서유럽의 과학 혁명기에 이르러 유명한 과학자 아이작 뉴턴(Issac Newton, 1642-1727)은 물체들에 작용하는 힘과 그 운동법칙을 밝혀내는 데에 큰 성공을 거두었다. 즉, 그것은 간단한 방정식으로 표현되며(물체에 작용하는 힘을 F, 물체의 질량을 m, 그 물체의 가속도를 a라 하면 F=ma 관계가 성립된다), 이것을 온갖 사물에 적용시켜서 풀면, 지구와 달 사이의 운동, 인공위성, 당구공, 시계추의 운동 등 여러 경우에 있어서 물체들의 움직임을 정확히 예측할 수 있다는 것이었다.

뉴턴의 추종자였던 피에르 라플라스(Pierre Simon de Laplace, 1749-1827)는 이러한 생각을 더욱 발전시켜서, "만약 우주의 모든 물체들의 초기 조건을 정확히 알고 뉴턴의 운동방정식을 동시에 풀 수 있다면, 미래에 일어날 모든 일들을 미리 예측할 수 있다"라고 말하였고, 이러한 사고는 곧 미래의 모든 일들은 이미 결정되어 있다는 이른바 '결정론적 세계관'의 기초가 되었다.

이러한 사고가 맞는다면, 물체의 수가 몇 개 안 되는 간단한 계(界)뿐만 아니라 물이나 유체의 흐름, 대기의 순환 등과 같은 복잡한 계에서도 모든 것들을 예측할 수 있다는 얘기가 된다. 가령 우리는 장래의 일기예보를 100퍼센트 정확하게 예측해 낼 수 있을까? 불행히도 카오스 이론에 따른다면 그것은 불가능하다. 조금 과장되기는 했지만, 이른바 '나비효과'라 지칭되는 오늘날의 카오스 이론의 관념은 "오늘 서울에서 나비 한 마리가 날개를 펄럭이면, 그것이 계속 증폭되어서 지구 반대편인 뉴욕에서는 내일 폭풍이 몰아칠 수도 있다"라고 비유한다.

카오스 이론은 1963년 미국의 기상학자 에드워드 로렌츠(Edward N. Lorenz)에 의해 처음 발견되었다. 기상 예측에 관한 컴퓨터 모의실험을 하던 로렌츠는 실험 결과가 초기 조건에 민감하게 의존하는 예상외의 형태로 나온 것에 주목하여「결정론적 비주기성의 흐름」이라는 논문을 대기과학지에 실었고, 이것이 새로운 과학의 장을 여는 단서를 마련하였다. 물론 그 이전에 앙리 푸앵카레(Jules Henri Poincare, 1854-1912)와 같은 선구자가 훗날 카오스 이론을 발전시킬 수 있는 수학적 틀을 마련해 놓은 적도 있었다.

1975년에는 수리물리학자 로버트 메이(Robert May)가 생물의 개체수 변동을 수학적으로 처리하는 데에서 카오스 이론적인 의미를 갖는 해답을 발견하였고, 이 결과를 그 해 제임스 요크(James Yorke)와 함께「주기 3은 카오스를 포함한다(Period Three Implies Chaos)」라는 논문으로 발표하였다. 이후에 카오스라는 단어가 일반적인 과학기술 용어로서 자주 등장하게 되었고, 과학 및 공학의 여러 분야에서 카오스 이론이 활발히 연구되는 계기가 되기도 하였다.

앞에서 예로 든 뉴턴의 운동방정식이 적용되는 예측 가능한 계는 사실은 자연현상 중에서 극히 일부에 지나지 않는다. 즉, 간단하고 수학적으로 선형적인(Linear) 모델을 세울 수 있는 경우이다. 그러나 실제로 자연에서 일어나고 있는 현상의 대부분은 매우 복잡하고 비선형적(Non-linear)이기 때문에 예측 불가능한 경우가 일반적이다.

예를 들어, 풍선에 바람을 충분히 불어넣은 후 봉하지 않고 그냥 놓으면, 풍선의 바람이 빠지면서 어떤 방향으로 운동할 지 전혀 알 수 없다. 불붙은 담배에서 위로 피어오르는 담배 연기도 처음에는 어느 정도 규칙적인 운동을 하다가, 한 순간에 규칙성이 깨진 이후에는 복잡하고 불규칙한 모습을 보인다. 물이 흐르다가 갑자기 소용돌이치면서 난류 현상을 보이거나 대기의 흐름에서 돌풍이 부는 현상, 인간을 포함한 대부분의 생명체 내에서 일어나는 일 등도 마찬가지이다. 자연현상은 그 자체로서 거의 불규칙하고 예측 불가능한, 즉 카오스적인 속성을 지니고 있다.

그렇다고 해서 카오스 이론이 완전히 무질서한 상태만을 의미하거나 단순히 혼란스러운 이론인 것은 결코 아니다. 도리어 겉으로 보기에 불규칙하고 무질서해 보이는 그 이면에도 일정 정도의 규칙성과 놀라운 질서가 숨어 있기 때문에, 카오스 과학은 극도의 복잡성과 불규칙성 속에서 새로운 질서를 찾아내 인간이 제어할 수 있도록 하는 것을 목표로 삼는다.

한 예로서, 앞에서 언급된 로렌츠가 발견한 카오스 현상은 그 이면에 기이한 끌개(Strange Attractor)라는 규칙적인 구조를 가지고 있으며, 이것은 기하학적으로 프랙탈(Fractal)이라 불리는 매우 기묘하고도 재미있는 모습을 보이고 있다. 프랙탈 구조는 내부에 무한히 반복되는 자기 유사적인(Self-Similarity) 형태를 지니고 있어서, 어느 부분을 잘라내도 전체와 비슷한 모습을 보인다.

복잡하고 불규칙한 겉모습을 보이는 계에서 숨겨진 질서와 새로운 규칙성을 찾는다는 것은 수학적으로 풀기가 힘들고 대단히 어려운 일이어서, 예전에는 이 분야의 연구가 별로 진척을 보이지 못하였다. 그러나 최근 들어 컴퓨터의 성능이 비약적으로 향상되고 그 밖의 수학적, 공학적 도구들도 크게 발전됨에 따라 카오스 이론은 자연과학, 공학 등 거의 모든 분야에 걸쳐서 활발히 연구되고 있으며, 응용·적용될 수 있는 분야 또한 무궁무진하다.

먼저 물리학, 지구과학, 수학 등을 꼽을 수 있는데, 이것은 카오스 이론이 처음 탄생했던 배경과 밀접한 관련이 있는 분야들이라고 볼 수 있다. 예전의 물리학으로는 대단히 풀기가 어려웠던 대표적인 문제 중의 하나인 유체의 난류 현상 등을 비롯해서, 수많은 비선형 현상들에 관한 연구가 큰 진전을 보이고 있는데, 레이저 및 플라스마의 불안정성, 초전도 소자에서 전류특성의 요동, 전기회로에서의 특별한 잡음 등도 그 예이다.

일기예보를 완벽하게 하기는 매우 어렵지만 카오스 이론 덕분에 기상 현상에 영향을 주는 복잡한 요소들을 훨씬 잘 이해할 수 있으며, 따라서 예보 기술도 크게 발전할 것임에 틀림없다. 지자기의 급격한 변동, 지각에서 마그마의 섞임과 지진 등 지구환경의 변화 및 그 예측에도 카오스 이론이 적용될 수 있다. 수학에서도 프랙탈 기하학은 비유클리드 기하학의 새 장을 열고 있으며, 이는 여러 실용적인 분야에도 응용될 수 있다.

컴퓨터 관련 분야를 비롯한 전기, 전자공학에서도 카오스 이론에 의해 새로운 지평을 열 수 있는 것들이 매우 많다. 비선형 네트워크를 특징으로 하는 카오스 컴퓨터 및 대용량·고속의 카오스 메모리의 가능성이 거론되고 있으며, 음성과 화상 인식 등의 카오스 패턴 인식, 카오스 부호화를 통한 암호 및 정보 압축 등이 연구되고 있다. 인간에게 쾌적한 느낌을 주고 제품의 성능을 높이도록 카오스 제어되는 에어컨·선풍기·세탁기 등의 카오스 가전제품들은 이미 몇 년 전부터 우리 일상생활에 이용되고 있다.

생물학 및 의학 등의 분야 또한 최근 카오스 이론이 활발히 연구·적용되는 분야이다. 인체를 비롯한 생명체 자체가 고도의 복잡계를 나타내고 있고, 심장의 박동이나 뇌파의 불규칙한 리듬, 신경계의 정보 전달 등에서도 카오스 현상이 관측된다. 이를 이용한 생체 카오스 해석 장치가 이미 개발되었고, 심장마비가 일어나는 과정, 알츠하이머병이나 정신분열증에 걸린 환자의 뇌 상태 등에 관한 컴퓨터 모의실험 등의 연구가 진행 중이다. 특히 뇌과학의 연구 및 이를 모방한 컴퓨터나 로봇의 개발 등의 생체응용공학 연구에 있어서 카오스 이론은 큰 해결의 실마리를 줄 수 있을 것으로 기대된다.

카오스 과학의 응용 범위는 자연과학이나 공학 분야에 그치지 않고, 경제학·사회학 등의 인문 사회과학, 예술 분야에까지 이른다. 경기 및 주식시장의 급격한 변동이나 주가의 분석·예측 등에도 카오스 이론이 응용되며, 이러한 추세에 힘입어 최근 선진국에서는 수학자나 물리학자들이 증권사, 은행 등의 금융 회사에 취업하거나 투자자문 회사를 차리는 경우가 매우 많다. 카오스 이론과 프랙탈 기하학을 응용한 컴퓨터그래픽이 SF 영화 등에서 자주 이용되고 있고, 카오스 음악도 거론되는 등 음악·미술에도 카오스 이론은 적용되고 있다.

카오스 과학은 예전에는 과학의 중요한 대상이 아니라고 생각했던 분야, 즉 질서를 벗어난 무가치한 혼란 상태나 사소한 잡음 등으로 여겨지던 것들이 이제는 매우 중요한 과학의 분야들로 자리 잡음으로써 과학의 지평이 그만큼 확대되었음을 의미한다.

어떤 이들은 카오스 이론이 상대성 이론, 양자역학과 더불어 20세기 물리학의 세 번째 혁명이라고 얘기하기도 한다. 그러나 일관된 하나의 원리로부터 출발하여 모든 것을 설명하려는 기존의 환원주의적 경향의 물리학과 차별성을 보인다는 점에서 상대성 이론이나 양자역학의 경우와는 상당히 다르다고 평가하는 학자들도 있다. 또한 그것이 이미 완결된 상태가 아니라 현재도 진행 중이라는 점을 중시하지 않을 수 없다.

한편 무질서 속의 숨겨진 질서, 혼돈 속의 새로운 규칙성을 찾는 카오스 이론의 세계관은 노장사상, 불교 등의 동양사상적 세계관 및 철학과 일치한다고 주장하는 경우도 있으나, 표면적 유사성을 가지고 지나치게 확대 해석하는 것은 무리이며 경계해야 할 일이라고 보여진다.

카오스 이론 등의 이른바 <복잡성>의 과학도 컴퓨터의 발전 및 시대적 요청에 힘입어 나온 것이라고 본다면, 21세기는 카오스 과학이 더욱 큰 역할을 할 것임에 틀림없다. 록펠러대학 교수이자 뉴욕학술원 이사인 하인즈 페이겔스는 "미래에는 카오스 이론을 포함한 복잡성의 과학에서 앞서 나가는 나라가 곧 정치적·경제적·문화적·군사적 강대국이 될 것이다"라고도 예언하였다.

『상상은 미래를 부른다』(사이언스북스)