“남해의 제왕을 숙이라 하고 북해의 제왕을 홀이라 하며 중간계의 제왕을 혼돈이라 한다. 숙과 홀이 마침 혼돈의 땅에서 서로 만나니 혼돈이 그들을 극진히 대접하였다. 이에 숙과 홀이 혼돈이 베풀어준 은혜를 갚고자 하여 모의하기를 “사람에게는 일곱 개 구멍이 있어 그것으로써 보고 듣고 먹고 숨쉬니 혼돈만이 그것이 없으니(필자주 : 눈 코 귀 입이 없는 얼굴) 그에게 구멍을 뚫어주자하여, 하루에 구멍 하나씩 뚫어나가기 7일만에 혼돈은 죽고 말았다.” (南海之帝爲儵, 北海之帝爲忽, 中央之帝爲混沌. 儵與忽, 時相與遇於混沌之地, 混沌待之甚善. 儵與忽, 謀報混沌之德,, 曰, “人皆有七竅 以視聽食息, 此獨無有, 嘗試鑿之”. 日鑿一竅, 七日而混沌) 장자 내편(內編)중 마지막 응제왕편(應帝王篇)에 나오는 혼돈(카오스, 초맨)의 제왕에 대한 일화이다.

그리이스 신화에도 태초에 이 세상엔 아무것도 없고 '카오스(Chaos, 혼돈)'만이 존재했다. 카오스는 무질서하고 정형이 없는 덩어리로 모든 물질의 원형과 에너지로 꽉 찬 공간이었다. 물질들과 에너지가 아직 서로 분리되어 있지 않고 모든 것이 서로 뒤엉켜 있는 상태가 바로 카오스였다.

구약성서 창세기에는 카오스는 천지 창조 이전의 혼돈의 상태를 이른다. “신이 천지를 창조하기 전에는 땅은 황량하고 혼돈이었으며, 어둠이 심연을 덮고 폭풍이 수면을 거칠어지게 하였다.”고 한다. 세계의 여러 문화권에서 신화들에는 어떤 형태의 혼란, 무질서, 소용돌이치는 무엇과 같은 초기 상태를 상정하고 있다.

과학과 수학의 역사는 이러한 무질서와 혼돈을 수학방정식이나 과학이론을 통하여 예측하고 설명할 수 있게 되어 왔다. 과학의 발달은 자연현상이 정확한 법칙을 따르고 있으며 이에 따라 일식, 월식과 같은 신비한 자연현상도 과학의 법칙으로 설명하고 예측할 수 있다는 점을 알려주었을 뿐만아니라 또한 그 영역은 점점 넓고 깊게 전개되었다.

그러나 우리들의 자연에 대한 인식은 그것이 완결된 구조라 만족하였을 때 또 다른 난관을 맞이하게 되었다. 20세기 초까지는 자연계를 설명하는 완전한 이론을 뉴턴의 역학으로 생각하였으나, 아인슈타인 등의 상대성이론의 발견으로 뉴턴이론이 빛에 가까운 빠른 운동에는 전혀 현실성을 가지지 못한다는 것이 드러났으며 상대성이론 역시 아원자 세계를 설명하는 데에 이르러서는 양자역학에 그 자리를 물려주게 되었다.

이렇듯 과학의 발전과정에서 과학자와 과학의 세기가 묵시적으로 동의하는 것은 우리가 예측하지 못하거나 불규칙해 보이는 현상들은 많은 복잡한 요인들이 복잡하게 관련되어 있기 때문이며 관련 요인과 그 관계를 정확히 파악하기만하면 그 무질서하고 복잡해 보이는 카오스 상태를 설명하고 예측할 수 있을 것이라는 가정이다. 그러나 이러한 과학의 신념이 또 다른 신화였다는 것이 밝혀지는데는 오래 걸리지 않았다. 카오스이론이라는 것이 연구되면서 '규칙을 더욱 정교하게 다듬으면 더욱 완전해진다.'는 신화는 산산히 부서져 흩날리게 되었다.

이전에는 많은 현상이 엉켜 불규칙한 현상이 발생한다고 생각하였지만 카오스 연구에 의하면 근원이 되는 것이 정확한 법칙이더라도 이것이 단 두개 혹은 세개만 뒤엉키는 것만으로 아주 복잡하고 불규칙하고 엄청난 변화를 가져올 수가 있다. 카오스 현상에 최초의 체계적 문제제기는 19세기 말, 프랑스 수학자인 프앵카레(Jules Henri Poincare, 1854-1912)에 의해서 였다. 프엥카레는 뉴턴역학의 방법으로는 어느 정도 근사치까지는 맞출 수 있지만 그가 말한 것처럼 완벽하게 운동을 예측하고 설명하는 것은 불가능하다고 하였다. 실제로 뉴턴이 물체의 운동을 설명하기 위해서 가정하였던 만유인력이 작용하는 두 물체 사이의 이체문제(二體問題, two-body problem)와 같은 자연계에 대한 가정들은 극히 예외적으로 존재하는 경우이다. 자연은 복잡하고 유기적으로 연관되어 있는 시스템이다. 그는 어떤 물체의 운동을 예측하고자 할 때 초기의 작은 조건에 의해 전혀 반대의 결과를 얻을 수도 있고 이러한 카오스의 잠재성은 자연계 자체의 특성에 기인하며 규칙적으로 공전하는 태양계와 같이 완전히 예정되어 있는 것처럼 보이는 시스템이라 할지라도 작은 변화에 의해 전혀 예측할 수 없는 결과를 초래할 수 있다는 것을 예견하였다.

나비효과를 발견한 기상학자 로렌츠

예견되어 오던 카오스현상을 나비효과란 말로 대중에게 널리 알린 사람은 미국의 기상학자인 로렌츠(Edward N. Lorentz)이다. 로렌츠가 1979년 미국의 첨단과학회(American Association for the Advancement of Science)에서 '브라질에 있는 나비의 날개짓이 미국 텍사스 주에 발생한 토네이도의 원인이 될 수 있을까?'("Can the flap of a butterfly's wing in Brazil  set off  a tornado in Texas?")라는 제목의 충격적인 주제 강연을 통하여 유명하게 되었다.

미국 MIT대학 교수로 재직하고 있던 로렌츠는 '현대과학이 일월식 같은 천체 운동, 로켓 운동 등은 정확하게 예측하면서도 왜 유독 날씨만은 정확하게 예측하지 못하는가?' 이 질문에 답하기 위해 로렌츠는 1960년경 날씨 변화를 설명할 수 있는 간단한 기상모델을 설정하여 컴퓨터를 이용해 시뮬레이션한 결과에서 현재 우리가 나비효과 라고 하는 ‘초기조건에의 민감성'의 결과 즉, 나비효과를 관찰하게 되었다.

그는 1963년 미국 기상과학 잡지에 결정론적 비주기적 유체('Deterministic Non-periodic Flow')라는 논문을 발표한다. MIT 공과대학에 있는 연구실 한 구석에서 기존의 유체역학의 연립방정식을 수정한 모델로 기상을 예측하는 연구를 하고 있었다. 자신이 고안한 컴퓨터 프로그램에 여러 기상변수를 입력하고 자료를 분석하였다. 당시 컴퓨터의 계산속도가 느려서 결과를 기다리는 데 시간이 많이 걸려서 이를 극복하기 위하여 계산의 편이를 위해서 소수점 이하 1000분의 1 아래의 수치를 버리고 같은 계산을 하게 하고 결과를 비교하여 보았다. 결과는 소수점 이하의 숫자를 모두 계산하였을 때와는 정반대의 결과가 나왔다. 이는 이해하기가 어려운 일이였다. 식의 값들이 어떤 일관성으로 진행되는 선형적 사고로는 1000분의 1이하의 오차란 쉽게 무시할 수 있는 작은 값이었는데 결과는 그렇지 않았다.

기상을 예측하기 위한 다음 미분방정식을 이용해 dx/dt = sigma (y-x) , dy/dt = rho x - y - xz,dz/dt = xy - beta z 컴퓨터 시뮬레이션을 하던 중 나비효과를 표현하는 이상한 끌개(strange attractor)를 확인하였다.

그는 이러한 놀라운 결과에 신들려 자연의 가장 복잡한 운동 시스템의 하나인 기상현상을 엄밀히 예측해 보고자 하였다. 그 결과 컴퓨터를 이용해 이러한 수치적인 결과가 일정한 형태를 나타내도록 몇 가지 방정식을 유도하였다. 완전히 불규칙할 것 같았던 계는 어떤 일정한 형태를 보였고 이것은 지금까지 보지 못했던 기이한 모양을 하고 있었다. 이것이 오늘날 로렌츠의 끌개 혹은 이상한 끌개(strange attractor)라고 부르는 것이다. 이 끌개의 구조는 왜 기상현상이 예측하기 어려운가를 이해하게 해 주었고 매우 작은 초기조건의 차이에 의해서도 결과적으로는 예상할 수 없는 큰 차이를 보이는 나비효과를 보여주었다. 나비효과를 예를 들어 설명하면 중국 북경에서의 나비의 작은 날개짓이 대기 흐름에 영향을 주고 또 이 영향이 시간이 지날수록 증폭 왜곡되어 시간의 경과와 함께 미국 뉴욕을 강타하는 허리케인과 같은 엄청난 결과를 가져온다는 것이다. 나비 효과는 만약 이 나비가 가만히 꽃에 앉아 있었다면 허리케인이 뉴욕을 지나는 일이 없었을 것을 의미하기도 한다. 이처럼 카오스는 스스로 불규칙하게 변화할 뿐만 아니라 나비 효과와 같이 작은 차이가 엄청난 결과를 가져온다.

학자에 따라 비선형계 이론(nonlinear system theory), 복잡계 이론(complex system theory) 등으로  불리는 카오스 이론은 1963년 비로소 로렌츠의 컴퓨터를 이용한 가상실험에 의해 과학적 논의의 강렬한 추동력을 견인하게 되었다. 로렌츠의 연구에 연이어 1970년대에 카오스 이론은 학계에 폭풍을 불러 일으켰다. 카오스 이론은 자연 현상에서는 기상, 물체의 진동, 유체의 특성 등, 사회 현상에서는 주식을 비롯한 경제 현상과 인구의 변화 등, 의료분야에서는 심장질환이나 간질 발작 등의 예견까지 연구 영역을 확장하고 있다.

맥파에서 건강한 사람의 맥파는 실은 불규칙하게 흔들리고 있다.그 흔들림은 카오스가 되고 있다(왼쪽). 건강에 이상이 있는 사람의 경우, 카오스의 모습에 특징적인 변화가 생긴다(오른쪽).

미국과 유럽의 관련 과학자들은 카오스에 숨어 있는 무질서를 탐구 하였다. 생리학자들은 심장마비의 주요원인인 심장활동의 불규칙성을 연구하던 중 거기에서 카오스의 질서를 발견했다. 생태학자들은 집시나방의 수의 증감을 연구하며 수리생물학에서 쓰이는 단순한 함수의 반복과정이 믿을 수 없을 만큼 복잡한 카오스 현상을 일으킴을 보았다. 경제학자들도 과거의 주가 변동 자료를 조사해 새로운 분석을 한 결과 주가변동주기의 카오스적 특성을 발견하였다.

건강한 사람의 심장이 더욱 카오스적으로 움직인다.

하버드 의과대학의 심장 전문의인 골드버거(Ary L. Goldberger,1990)는 '카오스는 신체내의 여러 기관을 서로 유기적으로 연결시키는 역할을 하는 듯하다. 건강한 심장의 리듬은 카오스적이다. 건강한 계는 항상성을 원하지 않고 카오스를 원한다'고 하였다. 신경과학 분야에서도 이와 유사한 문제들이 제기 되고 있다.

특히 뇌파연구 분야에서 새로운 전기를 맞고 있다. 브뤼셀 자유대학의 바블요얀츠(Babloyantz)는 정상인과 간질환자 사이의 뇌파 에서 정상인의 뇌파가 간질환자의 경우보다 더 카오스적이었는데 이는 간질발작의 경우 뇌의 전기적 시그날의 다양성을 상실하기 때문이라고 하였다.

이외에도 면역학, 방사선학, 미생물학, 경제학 등 각 분야에서 매우 의미있는 결과들이 보고되고 있어 이 새로운 이론에 의해 현재 임상의학에서 고민하고 있는 수많은 난제들이 해결되는 좋은 계기가 될 것이라고 기대하고 있다.
 
특히 정신의학 분야에 있어서는 지금까지 과학연구의 대상이 되지 못하였던 분야, 예를 들어 정신치료의 효과 연구, 꿈분석에서의 뇌영상 프랙탈 연구 등 지금까지와는 전혀 다른 차원의 정성적 분석을 통하여 인간의 마음의 문제를 이해하는 새로운 연구방법으로서의 가능성이 기대되고 있다.

건강한 사람의 뇌파기 더욱 카오스적이다.

이 분야의 연구는 이론의 특징상 물리학, 수학, 전자공학, 의학 등의 분야가 각자의 영역을 넘어 새로운 협동모델을 제시하고 있다. 독립적 요소의 결합이라는 우주 혹은 전체에 대한 요소론적 환원론적 인식의 틀이  카오스이론을 통해 무너지면서 이제 과학은 공통의 문제를 해결하기 위하여 타학문 영역간의 협동을 소통을 강요받고 있는 것이다.

출처 : 시민의 신문(NGOTIMES) 2005-12-21