혼돈과 복잡성의 세계

수도꼭지를 처음 틀 때 나오는 둥근 모양의 층류(層流, laminar)는 규칙적이며 예측 가능한 행동을 나타내지만 수도꼭지를 좀더 틀 때 물줄기가 가닥을 이루며 발생하는 난류(亂流, turbulence)는 불규칙적이며 예측하기 어려운 비선형적(非線型的) 행동을 보여준다.

비선형적 특성을 보여주는 대표적인 예는 혼돈(chaos)이다. 카오스는 날씨의 나비 효과(butterfly effect)처럼 '초기 조건에 민감한 의존성을 가진 시간 전개'라고 정의된다. 혼돈은 대기의 무질서, 하천의 급류, 사람의 심장에서 나타나는 불규칙적인 리듬, 주식 가격의 난데없는 폭락과 같이 우리 주변에서 불시에 나타난다.

혼돈은 오랫동안 우리 곁에 존재했다. 그러나 지난 3세기 동안 서양과학의 사고방식을 지배한 고전 물리학의 결정론에서는 혼돈과 같은 우연을 공들여 설명할 필요가 없었기 때문에 혼돈이 학문적으로 연구된 것은 1960년대부터이다.

혼돈은 이해받게 될 날이 오기를 기다리면서 고전 물리학의 결정론적인 자연 법칙에 숨어 있었을 따름이었다. 1963년 미국 기상학자인 에드워드 로렌츠가 나비 효과를 처음 발견했을 때 컴퓨터 화면에는 일정한 모양새를 가진 그림이 나타났다. 혼돈(불규칙성) 속에 모양(규칙성)이 숨어 있었던 것이다. 이른바 '규칙적인 불규칙성'의 발견으로 혼돈 과학이 출현했다.

비선형적 행동을 나타내는 자연 및 사회 현상의 광대한 영역에 비춰 볼 때 혼돈의 발견은 빙산의 일각에 불과할지 모른다. 비선형계에는 혼돈 대신에 질서를 형성하는 복잡성(complexity)의 세계가 존재하기 때문이다.

복잡성은 단순한 질서와 완전한 혼돈 사이에 있는 상태를 말한다. 인간의 뇌나 생태계 같은 자연 현상과 주식 시장이나 세계 경제 같은 사회 현상은 결코 완전히 고정된 침체 상태나 완전히 무질서한 혼돈 상태에 빠지지 않고 혼돈과 질서가 균형을 이루는 경계면에서 항상 새로운 질서를 형성하고 유지한다.

자연계에서 혼돈과 질서의 정도를 정량화한 개념이 정보과학의 엔트로피(entropy)이다. 엔트로피는 1940대 후반 클로드 섀넌(Claud Shannon)에 의해 정의된 것으로서, 어떤 대상에 대해 우리가 얼마나 모르는지를 나타낸다. 그러므로 무지(無知)의 정도를 나타내는 것이기도 하고, 어떤 대상을 완벽하게 알기 위해 필요한 정보의 양을 나타내는 것이기도 하다.

이 정의에 의하면 엔트로피는 '음의 정보량'이며, 정보의 양은 음의 엔트로피가 된다. 우리가 대상에 대한 정보를 적게 가지고 있을수록 엔트로피는 커지게 되며 정보를 많이 가지고 있을수록 엔트로피는 작아지게 된다.

물리학에서 열역학 제2법칙이라고도 부르는 엔트로피 증가의 법칙은 닫힌계[closed system : 외부와 입자나 에너지의 교류가 없는 계. 이와 반대되는 것이 열린계(open system)이다]의 엔트로피는 감소하지 않는다는 것이다. 그러므로 닫힌계가 최대 엔트로피 상태에 이르게 되면 더 이상의 질적인 변화가 일어나지 않는다. 벨기에의 화학자인 프리고진(Ilya Prigogine)은 이를 평형 구조라고 불렀다.

이와 대비되는 것이 산일 구조(dissipation structure)인데, 이는 최대 엔트로피에 이르지 못하는 상태여서 불안정하게 변화해 가는 구조이다. 따라서 평형 구조는 계(system)가 평형상태에 있기 때문에 더 이상 구조변화가 일어나지 않은 정적(靜的)인 구조인 반면, 산일 구조는 계가 불안정하기 때문에 변해가는 동적(動的)인 구조이다.

산일 구조에서 계의 요동이 있을 경우, 그 요동의 정도가 경미하면 계가 이를 흡수하며 이에 따라 요동의 진폭은 점차 줄어든다. 그러나 요동의 강도가 점점 심해지면 계는 마침내 요동을 흡수할 수 없는 한계에 도달하게 된다. 이를 넘어서는 경우, 요동이 점차 증폭되다가 마침내 그 체계가 무너지고 새로운 구조가 나타난다.

예를 들어 물이 들어있는 용기에 약간의 열을 가하면 물분자 운동이 조금 활발해지다가 이전의 상태로 돌아간다. 그러나 어느 정도 이상의 열을 지속적으로 가하면 다음의 두 단계가 나타난다. 처음에는 물분자가 이전보다 더욱 활발한 운동을 하는 상태에 이른다. 그것은 혼돈(chaos)의 상태이다. 이 상태에서 조금 더 열을 가하면 물의 대류(對流)라는 새로운 구조가 나타난다. 그것은 이전에 볼 수 없었던 새로운 질서이다.

이는 요동이라는 혼돈의 상태를 통해 새로운 질서가 창출될 수 있다는 것을 물질계에서 확인한 작업이다. 프리고진은 이를 '혼돈으로부터의 질서'라고 하였다. 열이 가해지지 않은 물은 혼란스럽지 않지만 아무런 변화도 일어나지 않는 정태적인 체계이다. 그것은 죽음의 세계이다. 이와 달리 대류라는 구조는 활발한 움직임 속에서 이루어지는 역동적인 질서이다. 그것은 생명의 세계이다.

프리고진은 결정론적 세계관에 대한 비판과 아울러 우연을 근거로 하는 확률론적 입장에서 자연을 이해하는 패러다임을 제시하고 있다. 그의 표현을 빌리면 "이제 우리는 전환기를 맞이하고 있다. 더 이상 과학이 확실성을 의미할 필요도 없고, 확률이 무지를 뜻하지도 않은 새로운 합리주의가 출현하고 있다."

사회에서도 권위에 대한 맹신이나 외부의 명령에 의해 어떤 일이 진행된다면 그 이상의 어떤 변화도 이루어지지 않는다. 혼란스럽지 않을지는 모르지만 발전도 기대할 수 없는 상황이다. 이와 반대로 자유와 자율의 바탕 위에서 이뤄지는 행위는 처음에는 혼란스러워 보일지 몰라도 그 안에 새로운 가능성을 품고 있다.

 「과학으로 세상 보기」(양형진) 참고