카오스 : 혼돈 속의 질서
카오스(Chaos)는 본래 코스모스(Cosmos)의 상대말로서, 천지창조 이전의 완전한 무질서·혼돈을 의미하는 고대 그리스어에서 비롯되었다. 카오스의 어원은 그리스어 khaos이며, 이 말은 '크게 벌린 입'이라는 뜻이었다. 마치 무엇이나 삼켜버린다는 블랙홀과 같은 이미지를 자아내는 낱말이다. 카오스가 처음 학술용어로 사용된 것은 1975년 미국 메릴랜드 대학의 수학자 제임스 요크(James A. Yorke)와 그의 제자 이천암(Tien-Yien Li, 중국)이「주기 3은 카오스를 내포한다(Period Three Implies Chaos)」는 논문을 발표하면서부터이다. 이후 현대과학의 카오스는 겉으로는 무질서하게 보이지만 안으로는 놀라운 규칙성을 갖고 있는 현상을 말하게 되었다.  제임스 요크  고대 종교적 언어에서 사용되는 혼돈(Chaos)은 우주적 질서(Cosmos)를 위협하는 것을 의미한다. 그래서 혼돈에서 질서가 생겨났으며 그것은 다시 혼돈에 빠질 위험에 직면해 있다고 본다. 그러나 물리학적인 혼돈이란 좋고 나쁘다는 가치개념을 초월하여 필연적으로 일어나지 않은 사건을 지칭하는 우연성의 개념에 가까우며, 정돈되고 정확하게 사전에 예측할 수 있는 현상에 대한 반대 개념으로서 생겨났다. 우리 주변에는 흩어지고 모이는 구름의 형상, 끓는 물의 운동, 예측하기 힘든 기상의 변화처럼 그 양상이 매우 복잡한 현상들을 흔히 관찰할 수 있다. 이러한 양상들은 너무 복잡하고 불규칙적이어서 어떤 결과가 나올지 예측하는 것이 불가능해 보인다는 특성을 갖고 있다. 17세기 이후 확립된 뉴턴 역학에 의하여 비로소 사람들은 자연에서 일어나는 모든 현상들이 신(神)의 의지에 의해 일어나는 것이 아니라 정확하며 질서정연한 자연 법칙에 의해 필연적으로 일어난다는 사실을 깨닫게 되었다. 이후 과학자들은 뉴턴 역학으로 자연의 모든 문제를 이해할 수 있을 것으로 믿게 되었다. 그들은 자연에서 일어나는 모든 현상들은 정확히 역학법칙에 따라 운행되고 있으므로 어떤 순간의 상태를 정확히 알면 다음 순간에 어떤 일이 일어날 것인지를 정확하게 예측할 수 있을 것으로 생각하였다. 이런 생각을 결정론적 인과율이라고 한다. 결정론적 인과율이 지배하는 세계에서 필요한 것은 자연을 지배하는 법칙과 그 법칙에 따라 분석하는 도구인 수학, 그리고 시작점의 초기 조건뿐이었다. 자연은 이 세 가지가 결정되면 자연 법칙에 의해 예정된 대로 질서정연하며 정확하게 운행되어 갈 수밖에 없는 것이었다. 결국 자연의 모든 현상에는 조금의 예외도 없는 완전한 질서가 내재하고 있는 것처럼 여겨졌다. 때로 혼란스럽고 무질서해 보이는현상이 있긴 하지만 그것은 자연이 무질서해서 그런 것이 아니고 자연을 분석하는 인간의 능력이 모자라기 때문에 그렇게 보일 뿐이라고 생각했다. 심지어 이러한 결정론에 의하여 같은 초기 조건에서 출발한 우주는 단 하나의 결과 밖에 가져올 수 없으므로 우주가 처음부터 새로 시작된다고 해도 초기 조건이 같다면 모든 일들이 그대로 재연될 것이라고 했다. 근대 과학자들은 자연과 질서에 대한 이런 설명에 만족해왔다. 그러나 이런 생각에 변화가 생기기 시작하였다. 이런 변화의 조짐은 일찍부터 여러 분야에서 감지되었지만 자연 과학의 흐름에는 큰 영향을 주지 못하고 있었다. 그러나 컴퓨터의 이용이 본격화되면서 그때까지 과학자들이 다룰 수 없었던 방정식을 다룰 수 있게 되자 자연은 우리가 생각하고 있던 것과는 또 다른 여러 가지 현상을 지니고 있다는 사실을 깨닫게 되었다.  이 일에 계기를 제공한 사람은 미국의 기상학자 에드워드 로렌츠(Edward N. Lorenz)였다. 로렌츠는 1961년 다양한 기상 현상을 설명할 수 있는 기상 모델을 찾으려고 노력하였다. 그는 기상현상을 흉내내는 간단한 모형으로 세 개의 변수와 세 개의 방정식으로 이루어진 연립미분방정식을 만들었다. 그리고 초보적인 컴퓨터를 이용하여 이 방정식을 풀려고 시도하였다. 이 방정식의 해(解)는 계수의 값에 따라 크게 달라지는데 어떤 계수의 값에서는 해가 매우 불규칙한 결과를 나타낸다는 것이 확인되었다. 이런 결과로부터 로렌츠는 매우 흥미로운 사실을 몇 가지 발견하였다. 우선 우리가 혼돈이라고 부르는 복잡한 현상이 매우 간단한 식으로부터 나올 수 있다는 것이었다. 그때까지 과학자들은 혼돈 현상은 매우 복잡한 식으로만 나타내질 것이라고 지레 짐작하고 이런 현상을 다루기를 꺼려 왔던 것이다. 그런데 간단한 방정식으로부터 혼돈 현상이 나타난 것이었다. 그것은 과학자들의 예상을 뛰어넘는 것이었고 혼돈과 질서를 새롭게 인식할 수 있도록 해주는 사건이었다. 그것은 또한 우리 주위에 있는 복잡한 현상들을 간단한 방법으로 다룰 수 있는 새로운 가능성을 보여주는 계기가 되었다. 로렌츠가 또 하나 알게 된 것은 이 방정식들의 해가 초기 조건에 매우 민감하게 의존한다는 것이었다. 다시 말해 조금만 다른 조건에서 시작해도 오랜 시간이 흐른 후에 전혀 다른 결과를 가져온다는 것이었다. 초기 조건이 조금 다를 경우 처음 얼마 동안에는 비슷한 운동을 하지만 시간이 흐를수록 점차 그 차이가 증폭되어 긴 시간이 흐른 후에는 전혀 다른 운동을 하게 된다는 것이다. 담배연기가 처음에는 고르게 피어오르다가 조금더 올라가면 어지럽게 흩어지는 현상도 그 예이다. 이렇게 결과가 초기 조건에 민감하게 의존하는 현상을 나비효과(Butterfly Effect)라고 부른다. 이 말은 뉴욕 센트럴 파크의 나비 한 마리의 작은 날개짓이 다음 해에 중국에 태풍을 몰고 올 수도 있다는 비유에서 유래되었다. 나비효과는 실제 자연의 운동을 나타내는 방정식에 비선형(非線形) 항으로 항상 들어 있게 마련이지만 뉴턴 역학에서는 이런 항을 무시하거나 풀이가 쉬운 다른 항으로 바꾸어서 문제를 풀어왔다. 그리고 과학자들이 비교한 것은 처음 얼마동안 거의 일치하는 해였던 것이었다. 로렌츠의 이상한 끌개<Winfract v.18.21에 의해 생성> 로렌츠가 알게 된 또하나의 사실은 그가 얻은 방정식의 복잡한 해를 x, y, z축으로 이루어진 위상공간(位相空間)이라고 하는 새로운 좌표계에 그려보면 매우 복잡하지만 일정한 규칙성을 지니는 기하학적 구조로 나타난다는 것이었다. 이 기하학적 구조는 나비모양 또는 올빼미의 머리모양을 한 '이상한 끌개(Strange Attractor)'로서 지금까지 우리에게 익숙한 원, 삼각형, 사각형과 같은 형태를 갖지 않았으므로 지금까지의 전통 기하학적 분석방법과는 다른 방법을 사용하여야 했다. 그런데 이런 기하학적 구조가 이미 자연계에서 널리 존재한다는 사실이 속속 발견되었다. '이상한 끌개'라고 하는 이런 기하학적 구조는 바로 카오스안에 존재하는 질서 구조로서 프랙탈(Fractal)이라고 부른다. 카오스가 복잡한 운동의 동적인 측면이라면 이상한 끌개, 즉 프랙탈은 그 복잡성의 정적·기하학적 측면이라고 할 수 있다. 로렌츠의 이러한 발견은 혼돈 현상을 해석하는데 새로운 가능성을 제시하였으며 자연과 인간을 바라보는 새로운 시각이 되었다. "100년간 서해안 길이 1400㎞ 감소…간척이 원인" 뉴시스 | 이국현 | 입력 2009.08.28 06:04 【서울=뉴시스】이국현 기자 = 최근 100여 년간 경기도 해안에서 전남 땅끝마을에 이르는 서해안 해안선의 길이가 40%, 즉 1400㎞나 줄어든 것으로 확인됐다. 이는 서해안 일대에서 진행된 간척지 사업이 주요 원인으로 서해안 특유의 간석지와 염습지, 해안 사구 등을 보호하기 위해서는 매립과 준설 등을 금지해야 한다는 지적이다. 국립환경과학원은 지난 해 서해안 지역의 자연경관 특성과 형성, 변화과정을 연구한 결과 이같이 나타났다고 28일 밝혔다. 조사결과 1910년대 3596㎞였던 서해안 해안선의 길이가 2000년대에는 2148㎞로 1400㎞나 줄었다. 100여 년간 간척된 면적은 900㎢에 달한다. 특히 서해안의 굴곡도(4.47)는 동해안(0.97)에 비해 높지만 1910년대(8.16)에 비해 작아져 해안선이 직선화되는 경향이 뚜렷하게 나타났다. 과학원 관계자는 "간척에 의해 간석지와 염습지 등 생태적 경계지대가 격감했다"며 "과거 서해안은 조석작용이 탁월해 간석지와 염습지, 포켓비치 등 고유한 경관이 형성돼 있고, 해안사구와 하구역이 넓게 발달해 있었지만 해안 개발로 인해 자연 경관의 질이 급속히 저하됐다"고 지적했다. 실제 충남 태안의 운여해안은 사구를 보호하지 않고 해안에 방파제를 설치했다가 해안 침식의 피해를 크게 입은 것으로 나타났다. 또 전북 고창의 명사십리 해안은 사구 위에 건설된 도로로 바닷가의 침식이 증가한 것으로 확인됐다. 이에 따라 과학원은 경관 유형별 목표를 세워 적극적으로 관리할 필요가 있다고 지적했다. 구체적으로 강화도 남단이나 한강하구와 같이 간석지 및 염습지로 이뤄진 지역은 해안 보호에 중요한 생태계로써 매립은 물론 준설과 해양 투기를 금지해야 한다고 제시했다. 또 해안선 돌출부 사이에 형성되는 사빈-사구 해안은 적절한 퇴적물 공급이 필요하고, 도로나 옹벽 설치와 같은 단절 행위는 억제해야 한다. 인공호는 상류의 오염 물질을 차단하고, 해수의 적절한 유통으로 자연 정화를 해야 한다는 목표가 제시됐다. 향후 과학원은 올해 말까지 동해안과 서해안에 이어 남해안 지역에 대한 조사를 완료한 뒤 내년 초께 세부적인 경관 심의 기준을 제시할 계획이다. 경관심의 기준은 환경영향평가의 항목으로 현재는 해안과 산악 지형에 관계없이 일괄적인 기준이 적용되고 있다. 카오스와의 만남 1975년, 요크(Yorke, J. A.)와 리(Li, T. Y.)는「주기 3은 카오스를 내포한다 Period Three Implies Chaos」는 논문을 발표했다. 그들이 의도한 바가 무엇이든 간에 새로운 과학용어의 정립을 성공시킨 것만은 분명하다. 같은 해, 카오스에 대한 전례 없는 과학적 관심이 폭발할 조짐을 보였다. 그 시기가 일치한 것은 우연에 가까운 일이었다. 카오스는 그 어떤 이름으로도 대부분의 전문가들에게 줄리엣의 장미처럼 감미로웠을 것이 분명하다. 나(로렌츠) 역시 1983년까지는 카오스라는 말 대신 '불규칙성 irregularity'이란 용어를 주로 사용했었다. 과학적인 관심에 연이어 일반 대중의 관심 또한 불붙기 시작한데는 쉽게 기억되는 이름이 결정적인 요인으로 작용했을 소지가 높다. 허리케인(hurricane) 그리고 카오스에 대한 폭발적인 관심을 불러일으킨 보다 주요한 요인은 컴퓨터의 출현임에 틀림없다. 특정 방정식 계의 카오스적 해를 예시하고, 이에 수반되는 '이상한 끌개 strange attractor'를 만들어내기 위해서는 보다 많은 것이 요구된다. 수학적인 계산에 의해 내가 제일 처음 조우하게 된 카오스는 지구의 날씨를 모델화한 매우 개략적인 방정식 계에서 나타났다. 수천 개 또는 수백만 개의 변수를 가진 계가 아닌, 단지 12개의 변수를 가진 매우 단순한 계였다. 이 모델을 정형화한 후, 내가 최종적으로 발견해낸 상수값들을 선택해서 비주기적인 해를 직접 계산했다면 다른 작업들을 제쳐두고라도 한 달이나 두 달은 족히 걸렸을 것이다. 또 그것을 발표하기 위해 결과를 정리하는 데만도 그만한 시간이 더 필요했을 것이다. 컴퓨터가 한 대라도 부족했다면 수고는 두 배로 늘어났을 게 분명하다. 이상한 끌개(strange attractor) 문제는 내가 처음부터 카오스로 이끌어줄 상수값을 알았던 것이 아니라는 데 있었다. 사실 그런 값이 존재하는지조차 모르고 있었다. 답이 되어줄 뭔가를 찾기까지 수없는 시도를 반복해야 했다. 12개의 변수를 갖는 모델을 얻기에 앞서 다른 방정식들을 통한 실험은 모두 실패로 돌아갔다. 그런 상황에서 컴퓨터마저 없었다면 계산하는 데만도 몇 년이 걸릴 수밖에 없었다. 결국 다른 문제에도 시간을 쏟을 수밖에 없는 나는 아마 중도에 포기하고 말았을 것이다. 설사 처음부터 운이 따라주었다 하더라도 어마어마한 해의 집합을 결정하고 그것들로부터 일련의 결과들을 얻어내는 일은 불가능했을 것이기 때문이다. 혼돈(chaos) 이론 어떤 과학자나 철학자는 우주 전체를 톱니바퀴가 아주 많은 거대한 시계로 생각하곤 합니다. 천문학의 관측 내용은 이런 견해를 뒷받침해 줍니다. 태양은 날마다 뜨고 지며(즉 지구는 날마다 자전을 하며), 여러 행성이 태양 주위를 돌고, 달은 찼다가 기웁니다. 이 같은 현상은 지금까지와 마찬가지로 앞으로도 계속 진행될 것으로 보입니다. 모든 사물이 서로 조화를 이루고 있을 뿐만 아니라, 현재의 상태를 파악하면 미래의 상태를 예측할 수 있습니다. 그래서 19세기의 천문학자이자 수학자인 라플라스(P. S. de Laplace)는 우주에 있는 모든 분자의 초기 상태를 파악하면 우주의 미래 전체를 예측할 수 있다고 주장하기도 했습니다. 우주 전체에 비해 규모는 훨씬 작지만 적절하게 비교할 수 있는 사례 하나를 살펴봅시다. 우선 컵과 접시와 소금 그릇을 나란히 붙여 놓았다고 가정합니다. 그런데 컵을 접시 방향으로 15cm 민다면 컵은 접시를 15cm 밀 것이며, 그 결과 접시는 소금 그릇을 15cm 밀게 된다는 것을 우리는 정확히 예측할 수 있습니다. 그렇지만 시스템이 훨씬 복잡하다면 어떨까요? 컵 한 개가 접시 세 개를 밀고, 각각의 접시가 소금 그릇 여덟 개를 민다면 어떻게 될까요? 이제 혼돈(chaos) 이론으로 들어가 봅시다. 혼돈 이론은 흐르는 물이나 기후와 같은 커다란 계의 작동을 설명합니다. 혼돈 이론에서 말하는 ‘혼돈’은 우리가 일상적으로 사용하는 혼돈과 동일한 의미로 사용되지는 않습니다. 옷이나 책을 비롯한 온갖 잡동사니를 1주일 동안 밤마다 침대 밑으로 아무렇게나 던져 놓아 방이 엉망진창이 되는 혼돈을 의미하지는 않는다는 뜻입니다. 혼돈의 작용은 예측 불가능합니다. 예측 불가능한 이유는 과학자들의 표현대로 ‘초기 조건에 극도로 민감하기’ 때문입니다. 대표적인 예로 들 수 있는 것이 중국 베이징에 있는 나비 한 마리가 날개를 퍼덕거리면 한 달 후 뉴욕에 엄청난 폭풍이 일어난다는 이른바 ‘나비 효과’입니다. 쉽게 말해서 베이징에 있는 나비 한 마리가 일으킨 사소한 공기의 파동이 점차 커지고 복잡해지다가 마침내 뉴욕에서 폭풍으로 발전할 수 있다는 것입니다. 초기조건에 민감하다는 말은 초기 조건에 약간의 차이가 생기면 결국 엄청나게 다른 결과가 일어날 수 있다는 것을 암시합니다. Order and Chaos(1950 석판, M.C. Escher) 혼돈 작용의 예측 불가능성은 무작위성과 다릅니다. 무작위적 사건은 이 쪽 아니면 저 쪽으로 나아갑니다. 우리가 무작위적 행위라고 말할 때, 그것은 대체적으로 특정 결과를 불러  일으킬 다양한 요소를 아무렇지 않게 무시하는 경우를 의미합니다. 그렇지만 손으로 툭 던진 동전조차 던지는 손의 미묘한 압력과 공기의 흐름에 영향을 받습니다. 진짜 무작위 사건은 오직 원자 차원에만 발생합니다. 방사성 핵이 붕괴하는 정확한 순간은 본질적으로 예측 불가능합니다. 양자 행위는 통계 차원에서만 예측될 수 있습니다. 혼돈계는 대부분 일반적인 유형으로 전개되지만 구체적인 부분은 예측 불가능합니다. 만일 강둑에 앉아서 - 또는 덜 낭만적이지만 비바람이 몰아친 뒤 도랑 가장자리에 서서 - 물이 흘러가는 모습을 바라본다면 잔물결이 비슷한 모습으로 흘러가긴 하지만 끊임없이 변한다는 것을 알 수 있습니다. 혼돈계는 대부분 이처럼 일정 기간 규칙적인 형태를 전개하다가 급격한 변화를 일으키고, 다시 규칙적인 형태로 돌아옵니다. 강물은 조용히 흐르다가 전혀 예측하지 못한 소용돌이에 갑자기 휘말릴 수 있습니다. 이 같은 급격한 변화를 예측하기 어려운 이유는 이런 변화가 온갖 차원에서 발생하기 때문입니다. 하나의 커다란 소용돌이 안에는 작은 소용돌이가 여러 개 들어있고, 각각의 작은 소용돌이 안에는 더 작은 소용돌이가 여러 개 들어 있는 데까지 내려가야 하겠지요. 혼돈 이론은 질서와 무작위 사이, 그리고 통계와 무기력 사이에 있는 틈새를 연결하는 과학적이며 철학적인 도구입니다. 혼돈 이론은 불규칙하게 뛰는 심장 박동에서 별의 생성에 이르기까지 다양한 현상의 작용을 연구하는 데 필요한 도구를 과학자들에게 제공합니다. 『즐거움과 상상력을 주는 과학』(사계절)