정보

"이 상호적인 정보의 네트워크가 우주에 존재한다는 사실을 일단 이해했으면, 이 비장의 아이디어를 써서 세계를 기술해보려는 것이 당연한 일일 겁니다. 19세기 말 이래로 잘 이해된 세계의 한 측면에서부터 시작해봅시다. 바로 열입니다. 열은 무엇일까요? 어떤 물체가 뜨겁다는 것은 무엇을 의미할까요? 왜 뜨거운 커피는 식어가기만 하고 더 뜨거워지지는 않는 것일까요?

그 이유를 처음으로 알아낸 사람은 통계역학을 만든 오스트리아 과학자 루트비히 볼츠만이었습니다. 열은 분자들의 무작위적인 미세한 운동입니다. 커피가 뜨거울수록 분자들은 더 빨리 움직입니다. 그러나 왜 커피가 식는 것일까요? 볼츠만은 멋들어진 가설을 제시했습니다. 공기가 차고 커피가 뜨거운 경우에 상응하는 분자들의 가능한 상태의 수(x)가, 커피가 차고 공기가 약간 뜨거운 경우에 상응하는 분자들의 가능한 상태의 수(y) 보다 더 크기 때문이라는 것입니다. 섀넌의 정보 개념을 이용하면 이 아이디어는 곧바로 다음과 같은 말로 옮겨질 수 있습니다. '찬 커피와 따뜻한 공기에 담긴 정보(y)가 뜨거운 커피와 찬 공기에 담긴 정보(x)보다 적다. 그리고 정보는 저절로 증가하지 않기 때문에 커피가 저절로 뜨거워질 수 없다.'

설명해보겠습니다. 커피의 분자는 아주 작고 많기에 우리는 그 정확한 움직임을 알 수 없습니다. 그래서 정보가 결핍되어 있습니다. 이 결핍된 정보는 계산할 수 있습니다.(볼츠만이 해냈죠. 뜨거운 커피 분자들이 얼마나 많은 다른 상태에 있을 수 있는지를 계산한 겁니다.) 만일 커피가 식어간다면, 약간의 에너지가 공기 중으로 퍼져나갑니다. 그러므로 커피의 분자들은 더 천천히 움직이지만 공기의 분자들은 더 빨리 움직이게 됩니다. 이제 결핍된 정보를 계산해보면 그것이 증가했다는 것을 알게 됩니다. 만약 정반대의 일이 벌어진다면, 즉 커피가 찬공기로부터 열을 흡수하여 더 뜨거워졌다면, 그 정보는 (기억하세요. 정보란 가능한 대안들의 개수일 뿐이라는 것을요. 이 사례에서는 주어진 온도에서 커피와 공기 분자의 운동 방식들의 개수입니다.) 증가하고 정보의 결핍은 감소했을 것입니다. 그러나 정보는 하늘에서 떨어져 내릴 수가 없습니다. 우리가 모르는 것은 그저 모르는 것이기 때문에 정보는 그 자체로 증가할 수는 없는 것이죠. 따라서 찬 공기에 닿은 커피가 저절로 뜨거워질 수는 없는 것입니다."

카를로 로벨리, <보이는 세상은 실재가 아니다>(책갈피, 2018), 238~9. (기호와 밑줄은 내가 추가한 것이다)

 

---

 

 

 

‘정보’가 요즘 내 화두 중 하나인데, 있는 책들에서 정보에 대해 찾다가 위 책의 “12장 정보, 정의되지 않은 생각”에서 많은 도움을 받았다. 그러나 위 인용문의 설명이 잘 와닿지 않았다. 또 있는 책을 뒤지다 최무영 선생의 <최무영 교수의 물리학 강의(전면개정판)>(책갈피, 2019)에서 정보에 관한 부분이 있다. 읽은 흔적은 있으나 기억엔 없다. 다시 읽어보니 로벨리의 저 구절을 이해할 수 있었다.(여담이지만 최무영 선생의 이 책은 설명력에서 로벨리의 그것을 넘어서는 느낌이다. 물론 책의 성격이 많이 달라 동등 비교는 무리겠지만.) 사실 제대로 이해하지 못한 것일 수도 있다. 그냥 이해한 느낌이다. 나는 물리학도가 아니고 물리학에 거의 문외한이므로, 아래 설명은 틀렸거나 문제가 많을 수 있다. 그저 적바림해 둔다.

 

 

 

 

최무영 선생은 “엔트로피는 무언가의 척도”라고 볼 수 있다며, 무질서의 척도(무질서도), 무지 또는 불확정도의 척도, 정보(또는 지식)의 부족을 나타내는 척도 등으로 볼 수 있다고 말한다.(아래 내용은 최무영 선생의 위의 책, 436~440 요약이다) 이는 “정보를 저장할 수 있는 능력의 척도”로 기술될 수도 있다. “엔트로피가 많으면 정보가 많이 부족하므로 그만큼 새로운 정보를 많이 저장할 수 있다는 뜻”이다. 객관적으로 보면 정보가 부족한 상태이지만 주관적으로 보면 새로운 정보가 저장될 여지가 많음을 뜻한다. “정보가 완벽하다는 것은 계가 어느 상태에 있는지 안다는 뜻”이다. 정보가 부족하다는 것은 그 반대이다. 이는 부족한 정보 내지 잃어버린 정보가 있다는 방식으로 기술될 수 있다. 어떤 계에 대해 아무것도 모르는 상태라면 정보량이 0인 상태이고 부족한 정보량 또는 잃어버린 정보량이 최대인 상태이다. 관측을 통해 그 계가 어느 상태에 있는지 알게 되었다면, 이는 정보가 완벽하고 잃어버린 정보 또는 부족한 정보가 없다는 말이 된다. 이때의 엔트로피는 0이 된다. 측정 과정에서 얻은 정보량에 비례하여 잃어버린 정보량은 감소한다.

 

로벨리의 인용문에 나오는 것처럼, “열은 분자들의 무작위적인 미세한 운동”이다. 뜨거운 커피의 분자들은 차가운 커피의 분자들보다 더 빨리 움직인다. 그런데 커피 분자는 “아주 작고 많기에 우리는 그 정확한 움직임을 알 수 없”다. 다시 말해서 우리에게는 커피 분자의 움직임에 대한 “정보가 결핍”되어 있다. 곧 잃어버린 정보량이 많다. 그런데 그에 의하면 볼츠만이 “이 결핍된 정보”를 계산했다. “볼츠만이 해냈죠. 뜨거운 커피 분자들이 얼마나 많은 다른 상태에 있을 수 있는지를 계산한 겁니다.” 따라서 우리에게 “주어진 온도에서 커피와 공기 분자의 운동 방식들의 개수”에 대한 부족한 정보량, 곧 잃어버린 정보량을 계산했다는 얘기가 된다.

 

우리가 익히 경험하는 것처럼, 책상 위에 올려 놓은 뜨거운 커피는 시간이 지나면 식는다. 책상 위에 올려놓은 차가운 커피가 뜨거워지는 일은 일어나지 않는다. (1)책상 위에 올려놓은 커피가 식을 때, 커피의 에너지가 공기 중으로 퍼져나간다. 이때 “커피의 분자들은 더 천천히 움직이지만 공기의 분자들은 더 빨리 움직이게” 된다. 로벨리는 (1)의 경우의 “결핍된 정보를 계산해보면 그것이 증가”했음을 알게 된다고 말한다. 결핍된 정보가 늘어났다는 것은 잃어버린 정보량이 늘어났다는 것, 다시 말해서 엔트로피가 더 커졌다는 것이다. 그런데 (2) 책상 위에 올려놓은 커피가 뜨거워졌다면, 이는 결핍된 정보(잃어버린 정보량)가 줄었다는 이야기가 되고, 이 경우 엔트로피는 감소한다. 로벨리는 “정보란 가능한 대안들의 개수”라는 것을 환기시키면서, 만약 (2)의 경우라면 “정보는 증가하고 정보의 결핍은 감소했을 것”이라고 지적한다. 곧 엔트로피가 다른 원인 없이 저절로 감소했다는 이야기가 된다.

 

로벨리는 여기에서 (1)의 경우에 상응하는 분자들의 “가능한 상태의 수”(x)가 (2)의 경우에 상응하는 분자들의 “가능한 상태의 수”보다 크다고 말한다. “가능한 상태의 수”라는 표현에 주목하자. 가능한 상태의 수가 많다는 것은 최무영 선생이 말한 것처럼 그만큼 정보량이 부족하다는 것, 곧 잃어버린 정보량이 많다는 것이다. 가능한 상태의 수가 많을 때의 엔트로피는 가능한 상태의 수가 적을 때의 엔트로피보다 크다. 엔트로피는 무질서의 척도(무질서도), 무지 또는 불확정도의 척도, 정보(또는 지식)의 부족을 나타내는 척도, 정보 저장 능력의 척도이기 때문이다. 따라서 (1)의 경우에 상응하는 분자들의 “가능한 상태의 수”(x)가 (2)의 경우에 상응하는 분자들의 “가능한 상태의 수”보다 크다는 것은 (1)의 경우 부족한 정보량(잃어버린 정보량)이 (2)의 경우 부족한 정보량(잃어버린 정보량) 보다 더 크다는 것을 말한다.((1)의 x > (2)의 x) 곧 (1)의 엔트로피가 (2)의 엔트로피보다 더 크다.

 

엔트로피는 증가하지 저절로 감소하지 않는다. 책상 위의 어질러진 책과 문구류 등이 저절로 정리되면 좋으련만, 항상 그 반대다. 엔트로피는 무질서의 척도(무질서도), 무지 또는 불확정도의 척도, 정보의 부족을 나타내는 척도이므로, 엔트로피가 저절로 감소하지 않는다는 것은 부족한 정보량이 저절로 늘어나지는 않는다는 것과 같다. 로벨리가 “그러나 정보는 하늘에서 떨어져 내릴 수가 없습니다. 우리가 모르는 것은 그저 모르는 것이기 때문에 정보는 그 자체로 증가할 수는 없는 것이죠. 따라서 찬 공기에 닿은 커피가 저절로 뜨거워질 수는 없는 것입니다. 정보는 저절로 증가하지 않기 때문에 커피가 저절로 뜨거워질 수 없다.”라고 했던 것은 이러한 이유 때문이다.

 

로벨리의 책에서 나를 흥분시켰던 부분은 양자역학을 정보와 관련시키고, 어떤 물리계의 상태에 관한 기술을 “그 물리계가 다른 물리계에 대해 갖는 정보의 기술, 즉 물리계들 사이의 상관관계의 기술”로 설명하는 부분이었다. 실재를 새로운 차원에서 보게 한다.(어쩌면 이 내용도 최무영 선생의 책에 있을지도 모르겠다) 시간이 된다면 또 정리해 보려 한다.