클로드 샤논, 정보통신 분야의 뉴튼이자 아인슈타인, 혹은 그 이상인 사나이

2024년을 살고 있는 우리는 이동통신과 인터넷 등 통신 서비스를 마치 공기처럼 이용하고 있습니다. 1980년대만 하더라도 이동 통신은 부자들 만이 이용할 수 있었고, 일반인이 유선 전화를 이용하려면 전화를 소유한 집도 많지 않았고, 통신 비용도 비쌌으며, 전화를 걸려면 공중전화를 찾아가서 이용해야 하는 등 불편함이 많았습니다. 21세기에 사는 현대인들은 통신을 기반으로 음성 서비스 이외에 다양한 데이터 서비스를 이용합니다. 1980년대에는 주로 음성 통신 위주로 유선 통신을 이용했지만, 지금은 이동 통신을 이용하여 YouTube, Netflix 등 대용량 데이터를 이용합니다. 만약 일상생활에 통신을 이용할 수 없다면, 현대인들은 많은 불편을 느낄 것입니다.

클로드 샤논, 정보통신 분야의 뉴튼이자 아인슈타인, 혹은 그 이상인 사나이

 
 
이렇게 많은 혜택을 제공하는 정보통신 발전에는 많은 사람들의 기여가 있어왔습니다. 많은 과학자, 엔지니어, 사업가, 정부 관료와 투자자 들이 있지만, 그 중에서도 '클로드 샤논 (Claude Shannon, April 30, 1916 – February 24, 2001)의 기여는 특별합니다. 영어 발음에 충실하자면, ‘샤논’이 아니라 ‘새넌’이라 부르는 것이 적합하지만, 통신 분야에서는 ‘샤논의 제1정리’ 등 ‘샤논’ 이라고 많이 부르기에 본 글에서도 ‘샤논’ 이라고 부르겠습니다.

AT&T Shannon Labs에 있는 샤논 동상, 출처:By BobTheBryan - Own work, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=143998376

 
 
샤논은 물리학으로 비유하자면, 정보통신 분야에 있어서 뉴튼, 아인슈타인, 어쩌면 그 이상의 기여를 했다고 볼 수 있습니다.
 
뉴튼은 '힘(Force)'를 정의했습니다. 뉴튼 이전에 '질량' 이라는 개념도 있었고, '가속도'라는 개념도 있었습니다. 그러나, '질량'에 '가속도'를 곱한 것을 '힘'이라고 뉴튼이 정의하면서, 과학자와 엔지니어들은 '힘'을 다룰 수 있게 됩니다. ‘힘’을 더 할 수 있고, 뺄 수도 있고, ‘힘’을 바탕으로 ‘운동량’ 이나 ‘에너지’의 개념으로도 발전시키고 이를 다룰 수 있게 됩니다. 뉴튼이 ‘힘’의 개념을 수학적으로 정리했듯이, 샤논은 '정보(Information)'의 개념을 수학적으로 정리합니다. 예를 들어, 컴퓨터에서 사용하는 “비트” 라는 단위를 정보통신 분야에 사용할 수 있도록 과학적으로 정의한 사람은 샤논입니다. 정보의 양이라는 것이 존재하고, 그것을 정의합니다. 얼핏 생각하면, 우리가 통상 이야기하는 ‘정보’를 계량화 시키기는 쉽지 않았을 것 같은데, 샤논은 ‘정보’를 정의하고, ‘정보의 양’도 정의하며, 특정 메시지에 정보가 많은지, 적은지도 과학적으로 정리합니다. 샤논이 '정보'를 계량화하면서, 과학자와 엔지니어들은 '정보'를 다룰 수 있게 됩니다. ‘비트’라는 단어 자체는 존 튜키(John Wilder Tukey)가 1947년에 만들었지만, 현대에 사용하는 개념으로는 샤논이 비트라는 개념을 만든 것입니다.

뉴튼은 '힘'의 개념은 만들었지만, 어떻게 '힘'이 작동하는지 작동 방식을 설명하지는 못 했습니다. 그래서, 뉴튼의 아이디어는 일종의 마법 같다는 비판을 받아왔습니다. 이것을 해결한 사람이 아인슈타인입니다. 아인슈타인은 여러 물리량 중에 “한계”가 되는 값인 '빛의 속도의 불변성'에서 착안하여 상대성원리를 발표하였고, 상대성 이론을 이용하여 뉴튼이 밝히지 못 한 '힘'의 작동 원리를 설명하게 됩니다. 어떤 “한계”를 정의했다는 점에서 샤논과 아인슈타인의 공통점이 있습니다. 샤논은 '정보'를 통신채널을 통하여 전송할 때의 한계가 되는 값을 정의합니다. 샤논은 통신채널에 보낼 수 있는 정보양의 최대값이 있고, 그에 도달할 어떤 미지의 방법이 존재한다는 것을 밝힙니다. 그러나, 그 미지의 방법이 무엇인지는 밝히지 못 했습니다. 무엇인지는 모르지만, 그런 방법이 존재한다는 것은 확실하다고 밝힌 것입니다.

샤논 이전에는 먼 거리에 통신을 하려면 높은 전압의 신호를 보내야 한다고 생각했습니다. 통신 신호는 감소하기도 하고, 간섭을 받기도 하고, 잡음과 섞이기도 하기 때문에, 먼 거리에 송신하기 위한 논리적인 방법은 높은 전압으로 강하게 신호를 보내는 것이었습니다. 그런데, “샤논의 한계, “를 통하여, 특정 통신 채널마다 채널 용량이라는 한계가 있고, 채널 용량이라는 한계보다는 작게 정보를 보내는 방법이 반드시 존재한다고 샤논은 밝힌 것입니다. 전투 상황과 비유하자면, 아군의 숫자가 많아야 이긴다고는 믿지만, 얼만큼의 아군이라는 자원을 투입해야 할 지 어림잡아 생각했으나, 샤논의 이론 같은 것이 만일 군사학에도 존재했다면, 아군의 숫자가 무조건 많다고 좋은 것이 아니라, 특정 숫자만 되면, 상대방을 이길 수 있는 방법이 반드시 존재하고, 필요한 아군의 숫자가 몇 명인지까지 증명한 것입니다. 다만, 어떻게 이길 수 있는지는 밝히지 못 한 것입니다.

이후 학자들은 “샤논의 한계”에 근접하는 방법이 무엇인지 찾기 위하여 연구를 합니다. 마치 빛의속도의 한계라는 문제를 푸는 과정에서 아인슈타인의 상대성 이론이 나왔듯이, 샤논의 한계에 근접하는 방식을 찾는 과정에서 이동통신 기술과 방송 기술이 발전하게 됩니다. 제한된 무선 대역폭에서 대량의 데이터를 보내는 기술이었기 때문입니다. 기술적으로는 “채널코딩”이라고 부르는 분야입니다. 채널코딩 기술이 발전하면서, 현대인들은 이동하면서 깨끗한 음성 통화를 이용할 수 있을 뿐만 아니라, 선명하게 유튜브, 넷플릭스 등 동영상 서비스를 이용할 수 있게 됩니다.

샤논과 아인슈타인이 비교되는 부분은 ‘확률’에 대한 생각입니다. 아인슈타인은 당시 새롭게 떠오르던 학문인 양자역학에 동의하지 못 하였습니다.'신은 주사위를 던지지 않는다'라는 말을 하면서, 양자역학이 가지는 통계적 특성을 받아들이지 않았습니다. 샤논의 경우는 정보이론을 만들 때, 당시 다른 학자들과는 다르게 "통계"로부터 정보이론을 만들었습니다. 당시 학자들은 수학적으로 결과가 정해진 방식인 결정론적 방식에 익숙하였기에 통신도 결정론적으로 접근하였습니다. 그러나 샤논은 당시의 지배적인 생각인 결정론적 방식에서 벗어나 통계론적 관점으로 정보이론을 구축하였습니다.

'샤논의 정리'라고 하는 3가지 정리가 있습니다. 샤논의 3가지 정리는 위에 기술한 개념들을 수학적으로 정리한 것입니다. 샤논의 3가지 정리를 순서와 관계없이, 개념적으로 보면 아래 3가지를 다루는 것입니다. (1) 정보란 무엇인가? (2) 잡음이 있는 통신채널의 용량인 채널용량은 얼만큼인가? (3) 잡음이 있는 통신채널 채널용량을 통하여 보낼 수 있는 최대 정보량은 얼만큼이고, 최대 정보량을 특정 채널에 보낼 수 있는 그러한 방법이 존재하는가? 샤논은 3가지 아이디어를 정리하여, 1948년에 'A Mathematical Theory of Communication' 이라고 하는 논문을 발표합니다. 1945년에 독립하고 3년 뒤인, 1948년에 대한민국이 탄생하니까, 정보이론과 대한민국은 우연하게 같은 해에 출발하게 됩니다.

MIT 박물관에 전시된 샤논의 인공지능 미로찾기, 출처:By Daderot - Own work, CC0, https://commons.wikimedia.org/w/index.php?curid=31244306

 
 
샤논은 벨연구소라는 직장에서는 생활을 위하여 암호를 연구하였습니다. 샤논에게 있어서 정보이론은 취미생활이었습니다. 정보이론을 연구하는데, 샤논은 다른 사람의 도움 없이 혼자서 업무 외 시간에 취미생활로 약 10년간 진행했습니다. 약 10년간 다른 사람이나 직장의 도움 없이 업무 후 남는 시간에 혼자만의 힘으로 이론을 만들어 낸 것은 매우 놀랍습니다. 샤논은 호기심도 많고 새로운 것을 많이 즐겼습니다. 저글링도 좋아했고, 외발자전거도 좋아했습니다. 학문적으로 보면 유전학에도 관여했고, 전자회로 분야에도 관여했습니다. AI 분야에도 영향을 주었는데, 체스를 두는 기계를 고안하기도 하고, 쥐가 미로 찾는 것을 만들기도 하였습니다. 라스베가스 도박장에서 이익을 내기 위하여, 도박을 연구하여 확률적으로 연구하기도 하였습니다. 증권에 대하여서도 관심이 많아서, 주식시장에 나타나는 주가의 패턴을 연구하기도 하였고, 주식 연구를 위하여 경제신문을 열심히 읽었다고 합니다. 이 모든 것을 재미로 한 것입니다. 한 사람의 재미를 추구하는 삶의 태도가 인류에게 막대한 영향을 미친 것을 생각하면, 일과 놀이에 대하여 보다 폭 넓은 생각을 갖게 합니다. MIT는 샤논을 영입했습니다. 샤논은 대학에서 꼭 해야 할 일만 하고, 남는 시간에는 집에 돌아와서 자신만의 시간을 가지면서 보냈습니다. MIT에서 일만 열심히 했던 것은 아닌 셈입니다. 예전 우리 사회는 성과를 내기 위하여 일을 열심히 해야 했습니다. 요새는 일과 삶의 균형을 추구하는데, 샤논은 이미 1940년대부터 일과 삶의 균형을 추구하면 살았다고 볼 수 있겠습니다.
 
클로드 샤논의 인간적인 면모를 느낄 수 있는 다큐멘터리를 YouTube[1]에서 무료로 시청할 수 있습니다. 다큐멘터리에는 샤논의 MIT 시절에 살던 집도 볼 수 있고, 그의 가족들에 대한 이야기도 있으며, 그가 경험했던 인간적인 좌절 등도 나옵니다. 시간이 되면 샤논의 다큐멘터리를 보시는 것도 괜찮겠습니다.
 
[참고 문헌]
[1] The Bit Player 2018 - Claude Shannon - Legendas PT-BR ,https://www.youtube.com/watch?v=CCrpgUM_rYc&t=4231s
 
 
 
정보통신기술사 오인창