컴퓨터 과학자로서의 삶

젊은 시절의 리처드 해밍​§​

리처드 해밍(Richard Wesley Hamming)은 1915년 2월 11일에 미국 일리노이주 시카고에서 태어나고 자랐다. 어느 날 그는 자신이 학교의 선생님보다 더 수학을 잘할 수 있음을 깨달았다고 한다.​2​ 그는 공대에 진학하고 싶었다. 하지만 장학금을 줄 수 있다고 알려온 유일한 대학교였던 시카고 대학교에는 그 당시 공대가 없었다. 그래서 수학을 전공할 수밖에 없었다.

시카고 대학교에서 학사를 마친 후에는 네브래스카 대학교에서 수학 석사학위를 받았고 일리노이 대학교 어바나-샴페인 캠퍼스에서 1942년에 박사학위를 받았다. 그의 박사학위 논문 제목은 <선형 미분방정식의 경계값 이론과 관련된 몇 가지 문제들​3​>이었다. 따라서 후에 그가 로스앨러모스 연구소와 벨 연구소에서 미분방정식 풀이를 위한 컴퓨터 프로그래밍 작업을 하게 된 것은 우연이 아니라고 보아야겠다.

미분방정식 연구로 박사학위를 받기는 했지만 그의 관심사는 거기에 한정되지 않았다. 그는 조지 불(George Boole)이 쓴 <생각의 원리에 대한 연구>를 접하고는 매료되었다고 한다. 후에 그가 코딩 이론에 관심을 가지게 된 배경이기도 하다.​2​

차선책으로 선택한 수학자의 길이었지만 그는 후에 만족했던 것으로 보인다. 그는 원자폭탄 개발을 엔지니어가 하지 않고 과학자가 하는 모습을 보고 의아하게 생각한 적이 있다고 말한 바가 있다. 그렇게 된 이유에 대해 그는 공과대학이 학생들에게 최신 지식을 다룰 기회를 제공하지 않기 때문이라고 보았다.

그들(공과대학)은 학생들에게, 뻔한 일을 할 준비를 시킵니다… 처음에 공대에 가려고 했던 나의 뜻이 무산되었던 것이 천만 다행이라 생각됩니다. 엔지니어가 되었다면 나는 선도적인 연구를 하며 흥분에 사로잡히는 대신에 맨홀 뚜껑 밑에서 일하는 사람이 되었을 겁니다.​4​

박사학위를 받은 그는 일리노이 대학교에서 강의를 시작했고, 얼마 안 있어서 리이스빌 대학교로 자리를 옮겼다. 그러던 어느 날 그는 친구로부터 한 장의 편지를 받는다.​4​ “나는 지금 로스앨러모스에 있다. 여기서는 뭔가 흥미로운 일이 벌어지고 있다. 이리 와서 같이 일하자.” 전쟁을 위해서 그도 뭔가 일을 해야 할 처지였으므로 그는 뉴멕시코행 기차표를 끊었다. 그리고 한 달 후에는 그의 부인도 그를 따랐다. 해밍 부부는 맨해튼 프로젝트에서 함께 일했다.

해밍에게 맡겨진 일은 엄청나게 거대한 기계식 컴퓨터와 씨름하는 것이었다. 그곳에는 IBM이 만든 릴레이 컴퓨터들이 설치되어 있었다. 거대한 방에 설치된 기계들은 밤이 되면 흐릿한 불빛 밑에서 으시시한 분위기를 연출했다. 해밍은 당시를 회상하면서 “미친 과학자의 연구실” 같았다면서 그가 갖고 있었던 공상과학 소설에 대한 동경에 종지부를 찍었다고 말하기도 했다.​4​

당시의 자신을 “컴퓨터 청소부computer janitor“라고 묘사하곤 했지만 그가 했던 일은 로버트 오펜하이머, 리처드 파인만, 엔리코 페르미, 에드워드 텔러 같은 쟁쟁한 물리학자들이 원하는 계산을 컴퓨터로 처리하는 일이었다. 시작할 때만 해도 컴퓨터에 대해서 전혀 몰랐던 그였지만 빠르게 익숙해졌다.

맨해튼 프로젝트가 끝나고 모두들 자기의 자리로 돌아간 후에도 해밍은 연구소에서 6개월을 더 보냈다. 그는 자신이 했던 일들을 복기하며 정리하는 시간을 가졌다. 그는 머릿속에 담고 있던 궁금증들에 대한 답을 찾으려 했다. 예를 들어, 그는 부정확한 입력 데이터를 사용했음에도 그렇게 정확한 결과가 나온 것이 의아했었다고 한다. 입력이 쓰레기면 출력도 쓰레기Garbage In Garbage Out라는 주장을 신봉하던 그였기에 이해가 되지 않았다. 오랜 탐구 끝에 그는 답을 찾아냈다. 대규모 계산에 있는 피드백 구조 덕분이었다. 그는 이제 수학 분야에서 추상적 이론보다 계산 방식이 주류가 되리라고 판단했다.​2​

1946년에 그는 벨 연구소에 취직했다. 그리고 1979년에 퇴직할 때까지 30년 동안 놀라운 업적들을 남겼다. 우리가 가장 잘 알고 있는 오류 검출 및 정정 코드를 비롯하여 수치해석 기법, 인터프리터, 디지털 필터 등이 여기에 해당한다. 그가 이뤄낸 결과물은 모두 현장의 문제에서 출발했다는 점에서 주목할만하다. 그는 이론을 위해 연구하는 사람이 아니었다. 전화 시스템 설계, 신호 송신 문제, 통신 시스템의 안정성, 장거리 미사일 시스템 안정성 등 실제 현장에서 생긴 문제에 대한 답을 찾는 과정에서 이론적 돌파구를 만들었다.

그의 창조적인 활동에는 그와 버금가는 동료들도 한몫했을 듯싶다. 그와 비슷한 시기에 벨 연구소에 입사한 이들 중에는 클로드 섀넌​¶​(Claude Shannon), 존 튜키​#​(John Tukey), 도널드 링(Donald Ling), 브록웨이 맥밀란(Brockway McMillan) 등이 있다. 이들은 연대감을 가지고 있었고 서로 가깝게 어울렸다. 이들은 젊은 투르크족Young Turks라는 별칭으로 불리기도 했다.

우리는 대공황 시대에 자랐다는 공통점이 있었습니다. 그래서 우리는 다른 사람들 덕분에 살아남았다는 생각을 가지고 있었지요. 전쟁 중에 우리는 모두 전쟁 승리를 위해서 뭔가를 배워야만 했습니다. 그전까지는 원하지 않았던 것들이었죠… 우리는 관례적인 것을 참지 못했습니다. 그리고 책임을 져야 하는 일을 아주 일찍부터 맡곤 했습니다… 우리는 문제를 일으키는 데는 항상 일등이었습니다. 우리는 관례적이지 않은 일들을 관례적이지 않은 방식으로 처리했고, 그럼에도 불구하고 의미 있는 결과를 만들어냈죠. 그래서 관리자들은 우리를 눈감아줬고 우리에게 자율을 많이 부여해주었습니다.”

이 젊은 피들은 아마도 상당히 통통 튀었던 모양이다. 시키는 대로 하지 않고 자기 생각대로 일을 끌고 나가려 했으니 이들의 상관들은 골치 아팠을 만도 하다. 하지만 결과가 좋으니 어쩌겠는가? 해밍에 대한 부정적인 평가도 있다. 일부는 그가 너무 자기중심적이라고 보았으며 “설익은 아이디어만 믿고 성급하게 서두른다”라고 평가하기도 했다. 또 그가 “떠들기는 많이 하는데 남의 말은 잘 들으려 하지 않아 같이 일하기 어려운 사람”이라고 말한 이도 있다.​4​

벨 연구소가 해밍을 채용한 이유는 ‘탄성론’ 연구를 위해서였다.​2​ 그러나 그가 맨해튼 프로젝트에서 가졌던 경험은 자연스럽게 그를 컴퓨터 프로그래밍으로 안내했다. 그는 수학과mathematics department에 속해 있었는데, 동료들이 모델을 만들면 그것을 프로그램으로 작성해서 결과를 뽑아주는 일을 했다. 따라서 처음부터 그가 여유 있게 자신의 연구만 할 수 있는 위치에 있었던 것은 아니다. 오히려 위에서 떨어지는 일들을 처리하느라 정신없는 젊은 사원이었다. 하지만 그는 뭔가를 항상 준비하고 찾는 사람이었다.

정확하게는 기억이 나지 않지만 내가 이 아이디어(오류 정정 코드)를 정리하는 데는 3~6개월 정도가 걸렸습니다. 연구소에서 나에게 떨어진 일들이 많았기 때문에 이 작업은 거의 퇴근 후 집에서 이루어졌습니다. 처음에는 이렇게 출발하는 겁니다… 여러분이 연구원으로 채용되면 해야 할 일들이 위에서 떨어집니다. 그리고 여러분이 연구를 진행할 능력이 있음을 보여줘야지만 재량이 주어집니다. 좀 웃기는 얘기지요… 내가 이 작업을 할 때는 연구소에서 떨어진 일이 많았습니다. 하지만 오류 정정 코드가 발표되자 나는 유명해졌고 관리자들이 나에게 많은 자유를 주기 시작하더군요. 자, 이제 벨 연구소에서 30년을 보낸 후의 내 모습을 보세요. 나는 지금 유리창이 두 면에 나 있는 멋진 사무실에 비서를 두고 있고 무제한의 여비를 지원받으며 아무런 의무도 지고 있지 않습니다. 이제는 아무런 아이디어도 없는데 말이죠.​5​​**​

해밍은 연구뿐만 아니라 저술과 강연으로도 유명하다. 그의 수치해석 관련 책과 디지털 필터 관련 책은 널리 알려졌다. 벨 연구소에 근무하면서도 짬을 내어 여러 대학에서 강의했던 그는, 1976년에 벨 연구소를 퇴직한 후에는 캘리포니아 몬터레이에 있는 해군 대학원Naval Postgraduate School의 컴퓨터 과학과 교수로 재직해서 후학을 양성하는 데 힘썼다.

1997년에 해군 대학원을 그만둔 지 한 달 만에 그는 심장마비로 세상을 떠났다.

그는 튜링상 외에도 많은 상을 받았다. 심지어는 자신의 이름이 붙어 있는 상을 받기도 했는데, 미국 전기전자공학회IEEE는 1988년에 “리처드 해밍 메달The Richard W. Hamming Medal“이라는 상을 만들고 첫 수상자로 해밍을 선정했다.

1 2 3 4 5