기타 업적

디지털 필터

해밍이 디지털 필터에 관심을 가지게 된 계기는 좀 의외다. 벨 연구소의 핵심 연구가 전화와 관련되어 있었으므로 신호 처리 기술이 중요하리라는 점은 두말할 필요도 없겠지만 해밍의 관심사는 아니었다. 어느 날 그는 연구소 복도에서 베이커 부소장과 마주치게 되었고 잠시 대화를 나누게 되었다.

1973년인지 1974년인지 확실치는 않지만 아무튼 어느 날 나는 복도에서 그와 마주쳤습니다. 나는, 내가 입사했던 1946년에 연구소가 릴레이 기술에서 전자 기술로 점차 넘어가고 있었지만 많은 사람들이 새로운 전자기술을 받아들이려 하지 않았고 결국 전자 기술이 쓰이지 않는 곳으로 배치되었다고 그에게 말했습니다…. 그리고 똑같은 일이 또 벌어지고 있다고 말했습니다. 아날로그 컴퓨터에서 현대적인 디지털 컴퓨터로 넘어가고 있는 상황에서 많은 엔지니어들이 뒤처지고 있어서 이는 회사에 경제적 손실임과 함께 사회적 손실이라고 내 생각을 말했죠…. 그래서 더 많은 사람들을 미래로 이끌기 위해서는 지금 당장 뭔가를 해야 한다고 강조하면서, 적절한 기초 교재와 교육이 있어야 한다고 말했습니다. 그러자 그는 내 눈을 똑바로 바라보면서 “맞아, 해밍. 자네가 해야만 하네”라고 말하고는 휙 떠나버렸습니다! 그리고 그 후로 존 튜키를 통해서 계속 나에게 그 일을 해보라고 부추겼습니다.​5​

당시 해밍은 디지털 필터에 대해서는 아는 것이 거의 없었고 솔직히 관심도 없었지만, 자신이 내뱉은 말이 틀리지 않았고 부소장의 기대를 저버릴 수가 없었다. 그래서 그는 연구소 친구이자 당시 디지털 필터에 관해서는 세계적 전문가였던 짐 카이저(Jim Kaiser)를 찾아가서 책을 써달라고 부탁했다. 해밍의 압력에 결국 카이저는 말로는 동의했지만, 실제 행동에 옮기지 않았다. 조바심이 난 해밍은 그에게 제안을 하게 되는데, 점심 시간을 이용해 틈틈이 디지털 필터에 관해 가르쳐 달라는 것이었다. 그러면 자신이 책의 서두 부분 정도는 맡을 수 있으리라는 생각이었다. 그리고 책의 저자 이름에 카이저가 먼저 오고 자신의 이름은 뒤에 오게 하면 어떻겠느냐는 제안에 카이저는 동의했다. 그렇게해서 해밍은 디지털 필터를 배우면서 책의 앞부분을 시작했다. 그런데 여전히 카이저는 전혀 작업을 진행하지 않았다. 결국 해밍이 책 전체를 혼자서 다 써버렸고 저자 이름에는 해밍만 포함되었다.


해밍은 디지털 필터에 대한 이론을 정리했을 뿐만 아니라 해밍 윈도Hamming window라고 불리는 기법도 제안했다. 그가 생면부지였던 분야에서 빠르게 업적을 이룰 수 있었던 배경에는, 기존의 관습을 맹목적으로 따르지 않고 자신의 시선으로 바라본 데에 있다. 그는 신호처리에서 푸리에 급수Fourier series가 독보적으로 사용되는 이유가 궁금했다. 그래서 여러 전기 엔지니어들에게 물어보았지만 설득력 있는 답변을 듣지 못했다. 그래서 그는 스스로 그 답을 생각해보았다. 그리고는 다음과 같이 세 가지 이유를 찾아냈다.

  • 시간 불변time invariant이다.
  • 선형 시스템linear system이다.
  • 등간격 샘플링된 값에서 원본 신호를 재구성하기가 쉽다.

이제 푸리에 급수를 사용하는 이유가 분명해지자 해밍에게 디지털 필터는 수학 문제가 되었고 그는 전달함수transfer function가 고유값eigenvalue과 마찬가지임을 깨닫게 되었다. 이는 당시 전기 엔지니어들이 미처 알아채지 못한 개념이었다.

신호란 무엇인가? 자연은 많은 신호를 만들어낸다. 그것들은 연속적이며 그래서 우리는 등간격으로 샘플링을 하여 수치화digitizing한다. 일반적으로 신호는 시간의 함수이지만, 예를 들어 등간격인 전압값들을 사용하는 실험에서 각 전압값에서 측정되는 결과값들을 기록하면 그것도 역시 디지털 신호이다. 따라서 디지털 신호란, 측정값들이 숫자의 형태로 등간격으로 배열된 것이다. 그리고 우리는 디지털 필터를 통해서 역시나 등간격으로 배열된 숫자들을 얻게 된다.​5​

디지털 필터와 해밍 윈도에 관한 구체적인 내용은 그의 저서 <디지털 필터>​9​를 참조하는 것이 좋겠다.


후학을 위한 조언

해밍이 즐겨 인용하던 어구가 바로 “행운은 준비된 자에게 미소 짓는다Luck favors the prepared mind“이다.​§§​ 일단 해밍이 생각하기에 일이 잘되려면 행운이 필요했다. 그런데 그 행운이 아무에게나 오지는 않는다는 것이다.

그는 자신의 성공 경험을 적극적으로 전달하려고 노력했다. 1995년 여름에 미 해군대학원에서 진행했던 특강에서 그의 성공관을 엿볼 수 있다. 몇 가지 인상적인 대목을 소개하면 다음과 같다.

중요한 문제에 관한 일을 하지 않는다면 앞으로 중요한 일을 해낼 가능성은 별로 없다.​8​

그는 젊은 연구원들에게 노벨상 감이 되는 연구를 해야 한다고 주문했다. 중요한 문제를 다루지 않는다면 중요한 결과를 얻기 어렵다고 말했다. 하지만 그것이 규모가 큰 문제일 필요는 없다고 주의를 주었다.

유명해지면 작은 문제를 붙들고 일하기 어려워집니다. 섀넌이 그렇게 되었답니다. 정보 이론 이후에 또다시 찬사를 받기 위해서 여러분이라면 어떻게 하겠습니까? 위대한 과학자들은 종종 이런 실수를 저지르죠. 더 이상 그들은 작은 도토리를 심어서 큰 참나무를 키우는 일을 하지 못하게 됩니다. 그들은 큰 덩어리부터 바로 시작하려 하죠. 그렇게 해서는 일이 되지 않는 법입니다.​8​


해밍이 디지털 필터와 인연을 맺게 된 배경은 앞에서 이미 설명했다. 참고로, 그가 디지털 필터를 강의하면서 했던 말을 소개한다.

디지털 필터가 처음 등장했을 때 사람들은 그저 전통적인 아날로그 필터의 변형으로 바라보았습니다…. 이는 초창기 컴퓨터가 나왔던 시절에 사람들이 했던 것과 같은 실수입니다. 내가 지겨울 정도로 자주 들었던 말이 있었는데, 컴퓨터는 그저 덩치가 크고 빠른 탁상용 계산기에 불과한 거였죠… 컴퓨터가 가진 속도, 정확성, 신뢰성, 저비용을 그냥 무시한 겁니다. 차수가 하나만 바뀌어도(10배) 근본적으로 새로운 영향을 가져오기 마련인데 말이죠…. 사람들은 뭔가 새로운 것이 나타나면 옛 것과 같다고 생각하고 싶어하며, 그러다 보니 자기 코 앞에서 새로운 분야가 펼쳐져도 중요한 기여를 하지 못합니다… 뭔가 새로운 것이 나타났을 때 예전과 비교해서 조금 나아졌을 뿐이라고 너무 성급하게 생각하지 말기 바랍니다. 여러분이 아주 중요한 일을 할 멋진 기회일 수도 있으니까요. 물론 별 거 아닐 수도 있구요.​5​


실패에서 배우려 하지 마라. 성공에서 배워라.​5​

이것은 우리의 통념에서 벗어나는 말이다. 보통은 실패를 거름 삼기 위해 실패에서 배워야 한다고 하지만, 해밍은 그렇게 생각하지 않았다. 그는 자신감을 중요하게 보았다. 성공을 위해서는 자신감이 필요하고 자신감을 높이기 위해서는 자신의 성공 경험에 더 집중하라고 강조했다.


이렇듯 뚜렷한 주관과 자신감으로 살아온 해밍이었기에 현장에서 발생한 문제점을 회피하지 않고 정면 돌파했는지 모르겠다. 너무도 주관이 뚜렷했던 그는 위대한 과학 발견에 대해서 이런 의견을 내놓기도 했다.

“새로운 분야의 문을 연 사람들은 거의 대부분이 후대의 사람들만큼 그 분야를 이해하지는 못했다”는 말이 있습니다. 안타깝게도 이에 대한 증거는 너무 많아요. 물리학에서도 비슷한 말이 있습니다. 중요한 것을 만든 사람이 사실은 그가 해 놓은 일을 이해한 적이 전혀 없었다는 거죠. 나는 아인슈타인이 특수상대성 이론을 후대의 사람들만큼 확실하게 이해한 적이 없었다고 봅니다. 그리고 내 친구는 내 등에 대고 이렇게 말하기도 했죠. “해밍은 오류 정정 코드를 이해하고 있는 것 같지 않아!” 그가 맞을지 모릅니다. 나는 내가 발명한 것을 그 녀석만큼 이해하고 있지 못하답니다.​5​

그렇다고 해밍이 셀프디스를 하는 것은 아니다. 그의 말을 끝까지 들어보자.

이런 일이 자주 생기는 이유는 이렇습니다. 창조자는 많은 힘든 어려움과 맞서 싸워야 합니다. 많은 오해와 혼동을 헤쳐 나가야 합니다. 그래서 남들이 보듯이 결과를 볼 수 없습니다… 기억해두세요. 발명가는 종종 자신이 발명한 것에 대한 관점에 아주 제약을 가지게 된답니다.​5​


  1. ​*​
    출처: https://en.wikipedia.org/wiki/Richard_Hamming
  2. ​†​
    2-out-5 coding
  3. ​‡​
    물론 100% 신뢰할 수는 없다.
  4. ​§​
    출처: https://archon.library.illinois.edu/archives/index.php?p=digitallibrary/digitalcontent&id=11804
  5. ​¶​
    정보 이론의 창시자로 불린다.
  6. ​#​
    저명한 수학자로 FFT 알고리듬으로 유명하다. 컴퓨터에서 정보의 최소 단위를 나타내는 비트(bit)라는 용어를 처음 사용했다고 한다.
  7. ​**​
    유튜브를 통해 동영상으로 확인할 수도 있다. https://www.youtube.com/watch?v=BZh07Ew32UA&t=1491s
  8. ​††​
    정확히 말하자면 그 컴퓨터가 사용하고 있던 오류 검출 기법은 패리티 방식이 아니라 2-out-of-5 코딩 방식이었다.
  9. ​‡‡​
    이들이 원래 Computer라고 불렸다.
  10. ​§§​
    이는 프랑스의 생화학자인 루이 파스퇴르가 한 말이다.

참고문헌

  1. 1.
    Hamming RW. One man’s view of computer science. ACM Turing Award Lectures.:1968. doi:10.1145/1283920.1283923
  2. 2.
    Richard W. Hamming. A.M. Turing Award Laureate. Accessed July 26, 2022. https://amturing.acm.org/award_winners/hamming_1000652.cfm
  3. 3.
    Hamming Richard W. Some Problems in the Boundary Value Theory of Linear Differential Equations. Published online 1942.
  4. 4.
    Richard Wesley Hamming. Computer Pioneers – IEEE Computer Society. Accessed July 26, 2022. https://history.computer.org/pioneers/hamming.html
  5. 5.
    Hamming Richard W. The Art of Doing Science and Engineering: Learning to Learn. CRC Press; 1997.
  6. 6.
    Hamming Richard W. Numerical Methods for Scientists and Engineers. 1st ed. McGraw-Hill; 1962.
  7. 7.
    Hamming Richard W. Stable Predictor-Corrector Methods for Ordinary Differential Equations. Journal of the ACM. 1959;6:37-47.
  8. 8.
    Hamming Richard W. You and Your Research. Bell Communications Research. Published online 1986.
  9. 9.
    Hamming Richard. Digital Filters. 3rd ed. Couier Corporation; 1998.

1 2 3 4 5