수학은 놀랍도록 아름답다! 그리고 완전하다!
문제풀이식 수학책의 개념을 뛰어넘은, 한 편의 깔끔한 다큐멘터리!

열 살 때 세운 삶의 목표 - 그리고 30년의 세월

1963년, 당시 열 살배기 소년이었던 앤드루 와일즈는 시골 도서관에서 한 권의 책과 마주친 뒤로 분명한 삶의 목표를 갖게 된다. 그로부터 30년이 지난 1993년 6월 23일, 프린스턴 대학 교수가 된 와일즈는 케임브리지 대학의 아이작 뉴턴 연구소에서 개최된 학술회의 강연장에서 〈페르마의 마지막 정리〉를 증명한 뒤 “이쯤에서 끝내는 게 좋겠습니다.”라는 차분한 한마디로 350년 동안 수학자들을 괴롭혀왔던 페르마의 수수께끼에 종지부를 찍었다. 강연장은 떠나갈 듯한 환호성과 흥분에 묻혀버렸고, 각국의 언론은 톱뉴스로 이 사실을 전했다. 하지만 다른 대가들이 그랬듯이 와일즈의 증명 역시 하나의 오류가 발견되어 자칫하면 사장될 위기에 처하게 되었다. 그 뒤 1년 간 오류를 수정하면서 고군분투하던 중, 1994년 9월19일에 와일즈는 순간적으로 떠오른 영감으로 오류를 수정함으로써 완벽한 증명을 이루어내는 데 성공했다. 그 뒤 1997년 6월 27일, 와일즈는 〈볼프스켈 상〉과 함께 5만 달러의 상금을 받았다. 이것으로 〈볼프스켈 상〉은 제정된 지 89년 만에 드디어 주인을 찾았으며, 그 당시 상의 시효는 10년을 앞두고 있었다.

앤드루 와일즈의 성공담만으로는 〈페르마의 마지막 정리〉에 얽힌 350년 간의 역사를 제대로 설명할 수 없다. 동시에 수학에 친숙하지 않은 일반 독자들에게 페르마의 정리가 갖고 있는 역사를 설명하는 것도 결코 쉬운 일이 아니다. 그러나 사이먼 싱은 〈페르마의 마지막 정리〉가 갖고 있는 역사, 저 아름다운 수학사(史)를 드라마틱한 내용 전개를 통해 누구나 쉽게 이해할 수 있는 문체로 훌륭하게 서술하고 있으며, 수학자들의 미묘한 감정, 그리고 수학계의 반향 등을 적절하게 인용하고 있다.
페르마의 마지막 정리는 다음과 같다.

xn + yn = zn ; n이 3 이상의 정수일 때,
이 방정식을 만족하는 정수해(x, y, z)는 존재하지 않는다.

수학자가 아닌 사람에게는 그저 따분하고 별 볼일 없는 정리로 들릴지도 모른다. 수학의 왕자라 불렸던 칼 프리드리히 가우스조차도 “페르마의 마지막 정리는 수학의 사변 정리로서, 나는 별관심이 없다.”고 공언했다. 그러나 사이먼 싱의 말대로, 페르마가 제기했던 문제는 수세기 동안 수학자들의 초유의 관심사가 되어왔으며, 수학계 전반에 걸쳐 중요한 영향을 끼쳤다. 19세기가 끝나갈 무렵, 페르마의 마지막 정리를 연구하던 수학자들 대부분이 사망하여 사상 최대의 수수께끼는 한때 사장될 위험에 처한 적도 있었다. 그때 19세기 독일의 사업가이자 아마추어 수학자였던 파울 볼프스켈이 실연의 아픔을 이기지 못하고 자살을 결심했다가, 자살 직전에 〈페르마의 정리〉에 대한 에른스트 쿰머의 논문을 읽게 되었다. 그러다 문득 쿰머의 논리에 오류가 있음을 발견하여 이 문제에 몰두하느라 예정된 자살시간을 놓치고 말았다. 볼프스켈 역시 이 문제를 풀지는 못했으나 자신에게 새로운 삶의 기회를 부여한 페르마의 마지막 정리에 보답하는 뜻에서 이 정리를 증명하는 사람에게 수여하는 〈볼프스켈 상〉을 제정했다.

이 책에 소개된 일화는 이뿐만이 아니다. 19세기 프랑스의 여류 수학자였던 소피 제르맹이 자신의 신분을 남자로 속이고 이 정리를 연구하던 끝에 증명의 실마리를 찾아낸 이야기와 불과 20세의 나이에 결투에서 죽어간 천재 에바리스트 갈루아의 혁신적인 아이디어 등이 현실감 넘치게 서술되어 있다. 갈루아의 업적은 뒤에 와일즈의 증명에 중요한 역할을 하게 된다.

와일즈가 이루어낸 증명의 특징은 몇 개의 전혀 다른 수학 분야의 테크닉을 종합적으로 사용했다는 점이다. 보통 수학자들은 다른 분야의 수학 영역을 넘나드는 모험을 좀처럼 하지 않는다. 그러나 와일즈의 논문은 한 분야의 전문가가 도저히 이해할 수 없을 만큼 다양한 분야의 수학을 포함하고 있다. 그래서 그의 논문 심사에는 이례적으로 여섯 명의 심사위원이 동원되었다. 이렇게 세심한 심사과정을 거쳤기에 그의 논문에서 오류를 발견할 수 있었으며, 이 오류는 와일즈의 열성 어린 노력에 의해 결국 성공적으로 수정되었다.

7년 동안의 칩거 - 그리고 〈대통일 수학〉의 첫 발!

와일즈는 〈페르마의 정리〉를 증명하는 동안 완전하게 고립된 상태에서 혼자 모든 계산을 수행했다. ‘페르마’와 사투를 벌이는 7년 동안 그의 비밀 연구를 알고 있는 사람은 그의 아내뿐이었다. 또 한 가지 중요한 점은 그의 논리의 상당 부분이 다른 수학자들의 업적에 기초하고 있다는 점이다. 그 중에서도 가장 중요한 것으로는 1950년대에 탄생한 〈타니야마-시무라의 추론〉을 들 수 있다. 이는 일본의 수학자 유타카 타니야마와 고로 시무라가 창안한 추론으로서 전혀 다른 두 개의 수학분야를 연관짓는 혁명적인 아이디어였다. 그 뒤 한 수학자에 의해, 만일 〈타니야마-시무라의 추론〉이 맞는다면 〈페르마의 마지막 정리〉도 자동으로 증명된다는 사실이 발견되었다.

그런 의미에서 와일즈가 증명한 것은 사실 〈페르마의 정리〉가 아니라 〈타니야마-시무라의 추론〉인 셈이다. 결국 와일즈는 〈페르마의 마지막 정리〉를 증명함과 동시에 〈대통일 수학Grand Unified Mathematics〉이라는 거대한 작업에 첫발을 내디딘 장본인이 되었다. 타니야마는 자신의 ‘추론’이 증명되는 것을 보지 못했다. 그는 1958년, 자살로 삶을 마감했다.

인류 문명 역사상 가장 위대한 업적 중의 하나로 기록될 와일즈의 〈증명〉 과정을 다 읽고 마지막 책장을 덮는 순간, 우리는 “유레카!”를 외치게 될지도 모른다.