신비한 달빛을 좇는 대칭의 세계
수학은 완전히 이해하는 것이 불가능한 학문이다. 언제나 놀라움을 간직한 채 더 깊이 감추어진 것이 있다. 수학은 수학자들에게 창조성을 불러 일으켜 개개인의 능력을 넘어선 탐구로 이끌고 간다. 이 책을 통해 대칭과 관련된 모든 기본 개념들을 접하고, 최종적으로는 몬스터와 문샤인에 도달하게 된다. 수학자 존 콘웨이는 사이먼 노턴과 함께 몬스터와 정수론 사이에는 비록 그 이유는 모르지만 분명한 연관성이 있음을 확신하였다.

콘웨이는 이 모든 것에 문샤인이라는 이름을 붙였는데, 이것은 그가 이 발견에 의미가 없다고 생각했기 때문이 아니다. 오히려 새롭게 발견한 사실이 논리적인 과정을 통해 얻은 결과가 아니라, 마치 춤추는 아일랜드 레프러콘 요정에게서 신비한 달빛이 비추는 것과 같은 느낌을 받았기 때문이다. 또한, 문샤인에는 불법으로 증류된 술이란 뜻도 있는데, 이런 식의 연관성이 있다는 것이 금기를 어긴 것과도 같아 보였기 때문이었다. 문샤인에 도달하는 그 과정에서 대칭에 대해 상세히 살펴보고, 수학자들이 대칭을 이용하여 어떻게 심도 깊은 문제를 푸는지 알아볼 수 있게 된다.

정리는 수학에 있어서 혈액과 같다
정리는 수학의 핵심이며 이것이 수학자들이 앞으로 나아가는 방식이다. 수학적 정리 중 대표적인 예로는 ‘라그랑주의 정리’가 있다. 라그랑주는 갈루아가 방정식 문제를 해결하는 데 큰 영향을 끼친 업적을 제공했던 수학자다. 치환에 대한 라그랑주의 연구는 그의 업적 중 매우 적은 부분에 불과했지만 그 정리는 매우 중요했다. 정리란 참이라고 증명된 명제를 뜻하며, 정리 없이는 우리가 단단한 기초 위에 건물을 세운다는 확신을 할 수 없기 때문에 아무것도 얻을 수 없다. 만일 어떤 명제가 참인 것처럼 보여 그 위에 우리의 이론을 세웠는데, 나중에 그 명제가 거짓이라고 밝혀진다면 그 모든 체계가 무너지고 만다. 거짓된 명제를 참인 것으로 가정한 것에 기초하여 얻은 결과들은 모두 다시 증명해야만 한다. 수학자들은 이러한 부분에 매우 주의 깊게 행동한다. 중요한 결과, 즉 여러 곳에서 사용되는 결과는 모두가 만족할 정도로 증명되어야만 한다.

라그랑주의 정리로부터 흥미로운 질문이 제기된다. 이 질문은 이후에 1845년 코시에 의해 증명되었다. 코시는 수학의 세계에서 선구자적인 역할을 해 왔으며 광범위한 분야에 관심을 가진 수학자였다. 코시는 놀랄 만큼 생산적인 수학자였으며 엄청난 속도로 연구 논문을 써냈다. 라그랑주와 코시의 연구 결과에 갈루아의 깊은 아이디어를 더하여, 치환군을 보다 일관되고 체계적으로 다룰 필요가 있었고, 이것을 잘 처리한 사람이 카미유 조르당이었다. 그가 쓴 논문은 30년간 군론의 표준 참고서가 되었다.

군론의 기초에서 시작되는 몬스터의 이야기
군론은 무언가를 보다 단순한 요소로 분해하는 것은 과학에서 지극히 기본적인 방법이고, 그 핵심은 그 구성요소를 가능한 한 단순하게 만드는 단계에 이르는 데 있다. 예를 들어 임의의 물질은 분자로 분해되고, 이것은 다시 더욱 단순한 분자로 분해되며, 결국 이 분해과정의 끝은 원자 수준에 이르게 된다. 이 단계에 이르면 중간에 어떤 과정으로 분해하는 지와는 상관없이 언제나 같은 원자들의 모임을 얻게 된다. 여기서 단순군이 대칭에서 원자의 역할을 하게 된다. 이는 문제를 복잡하게 만들기도 하지만 그만큼 흥미롭기도 한데, 수학자들은 추상화의 세계로 들어섬으로써 이러한 복잡함을 피하는 좋은 방법을 알고 있다. 이들은 추상화된 군을 연구함으로써 이것을 실행한다. 이러한 군은 치환이 되거나 운동이 되거나 일종의 변환으로 나타날 수 있다.

그러나 이것들은 모두 추상화하여 연구할 수 있으며, 이것이 정확히 몬스터가 발견된 방법이다. 몬스터가 치환군 또는 대칭군의 형태로 등장한 것은 아니지만 분명 그러한 모습으로 표현될 수 있다. 군이 많은 다양한 방법으로 표현되는 것은 춤이 여러 춤꾼에 의해 추어지는 것과 같다. 군을 완전히 추상화된 방법으로 다루는 것은 수학 교과서에서나 적절하지 우리에겐 불필요해 보인다. 우리는 그저 군을 치환과 같은 연산들로 구성된 것으로 생각하면 된다. 이 연산이 정확히 무엇을 하는지는 중요하지 않으며, 연산이 작용하는 대상에 따라 여러 다른 방법으로 표현될 수 있으며, 다양한 대상은 군을 이해하는 데 도움이 된다.

문샤인으로 향하는 몬스터
몬스터와 정수론 사이에는 이상한 연관성이 있다. 몬스터와 정수론 사이의 연관성, 즉 문샤인 연관성은 몬스터의 존재가 처음 인식되었을 때보다 훨씬 아름답고 중요한 군이 되었다. 따라서 몬스터를 얻는 보다 우아한 방법이 있어야 한다. 몬스터는 자신만의 세계를 창조하였으며 많은 신비로운 성질들이 이 수학적인 세계의 통일성과 다양성을 반영해주고 있다. 우리는 몬스터의 존재성이 완전히 알려지기 전부터 몬스터와의 싸움을 시작했는데, 그것은 이미 그 당시 진정한 아름다움이 드러나기 시작했기 때문이다. 우리는 그동안 일부 문제를 풀 수 있었고, 다른 문제들에 빛을 비추어 실마리를 얻을 수 있었으며, 새로운 문제들을 추가하기도 해왔다. 가장 큰 예외적인 단순군인 몬스터는 정수론과 깊은 연관성을 가진 것으로 드러났으며, 이를 콘웨이는 ‘문샤인’이라고 불렀다. 이러한 연관성은 j-함수에서 처음 드러났으며 콘웨이와 노턴은 몬스터에서 여러 유형의 계산을 통해 미니 j-함수의 계수들을 만들어낼 수 있었다.

수학자들은 어둠 속에서 앞으로 나아가려는 자들이다. 왜냐하면 수학이란 학문은 설명하기 어렵고, 바빌로니아인들이 2차 방정식을 푼 때로부터 4,000년이 지나는 동안 실로 다양한 방식으로 변해왔기 때문이다. 앞으로 대재앙이 발생하지 않는 한 수학은 수천 년 동안 계속 발전할 것이고 미래에도 여전히 풀리지 않는 문제와 연구에 영감을 줄 신비로움이 남아 있을 것이다. 문샤인 신비 자체는 아직도 해결되지 않았다.

마크 로난은 마음을 사로잡는 이 작은 책을 통해 경외심과 모험심을 불러 일으킨다. 로난은 수학적 발견의 흥분을 기가 막히게 잡아내는 데 성공했다. 대칭과 몬스터는 정말로 흥미진진한 책이다.
- [미국 월간 수학]