페르마의 마지막정리

 

다음의 정리를 『페르마(Fermat)의 대정리』 혹은 『Fermat의 마지막정리』라고 한다.

 

페르마는 직업적인 수학자가 아니라, 툴르즈 지방 의회에 소속된 법률가이자 치안 판사였다. 그는 수학에 대한 정규 교육을 받은 적도 없었지만, 수학에 강렬한 애착을 갖게 되었다. 그는 자신의 생존 기간 중 수학에 대해 사실상 아무 것도 출판하지 않았다. 그러나 그는 당시의 위대한 수학자들과 매우 많은 서신 왕래를 하였다.

이 유명한 마지막정리의 형식화에 이르는 과정은 매우 흥미롭다. 1453년 콘스탄티노플이 터키에 의해 함락되었을 때 비잔틴 학자들은 고대 그리스 문헌을 갖고 서유럽으로 피신했다. 그 중에는 당시까지 보관되던 디오판토스의 산학(arithemetica)이 있었다. 이 책은 후에 1621년 중 그리스 문헌을 라틴어로 번역한 새로운 개정판이 출판되면서 유럽 수학자들에게 소개되었다.

기원 후 3세기경 쓰여진 산학은 디오판토스의 중요한 업적이고, 대수학에 관해 쓰여진 최초의 책 중 하나였다. 그 중에는 x^2+y^2=z^2을 만족시키는 유리수 x, y, z를 찾는 것이 있었다. 페르마는 여백의 주석을 통해서 n이 2보다 큰 자연수이면 방정식 x^n+y^n=z^n이 자명하지 않은(셋 중 어느 것도 0이 아닌) 유리근을 가지지 못한다고 썼다. 또한 여백이 부족해 증명을 적지 못한다고도 썼다.

이것이 '마지막정리'로 불리는 유래는 약간 모호하다. 그가 이 유명한 여백의 기록을 남긴 것이 디오판토스의 책을 처음 공부하는 1630년대로 추측되고 있고, 그것은 그의 수학적 경력의 초기였다. 아마도 이 정리는 분명히 그의 마지막 정리가 아니고, 오히려 그 이름은 그가 죽은 뒤에 남긴 많은 정리 중에서 증명되어야 할 마지막 정리라는 사실에 기인한 것 같다.

페르마가 진정으로 알았든지 몰랐든지 간에, 그 후 350년 동안 전문적인 수학자들의 노력으로도 얻을 수 없었던 결과를 17세기 아마추어 수학자가 선언했다는 것은 놀라운 일이다. 많은 위대한 수학자들이 일생을 바쳐 이 문제와 씨름을 했고, 이 문제에 대한 연구는 완전히 새로운 수학 영역을 개척했다.

· n=3 : 오일러(Euler)가 증명

· n=5 : 디리끌레(Dirichlet)가 증명

· n=7 : 르장드르(Legendre)가 증명

 

 

1930년대 밴 다이머는 617까지의 모든 소수를 조사하였다. 그 후 30,000까지, 1976년에는 125,000보다 작은 모든 소수가 조사되었다. 숫자가 증가되어 가면서 이 정리가 참일 것 같은 확신이 커지긴 하지만, 이 실험은 더욱 더 어려워져가고 또 아무리 큰 숫자까지 조사하더라도 더욱 많은 수들이 미지 속에 남아 있다.

와일즈(A. Wiles)는 프린스턴 고등 기술 연구소의 교수로 1994년 영국 캠브리지에서 열린 학회에서 페르마의 마지막정리를 증명했다고 발표하였다. 그 증명에는 미비한 점이 있음이 지적되었고, 그도 이를 시인하였다. 그 후, 1994년 10월의 강연에서 Wiles와 Taylor 교수의 합작으로 이전의 미비점을 메꾸어서 완벽한 증명에 도달할 수 있었다. 그들의 공동 작업은 1995년 <Annals of Mathematics> 5월호에 실렸다. 수많은 사람들이 이를 읽었고 아마도 백 명 정도의 전문가는 이를 잘 이해할 수 있을 것이다. 그들의 증명은 수학계에서 일반적으로 받아들여지고 있다.

그럼 과연 페르마는 이 정리를 증명하였을까? 아니라는 것이 정설이다. 그가 이 증명을 발견하였다는 주장을 낙서한 것은 자신의 경력 초기였다. 훨씬 후에 그는 n=4, n=5인 경우를 증명하기 위하여 시간과 노력을 소비하였다. 그가 증명을 발견하였다면, 이러한 특수한 경우를 위하여 시간을 소비하지 않았을 것이다. 아마도 그는 자신의 증명에서 잘못된 부분이 있었음을 발견했지만, 굳이 예전의 낙서를 들춰 고쳐야겠다는 필요를 느끼지는 못했을 것이다.

수백 년간 수많은 수학자들에 의해 이 정리에 대한 연구가 진행되면서 관련된 추측(Conjectures)들도 많이 등장했다. 그 중 어떤 것은 사실로, 어떤 것은 거짓으로 밝혀졌고, 어떤 것은 해결되지 않고 남아있을 것이다.

오일러는 다음과 같은 추측을 하였다.

 

그러나 Noam Elkies는 반례를 발견하였다. 즉,

 

이렇게 큰 수에 이르러서야 반례가 발견되는 문제는 얼마든지 더 있을 수 있다. 아무리 오랜 시간 동안 얼마나 큰 수까지 실험을 했더라도, 상상할 수 없이 큰 수에서 한 순간 반례가 생기면 그것은 수학적으로 참이 아닌 것이다.

 

- <엠제곱 수학 올림피아드 셈본>에서 발췌 및 수정