페르마의 마지막 정리

　

서울대학교 수학과 부교수 김명환

지난 1993년 6월 23일 영국 캠브리지대학교의 한 학술회의에 모인 수학자들은 수학사에 길이 남을 사건을 목격하고 있었다. 360여년 동안 수많은 수학자들의 도전을 물리치고 수학역사상 가장 유명한 미해결문제로 남아 있던 '페르마의 마지막 정리'가 미국 프린스톤대학교 수학과의 와일즈교수에 의하여 증명되는 순간이었다. 이 소식은 곧 전세계에 알려졌다. 그 후로 와일즈의 증명에 오류가 발견되고 다시 증명이 보완되어 마침내 1995년 5월 세계최고의 권위를 자랑하는 수학전문학술지 'Annals of Mathematics'에 장장 130쪽에 달하는 '페르마의 마지막 정리'의 완전한 증명이 활자화되기 까지 약 2년간 전세계 수학계는 놀라움과 감동으로 술렁이며 가히 20세기 최고의 수학적 사건이라고 할 수 있는 '페르마의 마지막 정리'의 정복여부에 촉각을 곤두세웠다. 필자는 '페르마의 마지막 정리'와 와일즈의 증명에 대하여 그 내용과 그에 얽힌 이야기들을 간략히 소개하고자 한다.


--------------------------------------------------------------------------------

1. 놀라운 소식

지난 1993년 6월 23일 영국 캠브리지대학교의 한 학술회의에 모인 수학자들은 수학사에 길이 남을 사건을 목격하고 있었다. 360여년 동안 수많은 수학자들의 도전을 물리치고 수학역사상 가장 유명한 미해결문제로 남아 있던 '페르마의 마지막 정리(Fermat's Last Theorem - 이후로는 FLT로 표기)'가 미국 프린스톤대학교 수학과의 앤드류 와일즈(Andrew Wiles)교수에 의하여 증명되는 순간이었다. 이 소식은 곧 '데일리 뉴스', '뉴욕 타임즈', '르 몽드' 등을 통하여 전세계로 퍼져 나갔고, 시사주간지 '타임', '뉴스위크' 등도 이 소식을 특집으로 다루었다. 그 후로 와일즈의 증명에 오류가 발견되고 다시 증명이 보완되는 과정을 거쳐 마침내 1995년 5월에 세계최고의 권위를 자랑하는 수학전문학술지인 'Annals of Mathematics'에 장장 130쪽에 달하는 FLT의 완전한 증명이 활자화되기 까지 약 2년간 전세계 수학계는 놀라움과 감동으로 술렁이며 FLT의 정복여부에 촉각을 곤두세웠고 이에 관한 소식들이 전자우편을 통하여 세계각국의 수학자들 사이에 홍수처럼 흘러 넘쳤다.

대부분의 권위있는 수학전문학술지는 투고된 논문에 대하여 해당분야의 전문가들에 의한 검증의 단계를 거쳐 논문에 오류가 없음을 확인한 연후에 게재승인을 하고 활자화한다. 특히 'Annals of Mathematics'와 같은 학술지는 세계최고의 전문가들이 철저한 검증을 하기 때문에 와일즈의 증명을 의심하는 수학자는 거의 없었다. 더구나 와일즈의 증명이 활자화된 후 지금까지 약 2년반 동안 전세계 수학계의 주시하에 많은 전문가들이 검증을 하였지만 아무도 오류를 찾을 수 없는 완벽한 증명으로 인정받기에 이르렀다.

FLT를 증명하였다고 주장한 것은 와일즈가 처음은 아니다. 1847년에 라메(Lamé)와 코시(Cauchy)가 증명하였다고 주장하였으나 틀린 것이 발견되어 주장을 철회하였으며, 1988년에는 미야오카(Miyaoka)가 그들의 전철을 밟았다. 실은 그들도 모두 당대의 저명한 수학자들이었으나 그들이 FLT의 증명을 주장하였을 때 대부분의 다른 전문가들은 별로 믿는 분위기가 아니었다.

그러나 1993년에 와일즈의 FLT증명에 관한 소식이 처음 알려졌을 때에는 아직 그의 증명이 검증되지 않았음에도 불구하고 - 실제로 큰 오류가 있었음은 앞서 언급하였다 - 전세계가 놀라움과 감동으로 그를 주시하게 되었던 이유는 그가 FLT의 해결에 가장 가까이 접근하고 있던 몇 안되는 전문가 중 하나였고 그의 FLT에의 접근 방법에 많은 전문가들이 고개를 끄덕이고 있었기 때문이다.


--------------------------------------------------------------------------------

2. 피에르 데 페르마 (Pierre de Fermat)　

그러면 도대체 페르마는 누구이며 그의 마지막 정리(FLT)란 어떤 것인가? 피에르 데 페르마(1601-1655)는 프랑스 툴루즈 지방의 의원이자 판사였다. 그는 여가 시간에 수학을 공부한 아마추어 수학자였지만, 데카르트(Descartes)와 함께 해석기하와 미적분 분야의 개척자로, 파스칼(Pascal)과 함께 확률론의 창시자로, 그리고 특히 정수론 분야에서는 '현대 정수론의 아버지'로 불리울 만큼 위대한 업적을 남긴 17세기 최고의 수학자 중 한사람으로 여겨지고 있다. 그는 그리이스의 디오판투스(Diophantus)가 A.D.250년 경에 쓴 'Arithmetika'의 라틴어 번역판을 가지고 다니며 시간이 날 때 마다 그 책에 소개된 수 많은 미해결문제들에 도전하였으며, 그 중 많은 문제들을 해결하였고 또한 새로운 의문들을 제시하였다. 그는 이 모든 것을 그 책의 여백에 기록하거나, 다른 수학자들에게 보낸 편지에 기록하였다. 그가 죽은 후, 1670년에 그의 아들은 아버지가 들고 다니던 'Arithmetika'의 여백에 쓰여진 내용들을 원문에 추가하여 'Diophantus'라는 제목의 첫번째 유고집을 출판하였고, 1679년에는 다른 수학자들에게 보낸 편지에 기록된 내용들을 모아서 'Varia Opera Mathematica'라는 제목의 두번째 유고집을 출판하였다.

19세기 초반에 이르러, 오일러(Euler), 라그랑쥬(Lagrange), 가우스(Gauss) 등에 의하여 페르마가 제기한 수많은 새로운 의문들은 하나만 남기고 모두 해결 되었다. 마지막으로 남은 것이 바로 '페르마의 마지막 정리'이다. 마지막이란 수식어가 붙은 이유는 이 때문인 듯하다. 이제 이 정리의 내용을 알아 보자. 페르마는 자신이 지니고 있던 'Arithmetika'의 한 여백에 다음과 같이 기록하고 있다.

'페르마의 마지막 정리' : "n > 2인 임의의 자연수 n에 대하여,

방정식 xn + yn = zn 은 0 아닌 정수해 x, y, z를 가질 수 없다."

물론 우리는 n = 2인 경우에는 무한히 많은 정수해가 존재함을 잘 알고 있다. 그의 기록은 다음과 같이 계속되고 있다.

"... 나는 이러한 사실에 대한 아름다운 증명을 발견하였다. 그러나 이 책의 여백이 너무 좁아서 나의 증명을 다 담을 수가 없다. ...."

이것이 1630년에 쓴 것으로 알려진 유명한 '페르마의 여백기록(marginal notes)'이다. 그가 남긴 다른 위대한 업적들을 감안할 때, 그의 주장을 거짓이라고 일축할 수 없었던 후세 수학자들은 그가 주장하고 있는 명제를 '페르마의 마지 막 예상(Conjecture)'이라고 부르는 대신 그가 증명하였음을 인정한다는 의미로 '페르마의 마지막 정리(Theorem)'로 부르고 있다. 실제로 그는 n = 3, 4인 경우의 증명을 다른 곳에 기록하고 있으며, 그가 이들 경우의 증명에서 사용한 방법이 일반적인 n = 5, 6, 7, ...의 경우에도 항상 적용될 것으로 착각했던 것으로 추측하는 사람들도 있다. 그러나 그의 방법은 일반적인 경우에 적용되지 않는다.


--------------------------------------------------------------------------------

3. FLT 도전사

먼저, 쉽게 관찰할 수 있는 다음의 두 가지 사실을 주목하자.

(1) 방정식에 나타난 지수 n이 3 이상의 소수 p인 경우에만 증명하면 된다. (소수 p와 0 아닌 정수해 x, y, z에 대하여, xyz가 p의 배수가 아닌 경우를 첫번째 경우, xyz가 p의 배수인 경우를 두번째 경우라고 한다. 두번째 경우가 훨씬 어려운 것으로 알려져 있다.)

(2) x, y, z가 서로 소인 0 아닌 정수해가 존재할 수 없음을 보이면 된다. (이제 부터 정수해는 항상 0 아닌 정수해를 뜻하는 것으로 간주한다.)

이제 FLT에의 도전사에 대하여 연도별로 간략하게 알아 보자.

1816 : 프랑스 학술원이 FLT의 증명에 상금을 걸다.
1820 : 게르마인(Germain)이 (2p + 1)도 소수가 되는 소수 p에 대하여 FLT의 첫번째 경우를 증명하다.
1825 : 디리클레(Dirichlet)와 르장드르(Legendre)가 n = 5인 경우를 증명하다.
1832 : 디리클레가 n = 14인 경우를 증명하다.
1839 : 라메가 n = 7인 경우를 증명하다.
1847 : 라메와 코시가 틀린 증명을 발표하다.
1847 : 쿰머(Kummer)가 소수를 정규 소수와 비정규 소수로 분류한 후, n이 정규 소수인 경우를 증명하다. (예를 들어서, 100 이하의 소수 중에서 37, 59, 67 만 빼고는 모두 정규 소수이다.)
1850 : 프랑스 학술원이 FLT의 증명에 두번째 상금을 걸었다가 취소하고 쿰머에게 상금을 수여하다.
1908 : FLT의 증명에 수여할 'Wolfskehl 상'을 제정하다.
1909 : 비이페리히(Wieferich)가 (2p-1 - 1)/p 가 p의 배수가 아닌 p에 대하여 FLT의 첫번째 경우를 증명하다.
1920 : 반다이버(Vandiver)가 쿰머의 비정규 소수에 대한 연구를 발전시켰다. 특히, 37, 59, 67의 비정규 소수의 경우를 증명하다. 따라서, 100 이하의 모든 소수에 대하여 FLT가 증명되다.
1953 : 인케리(Inkeri)가 xp + yp = zp, x < y < z 이면 x > p3p-4 임을 증명하다.
1971 : 브릴라트(Brillhart), 토나시아(Tonascia), 바인버거(Weinburger)가 모든 p < 3×109에 대하여 FLT의 첫번째 경우를 증명하다.
1976 : 바그스타프(Wagstaff)가 125000 이하의 모든 소수에 대하여 증명하다.
(최근에는 컴퓨터를 이용하여 4000000 이하의 모든 소수에 대하여 증명하였으며, 이것을 이용하면, FLT가 틀릴 확률은 1/1024000000 보다 작음을 보일 수 있다.)
1983 : 폴팅스(Faltings)가 '모델(Mordell)의 예상'을 증명함으로서, n이 4이상인 경우 FLT에 x, y, z가 서로 소인 정수해가 존재한다면 그러한 해는 유한 개 뿐임을 증명하다. (그는 이 업적으로 1986년 'Fields 메달'을 수상하였다.)
1988 : 미야오카가 틀린 증명을 발표하였다가 취소하다.
위에 나열한 것들 외에도 수많은 수학자들이 FLT에 도전하여 문제 해결에 크고 작은 기여를 하였으며 또한 수많은 수학자들이 FLT에 도전하여 아무런 성과도 거두지 못하였다. 한편 위에 나열한 업적들 가운데 쿰머와 폴팅스의 업적에 관하여는 약간의 언급이 추가될 필요가 있다.


--------------------------------------------------------------------------------

4. 쿰머(Kummer)와 폴팅스(Faltings)　

쿰머(Ernst Kummer, 1810-1893)는 독일의 수학자로 평생을 두고 FLT에 도전, 처음으로 모든 p에 대한 FLT의 증명에 접근한 수학자이다. 물론 와일즈의 증명은 그의 방법과는 전혀 다르며, 쿰머의 접근 방법으로 FLT를 완전히 해결하기에는 한계가 있을 것으로 보인다. 그럼에도 불구하고 쿰머가 FLT를 해결하기 위하여 평생을 두고 개발한 방법은 '대수적 정수론'이라는 정수의 개념을 확장한 새롭고 중요한 분야의 토대가 되어 수학의 발전에 크게 기여하게 된다.

한편, 1983년 약관 30세의 독일 수학자 폴팅스(Gerd Faltings)는 소위 "종수(genus)가 2 이상인 유리수 계수를 가지는 사영곡선은 유한 개의 유리수 해를 가진다"는 유명한 '모델의 예상'을 증명하였다. 이것이 무슨 뜻이건 간에 이 결과를 FLT에 적용하면 n > 3인 모든 자연수 n에 대하여 곡선 xn + yn = zn 의 종 수는 언제나 3 이상인 것이 알려져 있으므로

xn + yn = zn 와 gcd(x, y, z) = 1

를 동시에 만족시키는 정수해가 만약 존재한다면 그러한 정수해는 유한 개 뿐이라는 결론을 얻게 된다. 이것은 놀라운 발견이며 이제 이러한 정수해 x, y, z 중에서 가장 큰 것의 상계를 구해 내거나 혹은 하나의 정수해로 부터 새로운 정수해를 계속해서 만들어 낼 수 있는 방법을 찾아 낸다면 FLT는 해결되는 것이다. 물론 와일즈의 증명은 이러한 방법과는 전혀 다르며, 아직은 아무도 이러한 방법으로 성공하지 못하였다.

한편 이러한 FLT에의 응용도 폴팅스의 결과의 무수히 많은 응용들 중의 하나에 불과하다는 점에서, 폴팅스의 결과는 와일즈의 결과 보다 더 높이 평가되기도 할 정도로 중요한 업적이다.

결국 폴팅스는 1986년 수학의 'Nobel 상'이라고 할 수 있는 'Fields 메달'을 수상하였다. 'Fields 메달'은 노벨이 어떤 이유에서 인지 수학 분야의 'Nobel 상'을 제정하지 않음으로써 1936년도 부터 4년마다 한 번씩 개최되는 '세계 수학자 대회(ICM - International Mathematical Congress)'에서 지난 4년간 가장 우수한 논문을 발표한 40세 미만의 수학자(통상 2명 이상 4명 이하)에게 수여하는 세계최고 권위의 수학상이다. 내년(1998년)에 개최 예정인 ICM의 최대 관심사는 단연 와일즈의 'Fields 메달' 수상여부이다. 업적으로 보면 와일즈가 당연히 받아야 할 터인데, 그럴 경우 와일즈는 나이가 40세 이상인 첫 번째 수상자가 될 것이기 때문이다. 예외를 좋아하지 않는 수학자들의 결정이 자못 궁금해 진다.


--------------------------------------------------------------------------------

5. 와일즈의 증명

그러면 와일즈의 증명이 탄생하기 까지의 과정을 간략히 소개하자. 와일즈는 타원곡선을 연구하던 수학자로서, 특히 'Shimura-Taniyama 예상'(이후로는 'S-T 예상'으로 표기)의 일부를 증명함으로써, 360여년에 걸친 FLT의 역사에 종지부를 찍었다. 타원곡선은 y2 = (x - a)(x - b)(x - c) 꼴의 곡선으로서 타원곡선 이론은 수학의 여러 분야에 걸쳐 다양하게 응용되고 있으며 최근에는 암호학에의 응용 까지 발견되어 각광을 받고 있다.

'S-T 예상'은 1955년에 처음 제기된 예상으로 모든 타원곡선에 소위 보형형식(modular form)을 대응시킬 수 있다는 내용이다. 보형형식에 대하여는 짧은 시간에 간단히 설명할 수 있는 성질의 것이 아니므로 이에 대한 자세한 설명은 생략하기로 한다. 다만 복소평면의 점 (s + ti)들 중에서 t > 0인 부분에서 정의된 미분가능한 복소함수로서 푸리에급수로 표현되었을 때 그 푸리에계수가 정수론에서 필요로 하는 많은 정보를 가지고 있는 매우 유용한 함수라는 정도로만 알아 두자. 사족이지만 이 'S-T 예상'을 처음 발표한 시무라(Goro Shimura)와 타니야마(Utaka Taniyama)는 일본 수학자들이다. 시무라는 현재 프린스톤대학교 수학과의 교수로서 보형형식에 관한 세계적인 대가로 명성을 날리고 있으나 타니야마는 1958년 자살하였다.

FLT와는 전혀 관련이 없어 보이는 이 예상이 FLT와 밀접한 관련이 있을 것으로 생각한 것은 프라이(Gerd Frey)였다. 그는 1980년대 초에, 3 보다 큰 소수 p에 대하여, 방정식 xp + yp = zp 이 서로 소인 정수해 u, v, w를 가진다면 u 는 3 (mod 4), v는 짝수라고 가정할 수 있으며, 이러한 정수해에 대하여, 프라이곡선이라고 불리우는 타원곡선 y2 = x(x - up)(x + vp) 를 대응시켰고, 1985년에 또다른 'Fields 메달' 수상자인 세르(Jean-Pierre Serre)와 함께 'S-T 예상'과 소위 '세르의 e-예상'을 둘다 증명하면 FLT가 해결된다는 사실을 밝혀 내었다. 그리고 다음해에 리벳(Ken Ribet)이 '세르의 e-예상'을 증명함으로써 프라이곡선에는 보형형식을 대응시킬 수 없음을 알게 되었다.

이제, 'S-T 예상'을 증명하게 되면, 프라이곡선도 타원곡선이므로 보형형식이 대응되어야 하는데, 이는 앞에서의 주장과 서로 모순이 되므로, 프라이곡선은 존재할 수 없게 된다. 그러므로, xp + yp = zp 이 서로 소인 정수해 u, v, w를 가질 수 없고, 따라서 FLT가 증명된다. (페르마가 발견했을지도 모르는 증명 방법이 이 방법과 같은 것일 가능성은 매우 희박하다.) 와일즈는 바로 이 'S-T 예상'의 일부, 즉 FLT와관련된 부분을 해결함으로써 FLT를 정복한 것이다.

타원곡선의 판별식(타원곡선의 y에 0을 대입하여 생기는 x의 서로 다른 세 근 a, b, c의 차이들의 제곱의 곱)을 나누는 각각의 3 보다 큰 소수 q에 대하여, 타원곡선의 서로 다른 세 근 a, b, c 중 정확히 두 개가 (mod q)로 같아질 때, 이러한 타원곡선을 준안정적(semistable)이라고 한다. 프라이곡선의 경우 판별식은 (uvw)2p 이고 u, v, w가 서로 소이므로 프라이곡선이 준안정적임은 당연하다. q = 2, 3일 때는 정의와 증명이 약간 더 복잡하지만 생략하기로 한다. 와일즈는 1986년 리벳의 결과가 나온 이후부터 7년 동안 준안정적인 타원곡선에는 항상 보형형식을 대응시킬 수 있음을 보이는 연구에 몰두한 끝에 증명에 성공한 것이다. 이것은 'S-T 예상'의 부분적인 증명에 지나지 않으나, 문제가 되는 프라이곡선이 준안정적인 타원곡선이므로 FLT를 해결하기에는 충분한 결과인 것이다.

와일즈의 증명은 이러한 배경아래 메이저(Mazur), 콜리비긴(Kolyvagin), 루빈(Rubin), 투넬(Tunnel), 랭글랜즈(Langlands), 플락(Flack), 히다(Hida), 테일러(Taylor), 캇츠(Katz), 코오츠(Coates), 그리고 이와사와(Iwasawa) 등의 타원곡선에 관한 최신의 이론들을 총 동원하여 이루어진 금세기 최고의 업적이라고 일컬을 만한 걸작이다. 자세한 설명을 하자면 지면이 모자랄 뿐만 아니라 필자의 능력도 턱없이 모자라는 관계로 생략하기로 한다.


--------------------------------------------------------------------------------

6. 앤드류 와일즈 (Andrew Wiles)

앞서 알아본 바와 같이 '페르마의 마지막 정리'에 대한 와일즈의 증명은 많은 수학자들의 합작품이라고 할 수 있다. 전세계의 수학자들은 와일즈를 비롯한 이들의 쾌거에 감동에 찬 찬사를 보내고 있다. 그러나 역시 모든 관심의 초점은 와일즈에게 맞추어 지고 있다. 360여년 동안 버티고 서서 모든 수학자들의 도전을 뿌리쳐 오던 도저히 정복될 것 같지 않던 '페르마의 마지막 정리'라는 거대한 산을 정복한 것은 와일즈라고 역사에 기록될 것이기 때문이다. 내년에 ICM에서 그가 'Fields 메달'을 수상하든 않든 그는 이미 당대 최고의 스타가 되었다.

앤드류 와일즈는 40대 중반의 매우 수줍음을 많이 타는 영국 출신의 수학자이다. 캠브리지대학교에서 코오츠교수의 지도하에 박사학위를 취득하였으며 1980년대 중반 부터 프린스톤대학교 수학과의 교수로 재직 중이다. 그가 부분적으로 해결함으로써 FLT를 증명할 수 있었던 'S-T 예상'을 처음 예상했던 시무라도 프린스톤의 교수이다. 10살때 마을의 도서관에서 우연히 만나게 된 FLT에 매료된 그는 FLT를 풀기 위하여 본인의 표현에 의하면 '진이 빠질' 정도로 애를 썼다고 한다. 코오츠는 그런 와일즈에게 꿈에서 깨어나 '주류(mainstream) 수학'을 하도록 충고하였고 와일즈는 그때 부터 코오츠(John Coates)의 지도하에 타원곡선을 연구하기 시작하였다. 박사학위를 취득하고 프린스톤의 교수가 된 와일즈는 타원곡선 분야의 전문가가 되었다. 물론 'S-T 예상'에도 관심을 가지고 있었다. 'S-T 예상'은 타원곡선 이론에서 가장 중요한 미해결 문제였으므로 ...

1986년 어느날 와일즈는 친구의 집에서 차를 마시던 중에 그 친구로 부터 리벳이 '세르의 e-예상'을 해결하였다는 소식에 접한다. 와일즈는 본인의 표현으로 '전기에 감전된 듯한 느낌'으로 그날 부터 FLT를 염두에 두고 'S-T 예상'에 도전하였다고 한다. 이미 사라진 줄 알았던 10살때 부터의 꿈이 가슴 깊은 곳에 그대로 간직되어 있었다는 것도 와일즈로서는 새로운 발견이었다.

바로 그날 부터 7년 동안 그는 집에서 아무에게도 알리지 않고 혼자서 연구에 몰두하였다. FLT에 도전하고 있다는 사실은 그와 그의 아내만의 비밀이었다. 1993년 1월 그는 증명이 거의 완성되었다는 자신을 가질 수 있었다.

그는 프린스톤의 동료인 캇츠(Nick Katz)에게 이 사실을 알리고 그에게 내용을 설명하기 위하여 강의를 개설하였다. 제목은 '타원곡선 상의 계산'이라는 애매한 것이었다. 아무것도 모르고 수강신청을 했던 학생들은 2-3주가 지나자 모두 수강을 취소하고 강의실에는 와일즈와 캇츠 뿐이었다. 한 학기의 강의가 끝나갈 즈음, 캇츠도 증명의 기본 줄거리에 오류가 없는 듯하다고 동의하였다. 와일즈는 또 다른 프린스톤의 동료인 사르낙(Sarnak)에게 이 사실을 알리고 검증을 의뢰하였다. 그리고 캠브리지로 날아 갔다. 모교에서 열리는 학술회의에서 이 역사적인 발표를 하기 위해서였다. 역사적인 발표가 끝나자 전세계 수학계가 경악하였다. 어느 정도 예상은 하였지만 그 반응은 예상을 훨씬 뛰어 넘는 가히 폭발적인 것이었다.

사실 코오츠의 말처럼 'S-T 예상'의 일부분에 대한 증명으로 부터 FLT가 증명될 수 있다는 소식을 접했을 때 타원곡선을 연구하는 대부분의 전문가들은 "FLT도 해결하지 못하고 있는 마당에 FLT를 함축적으로 포함하고 있는 것으로 판명된 'S-T 예상'의 증명은 거의 불가능할 것 같다"라는 반응을 보였다. 심지어는 'S-T 예상'을 연구하던 전문가들 조차도 연구를 포기하는 분위기였다. 단 한 사람의 예외가 바로 와일즈였던 것이다.

전세계 수학계의 이목이 집중된 가운데 캇츠로 부터 증명에 약간 미진한 부분이 있는 듯하다는 연락을 받았다. 쉽게 처리될 줄 알았던 그 부분은 결국 심각한 오류로 판정이 났고 와일즈는 전세계의 수학자들에게 이러한 사실을 발표한 후 오류의 정정을 위하여 다시 두문불출을 시작하였다. 수줍은 성격의 와일즈로서는 이 때가 가장 고통스러운 시간이었다고 고백하고 있다.

"처음엔 아무 것도 보이지 않는 깜깜한 방에 들어간 느낌이었다. 벽에, 가구에 부딪치고 넘어지고 하면서 눈이 어듬에 익숙해 지기 시작했고, 가구의 위치들이 어렴풋이 파악되면서 어디쯤 스위치가 있을 것이라는 추측이 가능해 지고, 결국 여기 저기를 더듬던 끝에 스위치라고 생각되는 것을 건드렸을 때, 전등이 켜지면서 모든 것이 확연히 드러났다."

8년이 넘는 기간 동안의 경험이었다. 수학자 뿐만 아니라 모든 연구자가 역사에 기록될 만한 가치있는 연구 결과를 낳기 위해서는 반드시 거쳐야 하는 고통스러운 과정을 잘 묘사하고 있다.

"그것은 수학자로서의 나의 일생에 가장 중요한 순간이었고, 내가 앞으로 무엇을 하더라도 그만큼 중요한 순간은 다시는 없을 것이다."

아마도 바로 그러한 순간이 모든 연구자가 꿈꾸고 바랄 수 있는 최고의 축복이 아닐까? 와일즈는 한 TV 방송과의 인터뷰에서 이 대목을 이야기하면서 당시의 감동이 되살아 나는 듯 말을 잇지 못하였다.

'Annals of Mathematics'는 그 후 1년 동안 철저한 검증과정을 거쳐 1995년 5월 그의 논문을 실은 통권 141권의 3호를 발간하였다. 그 목차를 보면 다음과 같다.

Andrew Wiles, "Modular elliptic curves and Fermat's Last Theorem" ----------- 443-451

Richard Taylor, Andrew Wiles, "Ring-theoretic properties of certain Hecke algebras" --------------------------------------------------------------- 453-472

단 2편 뿐이다. 앞의 논문은 와일즈의 FLT증명이고, 나중 것은 처음의 논문에서 발견되었던 잘못된 부분을 보다 일반적인 경우 까지 확장하여 해결한 논문이다. 세계최고의 권위를 자랑하는 'Annals of Mathematics'가 매우 이례적으로 한 호 전체를 FLT의 증명만으로 장식함으로써 FLT의 정복을 기념한 것이다.

한편, 1955년에 타니야마와 함께 'S-T 예상'을 발표했던 시무라는 와일즈가 자신의 예상이 옳았음을 증명했다는 소식을 듣고 "내가 그렇다고 했잖아"라고 농담을 한다. 물론 그나 이미 자살한 타니야마도 처음에 'S-T 예상'을 발표할 때는 그것이 FLT 까지 연결되리라고는 꿈에도 생각하지 못하였을 것이다. 농담을 하면서도 그는 타니야마와의 기억을 회상하며 우울했으리라.


--------------------------------------------------------------------------------

7. 우리도 ...

와일즈는 10살때 부터 간직해 온 꿈을 성취하였다. 너무나 멋지게 해냈다. 와일즈 외에는 아무도 가능하다고 생각하지 않았다. 요즈음 같이 너나 없이 더 많은 논문을 경쟁적으로 발표하는 분위기 아래서 듣는 와일즈의 쾌거는 그래서 더욱 더 신선한 충격이라 하겠다. 일반 사회에서도 마찬가지이겠지만 학계에서도 뭔가 의미있는 연구결과를 생산해 내기 위하여는 짧지 않은 고통의 과정이 뒤따르게 마련이다.

쉽고 빠르게 생산해 낼 수 있는 연구결과를 선호하는 시각으로는 FLT와 같은 성공 가능성이 희박한 문제에의 도전은 무모한 만용으로 보일 수도 있을 것이다. 그러나 8년 동안 거의 아무 것도 하지 않고 한 문제에만 매달려 고독하고 고통스러운 싸움을 계속하는 대학교수가 있다는 것과 그러한 교수를 지원하는 대학이 있다는 것이 어쩌면 우리와 선진국의 차이가 아닐까?

인간의 지적 능력이 이룩한 또 하나의 금자탑을 바라 보면서 앞으로 남은 '리만(Riemann) 가설', '포앵카레(Poincaré) 예상', '골드바하(Goldbach) 예상' 등의 또 다른 큰 산들이 정복될 즈음엔 우리 나라의 젊은이들이 끈기와 용기와 재능을 갖춘 훌륭한 수학자로 자라나서 당당한 역할을 감당하고 또 그들이 그러한 큰 산에 오를 수 있도록 격려하고 지원하는 연구 분위기가 우리 나라에도 자리잡게 되기를 기대해 본다.

끝으로 '리만 가설'이나 '포앵카레 예상'과는 달리 쉽게 설명할 수 있는 '골드바하 예상'을 소개하면서 이야기를 끝맺고자 한다.

'골드바하 예상 (1)' : "모든 4 이상의 짝수는 두 개의 소수의 합이다."

이렇게 알기 쉬운 명제가 약 200년 동안 미해결의 상태로 남아 있음이 신기할 정도이다. 참고로 다음의 동치 명제를 증명하여도 된다.

'골드바하 예상 (2)' : "모든 6 이상의 정수는 세 개의 소수의 합이다."


--------------------------------------------------------------------------------

제5회 청소년을 위한 자연과학 공개강연 프로시딩
"물질과 생명의 본질을 찾아서"
서울대학교 자연과학대학, 1998년 2월 24-25일, pp.24-35.