‘골드바흐의 추측’을 수학적으로 증명한다고 해서 도움 되는 건 별로 없다. 이 추측을 증명하지 못해서 비행기가 추락하는 것도 아니고 우주선이 궤도 밖으로 벗어나는 것도 아니다. 또 이 추측이 증명된다고 하여 엄청난 수학적 발전이 있는 것도 아니다. 하지만 수학자들은 이런 난제 하나를 풀기 위해 평생을 바친다. 왜 그럴까.

그 답을 프랑스의 변호사이자 수학자인 피에르 드 페르마(1601~1665)가 남긴 정리, 이른바 ‘페르마의 대정리’(‘페르마의 마지막 정리’라고 부르기도 함)의 300년이 넘는 증명 과정에서 엿볼 수 있다. 페르마가 증명 없이 남긴 여러 정리 가운데 대부분은 그의 사후 증명됐지만 마지막까지 대정리는 해결되지 않았다. 수학자들이 대정리 때문에 얼마나 골머리를 썩였는지 문제를 푸는 사람에게 거액의 상금이 걸렸고, 증명에 도전했다가 자살했거나 미쳐 버린 사람들도 있었다. 심지어 페르마를 비난하는 수학자가 나오기도 했다.

이렇게 대정리가 영원한 수수께끼로 남을 즈음인 1997년 마침내 영국의 수학자 앤드루 와일스가 증명에 성공했다. 10세 때 ‘대정리를 풀어야겠다’고 결심했던 와일스는 44세에 문고판 서적 1권 분량으로 페르마가 남긴 수수께끼를 증명해 냈다. 와일스가 증명할 수 있었던 것은 그의 꾸준한 노력과 천재성 덕분이기도 했지만 페르마 이후 수학에서 많은 발전이 있었기 때문이었다.

‘지구는 둥글다’, ‘지구는 태양 주위를 돌고 있다’는 등의 지금의 상식 역시 등장 당시에는 실생활에 별 도움 될 것 없는 소모적인 논쟁에 불과했다. 하지만 이를 증명하고 논쟁하고 사실로 인정하는 과정에서 인간의 지성은 발전을 거듭해 왔다. 그리고 그 바탕 위에서 인류는 달을 밟았고 뉴허라이즌스호는 명왕성까지 날아갈 수 있었다. 수학자 및 과학자들은 “난제를 풀고자 하는 인간의 이성적 욕구는 후대의 발전에 바탕이 될 뿐 아니라 그 자체로 완벽한 아름다움을 추구하는 것”이라고 주장한다.

골드바흐의 추측과 유사하게 아직 증명되지 않은 대표적인 수학 난제로는 ▲3n+1 문제 ▲쌍둥이 소수 ▲메르센 수 ▲제곱수 사이의 소수 ▲홀수 완전수 ▲푸앵카레의 추측 등이 있다.

장형우 기자 zangzak@seoul.co.kr