수학자 중에는 재미있는 인물이 많다. 어느 유명 수학자가 남긴 한 구절의 메모가 수많은 이에게 호기심을 불러일으키고, 현상금까지 붙는 경우도 있다. 후세 수학자들은 그 문제를 풀기 위해 몇 세대에 걸쳐 끊임없이 도전해 새로운 영역을 구축하기도 한다.
‘페르마의 마지막 정리’를 만든 페르마(Pierre de Fermat·1601~65)가 바로 그런 경우다. 페르마는 프랑스 출신으로 17세기 최고의 수학자로 손꼽힌다. 그는 근대의 정수 이론 및 확률론의 창시자로 알려져 있다. 좌표기하학을 확립하는 데도 크게 기여했다.
그는 즐겨보던 책의 귀퉁이에 다음과 같은 글을 남겼다. “xn＋yn＝zn (x, y, z는 자연수, n은 3 이상의 자연수)를 만족하는 해는 없다. 나는 경이로운 방법으로 이것을 증명했으나 여백이 좁아 기록할 수가 없다.” 이것이 바로 ‘페르마의 마지막 정리’로 불리는 문제다.
프랑스 학술원에서는 1816년 이 문제를 증명한 사람에게 상당한 액수의 상금까지 걸었다. 1857년에는 검토를 소홀히 한 나머지 제대로 문제를 풀지 못한 이에게 상을 주었다고 한다. 1908년에는 독일에서 ‘마지막 정리’를 푼 사람에게 10만 마르크의 상금을 추가로 걸기도 했다. 그 뒤 수년간 수천 건이 접수됐지만 모두 부적격 처리됐다.
페르마의 정리는 많은 수학자의 도전 의식을 자극했다. 수많은 수학자가 이 문제에 매달렸으나 20세기 후반까지 누구도 풀지 못했다. 그러나 이 과정에서 정수론을 비롯, 많은 수학 이론이 새롭게 발전한다.
‘페르마의 마지막 정리’는 320여 년이 지난 1994년 미국의 앤드루 와일즈(Andrew Wiles) 교수의 두 시간에 걸친 풀이에 의해 증명되었다. 그는 그 후 몇 가지 결함을 보완해 자신의 해법을 1995년에 ?수학 연보?에 발표했다. 이로써 와일즈 교수의 증명은 국제적 공인을 얻었고 상금도 1997년 그에게 돌아갔다.
[문제 1]에서 공통된 규칙을 찾아보자. 네모 칸에 있는 4개의 숫자로부터 공통된 규칙을 찾기 위해서는 그들 간의 숫자의 조합을 살펴보아야 한다. 따라서 서로 더해 보기도 하고 빼기도 해보는 상상력을 동원하면 그리 어렵지 않게 풀 수 있을 것이다.
[문제 2]에선 수들이 변하는 일정한 규칙을 찾아내면 된다. 일정한 차이를 두고 변하는지, 아니면 곱하거나 나누는 방식으로 변하는지를 판단하자. 앞의 문제는 차이, 뒤의 문제는 곱의 개념으로 접근하면 좋을 것이다.
[문제 3]은 작은 정사각형 3개를 4등분 하는 것이므로 각각은 3/4을 가지는 것에 착안해 나머지 정사각형들의 중심을 활용해 만들면 된다. 이런 형태의 문제는 처음으로 접하는 사람들에겐 꽤 어려울 수 있다. 이 문제를 힌트 없이 즉석에서 쉽게 풀 수 있으면 수학적 재능이 대단하다고 자부해도 좋을 것이다. 나중에도 이런 형태의 문제들을 더 접할 기회를 마련하고자 한다.
자유로운 생각을 통한 발상의 전환이 창의적이고 수학적인 두뇌를 만든다. 이런 사고가 인간 두뇌의 발달을 이룰 수 있는 바탕인 셈이다.
김대수 교수 한신대 컴퓨터공학부