‘수학에 연구할 게 남아 있나요?’ 항상 답하기가 난감하다. 학교에서 배우는 수학만으로도 차고 넘쳐서 어디에 쓸까 싶은데 거기에 뭘 더 하느냐는 뜻이겠지.

사람들이 같은 용어를 서로 다른 뜻으로 사용하면 대화할 수 없어지는 것처럼 수학은 상이해 보이는 몇 가지 속성을 가지고 있어서 누구와 대화하는가에 따라 엉뚱한 얘기를 하게 되곤 한다.

첫째 속성은 문화적이고 철학적인 측면이다. 기초 데이터로부터 논리적 과정을 거쳐 결론을 끄집어내는 사유의 방식을 말하는데, 고대 알렉산드리아의 수학자 유클리드가 명료하게 정리했다. 그보다 전에 플라톤 같은 철학자들은 이런 방식을 혼돈과 궤변에서 인간을 지켜 내는 도구로 보았다. 힐버트나 러셀 같은 수학자는 이런 측면을 수학의 논리성 또는 언어적 측면으로 보아서 과학과 구별했다.대부분 학생은 수학자도 과학자도 되지 않을 것이므로 보편 교육의 틀 안에서 수학 교과목에 집중해야 하는 측면이다. 독립적으로 생각하고 결론에 다다르는 능력, 즉 합리적 사유의 능력은 시민 교육의 핵심이니까.

둘째는 과학의 언어라는 측면이다. 같은 말을 두고도 다르게 해석해 생기는 소통의 혼선이 어디 한둘인가. 양자역학의 한 줄 수식을 보통의 언어로 설명하면 책 한 권이 필요할 수도 있고 그나마 해석의 오류 가능성이 존재한다. 하지만 물리량 사이의 관계를 단순한 수식으로 표현하면 명료한 소통의 언어가 된다. 게다가 수식으로 표현된 자연 현상은 코딩 과정을 통해 컴퓨터가 즉시 이해하게 할 수 있어서 초기조건 등과 함께 기계에 주고 풀게 하면 현상을 설명할 수도 있고 미래를 예측할 수도 있다. 현대 과학이 수학이라는 언어를 효과적으로 사용하면서 자연현상의 설명뿐 아니라 산업의 토대가 되는 이유라고 할 만하다.

과학기술 분야로 진출하려는 학생이라면 첫 번째 측면을 넘어서 이런 언어적 측면까지 습득해야 한다. 수식으로 표현된 물리현상이나 생명현상 법칙의 명료함을 이해할 뿐 아니라 실험으로 얻어 낸 방대한 데이터의 의미를 깨닫고 이를 수식으로 표현하는 능력도 중요하다.

셋째는 자체로서의 과학 측면이다. 수와 모양에 대해 인간이 아직도 모르는 비밀스러운 부분이 많아서 연구가 이루어지는 전문가의 영역이다. 보편 교육인 ‘교과목으로서의 수학’에서는 잘 다루지 않는다. 이런 이유로 일반인은 수학의 첫 번째 측면을, 과학자는 두 번째 측면까지 접하게 되지만, 세 번째 연구의 측면은 존재 자체를 잘 몰라서 ‘수학에 연구할 게 남아 있나요?’라는 질문을 하는 것으로 해석할 수 있다.

수학에서도 인간이 아는 것보다 모르는 게 여전히 많은데, 그중에서도 수학자들을 괴롭히며 오래 버텨 온 수학 난제들은 문제가 무엇인지를 일반인에게 설명하는 것조차 어려운 경우가 흔하다. 백 년의 난제였다가 그리고리 페렐만이 해결한 푸앵카레의 추론 같은 게 그런 예다. 4차원 공간 안에 있는 3차원 구의 경우 국지적인 기하적 성질로부터 글로벌한 기하적 성질을 유추해 낼 수 있느냐는 문제인데, 역시 수수께끼처럼 들릴 것을 인정할 수밖에 없다.

반면 5차 방정식의 일반해 문제처럼 문제 설명은 쉽게 할 수 있는데도 수천년 동안 난공불락의 미해결 난제로 남는 경우도 있다. 결국 갈루아와 아벨이 해결했다. 그전 인간 지식의 체계 안에는 이 문제의 해결을 위해 필요한 어떤 부분이 아예 빠져 있었던 걸까?