“수학자는 어두운 방에 고독한 천재처럼 앉아 종이에 글씨를 휘갈기며 어려운 문제에 몰두한다.”

수학자에 대한 흔한 오해다. 같은 이공계 분야 교수조차도 수학자의 연구 방식을 모를 때가 많다. 오해의 시작은 앤드류 와일즈 교수 때문일 수도 있다. 와일즈 교수는 미국 프린스턴대학 재직 중 6년 넘게 남몰래 혼자 연구하며 페르마의 마지막 정리를 해결했다.

하지만 대학원생 때부터 지금까지 오랫동안 경험한 수학자들의 세계는 달랐다. 많은 수학 연구는 서로 만나 수다를 떨다가 우연히 시작된다. 필자의 선배 중 한 명은 “수학자가 이렇게 사교적이어야 하는 줄 알았으면 (내성적인) 나는 선택하지 않았을 것”이라고 말하기도 했다. 실험실에서 진행되는 과학 분야는 학술 행사에 참여하면 연구를 잠시 멈추기 마련이다. 하지만 수학자는 기차, 비행기, 해변, 카페에서도 연구를 할 수 있다. 학술 행사에 참석해 보면 강연장 밖에서 수학자들끼리 서로 메모장을 들고 대화를 나누는 모습을 쉽게 볼 수 있다.

이런 우연한 만남이 좋은 연구 결과로 이어진 경험도 있다. 2004년 대학원생이던 필자는 독일 프랑크푸르트 공항에서도 멀리 떨어진 어느 시골 외딴곳에서 열린 워크숍에 참석했던 적이 있다. 이곳에서는 초대받은 소수의 학자들이 1주일간 숙박하며 토론을 벌이는 ‘닥스툴 세미나’가 열린다.

그곳에서 처음 만난 프랑스의 한 수학자는 논리학 전문가였다. 워크숍 첫날 오후 내내 그 분야 이야기를 나누다 보니 몇 년간 도전했던 문제를 단숨에 해결할 수 있었고 그 역시 오랫동안 관심을 가지던 미해결 문제를 필자가 쌓아올린 이론을 활용해 멋지게 풀어냈다. 게다가 워크숍 마지막 날에는 예정에 없이 연구 결과 발표까지 마칠 수 있었다.

물론 모든 연구가 이렇게 짧은 시간에 순조롭게 마무리되지는 않는다. 2014년 여름 프랑스 연구자가 공동 연구를 위해 한국에 왔다. 학교 안 카페에서 벡터공간 차원에 관한 괜찮은 수식을 만들었는데, 이를 이용하면 좋은 알고리즘을 만들 수 있다는 것을 깨달았다.

이후 몇 년간 화상통화도 하고 서로의 나라를 오가며 연구를 하고 논문을 써 나갔다. 그런데 논문을 검토하던 중 처음 만났을 때 했던 계산에 오류가 있었음을 발견했다. 몇 년이나 그 문제에 매달렸으니 머릿속이 백지장처럼 됐지만 그간 쌓인 노하우 덕분에 다행히 잘 해결할 수 있었다. 그렇지만 처음 틀린 수식이 아니었다면 연구를 시작할 엄두를 못 냈을테니 오히려 다행일 수도 있겠다.

수학자들이 모이는 장소는 그곳이 어디든 실험실이 된다. 70년 넘는 역사를 자랑하는 독일수학연구소(MFO)에는 매주 주제별로 전 세계에서 잘나가는 40여명의 수학자가 모인다. 1949년 열린 첫 미팅에 참여하였던 젊은 프랑스, 독일 수학자들 중에는 르네 톰, 장 피에르 세르 같은 나중에 필즈메달을 받은 대단한 수학자들이 있었다.이곳에 가면 고요한 숲속에서 훌륭한 수학자들과 함께 수학에 몰입해 고민할 수 있을 뿐만 아니라 수학 책과 논문은 없는 것 없이 다 찾아볼 수 있어서 좋다. 수학처럼 이론 위주 연구에는 이런 시설이 안성맞춤인데 국내에는 이런 곳이 없다는 것이 안타깝다.

어쨌든 여행을 좋아하고 똑똑한 사람들과 이야기 나누는 것을 좋아한다면 수학자라는 직업은 분명 매력적이다.