3장 경북대 수학과 ③ 한국 수학계의 거목 박정기 교수

박정기 교수는 1915년 경남 거창군 가북면 몽석리에서 태어났다. 몽석리는 거창의 가장 북쪽 지역으로, 북으로는 김천의 수도산과 동으로는 합천의 가야산과 이어진 산골이다. 박 교수의 아호 ‘몽석’은 고향에서 따온 이름이기도 하다.

박 교수는 1923년에 대구로 나와 수창공립보통학교와 공림공업학교를 졸업했다. 1935년 교남학원(대륜고의 전신)에서 학업을 마친 뒤, 1936년 연희전문학교 수물학과에 입학했다. 1940년 졸업 후에는 센다이에 있는 일본의 3대 제국대학(도쿄대, 교토대, 도호쿠대) 중 하나인 도호쿠제국대학(東北帝国大学) 수학과에 입학했다.

당시만 해도 일본의 제국대학은, 제1고에서부터 제8고까지의 국립고등학교를 포함한 10여 개의 일본 정규 고등학교 출신자만 지원할 수 있었다. 이들 가운데 합격자가 정원에 미달하면 전문학교나 사립대 출신에게 시험칠 기회를 주었다. 조선의 전문학교 졸업생이 일본의 사립대도 아닌 제국대학에 진학한다는 것은 거의 불가능한 일이었다.

간혹 도쿄대나 제국대에 조선인 학생이 있기도 했다. 고등학교 때부터 유학을 와 명문 제1~8고에 다니다 시험을 보고 진학한 경우였다. 친일 집안의 부잣집 자식으로 일찍 일본으로 유학을 왔기에 가능했던 것이다. 이들은 졸업 후 대부분 일제의 법관이나 고위 관리가 돼 조선으로 다시 나왔다.

이야기는 좀 더 거슬러 올라간다. 1920년대에 선교사 출신으로 연희전문학교 수물과에서 수학을 가르치던 미국인 교수가 있었다. 그는 학교에서 아주 우수한 학생을 만났다. 얼마 뒤 미국으로 다시 돌아가면서 도호쿠대 수학과 교수로 있는 친구에게, 이 학생이 꼭 입학시험을 칠 수 있게 해달라고 부탁했다. 덕분에 이 학생은 1925년도의 입학시험을 칠 수 있었고, 우수한 성적으로 합격했다. 조선인 최초로 도호쿠대 수학과를 졸업한 이 학생의 이름은 장기원이다.

유학을 마치고 돌아온 장기원은 모교인 연희전문학교 수물과에서 학생들을 가르쳤다. 이때 장기원 교수에게 배운 박정기 교수도 졸업 후 도호쿠대 수학과로 진학한 것이다. 장기원 교수가 입학한 지 꼭 15년 뒤였다.

“조선에 대한 일제의 식민지 교육정책은 뛰어난 인재 육성이 아니었어. 자신들에게 필요한 하급 관리직이나 실무자만을 양성하는 것이었지. 당시 조선의 유일한 대학이었던 경성제대에도 기초과학을 대표하는 수학과는 없었어. 오직 연희전문학교에 수학과 물리학을 합친 ‘수물과’가 개설돼 있었지.”

일제는 수학이나 과학 분야의 경우 중등학교 교사를 양성하는 수준에서 장벽을 쳐 놓았다. 식민지에서 실력 있는 고등 지식인과 학자의 등장을 막기 위한 속셈이었다. 그런데도 장기원 교수나 박정기 교수는 워낙 탁월한 인재이다 보니 진학을 허용해 준 것이다. 뛰어난 실력으로 그 벽을 스스로 뚫고 들어간 것이라고도 하겠다.

박정기 교수가 입학한 도호쿠대 수학과에는 당시 세계적으로 이름이 쟁쟁한 교수들이 재직하고 있었다. 해석학 교수 다카키 데이지(高木貞治), 기하학 교수 구보타 타다히코(窪田忠彦), 추상대수학 교수 쇼다 겐지로(正田健次郞) 등은 독일에서 최정상의 수학을 공부하고 돌아와 일본 수학의 수준을 세계적으로 높인 실력파 학자들이었다.

“박정기 교수님은 도호쿠의 학부를 졸업한 뒤 계속 남아 공부하기 위해 조교가 되기를 희망했지만 거절당했다고 해. 조선 학생이라는 게 이유였지. 구보타 주임교수에게 사정해 어렵게 얻은 자리가 항공 계측과 관련된 연구소였어. 여기에서 조교로 일했지. 하지만 미군의 폭격으로 일본의 주요 도시가 파괴되면서 더 이상 일본에 남아 공부하기 힘든 상황이 됐어. 게다가 집안에서도 혼기가 늦다고 귀국을 재촉했지.”

그러던 중 해방 소식이 들렸다. 박정기 교수도 일본에서 돌아왔다. 귀국 후 몽석리 고향 집에서 홀로 수학 독서삼매에 빠져 있었는데, 급히 연락해 온 사람이 있었다. 바로 장기원 교수였다. 스승이자 선배인 장기원 교수는 박 교수에게 무조건 빨리 올라오라고 했다. 그의 부름을 받고 서울로 올라온 박 교수는 1945년 9월에 연희대학교 수물과 교수로 취임했다.

“우리나라에서 근대수학이 뿌리를 내린 것은 새로운 근대교육이 시작되면서부터야. 그 과정에서 우리에게도 뛰어난 수학자들이 배출되었어. 장기원, 유충호, 박정기, 이렇게 세 분을 우리 수학계의 대표적인 1세대 학자로 꼽을 수 있지.”

기하학을 전공한 장기원 교수는 일제강점기 때 연희전문학교 수물과 교수를 거쳐 해방 후 연희대학과 세브란스의대가 합쳐진 연세대학교에서 수학과 교수를 지냈다. 대한수학회 회장을 역임했으며, 연세대학교에 장기원기념관이 세워질 정도로 수학 분야에 탁월한 업적을 남겼다.

유충호 교수는 미분기하학의 권위자로 1946년에 경성대학 수학과 교수로 임용됐다. 하지만 국대안 반대 투쟁에 동참하면서 미군정에 의해 학교에서 쫓겨났다. 이후 북으로 올라간 그는 김일성대학교 수학과 교수로 재직하면서 북의 수학 발전에 크게 이바지했다.

1946년 6월 19일에 미군정청은 경성대학과 경성의학전문학교, 경성치과의학전문학교, 경성법학전문학교, 경성고등공업학교, 경성고등상업학교, 수원고등농업학교 등을 통합하는 ‘국립대학안’(국대안)을 발표했고, 8월 23일에는 군정령으로 국립 서울대학교의 신설을 강행했다. 국대안은 고등교육기관을 통합해 미군정의 관리 감독 아래 두겠다는 의도였다. 이는 총장과 행정책임자를 미국인으로 한다는 내용에서도 명확히 확인할 수 있다.

국대안 반대 투쟁으로 실력 있는 교수들이 대거 쫓겨나면서 서울대 수학과는 별 볼 일 없는 곳이 되고 말았다. 당시 서울대 수학과를 대표하던 교수로 도쿄대 수학과를 졸업한 최윤식이 있었다. 그는 권위만 내세우고 공부는 제대로 하지 않았다. 그러면서 실력 있는 학자들이 서울대로 오는 걸 자꾸 막았다. 그의 본색은 자유당이 이승만의 종신집권 개헌안을 추진할 때, ‘사사오입’ 논리를 정권에 제공한 것에서 확인할 수 있다. 당시의 전형적인 ‘정치교수’였던 것이다.

서울대 수학과가 학문적으로 큰 발전이 없는 동안 연세대 수학과와 경북대 수학과가 주목받았다. 장기원 교수가 큰 산처럼 버티고 있는 연세대와, 박정기 교수가 지독하게 공부시키기로 소문난 경북대는 전국을 대표하는 수학과로 평판이 자자했다.

세 사람 외에도 아버지가 존경하는 수학자가 한 사람 더 있다. 일제강점기 때 ‘거리의 수학자’로 불린 최규동 선생이다. 그는 저녁마다 종로 길거리에 칠판을 내걸고 길 가는 사람들에게 수학을 강의한 분으로 유명하다. 신식 교육이 보급되었다고 하지만 여전히 읽지도 쓰지도 못하는 사람이 많았고, 셈도 제대로 못 하는 경우도 많았다.

“최규동 선생님은 수학교육을 받을 기회가 없었던 일반 백성들에게 기초적인 셈법을 가르쳐주고, 일상생활과 연관해서 수학을 쉽게 이해하도록 해주었어. 최 선생님이 놀라운 건 독학으로 수학 공부를 했다는 거야. 그런데도 이미 20대에 여러 학교에서 수학을 가르칠 정도였고, 강의 실력도 탁월했다고 해. 선생님은 해방이 되자 서울대에 수학과를 창설하고 교수가 되었으며, 서울대 총장으로도 재직했어. 하지만 전쟁이 터지고 북으로 가면서 소식이 끊겼지.”

1920~30년대 수학계에 유행하던 말 가운데 ‘최대수’와 ‘장기하’란 표현이 있다. 대수를 잘한다고 소문난 최규동과 기하에 탁월하다는 장기원 두 사람을 가리킨 말이었다. 일제강점기에 척박한 순수과학과 수학교육 현실에서 최규동 선생과 장기원 선생은 수학의 대중화에도 큰 업적을 남겼다. 박정기 교수는 이들의 바로 아래 후배 세대라 할 수 있다.

6.25전쟁으로 대구에 피난을 온 박정기 교수는 대구사범대학 수학과에 강사로 출강했다. 이때 우수한 제자들을 물색해 자신의 모교인 교남학교의 교실을 빌려 따로 세미나를 진행했다. 대구 지역에 제대로 된 수학을 본격적으로 전수하기 시작한 것이다. 교남학교 세미나에는 주로 대구사범학교 출신의 현직 수학 교사들이 참가했다. 교남학교 교실을 더는 사용할 수 없게 된 뒤에는 시내의 다방에 모여 세미나를 계속 진행했다.

“처음에는 7~8명이 참여했지만, 아무래도 교사들이다 보니 출석이 들쑥날쑥했겠지. 당시 세미나 교재는 도호쿠대 시절 선생님의 강의 노트와 일본에서 귀국할 때 어렵게 모아온 외국의 수학책들이었다고 해. 시간이 지나면서 하나둘씩 떨어져 나가고 끝까지 남은 사람이 서태일, 엄상섭 선배였어. 덕분에 두 선배는 선생님께 일대일 지도를 받을 수 있었지.”

뒤에 결합한 사람이 한 명 더 있었다. 유일한 여성인 배미수 선배였다. 대구의과대학을 졸업하고 병리학교실의 조교로 근무하던 배 선배는, 박정기 선생님의 수업을 듣고 수학에 매료돼 의사에서 수학자로 진로를 바꾸었다.

다방에서 노트를 펴들고 박정기 교수에게 특강을 받던 세 사람은 경북대가 개교한 뒤 수학과의 전임강사가 됐다. 이들은 박정기 교수를 도와 후배들의 전공 수업 지도를 맡았다. 특히 박정기 교수가 지켜보는 가운데 진행하는 수학 연습 시간은 학부생들에게는 악몽의 시간이었다. 한 명씩 나와 강의실의 앞뒤에 놓인 흑판을 꽉 채우며 문제를 풀어야 했다. 이를 잘 지도해 나가는 것이 선배들의 역할이었다.

기하학을 전공한 엄상섭 선배는 경북대 최초의 이학박사가 되었다. 대수학을 전공한 서태일 선배와 확률통계론을 전공한 배미수 선배는 1960년대 초에 미국의 예일대학으로 유학 가서 박사학위를 받았다. 세 사람 모두 박정기 교수의 1세대 제자이자 경북대 수학교실의 1세대 선배로서 빛나는 업적을 남겼다.