‘수포자’와 ‘수학 무용론’이 넘쳐나는 세상에서 ‘진짜 수학’을 만나는 일

전국의 3,700여 명 학생들을 대상으로 한 「2021년 전국 수포자 설문조사」 결과에 따르면, 자신을 수포자로 생각하는 초등학교 6학년생이 전체 응답자 중 11.6%, 중학교 3학년생이 22.6%, 고등학교 2학년생이 32.3%에 이르는 것으로 나타났다. 이는 고등학생 3명 중 1명이 스스로 ‘수포자’라고 인정할 만큼 수학 교과목이 어렵다는 뜻이기도 하지만, 한편으로 우리 사회와 교육계가 ‘수포자’라는 단어를 얼마나 남용하고 있는지 보여 주는 것이기도 하다. 저자는 책에서 “수포자가 생겨나는 비극적 현상의 원인 가운데 ‘수포자라는 단어의 무분별한 사용’이 중요한 위치를 차지”하고 있다고 지적하며, ‘수포자’라는 단어를 퇴출해야 한다고 말한다. 그와 동시에 해야 할 일은 수학을 포기하기 직전인 학생들의 수학 불안을 이해하고 함께 해결하는 것이다.
대입에서 수학이 너무도 중요한 현실 정반대편에는 ‘사는 데 수학이 무슨 소용’이냐고 말하는 회의론 또한 자리하고 있다. 저자는 ‘수포자’라는 단어의 남용과 함께 이러한 ‘수학 무용론’ 또한 비판한다. “지구상의 어떤 나라도 학생들에게 사칙연산만 가르쳐서 사회로 내보내지 않”으며, “사칙연산만 할 줄 알면 수학이 필요 없다는 주장은 마치 한글만 떼면 더 이상의 국어 교육이 필요 없다는 주장과 같”다는 것이다.
저자는 “삶의 문제를 해결해 주는 실용성을 지닌 과학”, “놀라운 상상력을 경험할 수 있는 예술”, “명확한 분석력과 표현력을 키울 수 있는 논리학”으로서 수학의 본질적인 면모를 강조한다. 그 바탕 위에서 학생들이 실제로 수학적으로 사고하고 문제를 해결할 수 있는 능력을 기를 수 있도록 흥미로운 예시를 들어 가며 ‘진짜 수학’의 세계로 안내한다.

문제를 만나는 순간부터, 문제와 하나 되고 이별하는 순간까지 우리가 수학에 대해 알아야 할 모든 것

학생들이 학교와 학원에서 날마다 ‘숙제’라는 이름으로 풀어야 하는 문제의 양은 엄청나다. 거의 인생의 무게라고 해도 과언이 아니다. 하지만 ‘문제 풀이’ 자체가 잘못된 교육 방식이라는 주장은 옳지 않다. 수학을 공부하는 학생들을 가장 가까이에서 오랫동안 만나며 그 모든 하소연과 불안과 스트레스를 지켜봐 온 저자는 이 책에서 매우 현실적이면서도 애정 어린 조언을 아끼지 않는다. 증상으로 나타날 만큼 수학에 대한 두려움과 공포가 심하다면 문제를 많이 푸는 것은 역효과를 낼 뿐이다. 저자는 일단 수학의 본질과 수학적 사유 및 철학을 바탕으로, 단 하나의 문제를 어떻게 만나고 해석하고 해결해 나갈 것인지 이야기한다.
그뿐 아니라 학생들의 수학 불안을 악화시키고 정신 건강을 해치는 것들에 대해서도 정면으로 지적한다. 그 모든 것들이 결국 수학 공부와 직결되기 때문이다. 저자는 기쁨을 키우고 슬픔을 멀리하기(스피노자), 불가능한 목표를 버리고 자신의 실력을 정확히 파악하기, 단순하지만 실현 가능한 자신만의 규칙을 세워서 꾸준히 실천하기 등의 방법을 구체적으로 제시한다. 이를테면 전국연합학력평가 성적이 9등급 중 5등급인 학생이 1년 만에 1등급이 된다는 것은 가능하지 않기 때문에 이런 경우 기본적인 문제를 해결하면서 ‘성공 경험’을 쌓아 나가야 한다고 말한다. 또한 그렇게 불가능한 일을 강압적으로 요구하거나 기대한 점수가 나오지 않으면 공부한 것이 ‘아니’라고 말하는 사람은, 설사 그게 부모라고 해도 거리를 둬야 하며 자신의 편이 되어 줄 수 있는 어른에게 도움을 요청해야 한다고 설득한다.

지독하게 완벽하고 의외로 따뜻한 수학의 세계

인생의 절반 이상을 수학과 함께한 저자가 책에서 펼쳐 놓는 수학의 세계는 말 그대로 아름답다. 수학은 100%를 추구하는 학문이며, 과학이자 예술인 유일한 과목이기도 하다. 위대한 수학자 힐베르트가 말했듯 수학적 증명은 “주어진 전제만을 이용해서 결론을 만들어 내는 일종의 게임”이므로 수학은 세상에서 가장 오래된 퍼즐 게임이라고 할 수 있다. 반례를 맞닥뜨리며 더 발전하는 과학과 달리, 증명되지 못하면 바로 버려지는 냉혹한 세계인 동시에, 인간의 엉성한 직관에서 건져 올린 빛나는 진리이기도 하다. 수많은 사람들이 350년간 단 한 가지 증명(페르마의 마지막 정리)에 매달리게 하는 무시무시한 마성의 학문이자, 감정에서 시작해 논리로 끝나는 오묘함을 지닌 학문이다. 무엇보다, 부담스러운 문제를 기꺼이 직면하고 해결해 나가는, 끝내 답을 찾지 못하더라도 문제와 씨름한 딱 그만큼 성장하는 정직한 학문이다.
저자는 학생들이 수학 점수에 대한 압박과 대량의 문제 풀이 스트레스에 나가떨어져서 이토록 경이롭고 아름다운 수학의 세계를 놓치지 않도록 하기 위해, 오늘도 수학교육 현장에서 최선을 다한다. 책에는 그 간절한 마음과 오랜 노하우가 그대로 담겼다.

책 속에서

수학은 추상적입니다. 일상 언어가 아닌 인공언어로 구성되어 있어 읽기가 어렵고 즉각적인 이미지 형성도 불가능합니다. 영국의 경우, 고등학교 수학을 가르칠 정도면 지식인으로 분류되어 기업에서 이리저리 데려가는 통에 수학 교사가 모자라, 아시아 등에서 초빙하여 충원한다고 합니다. 이처럼 수학은 어느 사회에서나 특별한 지식으로 취급받고 있는 것 같습니다. 그런데 이렇게나 어려운 수학을 우리는 왜 물리나 화학, 경제나 생활과윤리처럼 선택 과목으로 만들지 못할까요? 수학이 어려운 이유는 과연 무엇일까요? 그러한 어려움에도 불구하고 배워야만 할 가치가 있는 걸까요?
- 13쪽 (1부 수학이 영원히 ‘선택’ 과목이 될 수 없는 이유)

고등학교에 올라온 학생들이 첫 중간고사를 치를 때가 되면 예외 없이 늘 하는 질문이 있습니다. “선생님. 이번 수학 시험에 증명 문제 나와요?” 고등학교 수학이라는 고해(苦海)에 발을 디딘 후 첫 시험에 대한 부담은 여지없이 증명에 대한 공포였던 거죠. 제 학창 시절을 생각해 봐도 수학 외의 과목에서 증명 문제가 나온 적은 없었습니다. 학생들이 증명 문제를 고통스러워하는 이유는 하나뿐입니다. 교과서의 (이해할 수 없는) 문제 풀이 과정을 죄다 암기해야 하기 때문입니다. 그러니까 증명 문제가 시험에 나오느냐는 학생들의 질문은 다음과 같이 번역될 수 있습니다. “선생님. 교과서 문제 풀이 과정을 모두 암기해야 하나요?”
- 40~41쪽 (2부 수학의 맛)

사실 이 가설은 수학적인 가치나 실제적인 응용 양쪽 면에서 큰 의미가 있다고 보기는 어렵습니다. 그런데도 많은 수학자들이 관심을 가진 이유는 가설이 가진 기묘한 매력 때문이었죠. 결과물은 초등학생도 이해할 수 있는 간단한 내용인데, 증명은 당대 최고의 수학자도 해내지 못했으니까요.
이 기묘한 가설의 증명은 많은 수학자의 로망이 되었습니다. 그 후로 오랫동안 가설을 증명하는 쪽과 반례를 찾는 쪽, 이렇게 두 가지 방향으로 연구가 진행됐죠. 어마어마하게 큰 수에 이르기까지 하나하나 지루하게 계산했는데도 반례가 발견되지 않았기에, 가설을 참으로 간주하는 쪽이 대세로 굳어지게 됐습니다. 그러나 가설의 증명 과정에서 수많은 성과와 놀라운 발견이 잇따른 것과 별개로, 제가 이 책을 쓰고 있는 현재까지도 증명은 완료되지 못했습니다.
- 86~87쪽 (3부 수학적으로 생각한다는 것)

홈스의 추리는 수학적 기준에서 볼 때 엄밀하지는 않지만 단서를 조합해 결론에 도달하는 과정, 창의적인 아이디어를 통해 합리적인 판단을 내리는 과정에서 큰 재미와 깨달음을 줍니다.
도일은 자신의 또 다른 단편 「녹주석 보관(The Adventure of the Beryl Coronet)」에서 홈스의 입을 빌려 다음과 같이 말합니다. “불가능을 제외하고 남는 것. 아무리 믿어지지 않더라도 그것이 진실이다.” 문제 해결이 심각한 어려움을 맞았을 때 직접 부딪쳐 깨트리는 정공법이 아니라, 때로는 불가능한 것들을 하나씩 지워 없애고 남은 것을 취하는 우회적인 방법을 사용해야 할 때도 있습니다. 이는 마치 ‘홍운탁월(烘雲托月)’이라는 동양화 기법에 비유될 만합니다. 밤하늘의 달을 직접 그리지 않고 주변에 구름을 그려서 달을 드러내는 거죠.
- 163~164쪽 (4부 수학적으로 해결한다는 것)

『안네의 일기』를 읽어 본 적이 있나요? 책에는 주인공 안네가 나치 독일군을 피해 은신처에 숨어 있을 동안, 수학 문제를 푸는 이야기가 나옵니다. 극한 상황에서 증명하는 기하학 문제가 안네의 내면에 어떤 그림을 새겨 넣어 주었을까요? 여러분도 수학 공부의 넓은 의미를 생각해 보고, 자신이 수학을 공부하는 고유한 의미를 스스로 부여할 수 있기를 바랍니다. 그래서 5부는 플라톤, 칸트, 페스탈로치, 피아제, 비고츠키 등 위대한 학자들과 제가 가상의 대화를 나누는 형식을 통해, 수학 공부의 인간학적 의미를 생각해 볼 수 있게끔 구성했습니다.
- 175쪽 (5부 수학을 배워서 어디에 쓰냐고?)

인생을 너무 좁게 생각하지 말고 몰랐던 언어(개념)를 조금씩 알아 가는 재미와, 안 풀리던 문제를 시행착오를 거쳐 풀어내는 기쁨을 경험해 보길 바랍니다. 목표를 설정할 때, 혼자 하지 말고 주변 어른(예를 들어 학교 선생님)의 도움을 얻기를 추천합니다. 자신을 객관적으로 이해하는 것은 자신을 사랑하는 첫걸음입니다. 만약 어떤 주변 사람이 ‘넌 할 수 있어’를 남발하며 무리한 목표를 제시하거나 요구하면, 설사 나의 부모라 할지라도 그 사람은 내 편이 아닙니다. 누가 내 편인지 아닌지 어떻게 구분하느냐고요? 먼저 나 스스로 내 편이 되고자 하는 확고한 의지가 있다면 가능한 일입니다.
- 213쪽 (6부 수학 불안과 성공 경험)

교과 연계
* 중학교 1학년 「기본 도형」
* 중학교 2학년 「도형의 성질」
* 중학교 2학년 「도형의 닮음」
* 고등학교 1학년 「다항식」
* 고등학교 1학년 「방정식과 부등식」
* 고등학교 1학년 「집합과 명제」
* 고등학교 2학년 「지수함수와 로그함수」

1부 수학이 영원히 ‘선택’ 과목이 될 수 없는 이유
수학과 인생의 공통점
‘수포자’를 낳은 건 수학이 아니다

2부 수학의 맛
100％를 추구하는 유일한 학문
세상에서 가장 오래된 퍼즐 게임
과학을 ‘기술’에서 ‘학문’으로 끌어올리다
추상화와 상상력

3부 수학적으로 생각한다는 것
[귀납] 엉성한 직관 속에 숨은 진리
[유추] 세계를 넘나들어 ‘닮음’을 찾다
[연역] 치열하고 정직한 증명의 역사
[공리 ①] 누구도 의심할 수 없는 절대 진리
[공리 ②] 발견에서 발명으로

4부 수학적으로 해결한다는 것
포여의 문제 해결 이론
문제 해결 치트키 3인방
교과서는 얇아졌는데 왜 더 힘들까?

5부 수학을 배워서 어디에 쓰냐고?
: 탑티어 학자들과의 가상 대화
수학 꼰대 플라톤
구성 요정 칸트
초롱을 든 페스탈로치
피아제 vs 비고츠키: 동갑내기 심리학자들의 대담

6부 수학 불안과 성공 경험
답을 향해 걸어간 그만큼 성장한다
1등이 아닌 1이 되는 방법