집합론

목차

1. 칸토

2. 러셀

3. 유치원의 집합론

4. 당황한 셜록 홈즈

 

---

 

 

 

---

 

1. 칸토

 

전공 학계를 넘어서까지 이름이 알려져있는 독일 수학자는 그리 많지 않습니다. 그 몇 안 되는 사람 중 한 사람이 집합론의 창시자인 칸토입니다.

집합론이 중요한 이유는 왜일까요?

왜 '집합론의 천국' 이라는 말까지 나오는 것일까요?

집합론은 수학에 있어 없어서는 안 될 분야임에 틀림이 없습니다. 이것은 이 이론으로 인해 수학의 모든 전공분야가 절대 귀납적 방식으로 발전될 수 있는 가능성 때문입니다.

 

 

 

언뜻 보면 집합론에는 그다지 특별한 점이 없어 보이기도 합니다. 그저 당장 관심 있는 어떤 대상을 새로운 대상으로 묶는 것 정도입니다. 일상생활에서 익히 보아 알고 있는 것들입니다. 그러나 이 새로운 대상을 집합으로 묶어내는 일에 한계를 두지 않을 때 생기는 문제점이 있습니다.

---

 

2. 러셀

 

영국의 철학자 러셀이 이미 백 년 전에 말했듯이 난센스가 만들어질 수 있습니니다. 러셀의 논거는 이미 고대 그리스인들도 알고 있던 논리적 역설에 기초합니다. 어떤 명제가 명제 자신에게도 유효하면 이 명제의 논리는 무너지고 만다는 것인데요. 이 역설을 일반인도 이해하기 쉽게 설명한 것이 스스로 면도를 하지 않는, 그러나 모든 이의 면도를 해주는 이발사 이야기입니다.

 

 

 

이 이발사 자신은 어떤가요? 그는 스스로 면도를 하지 않을까요? 그렇다면 그는 자신의 고객이면서 스스로 면도를 하는 사람이 됩니다.

반대의 경우는 어떤가요? 그 역의 경우에도 이발사는 스스로 면도를 해야 합니다. 왜냐하면 그 자신도 고객집합의 한 부분이기 때문이죠. 요약하자면, 이 이야기는 맘대로 뒤집었다 엎었다 할 수 있다는 겁니다. 논리정연하게 풀 수 있는 문제가 아닌 것이죠.

그러나 집합론은 러셀충격으로부터 잘 회복했고, 오늘날 수학의 기초로서의 위상을 굳건히 지키고 있습니다.

---

 

3. 유치원의 집합론

 

1957년 소련은 요란한 소리를 내는 물건을 우주로 쏘아 올렸습니다. 서방 세계는 유치원에서 대학에 이르기까지 교육(수학)의 질을 높이려는 노력으로 분주해졌으며, 불행히도 교육부서의 정치가들은 집합론을 능수능란하게 다를 줄 아는 능력이 수학적 이해능력을 촉진시킨다는 말에 현혹되었습니다. 그때부터 유치원생들은 '초록색의 각진 블록의 교집합'을 배우기 시작했습니다. 사실 수학용어를 사용하지 않았어도 대부분의 아이들은 '초록색의 각진 블록'이 뭘 의미하는지 알았을 것입니다.

 

 

 

집합론이 유행한 시간은 그리 길지 않았습니다. 그러나 지금도 학교에서는 수학 교과과정을 흥미롭게 정비하려는 노력이 끊임없이 이어지고 있습니다. 요즘 수학은 특히 고학년들 사이에서 엄청난 '비' 인기를 누리고 있기 때문이죠. 그리고 괴상하게 생긴 연산자들과 공식들이 도대체 어디에 소용이 있는지 알고 싶어하는 사람조차 사라져가기 때문입니다.

---

 

4. 당황한 셜록 홈즈

 

러셀의 역설을 알기 위해서는 M이 집합일 때 'x는 M의 원소다'라는 문장을 이해하기만 하면 됩니다. 이 말은 그냥 x가 M집합에 속한다는 뜻이죠. 예를 들어 ‘14는 짝수 집합의 원소다'와 ‘11은 소수 집합의 원소다'는 참이지만, ‘3/14은 모든 수의 집합에 속한다'는 거짓입니다.

 

 

러셀은 스스로의 원소가 아닌 집합의 집합에 관심이 있었습니다. 이 집합을 M이라고 했을 때 한 가지 이상한 일이 일어나게 됩니다. M 또한 M 속에 들어 있는지 순진한 질문을 하게 되는 것이죠. 이 질문에 대한 대답에는 두 가지 가능성이 있습니다.

 

• 먼저 대답이 '그렇다 인 경우를 보면, 이 경우 M은 M의 원소들을 특징짓는 속성을 똑같이 지녀야 합니다. 그러나 M은 자신의 원소가 아닙니다. 그러므로 '그렇다'는 곧 '그렇지 않다'를 내포하게 됩니다.

• 이제 대답이 '그렇지 않다'인 경우를 보면, 이 경우 M은 M에게 특징적인(자신의 원소가 아니라는) 속성을 지니지 않아야 합니다. 다른 말로 하면 M은 자신의 원소입니다. 그러므로 대답은 '그렇다’여야 합니다.

 

 

 

황당하지 않은가요? 사실 이 결론도출 방식은 집합의 논리를 무효하게 만듭니다. 이것은 셜록 홈즈가 A와 B 두 사람만이 용의자인 범죄 사건에서 다음과 같은 결론을 내려야 할 때 느끼는 당혹스러움과 같습니다 – 만약, A가 범인이라면 B가 범행을 저지른 것이 틀림없다. 그리고 만약 B가 범행을 저질렀다고 가정한다면 실상은 A가 체포되어야 한다 - 이런 일이 있을 수 없습니다.

 

수학자들에게 러셀의 논증은 엄청난 충격이었습니다. 그로부터 100년의 세월이 지나는 동안 수학은 많이 발전했으나, 수학자들이 이런 종류의 모순을 방지하기 위해 사용하는 성공적인 방법이라는 것이 기껏해야 집합을 형성할 때 집합의 정의에 '자신이 포함되는' 것을 허용하지 않는 것 정도입니다. 이 말은 곧 집합을 정의할 때 이미 그 집합을 알고 있어야 한다는 뜻이기도 합니다.