수학자들이 남긴 뜻밖의 실수

여기 한 미용사가 있다.

얘의 직업은 머리를 자르는 건데, 

다음과 같은 규칙을 반드시 따른다고 한다.

<자기 머리를 스스로 자르지 않는 사람의 머리만, 전부 잘라준다.>

그렇다면, 이 미용사는 자신의 머리를 잘라야 할까?

여기서 치명적인 문제가 생긴다.

만약 자신의 머리를 잘라주면,

머리를 '스스로' 자르지 않는 사람의 머리만 전부 잘라야 하는 규칙이,

자신의 머리를 자르지 않으면, 마찬가지로

머리를 스스로 '자르지 않는' 사람의 머리만 전부 잘라야 하는 규칙이,

어긋나게 된다.

이걸 수학적으로 확장한 게 오늘 소개할 러셀의 역설이다.

먼저, 관련된 개념인 집합부터 살짝 훑어보자.

아주 좋은 예시를 가져왔다.

저 중괄호가 집합이고

중괄호안에 있는 세모 네모 오각형 같은 도형들이 원소다.

즉, 집합은 보따리고 원소는 보따리 속 내용물 같은 거다.

근데, 보따리 안에 보따리를 넣지 못한다는 법은 없듯,

집합의 원소도 집합이 될 수 있다.

예를 들어 집합 {1}, {a}를 원소로 갖는 {{1}, {a}}처럼 말이다.

이제 위의 식을 차근차근 해석해보자.

집합 R이 있다고 치자.

얘는 '자기 자신을 포함하지 않는 집합을 전부 원소로' 가진다.

그럼 R은 자기 자신을 원소로 가질까? 말까?

정답은 '둘 다 불가능하다' 이다.

R이 자기를 포함하면, 

R은 '자기 자신을 포함하는' 집합이 돼버리고

R이 자기를 포함하지 않으면,

R은 자기 자신을 포함하지 않는 집합을 '전부' 포함할 수 없게 된다.

즉, 뭘 고르든 자가당착의 모순에 빠지게 된다.

이러한 논리적 모순을 지적한 건 바로 버트런드 러셀.

참고로 미용사는 아니고 그냥 수학자 겸 작가다.

얘 이름을 따서 앞선 모순을 러셀의 역설이라고 부르는 거다.

아무튼, 러셀은 왜 이런 걸 비판했을까?

바로 이 양반이 만든 집합에 대한 이론 때문이다.

이름은 게오르크 칸토어, 일명 소박한 집합론의 창시자이다.

이름에서부터 알 수 있듯 이 이론의 규칙은 꽤나 소박했는데

집합을 적절히 정의된 대상들의 모임으로,

그 정의된 대상은 원소로 칭했다. 

간단해서 좋긴 하나, 사실상 조건이 있는 뭐든 집합으로 만드니

앞선 러셀의 역설과 같은 지적이 나오게 됐다.

그리고 그동안 쓰고 있던 원칙에 구멍이 뚫리자, 이를 보완하려는 움직임도 있었다.

그리고 보완하는 데 크게 기여한 두 사람

체르멜로와 프렝켈의 이름을 딴 체르멜로-프렝켈 집합론이 탄생한다.

이 이론의 공리 중 하나가 러셀의 역설을 방어하는 데 일조하는데

그게 바로 정칙성 공리다.

쉽게 말해, 공집합(원소가 없는 집합)이 아닌 애들은 

자기 자신은 물론, 자기랑 공통된 원소를 가진 집합도 원소로 가지면 안된다는 소리다.

즉, S = {S} 이런 건 안된다는 거임.

앞선 러셀의 역설은 자기가 자기 자신을 원소로 가져서 발생한 거니

애초에 그걸 원천봉쇄하면 문제가 생기지 않는다는 논리다.

앞서 작가라고 한 거 기억하나?

단순히 자칭해서 작가가 아니라, 무려 노벨문학상을 받은 형님이다.

이런 거 보면 천재는 문과 이과 나눌 것 없이 걍 뭐든 잘하는 듯.