20231110 이강원
칸토어는 연속체 가설의 환상 속에서 조증과 울증을 오간다.
“수학의 본질은 자유에 있다”
그가 자유를 어떤 확실성 속에서 찾았기 때문일까?
무한집합의 기수 (집합의 원소의 개수, 무한집합에서는 유한수로 그 원소의 개수를 나타낼 수 없어 이를 Cadinality 또는 밀도, 기수라고 표현한다.) 가 다수로서 존재함, 즉 정수(또는 유리수)의 기수(ℵ, 알레프, 가산집합의 기수)와 더 큰 무한인 실수의 비순환 소수의 기수(C, 비가산집합)이 있다는 믿음은 그를 매혹시켰다. 그의 집요한 매달림은 결국 후대의 수학자들을 유혹하여 실수계 공리에 균열을 가져온다.
차근차근 설명해보자
집합은 특정 조건을 만족하는 수의 모임이다.
{x | x는 2의 배수} = {2, 4, 6, 8, 10, 12, 14, 16,…..}
이런 조건의 수들이 끝없이 나아가는 집합을 무한집합이라고 한다. (반대로 10 이하의 자연수와 같이 유한한 원소들로 구성된 집합은 유한집합이다)
집합의 세계에서는 두 개 이상의 집합, 가령 A집합과 B집합이 주어지고 A의 원소에 대하여 B의 원소가 어떤 조건에 의해서 정해질 때 A와 B는 대응한다. 특히 A와 B의 대응에서 A의 원소 하나에 B의 원소가 하나만 대응될 때 이를 일대일 대응이라 한다.
일대일 대응을 하는 두 집합을 대등한 집합이라 부르며 A~B로 표시한다. 이는 두 집합의 기수가 같다는 것을 의미한다.
기수란 집합을 이루는 원소들의 개수를 의미한다. 다만 유한집합은 그 기수가 특정 숫자로 표시 될수 있다 (이를 위수라고 따로 부른다). 무한집합의 원소의 개수는 무한하다. 결국 무한집합의 원소의 개수는 숫자가 아닌 무한의 기호로 표기된다. 칸토어는 이를 알레프라 이름하고 아래와 같이 표시했다.
알레프, 칸토어의 신, 헤브라이어의 알파. 칸토어에게 무한은 세계 즉 “모든”을 이루는 말이다. 전칭명제의 “모든”과 같이 집합에도 “모든”이 있다. 그것은 실수의 집합일 수도 있고, 또 그보다 더 큰 모든이 있을 수 있다. 칸토어는 더 큰 것이 있음을 증명코자 했다. 즉 이미 발견한 무한의 기수보다 더 큰 기수를 증명하고자 했다.
지금까지의 칸토어의 관련 개념들을 정리하면 아래와 같다.
공집합의 기수는 0이다.
집합 {1, 2, 3, 4, ….., k}의 기수는 k다.
자연수 전체 집합 N={1, 2, 3, 4, 5, ……}의 기수는 Card N이다. (초한기수, ℵ)
어떤 임의의 집합에 그 집합의 농도를 나타내는 기수는 하나가 대응한다.
두 집합이 일대일 대응이면 두 집합의 기수는 같다.
다음 질문으로 넘어가 보자.
무한(무한의 기수)에도 작은 무한과 더 큰 무한이 있을까?
쉬운 예를 들어보자.
자연수의 집합과 정수의 집합의 크기(기수, 농도)는 같을까?
페아노의 공리계를 통해 자연수를 정의하면,
N은 1이라고 불리는 특별한 원소를 가진다.
N은 임의의 원수 n에 대하여 그 n의 다음 수 n+도 N의 원소다.
1을 다음 수로 갖는 원소는 N에 존재하지 않는다.
N의 부분집합 S가 1∈S이며, 임의의 n∈S에대하여 n+∈S라면, N⊂S이다.
그냥 쉽게 자연수 N = {1, 2, 3, 4, 5, …..}이다.
정수란 자연수의 집합에 특별한 수 0과 음의 자연수 집합을 합한 것이다.
즉 n=0또는 자연수일 때, n+x=0을 만족하는 모든 x와 모든 n의 합집합이다.
이제 질문이다. 자연수의 집합의 기수와 정수의 집합의 기수는 같을까?
당연히 자연수가 정수의 부분집합이니 (진)부분집합의 기수는 집합론에서 집합의 기수보다 작다.
부분집합이란 어떤 집합의 일부분이 되는 집합이다.
진부분집합이란 집합과 같은 부분집합을 제외한 부분집합이다.
A = {1, 2, 3}의 부분집합은 ∅, {1}, {2}, {3}, {1,2}, {2,3}, {1,3}, {1,2,3}이다. 이중 A와 같은 {1,2,3} 부분집합을 제외하고 나머지 부분집합을 진부분집합이라 한다.
당연히 정수의 집합은 자연수의 집합보다 커야한다.
칸토어는 말한다. 무한집합의 기수는 유한집합과 달리 부분집합의 특징을 부정한다.
정수 = {…..-5, -4, -3, -2, -1, 0, 1, 2, 3, 4, 5, ……..}
자연수 = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10……}
이 두 집합을 대응시켜보자. 저렇게 두면 대응이 어렵다. 마치 반직선과 직선의 대응관계를 보는 것 같다. 그럼 정수를 이렇게 배치해 보자.
→ 즉 {0, -1, 1, -2, 2,-3, 3,-4, 4, -5, 5….}
{0, -1, 1, -2, 2,-3, 3,-4, 4, -5, 5, …..}
{1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, ……}
자 이제 일대일 대응이 가능하다. 무한히 나아가는 수들이므로 이 둘은 무한히 일대일대응한다.
칸토어의 공리에 따르면 두 집합이 일대일대응일 경우 두 집합의 기수는 같다.
그러므로 정수의 기수와 자연수의 기수는 같다.
상식과 어긋난다. 더 해보자.
유리수는 정수 사이에 있는 수이며 아래와 같이 계속 찾아낼 수 있다.
이건 확실히 자연수보다 큰 기수를 가지고 있을 것 같다. 분수가 있지 않은가? 그리고 자연수와 자연수 사이에 무한히 유리수를 찾을 수 있으니 무한 사이에 무한을 갖는 수의 집합이다. 이는 분명히 자연수의 기수보다 클 수 밖에 없다.
칸토어는 유리수의 대각 배열을 통해 유리수를 일직선 상의 무한집합으로 나타낸다.
즉 첫 줄에 분모가 1이고 분자가 자연수인 것들로 배열하고 그 다음 줄 엔 분모가 2인 것들… 이런 식으로 배열한 후, 대간선을 따라 수를 일직선으로 배열하는 방식이다.
위와 같이 자연수와 양의 유리수를 대응시키면 일대일대응이 된다. 여기에 0을 포함시키고 음의 유리수 배열을 아까 정수의 배열과 같이 추가로 배열하면 자연수의 집합과 유리수의 집합은 일대일로 대응한다.
졌다. 결국 무한은 무한일 뿐 무한에 무엇을 더하고 곱하고 나누고 빼도 기수는 모두 같다는 결론이 나온다.
칸토어는 이런 무한을 초한기수, 알레프 ℵ 로 이름한다.
그리고 알레프를 기수로 갖는 집합은 ℵ + ℵ = ℵ 일 뿐임을 밝힌 것이다.
칸토어에게 새로운 사건이 발생한다.
무리수라는 사건, 이 사건은 피타고라스학파의 히파수스 추방 사건으로 거슬러 올라간다. 수열의 아름다움을 숭상한 피타고라스 학파의 신앙 속에서 무리수는 수열을 갖지 않는 기이한 숫자였다. 무리수의 존재를 은폐하고 이를 악마 시하는 것은 당연했다. 히파수스는 자명한 무리수의 존재를 부정하지 못했다. 스스로 만든 정리 속에 악마가 숨어있음을 폭로한 히파수스는 결국 동료들에 의해 바다에 던져지고 만다.
√2 = 1.41421356237309504880168872420969807856967187537694………..
어떤 정수의 비로도 표현될 수 없는 수. 어떤 아름다운 패턴도 발견할 수 없는 그야말로 무한 중의 무한의 수(비순환 소수).
이런 기이한 수의 발견이 있은 후 모든 숫자는 유리수와 실수의 합집합임이 인정되었습니다. 그러나 무리수 자체에 대한 관심은 은폐되고 억압되었다.
칸토어에게 역시 무리수의 존재는 기존의 알레프의 차원을 일자에서 다수성으로 변경해야 하는 일대 사건이었다. 유리수로 표현될 수 없는 수. 무한을 모든으로 즉 신으로 가져가려는 칸토어에게 무리수의 존재는 정말 까다로운 존재가 아닐 수 없었다.
칸토어의 절친, 신혼여행에서 자신의 신부보다 더 소중한 인연을 만났다고 했던 그 친구 리하르트 데데킨트는 이 무리수의 정체를 이렇게 정의했다.
유리수의 전체 집합 Q를 어떤 두 개의 부분집합 C와 D에 의해 나눌 때, C∪D=Q, C∩D=∅이고 C의 모든 원소는 D의 모든 원소보다 작다고 할때, C와 D사이를 어떤 예리한 상상의 칼로 베어낸다면 그 칼날이 닿는 지점은 유리수일까?
데데킨트는 4가지 경우를 상정합니다.
1.
C에 최대의 수가 있고, D의 최소의 수가 없는 경우 → 칼날은 어떤 유리수에 닿은 것
2.
C에 최대의 수가 없고, D의 최소의 수가 있는 경우 → 위와 동일
3.
C에 최대의 수가 있고, D에 최소의 수가 있는 경우 → 이는 C,D의 교집합이 공집합이므로 가정 모순
4.
C에 최대의 수가 없고 D에도 최소의 수가 없는 경우
→ 즉 칼날이 닿는 부분이 C, D의 유리수 부분집합 어디에도 있지 않다고 한다며 이는 유리수의 집합 밖에 있는 어떤 것일 것이다. 그것은 바로 무리수다.
무리수가 베어지는 경우는 바로 이런 경우인데,
a에 집합 A의 원소에는 1.4, 1,41, 1,414, 1,4142,…. 가 있고,
b의 집합 B의 원소에는 1.5, 1.42, 1.415, 1.4143,…. 가 있으며 양쪽 모두
√2 = 1.41421356237309504880168872420969807856967187537694………..
에 한없이 접근하고 있다.
결국 자연수에 일대일대응하지 않는 수의 집합이 발견된 것이고 이 무리수의 집합의 기수를 표현할 다른 기수 (알레프가 아닌)가 필요했다.
칸토어는 이 실수 집합의 기수를 바로 연속체라고 부른다. Continuum = C
칸토어는 무한집합의 기수로서 알레프만 존재하는 것이 아님을 인정하고 알레프를 알레프-제로라고 다시 명명한다. 그리고 그것을 가장 작은 무한기수라고 정의한다.
그리고 이 보다 더 큰 무한 기수 즉 실수의 집합의 기수를 C라 표기하는 대신 일반적 수식을 위해 알레프-원이라고도 표기한다.
칸토어는 이 둘의 관계를 알고 싶어한다. 즉 자연수와 같은 가산집합의 기수인 알레프-제로와 그보다 더 큰 무한집합의 기수인 알레프-원의 무한관계 도식을 찾고 싶었다. 신과 신의 관계, 어쩌면 무한과 무한의 관계 속에서 그 일반식은 자유를 확장하는 진리의 도식일 것이다.
그는 그 방법을 멱집합의 기수 법칙에서 찾는다. 멱집합이란 어떤 집합이 갖고 있는 부분집합을 원소로 하여 만든 새로운 집합을 의미한다. 즉 무한집합의 멱집합 역시 무한집합일 것이다.
멱집합(power set)의 기수는 집합 A의 부분집합의 개수와 같으므로 아래와 같은 식이 성립한다.
A={1, 2, 3}
P(A) = {∅, {1}, {2}, {3}, {1,2}, {2,3}, {1,3}, {1,2,3}}
위 멱집합의 기수를 계산하는 방식은 원소 3개의 자리에 원소가 존재하는 경우의 수를 구하는 식과 같다. 즉 { }1 { }2 { }3 의 자리에 1, 2, 3 이라는 숫자가 있거나 없는 경우의 수는 2의 세제곱 2^3 = 8개가 된다.
만약 A가 무한집합이라면 A의 멱집합의 기수는 ℵ0(알레프-제로)만큼의 자리에 원소가 있거나 없는 경우이므로 이는 2^ℵ0이라는 수식이 도출된다.
즉 자연수, 정수, 더 나아가 유리수의 집합의 멱집합의 기수는 모두 2^ℵ0라는 결론이 나오고 이는 알레프-제로를 기수로 갖는 집합 (이를 가산집합이라 부른다)의 멱집합의 밀도-기수를 계산하는 방법이 된다.
실수의 집합이 바로 이것이 아닐까? 칸토어는 생각한다.
모든 실수는 정수의 무한소수 형태로 표현할 수 있으며 이 무한 소수를 이진법으로 전환한 경우 그 무한한 자리에 들어가는 숫자는 0과 1 두가지 밖에 없지 않은가?
즉 5 = 101(2) 이는 앞뒤의 무한한 ….0101.0000…..의 숫자로 표현될 수 있다. 즉 모든 수(실수, 무리수 마저)0과 1의 경우의 수로 표현되며 이 경우의 수를 구하는 방식은 가산집합(유리수)의 멱집합을 구하는 식과 같다는 논리가 성립한다.
즉 실수의 기수 (C)는 유리수의 멱집합의 기수(2^ℵ0)와 같다는 것이다. 그것이다.
찾았다. 신에게 다가가는 법. 가산집합이라는 알레프-제로에서 실수라는 연속체로 나아가는 방법은 2^ℵ0였던 것이다.
아니다 이게 다일까? 혹시 유리수와 실수 즉 알레프-제로와 연속체 사이에 또 다른 무엇이 있는 것은 아닐까? 더 나아가 연속체를 넘어서는 더 큰 무한이 있는 것은 아닐까?
아니다 없다. 칸토어는 이것을 증명하고자
라는 가설을 세운다.
그리고 2^ℵ0 = ℵ1 = C 라는 신의 명제를 증명하기 위한 진리의 여정을 나아간다. 결국 매달 동료들에게 증명의 성공과 실패를 번갈아가며 편지로 알리고 스스로도 미쳐간다.
결국 이 연속체 가설은 수학자 괴델에 의해 증명자체가 불가함을 통보받게 된다.
“어떤 체계 내에서 그 체계가 무모순이라면, 그 체계의 무모순성은 그 체계 안에서 밝힐 수 없다”
이는 어떤 체계가 주어졌을 때 그 체계의 공리로서 증명될 수 없는 명제가 항상 존재한다는 점을 선언한다.
이는 러셀의 페러독스에 의해서도 설명되는데 “모든 집합을 원소로 가지는 집합은 존재하지 않는다.” 즉 자기 자신을 집합으로 갖는 집합의 역설 속에서도 표현되고 있다.
이후 코헨 등에 의해 선택 공리에 의한 공리계의 확장 이론이 등장하며 공리 자체의 관계를 탐색하는 여정으로 이어진다.
