[도입이 쉬운 해석개론 이야기] 3. 다시 보는 실수

 

 

이전 글 모음

2022.07.23 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 0. Introduction

2022.07.29 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 1. 급수와 아르키메데스

2022.08.05 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 2. 함수의 연속과 코시

 

안녕하세요, 별의바람입니다. 이번 시간에는 실수의 성질을 다시 생각해 보려고 합니다. 이전 글과 밀접하게 이어지는 내용이니 필요하다면 다시 읽어 보시는 것을 추천드립니다.$\def\seq#1{\left\langle #1 \right\rangle}$

 

함수의 연속과 중간값 정리

이전 글에서 함수가 연속일 조건으로 중간값 성질을 만족하는 것을 고려했습니다. 직관적으로는 납득할 수 있는 정의이지만, 함수의 연속을 이야기하기에는 중간값 성질이 만족스럽지 않은 이유도 세 가지 들었고요. 그렇다면 중간값 성질은 함수의 연속과 전혀 관련이 없는 것일까요? 그렇지 않습니다. 이 이야기를 하기 전에 연속함수의 성질을 하나만 짚어보겠습니다.

보조정리. 함수 $f(x)$가 점 $x=a$에서 연속이면 $\lim_{n\to\infty}x_n=a$인 임의의 수열 $\seq{x_n}$에 대하여 $$\lim_{n\to\infty}f(x_n)=f\left(\lim_{n\to\infty}x_n\right)=f(a)$$가 성립한다.

증명. $f$가 연속이므로 임의의 양수 $\epsilon$에 대하여 적당한 $\delta>0$이 존재하여 $|x-a|<\delta$인 임의의 $x$에 대하여 $|f(x)-f(a)|<\epsilon$이 성립한다. 한편 수열 $\seq{x_n}$이 $a$로 수렴하므로 $n\ge N$이면 $|x_n-a|<\delta$가 성립하는 자연수 $N$이 존재하고, 이때 자연스럽게 $|f(x_n)-f(a)|<\epsilon$이 성립한다. 따라서 $\lim_{n\to\infty}f(x_n)=f(a)$.

어찌 보면 연속함수의 성질인 "작은 변화는 작은 변화로만 이어진다"를 그대로 담은 보조정리일지도 모릅니다. $x_n$이 $a$로 살짝만 다가가면, $f(x_n)$도 $f(a)$로 살짝만 (너무 크지 않게) 다가가니까요.

 

이제 우리는 여기서 연속함수는 중간값 성질을 가진다는 것을 증명할 것입니다.

정리. 함수 $f$가 닫힌 구간 $[a,b]$에서 연속일 때, $f$는 이 구간에서 중간값 성질을 갖는다.

증명. 함수 $f$가 닫힌 구간 $[a,b]$에서 연속이라 가정하고, $a\le c_1<c_2\le b$라 두자. 이때 $A$를 $f(c_1)$과 $f(c_2)$ 사이의 임의의 값이라 두면, $f(c)=A$인 $c\in(a,b)$를 찾는 것이 목표이다. 우선 $x_1=x_1$, $y_1=c_2$라 두자. 이제 서로 무한히 가까워지는 두 수열 $\seq{x_n}$, $\seq{y_n}$을 설계하려 한다. $x_1$, $y_1$이 주어져 있을 때 $$z_1=\frac{x_1+y_1}{2}$$로 두자. 이때 $f(z_1)=A$이면 증명이 끝난다. 만약 그렇지 않으면, $f(x_1)$과 $f(y_1)$이 $A$를 기준으로 수직선 상에서 서로 반대편에 위치해 있으므로 $f(z_1)$은 $f(x_1)$, $f(y_1)$ 중 어느 하나와 $A$를 기준으로 서로 반대편에 위치하게 된다. 이 상황에서 만약 $f(x_1)$과 $f(z_1)$이 서로 반대편에 있으면 $x_2=x_1$, $y_2=z_1$으로 두고, 그렇지 않으면 $x_2=z_1$, $y_2=y_1$으로 둔다. 이때 어느 상황을 택하건 상관없이 $$x_1\le x_2<y_2\le y_2,\qquad (y_2-x_2)=\frac{1}{2}(y_1-x_1)$$ 이고 $f(x_2)$와 $f(y_2)$가 $A$의 반대편에 위치해 있음에 주목하자. 이제 이 과정을 무한히 반복한다. 만약 도중에 $f(z_n)=A$이면 증명이 끝나므로, 그렇지 않은 경우를 생각해 보자. 그러면 임의의 자연수 $k$에 대하여 $$(y_k-x_k)=\frac{1}{2^{k-1}}(y_1-x_1)$$이므로, 두 수열 $\seq{x_n}$과 $\seq{y_n}$은 서로 한없이 가까이 다가간다. 이를 닫힌구간들 $[x_1,y_1],[x_2,y_2],\ldots$ 관점에서 생각해 보면 구간의 길이가 점점 줄어들고 있으므로, 결국 $c_1$, $c_2$ 사이의 어느 한 점 $c$으로 수렴하게 된다. 다시 말해 임의의 구간들 $[x_k,y_k]$에 포함된 고정된 한 점 $c$가 존재한다. 이제 이 $c$에 대하여 $f(c)=A$임을 밝히면 충분하다. 우선 임의의 양수 $\epsilon>0$에 대하여 $\frac{1}{2^{k-1}}(y_1-x_1)<\epsilon$인 자연수 $k$가 존재하므로 $n\ge k$이면 $|x_n-c|<|y_n-x_n|<|y_k-x_k|=\frac{1}{2^{k-1}}(y_1-x_1)<\epsilon$이 되어 수열 $\seq{x_n}$은 $c$로 수렴한다. 마찬가지 방법으로 수열 $\seq{y_n}$ 또한 $c$로 수렴한다. 한편 $f$가 연속이므로 $\lim_{n\to\infty}f(x_n)=f(c)=\lim_{n\to\infty}f(y_n)$이고, $\seq{x_n}$과 $\seq{y_n}$을 구성하는 과정을 생각하면 임의의 자연수 $n$에 대하여 $f(x_n)<A<f(y_n)$이므로 $f(c)=A$이어야 함을 알 수 있다.

이 결과를 중간값 정리(Intermediate Value Theorem, IVT)라고 부릅니다.

 

그런데 위 증명에서는 한 가지 아리송한 점이 있습니다. 바로 다음 부분입니다.

(위 증명의 5번째 단락에서) 구간의 길이가 점점 줄어들고 있으므로, 결국 $c_1$, $c_2$ 사이의 어느 한 점 $c$으로 수렴하게 된다.

정말 그럴까요? 머릿속에서 수직선을 그리고, 양 끝점을 포함하는 구간을 좌우로 점점 좁히는 것을 상상하면 이는 당연해 보입니다. 그렇지만 이는 유리수에서는 성립하지 않습니다. $\sqrt{2}$를 기준으로 좌우로 점점 좁히면, 결국 남는 유리수 점은 아무것도 없을 테니까요. 그렇기 때문에 우리는 실수에서 이 성질이 성립함을 논의할 필요가 있습니다.

 

실수의 성질

수열과 함수의 극한을 살펴볼 때 그랬듯, 위 이야기는 실수가 무엇인지 정확히 알고 있지 않으면 해결할 수 없는 문제입니다. 직관적이고 그림에 의존하는 발상은 가끔 도움이 되지 않기 때문입니다.

 

그런데 이 글을 읽는 여러분은 실수가 무엇이라고 말할 수 있나요? 자연수는 하나, 둘, 셋, $\ldots$ 등 셀 수 있는 수라고 치면, 정수는 여기에 0과 -부호를 붙인 수, 유리수는 정수를 0이 아닌 정수로 나눈 것으로 명확하게 정의할 수 있습니다. 그런데 실수만은 중고등학교, 혹은 대학교 미적분학에서 명확하게 정의하지 않습니다. 그렇다면 어떻게 실수를 정의할 수 있을까요?

 

이를 위해 실수가 가지고 있는 성질을 기초적인 것부터 하나씩 생각해 봅시다.

• 우선 연산의 관점에서, 실수는 사칙연산이 성립합니다. 잘 정의된 덧셈이 결합법칙과 교환법칙을 만족하고, 항등원과 역원이 존재합니다. 비슷하게 잘 정의된 곱셈 또한 결합법칙과 교환법칙을 만족하고, 항등원과 (0을 제외한 원소에 대하여) 역원이 존재합니다. 또 분배법칙도 성립하죠.
• 또한, 대소관계가 존재합니다. 임의의 두 실수를 가져다 놓으면 둘이 같거나, 하나가 다른 것보다 크게 됨을 보장할 수 있습니다.

여기까지만 보면 유리수와 다를 게 없습니다. 하지만 위에서도 언급했듯, 분명 실수와 유리수는 다릅니다. $\sqrt{2}$ 같은 무리수가 포함되어 있지 않기 때문입니다. 이러한 차별적인 성질을 현대 수학에서는 완비성(completeness)으로 표현합니다. 완비성을 수학의 언어로 어떻게 표현할 수 있는지는 다음 포스팅에서 다루도록 하고, 이번 포스팅에서는 "완비성이란 빈틈이 없는 것이다" 정도로 뭉뚱그려 표현하겠습니다. 여기서 말하는 "빈틈이 없다"는, 우리가 임의의 위치(범위가 아닌 정확한 지점)를 잡아도 그 위치에 원소가 존재한다는 뜻으로 받아들이면 되겠습니다. 이 정도면 유리수가 가지지 못한 성질이라 할 수 있겠습니다.

 

실수의 모습

위에서 우리는 실수의 성질을 파악했습니다. 이제 발상의 전환으로, 사칙연산과 대소관계가 존재하며 완비성을 가진 집합을 실수 집합 $\mathbb R$으로 정의하면 모든 문제가 해결될 것 같습니다. 그런데 문제는, 과연 그러한 집합이 존재하느냐입니다. 만약 존재하지 않는다면 $\mathbb R$ 위에서 전개되는 모든 이론이 쓸모없어지게 될 것이므로, 이러한 집합의 존재성은 꼭 한 번 짚고 넘어가야 할 문제입니다.

 

사실 실수는 고대 그리스에서부터 존재해 왔습니다. 수학사를 풍문으로라도 들어본 분들이라면 모두 알고 있는 이야기일 겁니다. 아르키메데스가 원주율 $\pi$의 값을 정다각형을 이용해 근사시킬 수 있었다는 이야기, 꽤 유명하죠? 그런데 생각해 보면, 아르키메데스 이전 시대의 피타고라스 학파는 모든 수를 유리수로 표현할 수 있다고 믿었습니다. 피타고라스 학파의 유산이 아르키메데스가 살던 시대까지 계속 이어졌다면, 아르키메데스 입장에서는 원주율 $\pi$는 유리수여야 했을 것입니다. 그렇지 않으면 $\pi$를 수로도 인식하지 않았을 것이니까요.

이 간극 사이에 바로 에우독소스(Eudoxus, B.C. 408~355)라는 수학자가 있었습니다. 1편에서 소개한 아르키메데스의 소진법을 처음으로 고안한 사람도 바로 이 사람인 만큼, 수학자로서의 직관과 능력이 엄청난 사람이라고 할 수 있겠습니다. 에우독소스가 어떻게 실수를 다룰 수 있었는지 알아보기 위해서 잠시 수학사를 따라 걸어보겠습니다.

사실 피타고라스 학파가 유리수만을 다룬 데에는 그들의 체계가 큰 몫을 했습니다. 자연수를 이용하여 세상 모든 수를 나타낼 수 있다고 생각한 그들은, 유리수 $a/b$를 하나의 수로 보는 것이 아닌 $a:b$라는 비로 보는 관점을 택했습니다. 그리고 두 비 $a:b$와 $c:d$가 같다는 것을 적당한 비 $p:q$와 자연수 $m,n$에 대하여 $a=mp$, $b=mq$, $c=np$, $d=nq$인 상황으로 정의했습니다. 반면 에우독소스는 비 $a:b$와 $c:d$가 같음을 다음과 같이 표현합니다.

주어진 자연수 $m,n$에 대하여 $na>mb$이면 $nc>md$, $na=mb$이면 $nc=md$, $na<md$이면 $nc<md$가 항상 성립할 때 $a:b=c:d$라 정의하자.

피타고라스 학파의 정의와는 다르게 비 $a:b$ 자체에 의미를 부여하지 않고 두 비의 같음만을 정의하기 때문에, 기하학적인 양이 가령 무리수더라도 그 비를 다룰 수 있게 되었습니다. 이때 비 $a:b$에 대하여 에우독소스의 정의가 유리수 $m:n$의 집합을 $a:b$보다 작은 것, 같은 것, 큰 것들의 세 부분집합으로 나눔에 주목합시다. 에우독소스의 이러한 발견은 무리수를 다루지 못하는 당시의 산술보다 무리수를 다룰 수 있는 기하학 중심으로 서양의 수학이 발전하는 데에 큰 영향을 주기도 했습니다.

 

이러한 에우독소스의 연구는 2천 년이 넘는 세월을 지나 데데킨트(Richard Dedekind, 1831~1916)에 의하여 재발굴됩니다. 데데킨트는 1872년 자신의 시론인 "연속과 무리수"에 다음과 같은 글을 남깁니다.

직선 위의 모든 점들을 두 집합으로 나누되, 첫 번째 집합에 속하는 점은 항상 두 번째 집합에 속하는 점의 왼편에 있도록 한다. 그러면 이와 같은 절단(schnitt)을 만들어내는 점이 단 하나 존재한다.

이 성질을 바탕으로 데데킨트는 유리수 집합 $\mathbb Q$에서 실수를 이끌어냅니다. 만약 실수 $x$가 정의되어 있다면, $x$ 이하인 모든 유리수의 집합과 $x$보다 큰 모든 유리수의 집합은 서로소이며 그 합집합은 $\mathbb Q$입니다. 역으로 어떤 과정에 의하여 $\mathbb Q$가 이러한 방식으로 나누어진다면 이를 실수에 대응시켜 보자는 발상을 이용한 것입니다. 이렇게 나누어진 유리수 집합을 수직선 위에서 상상해 보면, 어떤 점을 기점으로 그보다 작은 것과 큰 것으로 이루어진 두 부분집합을 생각할 수 있습니다. 에우독소스의 정의와 똑같은 모양으로 말이죠. 유리수 $r$에 의한 $\mathbb Q$의 분할의 경우에는 $r$을 두 집합 중 아무 곳에나 포함시키면 됩니다.

 

이제 이러한 $\mathbb Q$의 절단을 모두 모으면, 드디어 실수처럼 행동할 것 같은, 다시 말해 사칙연산과 대소관계가 성립하고 완비성을 갖는 집합이 생겼습니다. 아직 이 집합 안에서의 연산을 정의하지 않았으므로, 우리가 원하는 방향으로 연산을 정의해 주면 됩니다. 이를 모두 다루기에는 간단한 소개를 위한 이 포스팅의 성격에서 벗어나므로 여기서는 다루지 않겠습니다. 더 알아보고 싶으신 분은 블로그의 [해석개론의 정수] 게시판을 참고하시면 되겠습니다.

 

아무튼 우리는 드디어 실수처럼 행동하는 집합을 정의했습니다. 그런데 사실, 실수같은 집합을 만드는 방법은 이것 한 가지만은 아닙니다. 칸토어(Georg Cantor, 1845~1918)는 수열을 이용하여 이러한 집합을 따로 구성하는 데 성공하기도 했습니다. 그렇다면 두 방식 중 하나가 틀린 걸까요? 그렇지는 않습니다. 두 집합 사이에 사칙연산과 대소관계를 보존하는 일대일 대응이 존재하기 때문입니다. 다시 말해 연산과 대소관계, 완비성 입장에서는 두 집합을 구분할 수 없습니다. 따라서 우리가 원하는 실수 집합이 존재하고, 이 위에서 논의하던 수많은 결과들이 허사로 돌아가지 않게 되었습니다.

 

도입을 마치며

이상의 세 포스팅으로 해석개론에 대한 도입을 마치겠습니다. 수열의 극한과 급수, 함수의 극한과 연속, 그리고 그 안에 녹아 있는 실수에 대한 근본적인 고찰까지 이어지는 수학사의 흐름은 기존의 직관에 의존하던 수학을 더욱 엄밀하게, 견고하게 만드는 데 큰 역할을 했습니다. 또 그러한 엄밀성 위에서 더욱 많은 수학적 대상을 다루게 되며 수학의 범위는 한 층 넓어졌습니다.

 

다음 포스팅부터는 해석개론을 본격적으로 다루어 보려고 합니다. 대뜸 새로운 정의들이 나와서 난해할 수도 있지만, 수학의 정의 하나하나에 수학자들의 고민과 고뇌, 직관이 담겨 있으니 여러분들도 나름대로 고민하면서 (가끔은 수학사를 뒤져가면서) 공부하셨으면 좋겠습니다. 여러분의 그러한 공부에 이 시리즈가 도움이 될 수 있다면 기쁠 것 같습니다.

 

다음 포스팅에서는 이 글에서 다룬 실수의 성질을 수학의 언어를 사용하여 다시 정립해 보고자 합니다. 읽어주셔서 감사합니다.

 

다음 글 보기

2022.08.19 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 4. 실수체

 

참고 문헌
에우독소스의 비례론과 데데킨트의 절단 사이의 관계를 다룬 글입니다.

https://koreascience.kr/article/JAKO200914064136214.pdf