[도입이 쉬운 해석개론 이야기] 2. 함수의 연속과 코시

이전 글 모음

2022.07.23 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 0. Introduction

2022.07.29 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 1. 급수와 아르키메데스

 

안녕하세요, 별의바람입니다. 이번 시간에는 함수의 극한과 연속에 대하여 알아보고자 합니다.

 

함수의 연속과 중간값 성질

어떤 함수가 연속함수라는 말은 어떤 말일까요? 직관적으로는 함수의 그래프가 연속인 것을 생각할 것입니다. 함수의 그래프는 늘 우리에게 함수에 대한 많은 정보를 제공해 왔으니까요. 그렇다면 함수의 그래프가 연속이라는 말은 무엇인고 생각해 보니,. 그래프가 "끊기지 않고 이어져 있다"라고 생각할 수 있습니다. 하지만 이 정의는 연속성을 동반하는 함수에 대한 명제를 증명할 때 아무 짝에도 쓸모가 없습니다. 그래프가 "끊기지 않고 이어져 있다"는 모양에서 어떤 수학적 함의를 이끌어낼 수 있을까요?

 

연속함수가 가지고 있는 가장 중요한 성질은 아마도 중간값 성질(intermediate value property)일 것입니다. 이를 서술하면 다음과 같습니다.

정의. 닫힌 구간 $[a,b]$에서 정의된 함수 $f(x)$에 대하여 $f(x)$가 중간값 성질을 가진다는 것은, 임의의 서로 다른 $x,y\in[a,b]$에 대하여 $f(z)$가 $f(x)$와 $f(y)$의 사이에 들어가는 $z\in (x,y)$가 존재하는 것이다 (단, $f(x)\neq f(y)$).

즉, 중간값 성질을 가지는 $f(x)$의 그래프는 어떤 두 점을 잡아도 그 사이를 채울 수 있어야 합니다. 이 정도면 연속함수의 정의에 조금은 부합하는 것 같습니다. 중간값 성질을 가진다면 함수의 그래프가 도중에 끊어질 수가 없다는 것은 명확하니까요.

 

하지만 함수의 연속을 중간값 성질을 만족하는 것으로 정의하면 몇 가지 문제가 생깁니다.

1. 특정 구간에서 중간값 성질을 가진다 하더라도 유계(bounded)가 아닐 수 있습니다. 여기서 유계라는 말은 값이 어느 정도 이상으로 커지거나 작아지지 않는다는 것입니다. 예를 들어, 함수
   $$f(x)=\begin{cases}\frac{1}{x}\sin\left(\frac{1}{x}\right),&0<x\le 1 \\ 0,&x=0\end{cases}$$는 닫힌 구간 $[0,1]$에서 중간값 성질을 만족하지만 양의 방향으로든 음의 방향으로든 무한히 커집니다.
2. 중간값 성질을 가지는 두 함수의 합이 중간값 성질을 만족하지 않을 수 있습니다. 예를 들어
   $$\begin{align*}f(x)&=\sin^2\left(\frac{1}{x}\right),\quad x\neq 0;\qquad f(0)=0 \\ g(x)&=\cos^2\left(\frac{1}{x}\right),\quad x\neq 0;\qquad g(0)=0\end{align*}$$라 하면 $f(x)+g(x)$는 0을 제외한 점에서 항상 값이 1인데, 이는 중간값 성질에 부합하지 않습니다.
3. 정의역에서의 작은 변화가 치역에서의 작은 변화를 보장하지 않습니다. 예를 들어 함수 $f(x)=\sin(1/x)$는 $f(0)$의 값을 $-1$과 $1$ 사이의 임의의 값을 지정해도 중간값 성질을 가집니다. 하지만 $x=0$을 기준으로 아무리 작은 구간을 만들어도, $f$에 의한 그 구간의 치역은 닫힌 구간 $[-1,1]$이 됩니다.

아마 중간값 성질을 이용하여 연속함수를 정의하지 않은 가장 큰 이유는 3번이 아닐까 싶습니다. 우리가 알고 있는 "이어진" 그래프들에서는 절대 저런 현상이 나타나지 않으니까요. 그래서 볼차노와 코시는 연속을 다른 방법으로 정의해야만 했습니다. 바로 고등학교에서도 가르치는 "극한과 함숫값이 같다"는 방법으로요.

 

함수의 극한과 연속

그렇다면 함수의 극한은 어떻게 정의할 수 있을까요? 제 이전 글을 보셨다면 수열의 극한을 정의하는 방법을 알게 되셨을 것입니다. 함수의 극한을 정의하는 방법도 별반 다르지 않다고 보시면 됩니다. 고등학교에서는 함수 $f(x)$의 점 $x=a$에서의 극한을 "$x$가 $a$로 다가갈 때 $f(x)$가 $L$로 다가간다면 $\lim_{x\to a}f(x)=L$"로 정의합니다. 물론 이전 글에서처럼 이 정의 또한 수학적으로는 불충분하므로, 이 단락에서는 이를 수학의 언어로 표현해 봅시다.

 

우선 이전에 정의했던 수열의 극한을 다시 들고 와보겠습니다.

$$\begin{equation}\forall\epsilon>0,\ \exists N\ \bigg(n\ge N\Longrightarrow|a_n-L|<\epsilon\bigg)\tag{1}\end{equation}$$

임의의 양수 $\epsilon$에 대하여 [$n\ge N$이면 $|a_n-L|<\epsilon$]인 $N$이 존재한다.

지금 우리가 바꾸어야 할 부분이 무엇인가 생각해 보니, "$x$가 $a$로 다가갈 때"라는 말만 바꾸면 될 것 같습니다. 위 정의 (1)에서는 $n$이 무한히 커졌으니 $n\ge N$이라 한 것이고, $x$가 $a$에 가까이 다가가야 한다면.. 적당한 양수 $\delta$에 대하여 $|x-a|<\delta$라고 할 수는 없을까요? 아마 그러면 다음과 같은 정의가 나올 것입니다.

$$\begin{equation}\forall\epsilon>0,\ \exists \delta>0\ \bigg(|x-a|<\delta\Longrightarrow|f(x)-L|<\epsilon\bigg)\tag{2}\end{equation}$$

임의의 양수 $\epsilon$에 대하여 [$|x-a|<\delta$이면 $|f(x)-L|<\epsilon$]인 양수 $\delta$가 존재한다.

괜찮아 보이지만, 한 가지 문제가 있습니다. 이 정의에서는 $x=a$인 경우도 항상 생각해 주어야 합니다. 그런데 우리가 미적분학에서 극한을 다룰 때를 생각해 보면, 사실 함숫값 자체는 큰 의미를 갖지 못합니다. 중요한 것은 $a$ 근처에서 $f(x)$가 어떻게 생겼느냐지, $a$에서 $f(a)$가 얼마인가?는 아니기 때문입니다. 이를 보완하는 것도 쉽습니다.

$$\begin{equation}\forall\epsilon>0,\ \exists \delta>0\ \bigg(0<|x-a|<\delta\Longrightarrow|f(x)-L|<\epsilon\bigg)\tag{3}\end{equation}$$

임의의 양수 $\epsilon$에 대하여 [$0<|x-a|<\delta$이면 $|f(x)-L|<\epsilon$]인 양수 $\delta$가 존재한다.

 

이 정의가 수학에서 현재 쓰이고 있는 극한의 가장 기본적인 형태입니다. 이를 바탕으로 함수의 연속까지 정의해 봅시다. "극한과 함숫값이 같다"는 말은, 결국 $\lim_{x\to a}f(x)=f(a)$라는 뜻입니다. 따라서 정의 (3)에 이를 대입하면:

임의의 양수 $\epsilon$에 대하여 [$|x-a|<\delta$이면 $|f(x)-f(a)|<\epsilon$]인 양수 $\delta$가 존재한다.

이때 함수의 연속에서는 $x=a$일 수 있음에 유념합시다. 어차피 함숫값이 정의되어 있으면 $f(x)$가 바로 $f(a)$가 될 테니까 크게 의미있는 것은 아닙니다. 자세히 보면, 이 정의가 위에서 언급한 연속함수에게 바라는 세 가지 성질 중 마지막 성질을 함의하고 있음을 알 수 있습니다. $\epsilon$을 아무리 작게 주어도 이를 만족하는 $\delta$가 존재한다는 것은, $a$를 기준으로 $\delta$ 범위 안에서는 함숫값의 변화 또한 작게 될 테니까요.

 

위에서 이용한 $\epsilon$과 $\delta$가 등장하는 정의를 $\epsilon$-$\delta$ 논법이라 하는데, 앞으로 $\epsilon$-$\delta$ 논법이라 하면 저러한 방식을 생각하면 되겠습니다.

 

극한과 연속에서의 주의점

이제 극한과 연속을 소개했으니 $\epsilon$-$\delta$ 논법의 주의점을 몇 가지 생각해 보고자 합니다.

1. 우선, $\epsilon$-$\delta$ 논법은 극한 $L$을 구하는 방법은 알려주지 않습니다. 이 논법은 어디까지나 극한값의 후보 $L$이 주어졌을 때 실제로 극한이 $L$임을 확인하는 방법입니다. 따라서 극한 $L$을 구하는 것은 다른 방법(예를 들면 고등학교에서 배웠던 방법)을 이용해야 합니다.
2. 두 번째로, 우리가 함수의 극한이나 연속을 생각할 때에는 $x$가 움직일 때 $f(x)$가 행동하는 것을 기준으로 삼습니다. 다시 말해 정의역 기준의 사고를 하게 됩니다. 하지만 $\epsilon$-$\delta$ 논법에서는 공역(치역) 기준의 사고가 필요합니다. 중요한 것은 "치역의 범위를 아무리 좁혀도 극한의 조건을 만족하는 정의역의 범위가 존재한다"는 것입니다. 이를 다른 사람들은 일종의 게임으로 표현하기도 합니다. 아무리 거지같은 $\epsilon$을 주더라도 그에 맞는 $\delta$를 찾는 게임 말이죠.

이전 글에서도 말했듯이, 이 정의는 수학자들도 열심히 머리 굴려가며 만들어낸 정의입니다. 지금 당장 이해가 안 된다고 고민할 필요는 없고, 시간을 들여서 천천히 음미해 보시면 되겠습니다. 아마 다음 글까지는 해석개론 도입이 되고, 그 다음부터 본격적인 내용 전개가 될 것 같네요. 다음 글에서는 실수의 성질에 대해 알아보겠습니다. 읽어주셔서 감사합니다.

 

다음 글 보기

2022.08.16 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 3. 다시 보는 실수