[도입이 쉬운 해석개론 이야기] 1. 급수와 아르키메데스

이전 글 모음

2022.07.23 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 0. Introduction

 

안녕하세요, 별의바람입니다. 이번 시간에는 수열과 급수에 대하여 알아보려 합니다. 아마 해석학을 이미 알고 계신 독자 분들은 대뜸 수열부터 설명하는 이 글이 "근본없다"고 생각하실지도 모르겠습니다. 그래도 이 글부터 몇 차례에 걸쳐서 해석학이 왜 이렇게 돌아가는지에 대한 약간의 설명도 겸하고 있으니, 그 점 감안하고 봐 주시면 감사하겠습니다.

$\def\seq#1{{\langle #1 \rangle}}$

 

수열과 부분합의 정의

우선 수열이 무엇인지부터 알아봅시다. 고등학교에서는 수열을 일정한 규칙에 따라 수를 나열한 것이라 정의합니다. 직관적으로 확 와닿는 정의이긴 하지만, 미적분학보다는 조금 더 엄밀하게 내용을 가져가기로 했으니 더 깊이 생각해 보겠습니다. 우선 예시를 하나 들겠습니다. 다음은 1부터 시작하여 작은 순으로 홀수를 나열한 것입니다.

1, 3, 5, 7, 9, 11, 13, 15, $\cdots$

이렇게 나열하면 첫 번째에는 당연히 1이 오고, 두 번째에는 3, 세 번째에는 5, 네 번째에는 7 등등으로 쓰이는 것을 알 수 있습니다. 이때 아마 대부분 고등학교 교재에서는 다음과 같이 물어볼 겁니다. 이 수열의 $n$번째 항(일반항)은 무엇인가? 이 물음이 중요한 이유는 수열의 본질이 자연수와 우리가 나열할 수 사이의 관계를 만드는 것임을 시사하기 때문입니다. 즉 집합론적으로 보았을 때 수열(sequence)란 정의역을 자연수 집합으로 가지는 함수로 정의할 수 있습니다. 이 시리즈에서는 일반항이 $a_n$인 수열을 $\seq{a_n}$으로 표기하겠습니다.

 

한 가지 더, 수열(數列)의 한자 뜻은 말 그대로 수(數)의 나열(列)입니다. 그렇기 때문에 "수열"이라는 말을 들으면 무심코 수로 이루어진 것만을 생각하기 쉬운데, 실제로는 점의 나열, 집합의 나열, 함수의 나열 등 다양한 물체를 나열한 것도 수열이라고 부릅니다. 조금 친절한 어휘로는 점열(sequence of points), 집합열(sequence of sets), 함수열(sequence of functions) 등이 있겠습니다.

 

그런데, 가끔 수열을 다루다 보면 수열의 합도 궁금할 때가 있습니다. 위의 수열을 다시 예로 들면, 첫 항부터 \(n\)번째 항까지의 합을 나열하면 다음과 같습니다.

1, 4, 9, 16, 25, 36, 49, 64, $\cdots$

물론 이 또한 하나의 수열임을 확인할 수 있습니다. 이때 수열의 각 항을 부분합(partial sum)이라고 부릅니다.

 

부분합과 Method of Exhaustion

이제 부분합을 이용하여 실용적(?)인 문제에 접근해 봅시다.

문제. 포물선 \(y=1-x^2\)의 그래프와 \(x\)-축이 둘러싸는 영역의 넓이를 구하여라.

놀랍게도 아르키메데스(Archimedes, B.C. 287~212)는 이 문제를 이미 고대 그리스 시절에 해결했습니다. 어떻게 한 것일까요? 아르키메데스는 이미 알고 있는 도형의 넓이들로 계산하는 방법을 택했습니다. 우선 두 교점과 포물선의 꼭짓점이 만드는 삼각형을 생각합니다. 편의상 이를 1단계라 하겠습니다.

1단계. 삼각형이 하나 있다.

다음으로 $x=\pm\frac{1}{2}$인 지점과 원래 삼각형의 두 꼭짓점을 이은 삼각형을 생각합니다.

2단계. 삼각형이 두 개 추가되었다.

이러한 과정을 반복해 보면, 구하려는 영역의 넓이가 삼각형들로 점점 채워지는 것을 볼 수 있습니다.

4단계의 그림이다. 점점 원하는 영역이 채워짐을 알 수 있다.

이제 이 삼각형들의 넓이를 실제로 구하고 나열하면 다음과 같습니다.

\begin{aligned}1 &= \frac{4}{3}-\frac{1}{3} \\ 1+\frac{1}{4}&=\frac{4}{3}-\frac{1}{4\cdot 3} \\ 1+\frac{1}{4}+\frac{1}{16} &= \frac{4}{3}-\frac{1}{4^2\cdot 3} \\ &\vdots \\ 1+\frac{1}{4}+\cdots+\frac{1}{4^n} &= \frac{4}{3}-\frac{1}{4^n\cdot 3}\end{aligned}

어떤가요? 이쯤되면 항들을 "무한히" 더했을 때의 값을 $\frac{4}{3}$이라 해도 될 것 같지 않나요? 하지만 아르키메데스는 여기서 만족하지 않고, 추가로 구하는 영역의 넓이를 $K$라 두고 $K$가 $\frac{4}{3}$보다 크지도 작지도 않다는 것을 증명합니다.

Claim. $K\le\frac{4}{3}$.

만약 $K>\frac{4}{3}$이면, 앞에서 만든 삼각형들로는 $\frac{4}{3}$보다 큰 넓이를 만들 수 없기 때문에 항상 덮이지 않는 넓이 $L$이 남아 있게 됩니다. 물론 위에서 그린 그림들을 토대로 생각하면 틀린 말입니다. 이를 증명하기 위해 포물선과 그 위의 세 점으로 이루어진 삼각형을 생각합시다.

이때 삼각형 OCD의 넓이는 평행사변형 CDBA의 넓이의 절반입니다. 또 포물선과 현 CD로 둘러싸인 부분의 넓이는 그 둘의 사이임도 명확합니다. 따라서 삼각형을 그릴 때마다 삼각형으로 덮이지 않은 부분의 넓이는 절반 이하로 남게 됩니다. 다시 말해 아무리 절반씩 줄이더라도 그 넓이가 $L$보다 커야 한다는 것인데, 이는 모순입니다.

Claim. $K\ge\frac{4}{3}$.

위에서 $n$-단계에서 삼각형들의 넓이가 $\frac{4}{3}-\frac{1}{4^n\cdot 3}$임을 확인했으므로 만약 $K<\frac{4}{3}$이면 삼각형들의 넓이가 $K$보다 큰 단계가 존재하게 됩니다. 영역 내부에서 그린 삼각형의 넓이를 더했더니 영역의 넓이보다 커지는 것이므로, 이는 물론 모순입니다.

따라서 $K=\dfrac{4}{3}$입니다. 이 풀이방식을 소진법(Method of Exhaustion)이라 하는데, 이러한 아르키메데스의 접근은 현대 수학에서 극한에 접근하는 방식과 놀랍도록 유사합니다. 단순히 '가까이 간다'고 결론짓는 것이 아닌 '정확히 그 값이어야 한다'는 것을 보이는 것이 말입니다.

 

수열의 극한과 급수

이제 위 예제를 수열과 부분합의 관점에서 바라봅시다. 우리는 수열 $1, 1+\frac{1}{4}, 1+\frac{1}{4}+\frac{1}{16},\ldots$이 $\frac{4}{3}$으로 다가감을 확인했습니다. 이렇듯 수열 $\seq{a_n}$에 대하여 $n$이 무한히 커지면 $a_n$의 값이 $L$로 가까이 다가갈 때 우리는 수열 $\seq{a_n}$의 극한이 $L$이라고 정의하고, $\lim_{n\to\infty} a_n=L$이라 표기합니다.

 

그렇지만 위 정의는 수학적인 정의는 아닐 뿐더러, 아르키메데스가 제시한 논의의 정수를 담지 못합니다. 우선 가까이 다가간다는 것이 무엇인지, 또 얼마나 다가가야 하는지 등이 불분명하기 때문입니다. 일단 수학적인 표현은 제쳐두고, '가까이 다가간다'라는 말의 기준을 세워봅시다. 직관적으로 생각했을 때, 수열 $0,0,0,\ldots$은 1로 가까이 다가간다고 할 수 있을까요? 물론 누군가는 "거리가 1이야? 가깝네!"라고 생각할 수 있습니다. 하지만 우리가 원하는 그림은 더 가까이 다가가는 것입니다. 그렇다면 조금 더 선심 써서 수열 $0,\frac{1}{2},\frac{1}{2},\ldots$는 어떨까요? 적당히 $n$을 키우면 거리가 $\frac{1}{2}$가 되었으니 아까보다 더 가깝지만, 아직은 모자라 보입니다. 그럼 조금 더 노력해서 $0,\frac{1}{2},\frac{3}{4},\frac{3}{4}$는... 요지는 극한값을 이야기하려면 수열의 값을 우리가 원하는 만큼 가까이 보낼 수 있어야 한다는 것입니다. 수학적으로는 이를 "임의의 $\epsilon>0$에 대하여 열린 구간 $(L-\epsilon,L+\epsilon)$ 안에 들어간다"라고 표현하겠습니다.

 

이제 아르키메데스의 논의를 생각해 봅시다. 수열 $\seq{a_n}$의 극한이 $L$임을 이야기하려면 임의의 오차 $\epsilon>0$가 주어졌을 때 $n$을 적당히 키우면 모든 $a_n$(아무리 잘 모여들어도 하나씩 툭툭 튀어나오면 안됩니다.)이 열린 구간 $(L-\epsilon, L+\epsilon)$에 포함되어야 할 것입니다. 이제 이를 수학적으로 표현하면 끝입니다.

$$\begin{equation}\forall\epsilon>0,\ \exists N\ \bigg(n\ge N\Longrightarrow|a_n-L|<\epsilon\bigg)\tag{1}\end{equation}$$

 

갑자기 듣도보도 못한 기호가 나왔습니다. 우선 $\forall$은 "임의의 ~에 대하여"라는 기호입니다. "All"의 A를 상하로 뒤집었다고 생각하면 되겠네요. 다음으로 $\exists$는 "~이 존재한다"라는 기호입니다. "Exist"의 E를 좌우로 뒤집었습니다. 그런데 존재한다는 말에는 부연 설명이 필요합니다. 어떤 친구가 존재한다는 걸까요? 그 내용이 다음 괄호에 들어가 있습니다. $N$보다 큰 임의의 자연수 $n$에 대하여 $|a_n-L|$이 $\epsilon$보다 작다는, 다시 말해 $a_n$과 $L$의 차이가 $\epsilon$보다 작다는 조건입니다. 따라서 위 문장을 해석하면 다음과 같습니다.

임의의 양수 $\epsilon$에 대하여 [$n\ge N$이면 $a_n$과 $L$의 차가 $\epsilon$보다 작은] $N$이 존재한다.

이것이 수학적으로 정의된 극한이고, 아르키메데스, 코시(Augustin-Louis Cauchy, 1789~1857)에 이어 바이어슈트라스(Karl Weierstrass, 1815~1897)가 수학계에 소개한 정의입니다. 처음부터 수식으로 이루어진 (1)을 보았으면 아마 저게 무슨 말인가 싶었을 것입니다. 하지만 아르키메데스의 접근을 알게 된 이제는 저러한 수식을 두려워하지 않았으면 하는 마음입니다.

 

한편 앞의 수열이 합으로 표현되어 있으므로, 수열 $1,\frac{1}{4},\frac{1}{16},\ldots$의 부분합이 $\frac{4}{3}$으로 다가간다고도 말할 수 있겠습니다. 우리는 부분합의 극한을 급수라고 정의합니다. 이를테면 $\seq{a_n}$이 수열 $1,\frac{1}{4},\frac{1}{16},\ldots$일 때, 급수 $\sum_{n=1}^{\infty} a_n$이 $\frac{4}{3}$으로 수렴한다고 말합니다.

 

수학사(와 필자의 사견) 한 스푼

"무한"이라는 단어는 정말 긴 시간 동안 여러 분야의 사람들을 매혹시켰습니다. 매우 큰 것, 혹은 매우 작은 것을 무한히 크다, 무한히 작다고 표현하면 있어보이지 않나요 ㅎㅎ? 아리스토텔레스는 물질의 기원을 논의하면서 물질을 무한히 잘게 자를 수 있다고 생각했고, 또 우리 우주가 영원히 이 자리에 존재해 왔고, 또 앞으로도 그럴 것이라 생각했습니다. 이는 수학도 예외가 아니라서, 뉴턴과 라이프니츠 시절(대략 17세기)부터 사람들은 "무한히 다가간다"라는 단어를 자연스럽게 사용하기 시작했습니다. 그리고 명확히 정의되지 않은 이 개념은 결국 언젠가부터 남용되기 시작했고 수학사에 파국을 불러오게 됩니다.

 

1807년 푸리에(Jean-Baptiste Joseph Fourier, 1768 - 1830)는 굉장히 얇고 무한히 긴 판에서 열이 전달되는 과정을 연구하던 중 다음과 같은 함수를 찾게 됩니다.

$$f(x)=\frac{4}{\pi}\left[\cos\left(\frac{\pi x}{2}\right)-\frac{1}{3}\cos\left(\frac{3\pi x}{2}\right)+\frac{1}{5}\cos\left(\frac{5\pi x}{2}\right)-\cdots\right]$$

이 함수의 그래프를 그려보면

$$f(x)=\begin{cases}1,&(-1<x<1) \\0,&(x=\pm 1) \\-1,&(1<x<3)\end{cases}$$

이 반복되는 주기 4인 함수임을 알 수 있습니다(어떻게 아는지는 지금은 별로 중요하진 않습니다). 그러면 $x$가 홀수가 아닌 점에서는 모두 도함수가 0이어야 하겠죠. 그런데 정작 $f$를 미분해 보면

$$f'(x)=-2\left[\sin\left(\frac{\pi x}{2}\right)-\sin\left(\frac{3\pi x}{2}\right)+\sin\left(\frac{5\pi x}{2}\right)-\cdots\right]$$

가 되어 $x$가 짝수일 때만 수렴하는 급수가 됩니다. 망했죠? 혹시 위의 $f$ 식이 1로 수렴하지 않는 걸까요? 아니오, 푸리에 해석에 의하면 저 식에서 항이 많아지면 $f(x)$는 실제로 1로 수렴합니다.

 

이 문제가 코시가 무한급수를 연구하게 된 계기이고, 더 넓게 보면 지금의 해석학이 있게 한 토대가 됩니다. 일견 모순으로 보이는 저 문제를 해결하려면 급수의 수렴/발산부터 연속, 미분까지 모든 정의와, 이제껏 함수라 생각했던 개념까지도 모두 뜯어고쳐야 했기 때문입니다. 이전 글에서 수학에서 엄밀성을 추구한 것은 얼마 되지 않는다고 했는데, 실제로 코시 이전까지는 그러한 발상을 거의 하지 않았기 때문입니다. 유클리드 이래로 수학에서 논리는 필수불가결한 요소였지만, 그래도 직관에 의존하는 부분이 어느 정도는 항상 있었기 때문입니다. 역사상 가장 위대한 수학자로 불리는 오일러나 가우스마저도 예외는 아니었고요.

 

여기서 제 감상을 짧게 말하자면, 수학은 언제나 난제를 통해 성장해 왔습니다. 357년 동안 난제로써 자리를 지킨 페르마의 마지막 정리부터, 고대 그리스 시절에 제기되어 근대에 와서야 해결된 작도 불능 문제나 아직도 풀리지 않고 있는 밀레니엄 난제들, 또 (약간 억지를 부리자면) 제논의 역설, 러셀의 역설 등 패러독스로 알려진 명제들이 그 예시입니다. 이러한 난제들을 만날 때마다 수학은 한층 더 치밀해졌고, 때로는 기존의 가치관을 뒤엎으면서까지 발전하는 모습이 알려주는 것은 수학은 절대 완벽한 학문이 아니라는 것이라 생각합니다. 수학자 David M. Bressoud는 자신의 저서 A Radical Approach to Real Analysis의 서문에서 다음과 같이 말합니다.

현대 수학의 고도로 정돈된 증명들은 수학에서의 발견이 언제나 자명하고 당연한 것이라는 잘못된 착각을 불러일으킨다. 하지만 수학사를 통틀어 실험적 정신과 그로 인한 오해는 수학의 발전에 있어 필수적인 요소였다.

인간이 쌓아올린 논리적 체계와 인간의 직관은 언제나 상호작용하며 수학을 발전시켜 왔고, 일견 헤겔의 정반합으로도 보이는 이러한 상황은 앞으로도 지속될 것입니다. 힐베르트가 생전 마지막 연설에서 말했듯, "우리는 알아야만 하고, 우리는 알게 될 것"입니다.

 

해석개론을 설명하다 보면 쉽게 쉽게 설명한다는 취지에 걸맞지 않게 내용이 어려울 때도 있겠지만, 그럴 때마다 내가 가졌던 고민들을 앞선 수학자들도 가지고 있었다고 생각하면 어느정도 위안이 될지도 모르겠습니다. 그럼 다음 글에서 함수의 극한과 연속이라는 주제로 뵙겠습니다. 읽어주셔서 감사합니다.

 

다음 글 보기

2022.08.05 - [수학/해석개론] - [도입이 쉬운 해석개론 이야기] 2. 함수의 연속과 코시