Reset! 리셋 수학 허수와 복소수

추천사·허수, 인간의 상상속에만 존재하는 수(김준교)
머리말·허수에 대한 장벽을 허물 수 있기를……


I 실수는 진짜, 허수는 가짜?

01 허수는 정말 가짜 수일까?
02 실수도 알고 보면 별나다


II 허수는 이렇게 인정받았다

03 음수의 힘겨운 성장과 정착
04 허수, 수학의 높은 장벽을 뚫다


III 허수의 참모습

05 복소수와 복소평면
06 복소수의 곱셈과 회전
07 복소수를 넘어서는 수는 존재할까?


IV 이것이 허수의 힘이다

08 복소함수와 미분가능성
09 복소함수와 적분가능성
10 실제 세계와 허수

실수란 현실에 당연히 존재하는 수일까?
이 문제를 진지하게 파고들려면 현실이니 상상이니 실재니 하는 것이 무엇인지까지 되짚어야 하겠지만 어려운 문제이므로 여기서는 다루지 않는다.
정확히는 몰라도 적어도 "실수는 현실에 당연히 존재하는 수라고 딱 잘라 말할 수 없다."라고는 할 수 있다. 수라는 것은 당연히 현실에 존재하는 것이라고 순순히 단정 지을 수 없다.
예를 들어 가장 당연해 보이는 1, 2, 3, 4 등의 자연수 개념도 사람이 날 때부터 몸에 지닌 것은 아니다. 눈앞에 나무가 한 그루, 두 그루, 세 그루 있다는 것을 시각적으로만 인식하던 단계에서 그로부터 1, 2, 3…이라는 수의 개념을 획득하는 단계로 나아가는 것만으로도 인간은 추상화 능력에 있어 대단한 도약을 했다라고 할 만한 것이었다.
그러니 실수가 당연히 실재하는 수로 받아들여지기까지는 숱한 고난의 과정을 거쳐야 했다. 실수에는 자연수, 0, 음수, 분수, 소수, 유리수, 무리수 등 다양한 수들이 있는데, 허수와 마찬가지로 대부분 처음에는 좀처럼 인정받지 못했다. 특히 음수는 받아들여지기까지 허수 못지않은 갈등의 역사를 거쳐야 했다. '실수는 당연히 존재하는 수'라는 개념 또는 감정은 처음부터 존재해 온 당연한 것이 아니라 역사적으로 만들어진 것이다.

분수 꼴로 나타낼 수 없는 수를 '무리수'라고 하듯이 분수로 나타낼 수 있는 수를 '유리수'라고 한다.
그런데 무리수라는 말에서는 어김없이 '무리한 수', ' 이치에 맞지 않는 수'라는 의미가 떠오른다. 무리수를 영어로는 'irrational number'라고 하는데, 'ir'은 부정을 뜻하는 접두어이고 'ratio'는 비를 뜻한다. 따라서 원래 의미를 생각하면 무리수란 '이치에 맞지 않는 수'라기보다 '비가 없는 수'라고 해야 딱 맞아떨어진다. 마찬가지로 영어로는 'rational number'인 유리수는 '이치에 맞는 수'라기보다 '비가 있는 수'라고 생각해야 한다.
물론 피타고라스에게는 무리수가 문자 그대로 '이치에 맞지 않는 수'자체였다. 인정하기는커녕 숨겨야 할 수였다. 피타고라스는 '만물의 본질은 수'이고 자연수의 비가 무엇보다 중요하며 모든 수는 분수로 나타낼 수 있다고 생각했는데, 무리수는 그 생각을 완전히 부정하는 수였기 때문이다.
분수는 자연수를 재료로 자연수끼리 비의 관계를 나타낸 수로서 자연수에서 만들어진 수였다. 반면에 무리수는 자연수로는 만들 수 없는 수였다. '만물의 본질은 자연수'라는 믿음을 교리로 삼았던 피타고라스학파에게 무리수란 교리에 어긋나는 수, 그야말로 '이치에 맞지 않는 수'였던 것이다.
무리수는 자연수나 분수와는 전혀 다른, 아예 이질적인 '새로운 수'다. 다음 장에서 다룰 '음수'를 별개로 두면 실수는 자연수와 분수에 이 무리수가 더해져 이루어졌다고 할 수 있다.(조금 관점이 다른 소수는 실수의 분류라는 관점에서는 생각하지 않아도 된다.)

이처럼 실수와 복소수는 모두 절댓값이라는 '크기'가 있다. 그러나 절댓값은 수의 크기 자체는 아니다. 복소수에는 '크기'가 없고 따라서 복소수에서는 대소 관계가 없다. 이것은 실수에서 복소수로 수를 확장했을 때 나타나는 중대한 특징이다.
실수에는 대소 관계가 있다. 다시 말해 모든 실수를 수직선 위에 늘어놓을 수 있고, 오른쪽 수일수록 크다고 정해 놓으면 대소 관계를 만들 수 있다. 그런데 복소수는 복소평면 위에 흩어져 있어 한 줄로 늘어놓을 수 없기 때문에 대소 관계를 만들 수 없다.
예를 들어 대소 관계의 원리를 확 바꾸어 '절댓값이 클수록 수 자체도 크다.'라고 정했다고 하자. 그렇게 정하지 못할 것도 없지만 그다지 의미가 없다. 왜 그럴까?
수학에서 '순서 관계가 있다'고 할 때는 다음 ①~③이 성립해야 한다.
① x >= x (반사율)
② x>= y, y>=x이면 x = y (대칭률)
③ x>= y, y>= z이면 x>= z (추이율)
절댓값의 대소 관계로 수 자체의 대소 관계를 정하면 ②가 성립하지 않는다.