코다이라 소멸정리와 GAGA

책 머리에...
이 책은 저자가 2022년 3월에 포스텍(포항공과대학교)의 명예교수가 되며 교육 일선에서 은퇴한 후, 후배 교수들의 권유로 2024년 가을 학기에 포스텍 대학원에 돌아와 복소다양체론을 가르치기 위해 쓴 강의록을 바탕으로 이루어진 책입니다. 초벌 원고는 강의록이었고, 2024년 여름에 탈고했지만, 이후 청중과 제자들의 호응, 질문 및 제안을 반영하여 교정하였으며, 최종 교정은 2026년 1월에 마무리 지었습니다. 중심내용은 복소 대수기하학과 연관된 복소 해석기하학의 이론과 기법입니다.
이 분야는 1950년대 중반에 들불처럼 수학계를 휩쓸었던 연구의 유행을 이룬, 프랑스어 “La Géométrie Algebrique et la Géométrie Analytique,” 우리말로는 “대수기하학과 해석 기하학” 정도로 쓰면 적절해 보이는 이름으로 등장했는데, 당시 세계 최고 수준이었던 H. Cartan, A. Grothendieck, J. Dieudonné, P. Dolbeault, J.-P. Serre 교수들을 비롯한 여러 학자들이 공헌하며 크게 발전시켰습니다. 이 분야의 내용을 매우 줄여서 거의 겉핥기 수준으로 소개하자면“ 대수기하학은 대수학적인 방법론을 통해 연구되는 기하학이지만, 해석학적인 방법론에 의해서도 연구될 수 있으며, 두 방법론은 사실상 동등하다.”라는 슬로건을 제시하는 편이 적절해 보입니다. 이 이론의 발전과 함께, 프랑스어 이름의 머릿글자를 딴 약어 표현 GAGA도 서유럽어가 주는 유머 감각과 함께 수학자들의 사랑을 받으며 자연스럽게 이 분야의 이름으로 정착되었다고 합니다.
이 분야의 연구 결과에는 유명한 업적이 무척 많지만 1954년에 필즈 메달을 수상한 코다이라 쿠니히코 교수의1 업적이 특히 빛납니다. 그 중에서도 코다이라 소멸정리 (Kodaira Vanishing Theorem)가 그 중심에 있고, 이 정리의 증명 이론을 이해하면 이 분야에 자연스럽게 입문할 수 있다고 할 수 있을 정도로, 교육적으로도 의미가 크다고들 합니다. 그래서, 저자는 이 소멸 정리를 둘러싼 이론을 가능한 한 원래 코다이라 이론의 전개 방식을 따라 정리하고 소개하려는 목표를 세웠습니다.
그러므로 이 시점에서 코다이라 소멸정리와 증명 이론을 간략하게라도 설명하는 편이 좋을 것 같습니다. 보다 자세한 것은 물론 본문에서 소개하고 토의하겠지만 전체적인 얼개를 먼저 살펴 보는 것도 좋을 것 같아 보이기 때문입니다. 해석함수 (complex analytic, holomorphic functions)를 연구하는 복소 함수론은 수학에서 중추적인 역할을 하는데, 저자는 이 함수를 “온함수” 라고 부르고 싶습니다. “Holomorphic”의 “holo” 는 완전 또는 온전하다는 뜻이지만 “완전함수” 라는 용어가 복소 평면 전체에 정의된 해석함수를 나타내는 용어로 정착된지 오래 되었으므로, 약간 다른 표현인 “온함수” 라는 용어가 적절해 보이기 때문입니다.
온함수는 복소평면을 넘어 고차원 복소 유클리드 공간에 정의되었고, 이어서 복소다양체 (complex manifold) 라는 보다 일반적인 대상에 정의되며 이에 관한 이론도 많은 발전을 이루었습니다. 이에 따라 파생되는 “해석 벡터장 (holomorphic vector field)” 과 “해석 미분 형식 (holomorphic differential form)” 등의 개념도 정의되고 이들에 대한 이론들도 만들어졌습니다.
이제는 “소멸정리” 라는 말을 설명할 차례인 듯합니다. 미분다양체 위의 드람 (de Rham) 코호몰로지 이론이, 복소 함수론 및 복소다양체 이론을 위해 세분화되고 잘 정리되면서 소개된 돌보 코호몰로지 (Dolbeault cohomology) 라는 이론이 있는데, 이 개념과 이론이 GAGA의 중심부에 자리잡게 되었습니다.2 이 돌보 코호몰로지 군이 자명군 (trivial group)이 되면 수학자들은, “돌보 코호몰로지가 소멸되었다” 또는 “0이 되었다” 라고 표현하는데, 이 소멸성이 GAGA에서 중요한 역할을 합니다. 그러므로 돌보 코호몰로지 군의 소멸 여부를 판정하고 설명할 수 있는 이론이 필요한 이유가 명확해지는데, “코다이라 소멸정리” 가 바로 이 필요성에 거의 처음으로 답을 준 이론입니다.
한편, 코다이라 이론은 원래 옹근 복소다양체 (compact complex manifold) 를 연구 대상으로 하고 그 위에서 개발되었습니다. 옹근 복소다양체는 여러모로 장점이 많음에도, 그 전체에 정의되고 복소수체를 치역으로 가지는 온함수가 모두 상수함수일 수밖에 없다는 문제점을 피할 수 없습니다. 복소 함수론의 최대절대값 원리 (Maximum modulus principle) 때문입니다.
그러면 아예 복소함수론을 전개할 수가 없는 것일까요?
물론 옹근 복소 다양체 전체에 정의되고 복소수 값을 가지는 함수에 대한 이론은 연구할 의미가 매우 적겠습니다. 하지만 해석 벡터장이나 해석 미분 형식 등에 관한 연구는 여전히 가치가 높으며, 실제로 이들은 복소다양체 연구에 새로운 지평을 열어 주었습니다. 국소적으로는 복소수체와 복소 유클리드 공간이 지닌 해석학을 보유한 것과 비슷한 효과를 내며 전체적으로는 복소 다양체에 “붙일 수 있는” 개념인 해석 벡터다발 (holomorphic vector bundle)이 복소다양체 위에 정의되었고, 복소 온함수의 역할을 담당하는 온함수 단면 (holomorphic section) 이라는 풍부한 연구의 대상이 소개되었으며, 이들에 대한 복소 함수론 이론도 만들어졌습니다. 거기에 미분기하학의 연구 대상인 리만 기하학의 개념들이 복소다양체 위에 소개되고 이어서 미분 형식 (differential form) 들과 이들이 이루는 드람 형식의 코호몰로지 이론인 돌보 코호몰로지 군에 대한 연구가 수립되어, 명실공히 기하학, 대수학, 해석학, 미분방정식론, 위상수학 등 순수 수학의 여러 분야가 융합되고 수렴된 거대한 분야가 탄생하였습니다. 이 정도로는 GAGA에 대한 설명으로 매우 부족하지만, 수박 겉 핥기 정도로 받아들여 주실 수는 있을 것 같습니다.
코다이라 소멸정리를 둘러싼 이론은 주로 돌보 코호몰로지를 다루는데, 보통의 미분 형식을 일반화한 “일반적인 해석 벡터 다발에 값을 두는 미분 형식 (differential forms with values in (general) holomorphic vector bundles)” 에 관한 코호몰로지 군을 다루고, 이의 소멸에 관한 해석을 제공합니다.
따라서 이 분야를 공부하려면 지금까지 언급한 벡터 다발과 그들의 단면에 작용하는 미분작용소 등의 개념들에 대한 이해가 필요합니다.
근본 개념에 대한 이해를 갖춘 후, “돌보 코호몰로지 군의 소멸” 이라는 개념을 생각해 보면, 이 개념이 특정 미분방정식—¯∂ 작용소에 대한 선형 편미분방정식—의 풀이의 존재에 대한 이론임이 분명해집니다. 그러므로 로랑 슈바르츠 교수에 의해 정립된 “분포 이론 (Theory of distributions)” 을 배울 필요가 생깁니다. 그리고 거기에 맞추어 고전해석학이 제공하는 정칙성 이론인 소볼레프 (Sobolev) 이론 등도 공부하게 됩니다.
이런 이론을 모두 연결하는 고리는 1930년대 개발된 솔로몬 보크너 (S. Bochner) 교수의 기법 (Bochner techniques) 입니다. 이 천재적인 방법론은 원래 리만 다양체 위의 조화 미분형식 (Harmonic forms) 들을 다루기 위해 개발되었고, “하지이론 (Hodge Theory)” 의 정립에 큰 공헌을 했는데, 코다이라 이론에서도 이 방법론이 중요한 역할을 하였습니다. W. Hodge, H. Weyl 등 여러 위대한 수학자들이 이 방향에 공헌하였습니다.
세상의 이치가 그러하듯, 돌보 코호몰로지 군 또한 그냥 소멸하지는 아니합니다. 복소다양체가 만족시켜야 할 조건이 있습니다. 사실은, 이런 조건을 찾는 것이 수학 연구의 중요한 부분이기도 합니다. 수학자들이 이해하고 사용하기 편리한 모양으로 이런 조건을 재해석하고 정리하는 것은 수학 연구의 당연한 과제이기 때문입니다. 이 상황에서 필요한 조건을 해석해 보면, 복소 다양체가 특별한 해석 벡터 다발을 가져야 한다는 사실을 발견하게 되는데, 그 특별함이라는 것이 결국은 해석 벡터 다발의 곡률 텐서가 특별한 조건, 특히 양의 정부호성 같은 조건을 만족시킨다는 데에 해당한다는 사실을 발견하게 됩니다. 이제까지의 이론을 다 모아서 정리하면, 코다이라 코호몰로지 소멸정리 이론과 증명 및 논증 방법이 얻어집니다.
이렇게, 설명하기도 쉽지 않은, 엄청나게 어려워 보이는 이론을 공부하는 이유가 무엇인지 질문하실 독자가 있을 것 같습니다. 저자도 그런 심정에 공감합니다. 그래서 여기 아래에 제시하는 설명이 좋은 답변인지 확신은 없지만, 한두 가지라도 설명을 드려보려 합니다.
코다이라 소멸정리는 리만 곡면 (1차원 복소다양체) 연구의 주요 방법론 중 하나인 리만-로흐 정리 (Riemann-Roch Theorem)의 일반화에 해당하므로 그 자체로서 역사적인 성취이기도 하고, 고차원 복소다양체 연구의 새로운 지평을 열었다는 점은 어떨까요? 이전의 위대한 이론을 더 잘 이해하고 발전시키는 것은 수학자의 의무이며 권리이기 때문입니다.
두 번째 이유로는 코다이라 교수 자신이 증명한, “복소다양체가 특정한 코호몰로지 조건을 만족시키면, 이 다양체는 복소 사영공간 속에 매립된다.”
라는, 수학사에 길이 빛날 정리인 코다이라 매립정리 (Kodaira Embedding Theorem) 를 들고 싶습니다. 이 정리의 증명이 코다이라 소멸정리에 크게 의존하므로 코다이라 소멸정리의 중요성이 자연히 강조되지 않습니까?
이 밖에도 여러 뛰어난 수학자들의 후속 연구와 공헌이 많으므로 그런 업적을 예로 들 수도 있겠지만, 이 강좌에서는 세 번째 이유로, 코다이라 소멸정리의 교육적인 측면을 들고 싶습니다. 이 이론을 배우면서 GAGA의 “Géometrie Analytique” 분야에 자연스럽게 들어설 수 있는데, 그것이 여러 학생들이 바라는 바이기 때문입니다.
이 강좌를 준비하며 Jean-Pierre Demailly 교수의 저서 [3,4]를 포함하여 책 말미에 수록한 참고 문헌에 실은 여러 뛰어난 저서와, 그 외에도 수록하지는 못하였지만, 그 공헌이 분명한 여러 제현의 저서와 대화 및 학문적 교류의 도움이 컸음을 여기에 밝힙니다.
2026년 1월 15일 목요일,
원고 최종 교정을 마무리하며,
저자 드림.