5차방정식의 불가능성, 노르웨이 수학자 닐스 헨리크 아벨(1802~1829)

  닐스 헨리크 아벨은 1802년 8월 5일 노르웨이 남부의 작은 섬 핀오이(Finnøy)에서 태어났다. 그의 아버지는 루터교 목사였으며, 교육열이 높은 집안 분위기 속에서 자랐다. 그러나 가정은 경제적으로 넉넉하지 않았고, 아벨의 어린 시절은 종종 빈곤과 고난으로 점철되었다. 1815년 아버지가 사망하면서 가세가 급격히 기울었고, 가족은 생계를 유지하는 데 큰 어려움을 겪었다. 이러한 상황 속에서도 아벨은 독학과 열정을 통해 수학적 재능을 꽃피웠다.

  그의 수학적 잠재력이 본격적으로 드러난 것은 라틴어 학교에서였다. 당시 아벨의 수학 교사는 처음에는 그를 평범한 학생으로 여겼으나, 복잡한 문제를 풀어내는 능력과 논리적 사고를 지켜보며 곧 그가 비범한 천재임을 알아보았다. 학교에서 사용하던 교과서 수준을 훌쩍 뛰어넘어, 아벨은 독자적으로 레온하르트 오일러, 요제프 루이 라그랑주, 카를 프리드리히 가우스와 같은 대수학자들의 저작을 탐독하기 시작했다. 이때부터 그는 평생의 연구 주제 중 하나가 될 고차 방정식의 해법 문제에 몰두하게 된다.

---

1. 5차 방정식의 불가능성 증명

  아벨의 가장 위대한 업적 중 하나는 일반적인 5차 방정식의 해를 근호(√, ∛, 등 유리근호)만으로는 구할 수 없음을 증명한 것이다.

르네 데카르트와 같은 초기 수학자들 이후로, 수학자들은 2차, 3차, 4차 방정식의 해법을 연달아 발견했다. 그러나 5차 방정식에 이르러서는 해법을 찾지 못했다. 수많은 수학자들이 시도했으나 실패했고, 가우스조차 이 문제에 대해 깊은 언급을 남기지 않았다. 이런 상황에서 젊은 아벨은 1824년 겨우 22세의 나이에 “일반적인 5차 이상의 방정식은 근호식으로 풀 수 없다”는 것을 최초로 엄밀하게 증명했다.

  이 증명은 단순히 한 문제를 해결한 것이 아니라, 대수학의 새로운 장을 열었다. 아벨의 결과는 훗날 에바리스트 갈루아(Evariste Galois)의 갈루아 이론으로 이어졌으며, 근대 대수학과 군론의 토대를 마련했다. 오늘날 대수방정식 이론의 중심에 있는 추상대수학적 사고는 아벨의 통찰에서 시작되었다고 해도 과언이 아니다.

---

2. 아벨 함수와 아벨 정리

  아벨은 방정식 문제뿐만 아니라, 해석학과 함수론에서도 혁신적인 업적을 남겼다.

  그가 발표한 “아벨 함수(Abelian functions)” 개념은 타원 함수의 일반화를 이끌었다. 타원 함수는 이미 야코비(Jacobi)에 의해 깊이 연구되고 있었지만, 아벨은 더 확장된 개념을 제시하며 이후 리만의 연구에 결정적인 영향을 주었다.

  또한 아벨은 **아벨 정리(Abel’s theorem)**라 불리는 결과를 발표했다. 이는 복잡한 급수와 함수의 합수 관계를 다루는 강력한 정리로, 오늘날에도 해석학의 중요한 도구로 남아 있다. 아벨 정리는 함수해석학, 푸리에 해석, 수열과 급수의 수렴 이론에 지대한 영향을 주었으며, 현대 해석학 발전에 초석을 놓았다.

---

3. 수학계에서의 외로운 싸움

  아벨의 삶은 비극적이었다. 그는 천재였으나, 사회적·경제적 지원을 거의 받지 못했다. 당시 노르웨이는 유럽의 중심 수학계와 멀리 떨어져 있었고, 연구자 네트워크가 약했다. 아벨은 독일과 프랑스의 수학자들에게 자신의 논문을 보내며 평가를 기다렸으나, 종종 무시당하거나 늦게야 인정받았다.

  대표적인 일화로, 아벨은 가우스에게 자신의 논문을 보냈지만 가우스는 바쁘다는 이유로 읽지 않고 서랍에 넣어둔 채 사후에야 그 가치를 알게 되었다. 또한 프랑스의 수학자 코시(Cauchy)에게 보낸 논문은 분실되어 한동안 학계에 소개되지 못했다. 이런 불운 때문에 아벨은 오랫동안 정당한 인정을 받지 못하고, 생활고와 질병에 시달렸다.

---

4. 비극적인 최후

  아벨은 젊은 시절부터 건강이 좋지 않았으며, 결국 결핵에 걸려 점점 쇠약해졌다. 그는 연구에 매달리며 가난 속에서 생을 이어갔지만, 의학이 발달하지 못했던 시대라 병세를 막지 못했다.

  1829년 4월, 그는 겨우 26세의 나이로 세상을 떠났다. 놀랍게도, 그의 사망 소식이 전해진 지 며칠 뒤 노르웨이 정부는 마침내 아벨을 교수로 임명하기로 결정했으나, 그는 이미 이 세상 사람이 아니었다. 이 사건은 오늘날까지도 수학사에서 가장 안타까운 비극 중 하나로 회자된다.

---

5. 사후의 평가와 업적의 계승

  아벨이 남긴 업적은 그의 사후 수십 년 동안 점차 재발견되며 진가를 발휘했다. 갈루아 이론과 함께 아벨의 증명은 근대 대수학의 토대가 되었고, 아벨 함수 이론은 리만과 바이엘슈트라스(Weierstrass), 후대의 수학자들에게 깊은 영감을 주었다.

  그의 이름은 수많은 수학 개념에 남아 있다.

• 아벨 함수(Abelian functions)
• 아벨 군(Abelian groups) – 교환법칙이 성립하는 군을 기념하여 붙은 이름
• 아벨 정리(Abel’s theorem)
• 아벨 변환(Abel’s transformation)
• 아벨 적분(Abelian integrals)

  특히 “아벨 군”은 오늘날 대수학과 수리물리학에서 가장 중요한 기본 구조 중 하나로, 아벨의 이름은 현대 수학의 핵심 개념 속에 영원히 새겨져 있다.

---

6. 아벨상(Abel Prize)

  그의 업적과 비극적인 생애를 기리기 위해, 2001년 노르웨이 정부는 수학계의 노벨상이라 불리는 **아벨상(Abel Prize)**을 제정했다. 매년 세계 최고의 수학자에게 수여되는 이 상은, 노르웨이의 아벨이 남긴 유산이 전 세계 수학계에서 여전히 살아 있음을 보여준다.

---

7. 아벨의 철학과 인간적 면모

  아벨은 단순히 문제 해결의 천재가 아니라, 수학을 대하는 태도와 철학에서도 큰 울림을 남겼다. 그는 항상 엄밀성과 체계성을 강조했다. 불완전하거나 직관에만 의존한 해법을 거부했고, 엄밀한 논리적 구조를 갖춘 증명을 고집했다. 이 점은 후대의 수학자들에게 깊은 영향을 주었고, 현대 수학의 엄밀성 추구 전통을 강화했다.

  인간적으로는 소박하고 겸손했으며, 가족과 동료들에 대한 애정이 깊었다. 그는 가난 속에서도 형제들을 돌보았고, 동료 수학자들과 서신을 주고받으며 지적 교류를 즐겼다. 하지만 사회적 고립과 병마는 그의 삶을 짧게 끊어버렸다.

---

결론

  닐스 헨리크 아벨은 26년이라는 짧은 생애 동안 인류 수학사에 지울 수 없는 흔적을 남겼다. 5차 방정식의 불가능성 증명, 아벨 함수와 정리, 그리고 그의 이름을 딴 수많은 개념들은 오늘날에도 수학의 근간을 이루고 있다.

  그의 삶은 비극적이었으나, 학문에 대한 열정과 엄밀한 태도는 후대의 수학자들에게 영원한 영감을 주었다. 아벨은 단지 한 나라의 수학자가 아니라, 전 인류의 학문적 유산으로 기억되며, 그의 이름은 현대 수학의 심장부에서 여전히 빛나고 있다.