- 수학은 크게 대수학, 기하학, 해석학으로 나눌 수 있습니다. 쉽게 말해 대수학은 방정식을 푸는 기술, 기하학은 도형과 공간을 연구하는 학문, 해석학은 변화와 무한을 탐구하는 분야입니다.

- 대수학의 역사를 조사하는 일은 정말 정말 쉽지 않았습니다.. ‘군’ 이후의 개념들은 이해하기가 워낙 어려워서, 마치 다섯 살짜리 아이처럼 계속 “왜?”를 외치며 chatGPT에게 묻고 또 물어 겨우겨우 정리할 수 있었습니다.

- 대수학은 처음에는 수학적 현상을 기호와 문자로 표현해 방정식을 풀기 위한 방법론으로 발전했습니다. 하지만 곧 풀리지 않는 방정식과 맞닥뜨리면서, 어떤 방정식은 풀리고 어떤 것은 풀리지 않는지, 또 숫자와 연산이 어떤 규칙을 따르는지를 탐구하는 학문으로 나아가게 되었습니다.

이처럼 대수학은 “문제 해결을 위한 기호적 언어”에서 시작해, 지금은 “세상 모든 구조를 표현하고 다루는 수학의 뼈대”로 자리 잡게 되었습니다. 예를 들어 양자역학과 인공지능에서는 선형대수학(벡터 공간과 행렬)이 언어로 쓰이고, 화학에서는 분자의 대칭성을 군론으로 설명합니다. 컴퓨터 그래픽과 로보틱스에서는 해밀턴의 4원수가 활용되며, 공학에서는 행렬과 복소수가 필수적인 도구로 사용됩니다.



Fig.1 수식이 만들어지기까지


대수학의 발전은 방정식을 어떻게 다루고, 기호로 어떻게 표현할 수 있는지를 탐구해 온 긴 여정이었습니다. 초기의 수학 문제들은 모두 줄글로 서술되었습니다. 예를 들어 바빌로니아의 점토판에는 “어떤 수를 제곱한 것과 그 수의 합이 20이 될 때, 그 수를 구하라”와 같이 말로만 적혀 있었습니다. 지금 우리가 쓰는 x² + x = 20 같은 간결한 기호식은 없었던 것이죠. 이런 방식은 서술은 길고 불편했기 때문에, 수학자들은 점차 기호를 만들어내기 시작했습니다.

 

고대 그리스의 디오판토스*Diophantus* 는 《산수론》에서 정수와 유리수 해를 구하는 문제를 풀면서 미지수를 간단한 기호로 나타냈습니다. 이는 “수학에서 미지수를 문자로 표현할 수 있다”는 발상을 열어주었다는 점에서 대수학사의 출발점이 되었습니다. 이후 중세 바그다드의 수학자 알콰리즈미*Al-Kwarizmi*는 《이항과 소거의 학문》을 저술하며 대수를 독립된 학문 분야로 정립했습니다. 그는 0과 음수를 다루지 않았지만, 대수학을 체계화한 중요한 인물이었습니다.







대수학은 이렇게 고대 그리스와 이슬람 세계에서 기호적 사고와 체계적 방법을 얻으면서, 중세를 거쳐 유럽 르네상스로 전해졌습니다. 15세기 인쇄술의 발달과 함께 대수학은 더 널리 퍼져나갔죠. 루카 파치올리*Fra Luca Bartolomeo de Pacioli* 는 《산술집성》(1494)을 출판하여 인쇄된 최초의 수학 교재를 남겼습니다. 그는 미지수를 co(cosa), 연산을 p(piu)와 m(meno)로 표시했습니다. 이 시기 독일 상인들은 이미 +와 – 기호를 무게나 양의 증감을 나타내는 실용 기호로 사용하고 있었고, 이러한 상업적 표기가 곧 수학 문헌에도 받아들여졌습니다. 이렇게 상업에서 쓰던 기호가 학문적 맥락으로 옮겨온 과정은 대수학 기호화의 중요한 전환점이었습니다. 이어서 16세기 로버트 레코드*Robert Recorde* 는 등호 기호 ‘=’를 발명했고, 오트레드*William Oughtred* 는 곱하기 기호 ‘×’를 도입했지만 알파벳 x와 혼동된다는 이유로 널리 퍼지는 데 시간이 걸렸습니다.

  

프랑수아 비에트*Francois Viete* 는 이러한 흐름을 이어 받아 미지수뿐 아니라 이미 알고 있는 값까지 문자를 사용해 표현하는 방식을 고안했습니다. 그는 x, y 같은 문자로 미지수를 나타내고 A, B 등으로 상수를 표시하며, 대수를 단순한 수의 계산이 아닌 구조와 관계를 다루는 분석적 계산술로 확장했습니다. 그는 이를 “유형의 계산술”이라 불렀고, 이는 곧 기호대수학의 정립으로 이어졌습니다. 디오판토스 시대에도 radix, res, cosa, coss 같은 기호가 사용되었지만 통일성이 없었는데요. 비에트는 《분석술입문》에서 자음과 모음으로 계수와 미지수를 구분하는 등 보다 체계적인 표기법을 정립한 것이었죠. 1637년 데카르트*René Descartes* 는 《기하학》에서 x, y, z를 변수로, a, b, c를 계수로 사용하여 지금과 같은 대수 표기법의 토대를 마련했습니다.

데카르트 이후 수학자들의 관심은 단순히 방정식을 풀어내는 것에서 나아가 문자 계수를 가진 방정식들에 대한 이론적 연구로 확장되었습니다. 다항방정식의 근의 존재와 성질, 그리고 그 개수를 밝히는 탐구가 이어지면서 대수학은 수학의 중심 언어로 발전해 갔습니다.



Fig.2 방정식 풀이 대결

2차 방정식의 기원은 기원전 2000년 무렵 바빌로니아로 거슬러 올라갑니다. 당시 점토판에는 “넓이와 한 변의 길이의 차이가 주어진 정사각형의 한 변의 길이를 구하라”(x² - x = b)는 문제가 기록되어 있었습니다. 바빌로니아인들은 기하학적 직관을 통해 이를 해결했으며, 이는 오늘날 우리가 알고 있는 2차 방정식 풀이의 원형이라 할 수 있습니다. 이후 9세기 무렵 이슬람 세계의 수학자 알 콰리즈미는 여러 저서에서 2차 방정식을 체계적으로 정리했습니다. 다만 알 콰리즈미는 0과 음수 개념을 인정하지 않았기 때문에 우리가 아는 하나의 공식(근의 공식)으로 통합하지는 못했고, 유형별로 따로 풀이를 정리했습니다.

  

3차 방정식의 해법은 16세기 초에 이르러서야 모습을 드러냈습니다. 볼로냐 대학의 수학자 델 페로*Scipione del Ferro* 가 X³+mx=n (m,n>0) 형태의 해법을 찾았다고 전해지며, 그는 이를 제자인 피오르*Antonio Fior* 에게만 전수했습니다. 1535년에는 타르탈리아*Niccolò Fontana Tartaglia* 도 독자적으로 3차 방정식의 해법을 발견했다고 주장했습니다. 이를 두고 피오르와 타르탈리아가 문제 풀이 대결을 벌였는데, 피오르는 전혀 해결하지 못한 반면, 타르탈리아는 문제를 모두 풀어내 명성을 얻게 됩니다.

이 사건의 소문은 곧 밀라노의 의사이자 수학자였던 카르다노*Gerolamo Cardano* 의 귀에 들어갔습니다. 그는 끈질기게 타르탈리아에게서 3차 방정식의 해법을 전수받았고, 비밀을 지키겠다고 약속했지만 결국 1545년 자신의 저서 《위대한 술법(*Ars Magna*)》에 이를 실어 발표했습니다. 이로 인해 3차 방정식의 근의 공식은 ‘카르다노 공식’이라는 이름으로 알려지게 되었고, 타르탈리아는 크게 분노했지만 어찌할 도리는 없었습니다.



이어 카르다노의 제자 페라리*Lodovico Ferrari* 는 4차 방정식의 해법을 찾아내어 같은 책에 실렸습니다. 하지만 당시에는 어떤 값의 4승을 한다는 것이 넓이도 부피도 아닌 것이라 하여 말도 안 되는 것이라 여겨져 별로 중요하게 여겨지지 않았죠. 이로써 수학사에서 3차와 4차 방정식은 공식적인 해법을 가지게 되었죠.



Fig.4 √안에 음수가 들어가도 되는 걸까?

3차 방정식의 풀이 과정에서 음수의 제곱근이 등장했습니다. 당시 수학자들은 음수의 제곱근을 인정하지 않았기에 큰 혼란을 겪었습니다. 3차 방정식의 해법을 제시한 카르다노조차 이를 받아들이지 못하고 불완전한 결과로 치부했죠.



음수 제곱근을 처음으로 긍정적으로 다룬 사람은 1572년 라파엘 봄벨리*Rafael Bombelli* 였습니다. 그는 저서 《대수학》에서 음수 제곱근의 덧셈과 곱셈 규칙을 정리해 복소수를 처음으로 체계화했습니다. 하지만 17~18세기 동안 복소수는 여전히 “허구의 수”라는 인식에 머물렀습니다. 데카르트는 이름만 붙였을 뿐 실제 수학적 도구로 인정하지 않았고, 뉴턴 역시 복소근을 허구적 존재로 취급했습니다.

 

상황은 18세기 말부터 달라졌습니다. 1797년 노르웨이의 베셀*Caspar Wessel* 은 복소수를 “평면 위의 점”으로 해석하는 아이디어를 제시했습니다. 예를 들어 실수축을 오른쪽으로, √-1을 나타내는 허수축을 위쪽으로 잡으면, 복소수 하나하나는 평면 위의 좌표로 나타낼 수 있습니다. 이 생각은 이후 가우스*Carl Friedrich Gauß* 에게 이어졌습니다. 가우스는 √-1을 i라는 기호로 정리하고, “복소수”라는 이름을 붙였습니다. 또한 가우스는 1799년 박사 논문에서 대수학의 기본 정리(*Fundamental Theorem of Algebra, FTA*)를 증명하여, 모든 다항식은 복소수 해를 가진다고 밝혔습니다. 이로써 복소수는 더 이상 허구가 아니라 방정식 해법에 꼭 필요한 수 체계로 인정받게 되었습니다.

19세기에 들어서면서 복소수는 단순히 평면의 좌표를 넘어서, 힘과 회전을 표현하는 도구로 널리 쓰이기 시작했습니다. 예를 들어 복소수에 i를 곱하는 것은 평면에서 점을 90도 회전시키는 것과 같았습니다. 덕분에 복소수는 2차원에서의 회전을 다루는 강력한 언어가 되었습니다. 하지만 문제는 세상이 2차원에만 있지 않다는 점이었습니다. 별, 행성, 혹은 물체의 회전처럼 3차원 공간에서 일어나는 움직임을 표현하려면, 복소수만으로는 부족했습니다.



이 한계를 뛰어넘기 위해 아일랜드의 수학자 해밀턴*William Rowan Hamilton*이 새로운 수 체계인 4원수(quaternion)를 만들어냅니다. 4원수는 a+bi+cj+dk처럼 네 개의 성분으로 이루어져 있으며, 여기서 i, j, k는 서로 다른 ‘허수 축’을 나타냅니다. 복소수가 실수축과 허수축 두 개로 평면을 표현했다면, 4원수는 세 개의 허수축을 추가해 3차원 공간의 방향과 회전을 표현할 수 있게 한 것입니다.

특히 4원수의 곱셈 규칙은 3차원 회전의 성질을 그대로 담고 있었습니다. 예를 들어 ij=k, jk=i, ki=j 같은 규칙은 회전의 순서가 바뀌면 결과도 달라지는 실제 3차원 공간의 특징을 반영합니다. 덕분에 4원수를 이용하면 복잡한 회전을 손쉽게 계산할 수 있었고, 이제 대수학은 공간과 변환을 다루는 언어로 진화한 것이었죠. 오늘날에도 해밀턴의 4원수는 3D 그래픽, 드론 제어, 가상현실 같은 분야에서 핵심 도구로 쓰이고 있습니다.



Fig.5 풀리지 않는 5차 방정식


3차와 4차 방정식의 풀이가 알려지자 수학자들은 자연스레 그 다음 단계인 5차 방정식의 해법을 찾고자 했습니다. 그러나 수 세기 동안의 도전에도 불구하고 문제는 풀리지 않았습니다. 18세기 라그랑주*Joseph-Louis Lagrange*는 《방정식의 대수적 해법에 대한 고찰》(1770)에서 2차, 3차, 4차 방정식의 공식을 분석하면서, 5차 이상의 방정식은 동일한 방식으로 풀 수 없을 것이라는 통찰을 제시했습니다.



이후 1824년, 당시 22세였던 노르웨이 수학자 아벨*Niels Henrik Abel* 은 획기적인 증명을 제시했습니다. 그는 “차수가 5 이상인 방정식에 대해, 일반적인 근의 공식은 사칙연산과 거듭제곱근만으로는 표현할 수 없다”는 사실을 엄밀히 증명한 것이었죠. 이로써 5차 이상의 방정식은 일반적인 근의 공식으로는 절대 풀 수 없다는 것이 수학적으로 확정된 것입니다.



그러나 문제는 여기서 끝나지 않았습니다. 왜 어떤 방정식은 풀리고, 어떤 방정식은 풀리지 않는가를 설명할 새로운 이론이 필요했습니다. 이 답을 제시한 인물이 프랑스의 수학자 갈루아*Évariste Galois* 였습니다. 그는 방정식의 해들이 갖는 대칭적 성질에 주목했습니다. 해들을 서로 바꾸는 변환들의 집합을 체계적으로 분석했고, 이를 하나의 집합과 연산으로 표현했습니다. 이 구조가 바로 오늘날의 군(Group) 개념입니다. 갈루아는 5차 이상의 방정식이 일반적인 근의 공식으로 풀리지 않는 이유를, 해의 대칭성이 가진 군 구조를 통해 설명했죠. 이것이 갈루아 이론이며, 현대 추상대수학의 출발점이 되었습니다.



Fig.6 점점 난해해지는 대수학

① 환론
군론이 정립되자 수학자들의 관심은 대칭성을 넘어, 수 그 자체를 일반화해서 다루는 방법으로 이동했습니다. 바로 여기서 환론이 등장합니다. 환은 정수, 다항식, 행렬처럼 덧셈과 곱셈이 가능한 대상들을 한 틀 안에서 바라보자는 시도였죠. 수학자들은 이런 구조 속에서 인수분해, 소수성, 근 존재성 같은 문제를 탐구할 수 있었습니다.

하지만 환이 너무 넓은 세계다 보니, 정수에서는 성립하는 “유일한 소인수분해” 같은 성질이 쉽게 깨져버렸습니다.  예를 들어 60은 2×2×3×5라는 방식 말고는 다른 방식으로 소수 곱으로 분해할 수 없습니다. 그런데 정수를 넓혀, 예를 들어 √−5가 포함된 수 체계를 생각하면, 이런 성질이 깨져버립니다. 6이라는 수가 2×3으로도 분해되고 (1+√−5)(1−√−5)로도 분해되기 때문에, “유일한” 소인수분해가 성립하지 않는 겁니다. 이는 수론과 방정식 연구에 심각한 혼란을 불러왔습니다.



데데킨드*Julius Wilhelm Richard Dedekind* 는 이 문제를 해결하기 위해 아이디얼*ideal* 이라는 새로운 개념을 도입했습니다. 숫자 하나하나를 직접 다루는 대신, 숫자들의 모임을 기본 단위로 삼은 것이죠. 아이디얼로 바꾸어 생각하면, 비록 수 자체의 인수분해는 여러 방식이 가능하더라도, 아이디얼의 분해는 다시 유일해집니다. 즉, 정수에서의 소인수분해라는 성질을 더 넓은 환에서도 유지할 수 있게 된 것입니다. 이로써 데데킨드는 수 체계를 확장해도 안정적으로 연구할 수 있는 기반을 마련했고, 환론은 단순한 수학적 실험이 아니라 정수론과 대수기하학을 지탱하는 엄밀한 틀이 되었습니다.


② 체론


그런데 환에는 나눗셈이 자유롭지 않다는 제약이 있습니다. 정수에서 2÷3은 정의되지 않지만, 유리수나 실수, 복소수처럼 일부 수 체계에서는 나눗셈이 항상 가능합니다(0으로 나누는 경우 제외). 이런 구조를 따로 다룬 것이 체론입니다. 갈루아 이론이 바로 체 위에서 작동했기에, 체론은 “어떤 방정식이 풀리는가”를 판정하는 핵심 언어가 되었습니다. 슈타이니츠*Ernst Steinitz* 가 1910년에 체를 공리적으로 정의하면서 체론은 현대적 토대를 갖추게 되었고, 퀴르샤크*Kürschák József* 와 슈라이어는 각각 값*valuation* 개념과 부분구조 이론을 발전시켜 체론을 더욱 정교하게 만들었습니다.


③ 선형대수학
 

한편 군론과 환론, 체론이 추상 구조를 세우는 동안, 또 다른 축에서는 **선형대수학**이 발전했습니다. 그 출발점은 연립방정식 풀이였습니다. 이미 고대 중국의 《구장산술》에서 계수 배열을 오늘날의 행렬과 유사한 형태로 기록했을 정도로, 선형 문제는 오래전부터 있었죠. 하지만 19세기에 이르러 아서 케일리*Arthur Cayley* 와 제임스 실베스터*James Joseph Sylvester* 는 행렬을 하나의 독립된 대수적 대상으로 다루기 시작했고, 행렬식, 고유값, 고유벡터 개념을 정립했습니다. 케일리는 특히 행렬을 단순한 계산 도구가 아니라 대수학적 구조로 자리매김시켰습니다.

이 과정에서 선형변환이라는 기하학적 해석이 도입되었고, 벡터공간 위의 변환이 행렬로 표현될 수 있다는 사실이 밝혀졌습니다. 선형대수학은 이렇게 연립방정식의 해법에서 출발해 기하학, 역학, 물리학의 언어로 확장되었습니다. 20세기에는 체 위에서 정의된 벡터공간 개념이 확립되면서, 군론·환론·체론과 자연스럽게 이어졌습니다. 특히 환 위의 모듈 이론, 군의 표현론, 대수기하학의 벡터다발 이론으로 일반화되며 현대 대수학의 기둥 중 하나로 자리 잡았습니다.


④ 노터환


한편 환론은 데데킨드의 아이디얼 덕분에 강력해졌지만, 여전히 복잡한 문제가 있었습니다. 어떤 환에서는 아이디얼이 끝없이 꼬리를 물고 생겨나서 연구 자체가 불가능해지는 경우가 있었던 겁니다. 여기서 에미 뇌터*Amalie Emmy Noether* 가 혁신적인 조건을 제시했습니다. 아이디얼이 무한히 늘어나지 않고, 항상 유한 개의 생성자로 표현될 수 있는 환을 따로 구분하자는 것이었습니다. 이렇게 정의된 환이 바로 **노터 환**입니다.

예를 들어, 정수는 노터 환입니다. 정수의 아이디얼은 전부 “(n)” 꼴(정수 n의 배수 집합)로 나타낼 수 있는데, n이라는 하나의 생성자만 있으면 되기 때문이죠. 다항식 환도 마찬가지로 유한 개의 생성자로 아이디얼을 표현할 수 있어서 노터 환입니다.

노터 환은 덕분에 환론은 실제로 계산 가능한 강력한 도구가 되었고, 추상대수학의 핵심 기초로 자리 잡았습니다. 뇌터의 작업은 수학 내부에 머무르지 않았습니다. 그녀는 대칭성과 보존 법칙을 직접 연결하는 뇌터 정리를 제시해, 현대 물리학에서 에너지 보존, 운동량 보존 같은 법칙도 군론과 대칭성으로 설명할 수 있게 만들었습니다.



Reference.
- 이스라엘 클라이너. (2012). 추상대수학의 역사. 경문사
- 지즈강. (2011). 수학의 역사. 더숲
- 최재경. (2018). 고차방정식 해법의 역사. 고등과학원. URL : https://horizon.kias.re.kr/2053/