챗GPT한테 질문을 던지고 답을 받을 때마다 드는 생각이 있었다. 이게 도대체 어떻게 작동하는 거지? 그냥 편하게 쓰면 되는 거 아닌가 싶으면서도, 원리를 모른 채 쓰는 게 좀 찝찝했다. 그러다 만난 책이 이동준 저자의 AI가 쉬워지는 최소한의 수학이다. 수학이라는 단어만 봐도 머리가 아픈 사람이 과연 이 책을 끝까지 읽을 수 있는지, 그리고 읽을 만한 가치가 있는지를 직접 확인해봤다.
이 책이 다른 AI 수학 입문서와 다른 지점
수학 교과서 순서대로 나가지 않고, ‘AI가 실제로 하는 일’을 기준으로 필요한 수학만 꺼내 보여주는 구성이 핵심이다.
보통 AI 관련 수학책이라 하면 선형대수부터 시작해서 미적분, 확률통계 순으로 쭉 나열하는 경우가 많다. 교과서 목차를 그대로 옮겨놓은 듯한 구성. 근데 이 책은 접근이 다르다. 총 7장으로 되어 있는데, 1장은 챗봇, 2장은 예측 모델, 3장은 추천 알고리즘, 이런 식으로 우리가 실제로 매일 접하는 AI 서비스를 앞에 놓고 그 뒤에 숨은 수학을 끌어온다. 이게 왜 중요하냐면, “벡터가 뭔지”를 먼저 배우는 것과 “챗GPT가 어떻게 말을 알아듣는지” 궁금해서 벡터를 만나는 건 체감이 완전히 다르기 때문이다.
저자인 이동준은 이화여자고등학교에서 17년째 수학을 가르치는 현직 교사다. 포항공대 수학과와 서울대 수학교육과를 거쳤고, 2022 개정 교육과정 고등학교 ‘인공지능 수학’ 교과서 집필에도 참여했다. 다만 이런 이력만 보고 딱딱한 학술서를 떠올릴 필요는 없다. 오히려 매일 수학을 싫어하는 학생들 앞에 서는 사람이 쓴 책이라는 게 문체에서 느껴진다.
벡터, 손실함수, 경사하강법 — 이름만 무서운 개념들
AI의 핵심 수학 개념들이 고등학교 수준에서 설명되는데, 그래도 쉽다고만은 할 수 없다. 다만 ‘왜 이게 필요한지’가 먼저 와닿으니까 버틸 수 있다.
책 초반에 나오는 설명이 인상적이었다. AI에게 단어는 이름표가 아니라 주소라는 거다. ‘사과’와 ‘배’는 비슷한 동네에 살고, ‘자동차’는 아주 먼 동네에 산다. 인공지능은 이 좌표 사이의 거리와 각도를 계산해서 단어 간의 관계를 파악한다. 이게 바로 벡터의 역할이다. 갑자기 벡터라고 하면 어렵게 느껴지지만, 이렇게 비유가 먼저 깔리니까 개념이 머릿속에 자리를 잡는다.
아 근데 이건 좀 다른 얘긴데, 인터넷에서 “AI 이해하려면 수학 꼭 해야 하나요?”라는 질문을 보면 대부분 “코딩만 하면 됩니다” 아니면 “수학 필수입니다” 둘 중 하나로 갈린다. 이 책을 읽고 나서 드는 생각은, 수학 없이도 AI를 ‘사용’할 수는 있는데 ‘이해’하려면 결국 수학이 필요하다는 쪽에 더 가깝다는 거다. 경사하강법이 뭔지 모르면, AI가 왜 가끔 엉뚱한 답을 내놓는지 그 이유를 짐작할 수가 없다. 그냥 “AI가 틀렸네” 하고 넘어가게 된다.
수학 포기자가 이 책을 읽으면 어떻게 되나
전부 이해하지 못해도 괜찮다. 중요한 건 AI가 마법이 아니라 계산이라는 감각을 잡는 것이고, 그건 충분히 가능하다.
솔직히 말하면, 3주 전쯤 이 책을 처음 펼쳤을 때 5장 넘어가면서부터 수식이 눈에 안 들어오는 구간이 생겼다. 특히 합성곱 연산이나 역전파 알고리즘 부분은 한 번 읽어서 바로 이해가 되는 수준은 아니었다. 근데 신기한 건, 수식을 100% 따라가지 못해도 그 수식이 왜 거기에 있는지, 어떤 문제를 해결하기 위해 등장한 건지가 납득이 된다는 점이었다. 이게 이 책의 진짜 강점이 아닌가 싶다.
당신이 만약 수학 자체를 좋아하는 사람이라면 이 책은 꽤 재미있을 거다. 반대로 수학이 고통이었던 사람이라면, 이 책이 그 고통을 없애주지는 않는다. 대신 “그래서 그 고통스러운 수학이 지금 이렇게 쓰이고 있었구나”라는 납득은 생긴다. 그 납득이 은근히 크다.
넷플릭스 추천부터 자율주행까지, 의외로 넓은 범위
챗봇, 예측, 추천, 분류, 신경망, 자율주행, 생성형 AI까지 7개 주제를 다루는데, 각각의 뒤에 서로 다른 수학이 연결되어 있다는 걸 보여준다.
넷플릭스가 내 취향을 어떻게 아는지 설명하는 3장이 개인적으로 가장 흥미로웠다. 행렬 분해라는 개념이 나오는데, 사용자와 콘텐츠 사이의 거대한 데이터 표를 쪼개서 숨은 취향 요소를 찾아낸다는 거다. 우리가 “취향”이라고 부르는 모호한 감각이 실은 수치적 경향성이라는 설명이 묘하게 설득력 있었다. 의외로 여기에 쓰이는 수학이 고등학교 수준의 행렬이라는 점도 놀랍고.
7장의 생성형 AI 부분도 눈여겨볼 만하다. 이미지를 만들어내는 디퓨전 모델이 결국 노이즈(잡음)에서 출발해 패턴을 복원하는 통계적 과정이라는 설명은, AI가 ‘창작’한다는 표현이 얼마나 과장된 건지 다시 생각하게 만든다. 사실 창작이라기보다는 확률적으로 가장 그럴듯한 조합을 찾아내는 거에 가깝다. 이런 시각을 갖게 되는 것 자체가 이 책을 읽는 값어치가 아닌가 싶다.
이 책이 맞는 사람, 맞지 않는 사람
AI를 ‘쓰는 사람’에서 ‘이해하는 사람’으로 넘어가고 싶다면 읽어볼 만하다. 다만 수학 공식 자체를 마스터하겠다는 목적이라면 이 책만으로는 부족하다.
여기서 한 가지 분명히 해두고 싶은 게 있다. 이 책은 AI 개발자를 위한 수학 교재가 아니다. 실제로 모델을 구현하거나 코드를 짜는 데 필요한 깊이까지 가지는 않는다. 그보다는 “인공지능이 왜 이렇게 작동하는지를 수학의 눈으로 읽어내는 감각”을 기르는 데 초점이 맞춰져 있다. 저자 본인도 복잡한 수식은 최대한 줄이려 했다고 밝히고 있고, 실제로 그 의도가 글에서 느껴진다.
출간 한 달 만에 2쇄에 들어갔다는 소식을 봤는데, 아마 “AI 시대에 수학이 중요하다”는 말은 많이 들었지만 그걸 어디서부터 어떻게 확인해야 할지 몰랐던 사람들이 많았기 때문이 아닐까. 이 책이 그 시작점으로서는 꽤 괜찮은 선택이라고 본다. 다만 이건 제가 확답을 못 드리겠는데, 중학교 수학 수준에서 완전히 손을 놓은 분이라면 초반부터 벽을 느낄 수도 있다. 고등학교 수학의 기본 개념 — 함수, 그래프, 좌표 정도 — 이 어렴풋이라도 기억나는 분에게 적합하다.
자주 묻는 질문(FAQ) ❓
수학을 전혀 모르는 비전공자도 이 책을 이해할 수 있나요?
고등학교 수학의 기본 개념이 어렴풋이라도 남아 있다면 대부분의 내용을 따라갈 수 있다. 벡터, 함수, 확률 같은 개념을 처음부터 설명해주긴 하지만, 아예 수학적 사고 자체가 낯선 경우에는 중후반부에서 속도가 붙지 않을 수 있다. 그래도 수식을 건너뛰고 맥락만 따라가도 AI의 작동 원리에 대한 큰 그림은 잡힌다.
AI 개발을 하려면 이 책으로 충분한가요?
개발 실무를 위한 수학 교재로는 부족하다. 이 책의 목적은 AI 뒤에 있는 수학적 원리를 ‘이해’하는 데 있지, 실제 구현에 필요한 깊이까지 다루지는 않는다. 개발 쪽으로 가려면 선형대수와 미적분을 별도로 파야 하고, 이 책은 그 전에 왜 그런 공부가 필요한지 감을 잡는 용도로 쓰는 게 맞다.
고등학생도 읽을 수 있는 수준인가요?
저자가 고등학교 교사이고, 고등학교 수학 수준에 맞춰 쓴 책이다. 실제로 저자는 2022 개정 교육과정 ‘인공지능 수학’ 교과서 집필에 참여한 경력이 있어서, 고등학생 눈높이를 잘 안다. 수학에 관심 있는 고등학생이라면 오히려 교과서보다 재미있게 느낄 수 있다.
다른 AI 수학 입문서와 비교하면 어떤 차이가 있나요?
수학 개념 중심이 아니라 AI 서비스 중심으로 구성되어 있다는 게 가장 큰 차이다. 대부분의 AI 수학 책은 선형대수→미적분→확률 순서로 나가는데, 이 책은 챗봇, 추천, 자율주행 같은 실생활 AI를 먼저 꺼내놓고 거기에 필요한 수학을 연결한다. 한국 현직 교사가 쓴 책이라 한국 독자 입장에서 예시가 와닿는다는 점도 있다.
결국 수학은 AI의 언어였다
어딘가에서 들은 이야기가 하나 있다. 만약 외계인과 인류가 만나게 된다면 소통 수단은 결국 수학일 거라는 얘기. 우주 물리 법칙을 활용해서 지구까지 왔다면 그들도 수학을 알 테니까. AI가 쉬워지는 최소한의 수학을 읽고 나니, 그 말이 조금 다르게 들린다. 외계인뿐 아니라 인공지능과 소통하는 데도 수학이 공통어가 되는 시대가 이미 와 있다는 느낌이다.
이 책 한 권으로 AI를 완벽하게 이해할 수 있다고 말하면 그건 과장이다. 하지만 AI를 마법이 아닌 계산으로 바라보는 시선, 그게 한 번 생기면 이후에 어떤 AI 관련 정보를 접해도 받아들이는 깊이가 달라진다. 적어도 그 시선의 전환만큼은 충분히 해주는 책이었다.