머신러닝 기초 - 수학 몰라도 이해하는 핵심 개념

머신러닝의 핵심 개념들을 수학 없이 쉽게 이해해봅시다.

모델이 "학습한다"는 뜻

컴퓨터 모델이 데이터를 보고 "학습한다"고 할 때, 실제로는 모델 내부의 수학적 규칙을 조정해가는 과정을 의미합니다. 처음 모델은 문제를 잘 풀지 못하지만, 훈련 데이터(배우는 용도의 데이터)를 보면서 조금씩 규칙(모델 파라미터)을 업데이트하지요.

예시: 비 예측 모델

비 오는지를 예측하는 AI를 만든다고 해봅시다. 입력으로 과거 습도 데이터를 주고 출력으로 강수 여부(비옴/안 옴)를 맞히는 모델을 생각해볼게요.

사람이 이 관계를 수식으로 만든다면, 시험 삼아 1.5 * 습도 + 0.1 > 1이면 비 온다 같은 공식을 세워볼 수 있습니다. 여기서 1.5와 0.1이 바로 모델의 내부 파라미터(가중치, 바이어스)입니다.

물론 처음엔 이 숫자가 엉터리여서 예측 정확도가 낮겠지요. 학습이란 결국 이 숫자들을 데이터를 보며 조금씩 수정해서 예측을 개선하는 과정입니다.

컴퓨터는 주어진 데이터에서 예측 결과와 정답의 차이(오차)를 계산하고, 그 차이가 줄어드는 방향으로 내부 숫자를 조정합니다. 그렇게 여러 번 반복 학습한 끝에 모델이 데이터의 패턴을 충분히 익히면, 새로운 입력에 대해서도 예측을 잘하게 되는 것입니다.

요컨대, 모델이 "스스로 학습한다"는 것은 데이터 속 규칙을 찾아내어 모델의 수식을 최적화한다는 뜻입니다. 인간으로 치면 문제를 많이 풀어보면서 틀린 이유를 피드백 받아 자신의 풀이 방식을 개선해 나가는 과정과 비슷합니다.

---

입력 X와 출력 Y

머신러닝의 기본 용어로 입력(Input)과 출력(Output)이 있습니다.

• 입력: 모델에 넣어주는 문제 정보
• 출력: 모델이 내놓는 예측 결과 앞서 예를 든 강수예측 모델에서는 "습도"가 입력 X이고 "비가 오는지 여부"가 출력 Y가 되겠지요.

특징(Feature)과 타깃(Target)

• 입력을 흔히 특징(feature)이라고도 부르는데, 이는 문제를 풀기 위해 고려해야 할 중요한 요소들을 뜻합니다.
• 출력은 타깃(target) 또는 레이블(label)이라고도 부르며, 모델이 맞춰야 하는 정답 값입니다. 지도학습에서는 이 출력 값을 학습 때 같이 제공하여 모델이 입력→출력 간 관계를 배우도록 하지요.

예를 들어 사진 (입력)을 주고 "강아지" 또는 "고양이" (출력 레이블)를 알려주며 학습시키면, 나중에 새로운 사진에 대해서도 그 동물이 강아지인지 고양이인지 예측하게 되는 식입니다.

정리하면, 입력 X는 모델이 답을 내기 위해 받아들이는 정보, 출력 Y는 모델이 최종적으로 예측하는 값이라고 이해할 수 있습니다.

---

과적합 vs 일반화

머신러닝 모델을 평가할 때 훈련 데이터에만 너무 집착하면 안 됩니다. 훈련 때 성능이 아무리 좋아도, 처음 보는 데이터에 엉뚱한 답을 내면 소용이 없지요.

일반화(Generalization)

모델이 새로운 데이터에 대해서도 잘 예측하는 능력을 말합니다.

과적합(Overfitting)

모델이 학습 데이터에 지나치게 맞춰져서 새로운 데이터에 대한 성능이 떨어지는 현상입니다.

쉽게 말해, 연습문제만 완벽하게 외우고 진짜 시험은 망치는 상태가 과적합입니다.

예시: 수학 시험 대비를 하는데 기출문제 답을 달달 외웠더니 실제 시험에 응용문제가 나오면 못 푸는 겁니다. 학습 데이터에 있던 잡음이나 예외까지 모두 기억해버려서 일반적인 패턴을 놓치게 되면 과적합이 발생합니다.

이런 모델은 훈련 데이터에 대한 정확도는 높아도 새 문제엔 약해 쓸모가 없습니다. 따라서 데이터를 더 다양하게 수집하거나 모델 복잡도를 줄이는 등의 대응으로 일반화 성능을 높이는 것이 중요합니다.

과소적합(Underfitting)

반대로 너무 적게 배우면 과소적합이라 하여 훈련 데이터조차 제대로 못 맞추는 경우도 있습니다.

결국 머신러닝의 목표는 훈련 세트뿐 아니라 테스트 세트(처음 보는 데이터)에서도 좋은 성능을 내는 균형 잡힌 모델을 만드는 것입니다. 일반화를 잘 시키면 새로운 상황에서도 AI가 사람처럼 유연하게 대응할 수 있게 되겠지요.

---

정확도, 손실함수, 학습률이란?

모델을 훈련하고 평가하는 과정에서 자주 등장하는 개념 세 가지를 알아보겠습니다.

정확도(Accuracy)

전체 데이터 중 정답을 맞힌 비율입니다. 분류 문제의 경우:

정확도 = (올바르게 분류한 샘플 수) / (전체 샘플 수)

예시: 100개의 이미지 중 90개를 올바르게 고양이 vs 강아지로 구분했다면 정확도는 90%입니다.

직관적이라 많이 쓰이는 지표지만, 데이터 불균형이 심한 경우 등에서는 한계가 있어 정밀도(Precision), 재현율(Recall) 등의 지표도 함께 봅니다.

손실 함수(Loss function)

모델의 예측값과 실제 정답 간의 차이를 수치로 계산해주는 함수입니다. 일종의 오차(score)라고 생각하면 됩니다.

• 손실값이 클수록 예측이 많이 틀렸다는 의미
• 0에 가까울수록 잘 맞춘 것 모델 학습의 목표는 이 손실 함수를 최대한 줄이는 것입니다.

예컨대 회귀 문제(숫자 예측)에서는 평균제곱오차(MSE), 분류 문제에서는 교차엔트로피 손실 등을 많이 쓰는데, 이런 함수들을 통해 모델이 현재 얼마나 오차를 내고 있는지 계산합니다.

그러면 모델은 손실을 감소시키는 방향으로 파라미터(가중치)를 조정하게 됩니다. 요약하면, 손실 함수는 모델의 성능을 하나의 숫자로 나타내주는 척도이며, 학습 과정에서는 이 값을 최소화하는 쪽으로 나아갑니다.

학습률(Learning rate)

모델이 학습할 때 얼마나 큰 걸음으로 파라미터를 조정할지를 결정하는 값입니다. 쉽게 말해 학습 속도라고 볼 수 있어요.

• 학습률이 크면: 한 번에 파라미터를 크게 변경하니 빠르게 손실을 줄일 수도 있지만, 너무 과하게 조정돼 최적점을 지나치거나 불안정하게 진동할 위험이 있습니다.
• 학습률이 너무 작으면: 한 걸음 한 걸음 아주 조금씩 움직이므로 안전하지만 학습에 시간이 매우 오래 걸리거나 어느 수준에서 정체될 수 있습니다. 그래서 적절한 학습률을 찾는 건 중요합니다. 초기에는 크게 시작했다가 점점 줄여나가는 스케줄을 사용하기도 하고, 자동으로 학습률을 조절해주는 기법도 많습니다.

비유하자면 언덕 아래로 굴러가는 공을 멈추려 할 때, 한 번에 확 잡아채면 (학습률 높음) 위치를 지나칠 수 있고, 살살 잡으면 (학습률 낮음) 멈추는데 시간이 걸리는 것과 비슷합니다.

결국 학습률은 모델 학습의 속도와 안정성을 좌우하는 핵심 하이퍼파라미터입니다.

---

AI가 틀리는 이유

"인공지능이 사람보다 똑똑하다는데, 왜 가끔 엉뚱한 실수를 할까?" 초보자분들이 가질 수 있는 자연스러운 궁금증입니다.

1. 데이터 편향과 품질 문제

AI는 훈련 데이터에 의존해 배우기 때문에, 데이터에 불완전하거나 편향된 패턴이 있으면 그대로 학습합니다. 앞서 말했듯이 부정확하거나 왜곡된 데이터를 학습하면 슬어만 결과 이 숙제를 데이터를 보며 조금씩 수정해서 예측을 개선하는 과정입니다.

컴퓨터는 주어진 데이터에서 예측 결과와 정답의 차이(오차)를 계산하고, 그 차이가 줄어드는 방향으로 내부 숫자를 조정합니다. 그렇게 여러 번 반복 학습한 끝에 모델이 데이터의 패턴을 충분히 익히면, 새로운 입력에 대해서도 예측을 잘하게 되는 것입니다.

요컨대, 모델이 "스스로 학습한다"는 것은 데이터 속 규칙을 찾아내어 모델의 수식을 최적화한다는 뜻입니다. 인간으로 치면 문제를 많이 풀어보면서 틀린 이유를 피드백 받아 자신의 풀이 방식을 개선해 나가는 과정과 비슷합니다.

1. 학습 범위를 벗어난 새로운 상황

아무리 훌륭한 모델도 본 적 없는 패턴에는 약할 수밖에 없습니다. 사람도 배운 적 없는 문제는 틀리듯이, AI도 훈련 데이터와 너무 동떨어진 입력에는 엉뚱한 답을 내놓곤 합니다.

예시: 고양이 사진만 보고 자란 모델에 호랑이 사진을 보여주면 고양이로 착각할 수 있죠.

1. 확률적 한계

많은 최신 AI 모델(특히 딥러닝)은 결정론적으로 "100% 정답"을 출력하기보다는 확률적으로 가장 그럴듯한 답을 내놓습니다. 그렇다 보니 가끔 최선이 아닌 답을 선택할 수 있습니다.

1. 모델 자체의 한계나 오류

아직 완벽한 AI는 없으니까요.

중요한 건, AI의 실수를 줄이려면 양질의 데이터 확보, 훈련 과정의 편향 제거, 모델 구조 개선 등이 함께 이루어져야 한다는 점입니다. 인간이 계속 학습하고 실수를 통해 발전하듯, AI도 실패를 통해 더 나은 모델로 업데이트되는 과정에 있다고 볼 수 있습니다.