ML,DL,LangChain/01_MathForAi

순전파와 역전파

  • -
순전파와 역전파

순전파와 역전파 🧠

신경망이 학습하는 원리를 시각적으로 이해해보세요!

📚 기본 개념

➡️ 순전파 (Forward Propagation)

입력 데이터가 신경망을 통해 출력까지 흐르는 과정이에요. 입력값에서 시작해서 가중치를 곱하고 더하면서 점점 앞으로 나아가요.

목표: 예측값을 만드는 것

⬅️ 역전파 (Backpropagation)

예측이 얼마나 틀렸는지 계산한 후, 그 오류를 역으로 거슬러 올라가며 가중치를 조정해요. 뒤에서부터 앞으로 흐르는 과정이에요.

목표: 가중치를 개선하는 것

➡️ 순전파 (Forward Pass)
진행도: 0%
1️⃣ 입력층 (Input Layer)
데이터가 신경망에 들어와요. 예를 들어 사진이 들어온다면, 픽셀값들이 입력이 돼요.
2️⃣ 가중치 적용 (Weight Multiplication)
입력값에 가중치(w)를 곱해요. 가중치는 "이 정보가 얼마나 중요한가"를 나타내는 값이에요.
3️⃣ 편향 더하기 (Add Bias)
편향(b)을 더해요. 편향은 신경망이 학습할 수 있는 기본 값이에요.
4️⃣ 활성화 함수 (Activation Function)
결과값에 함수를 적용해요. 이걸 통해 신경망이 복잡한 패턴을 인식할 수 있게 돼요.
📝 순전파 예시
고양이 사진을 분류한다고 해봐요:
입력(픽셀값) → ×가중치 → +편향 → 활성화함수 → "고양이일 확률: 92%"
이렇게 앞으로 흐르면서 최종 예측값이 나와요!

➡️ 순전파의 특징

  • 입력 → 출력
  • 예측값 생성
  • 앞으로 진행
  • 한 번에 끝남
  • 학습 X

💡 쉬운 비유로 이해하기

🚗 자동차 네비게이션을 생각해봐요!

순전파: 현재 위치(입력)에서 시작해서 목적지까지 가는 길(가중치)을 따라가며 도착 예상 시간을 알려주는 것

역전파: 실제로 도착했을 때, 예상 시간과 실제 시간을 비교해서 "어디서 교통이 막혔네" "다음번엔 다른 길이 나을 것 같은데" 하면서 경로를 개선하는 것

신경망도 이런 식으로 반복해서 학습해서 점점 더 정확한 예측을 하게 돼요! 🎯

🎯 최종 정리

순전파는 "예측하는 과정" → 입력값이 뉴런마다 단계별로 (×가중치 → +편향 → 활성화) 계산되면서 최종 출력까지 나아가요

역전파는 "배우는 과정" → 예측 오류를 역으로 계산하면서 각 가중치를 개선해서 다음 예측을 더 정확하게 만들어요

이 두 과정이 반복되면서 신경망이 점점 똑똑해져요! 🧠✨

'ML,DL,LangChain > 01_MathForAi' 카테고리의 다른 글

Tokenizer 학습 과정  (0) 2025.10.15
MLP  (0) 2025.10.15
혼동행렬분석  (0) 2025.10.13
경사하강법 시뮬레이션  (0) 2025.10.12
MathForAi  (0) 2025.10.12
Contents

포스팅 주소를 복사했습니다

이 글이 도움이 되었다면 공감 부탁드립니다.