세연이 공부방수학 과목 ▾

개념지도 / 대학 맛보기 / 미적분학

그래디언트와 경사하강 → AI 학습

the gradient and gradient descent 대학 앞으로

가장 가파른 방향 벡터. 반대로 조금씩 내려가면 골짜기(최소)에 도달

한 문장 직관 — 이것만 남으면 성공

그래디언트는 "가장 가파르게 올라가는 방향"을 가리키는 화살표다. 반대로 가면 가장 빨리 내려간다 — 이것이 AI가 학습하는 방법이다.

기울기 반대로 내려가기 — AI 학습★ 보폭을 크게 하면 튕겨나간다. AI 학습률의 정체.
6번 이동 후 x = 1.2069 · 기울기 = 1.2069기울기가 0에 가까워질수록 바닥에 도착신경망 학습이 정확히 이것이다

기울기를 재고, 그 반대 방향으로 조금 이동. 이걸 반복하면 바닥에 도착한다.

왜 중요한가

딥러닝 학습이 정확히 이것: 오차 지형에서 내려가기

예시

안개 낀 산에서 발밑 기울기만 보고 내려가기

백지에 해볼 것 A4 한 장

등고선 지도 위에 점 찍고 '가장 가파른 내리막'으로 화살표 5번 → 골짜기 도착. 보폭(학습률) 너무 크면 튕김

준비물 · 등고선 그림 / 모눈종이

핵심 식

각 방향 기울기를 모은 벡터
경사하강법 — 기울기 반대로 조금씩 이동

흔한 오개념 — 여기서 막힌다

✗ AI는 사람이 규칙을 다 짜 넣은 것이다.

왜 이렇게 생각하나
프로그래밍 경험 때문.

어떻게 깨뜨리나
AI는 "틀린 정도(손실)"를 함수로 정의하고, 그 함수의 그래디언트를 따라 내려가며 스스로 파라미터를 고친다. 중2 기울기 → 고2 미분 → 이것이다.

백지 훈련 단계 — 순서대로 시키면 됨

  1. 그릇 모양 지형 f(x,y)=x²+y² 의 등고선을 그린다.
  2. 한 점에서 그래디언트 화살표를 그린다(원점 반대 방향).
  3. 반대로 조금씩 이동하며 원점에 가까워지는 궤적을 그린다.
  4. 이게 AI 학습이라고 말해준다.

확인 질문 — 답하면 통과

어디에 쓰이나

  • 딥러닝 학습
  • 로지스틱 회귀
  • 추천 시스템

다음으로 어떻게 이어지는가

아빠 회사 이야기 — 세연이가 중2에서 배운 기울기가 여기까지 온다.