학습과 추론: ChatGPT는 나와 대화하면서 배울까

오래 가는 진짜 AI 기본기 알아야 보인다 training vs inference 학습과 추론 모델이 배우는 시간과 써먹는 시간 Q ChatGPT는 나와 대화하면서 배울까요? 01 / 07

학습과 추론 · training & inference 이런 상황이라면 공부하는 시간과 시험 보는 시간 한 학생에게 두 가지 시간이 있습니다 공부할 때 채점하고, 틀린 만큼 고칩니다 학습 시험 볼 때 처음 보는 문제에 답만 씁니다 추론 한 줄로 training 은 데이터로 모델을 고치는 일, inference 는 다 배운 모델로 답을 내는 일입니다 참고: Google ML 입문 지도학습 · Hugging Face LLM Course 1장 오래 가는 진짜 AI 기본기 02 / 07

학습과 추론 · training & inference AI로 옮기면 채점은 손실로, 고치기는 가중치로 1 채점 = 손실 계산 예측이 정답에서 빗나간 만큼이 loss 입니다 2 오답 고치기 = 가중치 수정 손실이 줄도록 가중치를 조금씩 옮기며 반복합니다 3 시험 = 추론 가중치를 고정한 채 새 입력에 답만 냅니다 1회차 303.7 3회차 103.2 6회차 42.2 반복 회차별 손실(MSE). 고칠수록 줄어듭니다 참고: Google ML 크래시 코스 선형 회귀 · 경사 하강법 오래 가는 진짜 AI 기본기 03 / 07

학습과 추론 · training & inference 예를 볼까요 차 무게로 연비 맞히기 학습 추론 주는 것 차 7대의 무게와 연비 새 차 무게 4,000파운드 하는 일 b와 w 찾기 식에 넣어 계산 얻는 것 y' = 34 − 4.6x 연비 15.6 mpg Google ML 크래시 코스 예제. x는 천 파운드 단위 무게 학습이 끝나면 모델은 숫자 두 개 , 추론은 그 숫자로 하는 계산입니다 참고: Google ML 크래시 코스 선형 회귀 오래 가는 진짜 AI 기본기 04 / 07

학습과 추론 · training & inference 실제로 보이는 곳 지식 기준일과 학습 설정 지식 기준일 모델 문서에 학습 데이터 기준일이 적혀 있어요. 그 뒤의 일은 가중치에 없습니다 데이터 제어 ChatGPT의 '모두를 위한 모델 개선'. 끄면 새 대화가 학습에 쓰이지 않아요 학습 출시 내 대화 다음 학습 내 대화가 쓰이더라도 반영은 다음 학습 때입니다 참고: Anthropic 모델 문서 · OpenAI 도움말 데이터 제어 · Karpathy 2023 오래 가는 진짜 AI 기본기 05 / 07

학습과 추론 · training & inference 흔한 오해 학습과 추론이 뒤섞이는 두 곳 ✕ ChatGPT는 대화하면서 배워요 ○ 대화 중엔 가중치가 그대로예요. 앞에서 한 말은 함께 읽어서 알아요 ✕ 추론 모델의 추론도 같은 뜻이에요 ○ 그건 reasoning 이에요. 번역만 같아요 참고: Karpathy 2025 (Deep Dive into LLMs) · 바이라인네트워크 2025 오래 가는 진짜 AI 기본기 06 / 07

학습과 추론 · training & inference 정리 오늘 하나만 가져간다면 1 training 은 고치는 일, inference 는 쓰는 일 2 대화하는 동안 가중치는 그대로 3 내 대화는 다음 학습 재료가 될 수 있어요 모델은 바뀌어도 이 질문은 남습니다. 지금 배우는 중인가, 쓰는 중인가 제대로 아는 게 하나 늘었어요 개념 하나를 제대로 알면 다음이 쉬워집니다 오래 가는 진짜 AI 기본기 07 / 07