BASIC
125
20분 · 실습 2개 · 확인 퀴즈
프롬프트를 친 순간부터 답이 나오기까지
입력이 토큰이 되고, 모델이 한 토큰씩 고르고, 화면에 흘러나오기까지의 전 과정을 따라간다.
이 강의에서 할 수 있게 되는 것
- 앱이 보내는 요청의 구성(system·messages·tools·max_tokens)을 읽는다
- 토큰화부터 한 토큰씩 생성하고 멈추기까지의 흐름을 설명한다
- 스트리밍·도구 호출·프롬프트 캐싱이 속도와 비용에 주는 영향을 안다
목차
- 전송 버튼을 누르면 앱이 먼저 하는 일
- 모델은 한 번에 한 토큰씩 고른다
- 멈추고, 흘려 보내고, 도구를 오가기
실습
실습 1 · stop_reason 읽기
세 응답이 왜 멈췄는지 stop_reason 값을 고르세요.
실습 2 · 사내 도우미의 흐름 고치기
사내 도우미 앱의 문제 세 가지에 알맞은 처리를 고르세요.