BASIC
106
20분 · 실습 2개 · 확인 퀴즈
에이전트를 안전하게 풀어놓기
프롬프트 주입, 권한 최소화, 사람의 확인 단계.
이 강의에서 할 수 있게 되는 것
- 외부 자료 속 지시를 구분한다
- 권한과 확인 단계를 실행기에 배치한다
- 행동의 위험에 따라 허용·차단·확인을 선택한다
목차
- 읽은 문장이 새로운 지시가 될 때
- 프롬프트와 실행기 양쪽에 경계 세우기
- 차단 후에도 안전한 범위에서 작업 이어가기
실습
실습 1 · 공지 속 공격 문장 분류하기
세 문장을 읽고 원래 요청에 필요한 사실인지, 작업을 바꾸려는 지시인지 분류하세요.
실습 2 · 행동 직전의 정책 결정
사용자는 두 잔 주문을 준비하되 제출 전 확인하라고 했습니다. 각 행동에 맞는 정책을 선택하세요.