← Todos los cursos106 · Guía de estudio

Dejar trabajar a los agentes con seguridad

Diseño de agentesTrabajar con IA

Qué podrás hacer

  • Reconoce inyecciones de instrucciones en contenido externo, limita los permisos y pide confirmación humana antes de acciones importantes.

Concepto clave

  • El modelo pide una acción y el ejecutor la valida y realiza. Observa el resultado antes de elegir la siguiente. Éxito, error y límite de acciones son estados distintos.

Práctica 1 · Una tarea pequeña

  • Dibuja un agente para un presupuesto ficticio: consultar un precio de 5.000 KRW y calcular dos unidades. Define entradas, salidas y un máximo de dos acciones. No conectes pedidos ni pagos reales.

Práctica 2 · Fallos y verificación

  • Haz que la consulta devuelva NOT_FOUND y después limita las acciones a una. Escribe el estado esperado y añade aprobación humana antes de enviar, comprar o borrar de verdad.

Revisa tu trabajo

  • Comprueba contrato, permisos mínimos, resultados observados y evidencia final. La declaración del agente no equivale a verificación.

Practica con datos sintéticos o anonimizados. Una persona debe revisar antes de enviar, pagar o borrar de verdad.

Estos ejercicios no otorgan finalización, XP ni insignias. Debes cumplir los criterios de los laboratorios y el cuestionario de la lección completa.

La lección completa requiere sesión y acceso al curso.

Lección completa en coreano →
106 Dejar trabajar a los agentes con seguridad · Guía de estudio · AIpiens Academy