Contenido revisado:
Inyección de prompt: Una inyección de prompt es una entrada diseñada para desviar a un sistema de IA de sus instrucciones previstas. Puede ser directa, cuando el usuario introduce la orden, o indirecta, cuando aparece dentro de una web, documento, correo u otra fuente que el sistema procesa.
Cómo funciona
Los modelos reciben instrucciones y datos como secuencias de entrada y no siempre separan de forma fiable la autoridad de cada fragmento. Un texto recuperado puede intentar redefinir la tarea, extraer información o provocar una acción. RAG y fine-tuning no eliminan por sí solos este riesgo.
Ejemplo práctico
Un agente resume una página que contiene una instrucción oculta para enviar datos a un tercero. La defensa no consiste solo en pedir al modelo que la ignore: la aplicación limita herramientas, destinos, datos accesibles y acciones permitidas.
Cómo evaluarlo con rigor
Trate contenido externo como no confiable, reduzca privilegios, separe datos de instrucciones, valide salidas, exija confirmación humana y pruebe ataques directos e indirectos.
Lista de comprobación
- Defina el resultado esperado antes de probar.
- Mida el sistema completo y no solo una respuesta aislada.
- Documente modelo, versión, datos, controles y limitaciones.
Referencia primaria: OWASP GenAI — LLM01 Prompt Injection
Noticias y análisis relacionados
Preguntas frecuentes
¿Cuál es la definición breve de inyección de prompt?
Una inyección de prompt es una entrada diseñada para desviar a un sistema de IA de sus instrucciones previstas. Puede ser directa, cuando el usuario introduce la orden, o indirecta, cuando aparece dentro de una web, documento, correo u otra fuente que el sistema procesa.
¿Cómo se debe evaluar?
Trate contenido externo como no confiable, reduzca privilegios, separe datos de instrucciones, valide salidas, exija confirmación humana y pruebe ataques directos e indirectos.
