Ingeniería de instrucciones
# Ingeniería de instrucciones

La ingeniería de instrucciones (prompt engineering en inglés) es un concepto en inteligencia artificial (IA), en particular del procesamiento del lenguaje natural (PNL). En la ingeniería de instrucciones, la descripción de la tarea que se supone que debe realizar la IA está incrustada en la entrada, por ejemplo, como una pregunta, en lugar de que se proporcione explícitamente. La ingeniería rápida generalmente funciona convirtiendo una o más tareas en un conjunto de datos basado en mensajes y entrenando un modelo de lenguaje con lo que se ha llamado "aprendizaje basado en mensajes" o simplemente "aprendizaje rápido".

## Historia

Los modelos de lenguaje GPT-2 y GPT-3 fueron pasos muy importantes en la ingeniería de instrucciones. En 2021, multitarea la ingeniería rápida que utiliza múltiples conjuntos de datos de NLP mostró un buen rendimiento en nuevas tareas. En un método llamado indicaciones de cadena de pensamiento (chain-of-thought - CoT), se le dieron al modelo de lenguaje algunos ejemplos de tareas los cuales mejoraron su capacidad de razonar. La amplia accesibilidad de estas herramientas fue impulsada por la publicación de varios cuadernos de código abierto y proyectos dirigidos por la comunidad para la síntesis de imágenes.

Una descripción para el manejo de instrucciones o prompts informó que más de 2000 avisos públicos para alrededor de 170 conjuntos de datos estaban disponibles en febrero de 2022.

## Técnicas

### Ajuste de prefijo (Prefix-tuning)

La ingeniería de instrucciones puede funcionar a partir de un modelo de lenguaje grande (LLM), que está "congelado" (en el sentido que está preentrenado), donde solo se aprende la representación del aviso (en otras palabras, se optimiza), utilizando métodos como por ejemplo "prefix-tuning" o "prompt tuning".

### Cadena de pensamiento (Chain-of-thought)

Las indicaciones de cadena de pensamiento (CoT) mejoran la capacidad de razonamiento de los LLM al incitarlos a generar una serie de pasos intermedios que conducen a la respuesta final de un problema de varios pasos. La técnica, por primera vez, fue propuesta por los investigadores de Google en 2022.

