Alucinaciones de LLM en entornos empresariales: perfiles de riesgo por caso de uso

La pregunta que la mayoría de los equipos formulan antes de desplegar un modelo de lenguaje es alguna variante de: «¿Esta IA alucina?». La suposición implícita es que si la respuesta es «poco», el despliegue es razonablemente seguro.

Esta es la pregunta equivocada. No porque la tasa de alucinaciones no importe — sí importa — sino porque dice mucho menos de lo que los equipos asumen. Dos implementaciones con tasas de alucinación idénticas pueden presentar riesgos empresariales radicalmente diferentes según lo que ocurra cuando se cuela un error.

La pregunta más útil es: ¿qué le sucede a nuestra operación cuando ocurre?

Este artículo desarrolla un marco para responder esa pregunta en ocho casos de uso empresariales habituales. El objetivo no es evaluar herramientas o modelos de IA. Es ofrecer a los profesionales una forma de evaluar el riesgo empresarial de una decisión de implementación antes de tomarla.

Por qué la tasa de alucinaciones es la métrica equivocada

La tasa de alucinaciones — la frecuencia con la que un modelo de lenguaje produce resultados incorrectos, no respaldados o fabricados — varía significativamente según el modelo, la tarea, el dominio y el diseño del prompt. El benchmark TruthfulQA (Lin et al., 2022) muestra variación significativa entre modelos y tareas. El mismo modelo puede producir tasas casi nulas en recuperación de información estructurada y tasas considerablemente más altas en generación abierta.

La tasa es una propiedad de la combinación modelo-tarea. El riesgo es una propiedad del contexto de implementación. La Ficha Técnica del Sistema GPT-4 (OpenAI, 2023) lo reconoce explícitamente: la precisión del modelo en benchmarks puede no generalizarse a tareas del mundo real.

Marco de evaluación del riesgo empresarial

Tres dimensiones determinan el riesgo empresarial real de una alucinación en un despliegue concreto:

Dimensión 1: Detectabilidad del error

¿Qué probabilidad hay de que un error sea identificado antes de causar daño? Alta detectabilidad: un experto en el dominio revisa el resultado antes de actuar. Baja detectabilidad: los resultados se ejecutan sin revisión humana; el sistema produce texto de apariencia autoritativa en un dominio donde el usuario carece de base para evaluarlo.

Dimensión 2: Reversibilidad del error

Si un error no se detecta, ¿cuánto cuesta corregirlo? Alta reversibilidad: el error afecta a una sola sesión; corregir la acción posterior es sencillo. Baja reversibilidad: el error influyó en una decisión significativa; partes externas recibieron y actuaron sobre la salida errónea; el error creó un registro — un documento, un compromiso, un expediente — que requiere corrección formal.

Dimensión 3: Alcance de exposición del error

¿Cuántas personas o procesos puede alcanzar un único error antes de ser detectado? Alcance estrecho: un usuario, una sesión, una decisión. Alcance amplio: la salida de la IA se distribuye, publica o consume en procesos automatizados — una sola alucinación puede llegar a muchas personas o propagarse por múltiples sistemas dependientes antes de que nadie lo note.

Estas tres dimensiones interactúan. Alta detectabilidad compensa baja reversibilidad. Alcance estrecho compensa baja detectabilidad. Las implementaciones de mayor riesgo son aquellas donde las tres son desfavorables simultáneamente.

Ocho perfiles de riesgo por caso de uso

Los siguientes perfiles representan niveles de riesgo empresarial derivados de aplicar el marco anterior a ocho tipos comunes de implementación de IA. Son evaluaciones relativas basadas en las características típicas de cada contexto, no mediciones del comportamiento de un modelo específico.

Perfil 1: Generación de borradores con revisión humana — BAJO

Un humano lee cada resultado antes de publicarlo o actuar. Los errores detectados en revisión tienen consecuencias nulas. El principal factor de riesgo es la fatiga del revisor: a altos volúmenes, la revisión genuina se convierte en aprobación superficial.

Perfil 2: Recuperación interna de conocimiento — BAJO a MEDIO

Los empleados con suficiente contexto pueden reconocer respuestas obviamente incorrectas, pero las respuestas plausibles pero incorrectas en dominios complejos pueden pasar sin ser detectadas. El principal factor de riesgo es la respuesta incorrecta pero convincente — el sistema no produce disparates, produce una respuesta confiada que parece correcta a ojos de un no experto.

Perfil 3: Chatbot de atención al cliente — MEDIO

La gran mayoría de las interacciones con clientes no son revisadas por un humano. Solo las escaladas salen a la luz. El principal riesgo de alcance: un patrón de error sistemático en el chatbot puede llegar a todos los clientes con una consulta similar antes de que alguien lo identifique.

Perfil 4: Extracción de datos estructurados — BAJO a MEDIO (dependiente de la implementación)

El nivel de riesgo depende casi por completo de la arquitectura de validación aguas abajo. El principal factor de riesgo son los errores sistemáticos, no los aleatorios: si el modelo lee mal consistentemente un tipo de campo o documento, el error aparece en todos los documentos de ese tipo.

Perfil 5: Soporte a decisiones y recomendaciones — ALTO

Este es el caso de uso más frecuentemente subestimado. Las recomendaciones son opiniones, no hechos — difíciles de verificar en el momento. El principal factor de riesgo es el sesgo de autoridad: las recomendaciones generadas por IA parecen estructuradas, razonadas y confiadas. Los usuarios que carecen de conocimiento experto pueden actuar sin verificación independiente.

Perfil 6: Generación de código para sistemas en producción — MEDIO a ALTO

El código generado presenta una imagen de detectabilidad engañosa. El código sintácticamente incorrecto falla inmediatamente. El código semánticamente incorrecto — que se ejecuta pero se comporta incorrectamente en condiciones específicas — puede superar revisiones y pruebas. Las vulnerabilidades de seguridad son especialmente difíciles de detectar.

Perfil 7: Generación de documentos legales o regulatorios — MUY ALTO

El lenguaje legal es especializado; los errores en una jurisdicción desconocida para el revisor pueden no ser identificados. Los documentos firmados son vinculantes. Los errores en presentaciones regulatorias requieren procesos de corrección formales. Un error legal no se «corrige» — solo puede gestionarse después de ocurrir.

Perfil 8: Cálculo y análisis financiero — MUY ALTO

El patrón de fallo específico son los errores compuestos. Los modelos financieros generados por IA contienen múltiples cálculos dependientes. Un error en una suposición inicial se propaga por todos los cálculos posteriores, creando divergencias compuestas difíciles de rastrear sin rehacer el análisis desde el principio.

Qué determina el nivel de riesgo efectivo

Dos decisiones de implementación gobiernan el nivel de riesgo efectivo de cualquier caso de uso de IA, independientemente del modelo. La primera: si existe un paso de revisión humana antes de cualquier acción consecuente — es la variable con mayor impacto individual. La segunda: si existe un proceso de respuesta definido para cuando se descubre un error después de que ha producido un efecto. Los equipos que pueden responder ambas preguntas antes del despliegue han hecho el trabajo de gestión de riesgos que importa.

Limitaciones

Este marco se centra en la gravedad de las consecuencias, no en la tasa de alucinaciones. Los profesionales necesitan ambas: un contexto de alta consecuencia con una tasa de alucinación muy baja puede presentar un riesgo práctico menor que un contexto de baja consecuencia con una tasa alta. Los sistemas de IA multimodal no están cubiertos. Los perfiles describen contextos típicos — las implementaciones atípicas no coincidirán con el nivel de riesgo de su categoría.