Las llamadas “alucinaciones” de la inteligencia artificial generativa se han convertido en uno de los principales focos de preocupación para empresas, reguladores e instituciones financieras. Casos recientes en tribunales y advertencias públicas de grandes bancos de inversión evidencian que el uso acelerado de GenAI, sin controles adecuados, introduce riesgos operativos, financieros y de gobernanza.

Michael Barr, exvicepresidente de supervisión de la Reserva Federal de Estados Unidos, ha advertido que la presión competitiva por adoptar GenAI puede empujar a las organizaciones hacia implementaciones apresuradas, incrementando los riesgos asociados a la alineación, la gobernanza y la toma de decisiones automatizada. Este contexto refuerza la necesidad de enfoques más responsables para llevar la GenAI a entornos productivos.

Un problema estructural, no anecdótico

Las alucinaciones no son casos aislados. Estudios de la Universidad de Stanford muestran que herramientas de GenAI de propósito general pueden presentar tasas de error de hasta 82% en aplicaciones legales. Incluso los modelos diseñados específicamente para ese dominio reducen el problema, pero no lo eliminan: alrededor de 17% de las respuestas siguen siendo incorrectas o inventadas.

El riesgo se amplifica cuando los usuarios confían ciegamente en los resultados generados. En muchos casos, las respuestas se consumen sin validación humana, lo que puede llevar a decisiones equivocadas con consecuencias reales para los negocios.

¿Por qué ocurren las alucinaciones?

Las alucinaciones de la GenAI están estrechamente ligadas al diseño y entrenamiento de los modelos de lenguaje de gran tamaño (LLM). Entre los factores principales se encuentran:

• Datos de preentrenamiento insuficientes o de baja calidad para ciertos temas.

• Cobertura limitada de conceptos clave, lo que obliga al modelo a inferir con base en “ruido” estadístico.

• Falta de mecanismos internos que permitan al modelo reconocer cuándo no tiene información suficiente para responder.

• Uso inadecuado de técnicas como la generación aumentada por recuperación (RAG), que puede distorsionar las relaciones aprendidas durante el preentrenamiento.

El resultado es un sistema que produce respuestas plausibles en apariencia, pero incorrectas en el fondo, y cuya falta de interpretabilidad dificulta la detección del error.

La importancia del enfoque y el control

Reducir las alucinaciones no pasa únicamente por “corregir” las respuestas después de generadas. La estrategia más efectiva consiste en prevenirlas desde el origen, controlando los datos y el alcance del modelo. Por ello, cada vez más organizaciones exploran el desarrollo de modelos generativos propios, enfocados en dominios y tareas específicas.

Este enfoque permite un mayor control sobre los datos utilizados en el preentrenamiento —donde se originan la mayoría de las alucinaciones— y limita el uso de contextualización externa solo a los casos donde realmente refuerza el conocimiento existente.

Modelos de lenguaje enfocados: una alternativa viable

En este contexto surgen los modelos de lenguaje enfocados (FLM), una evolución de los modelos de lenguaje pequeños (SLM). A diferencia de los LLM generalistas, los FLM se entrenan con conjuntos de datos deliberadamente acotados, altamente relevantes para un dominio o tarea específica.

Este nivel de especialización ofrece varias ventajas clave:

• Mayor control y transparencia sobre los datos utilizados.

• Reducción significativa del riesgo de alucinaciones al limitar el espacio de inferencia.

• Posibilidad de incorporar puntuaciones de confianza en cada respuesta, habilitando una operación basada en riesgos.

• Mejor alineación con procesos críticos de negocio, especialmente en sectores regulados.

Al enfocarse en tareas concretas, los FLM permiten aprovechar los beneficios de la GenAI sin asumir los riesgos inherentes a modelos generalistas entrenados con datos masivos y heterogéneos.

GenAI responsable como ventaja competitiva

La adopción de inteligencia artificial generativa ya no es solo una cuestión tecnológica, sino estratégica. En industrias donde la precisión y la confianza son críticas, reducir las alucinaciones se vuelve un requisito indispensable para escalar el uso de la IA.

Los modelos de lenguaje enfocados ofrecen una vía demostrada para lograrlo, permitiendo que la “edad dorada de la IA” avance con bases más sólidas, responsables y alineadas con los objetivos reales de negocio.