El sector financiero se pregunta cómo solucionar uno de los problemas más comunes en los algoritmos generativos que asisten a sus usuarios en el día a día.

México, 13 de marzo de 2025.- Imagina que tienes un problema con tu banco y, para resolverlo, consultas con un ejecutivo virtual disponible 24/7. Pero en lugar de ofrecerte una solución clara, te da una respuesta incoherente o incorrecta. Este fenómeno se conoce como “alucinaciones” en la Inteligencia Artificial.

Las Inteligencias Artificiales a veces pueden dar respuestas escritas de forma coherente, pero con datos incorrectos, sesgados o simplemente equivocados. Es decir, tienen tendencia a “alucinar”. Estos errores se pueden deber a un mal proceso de decodificación de la información o también a que muchos desarrolladores nutren a los sistemas con información de Internet, la cual no siempre es correcta.

“En el caso de los Chatbots de bancos y fintechs, por ejemplo, su sistema usa modelos lingüísticos LLM (Large Language Model) que aprenden automáticamente de diversas fuentes de información, pero no tienen forma de evaluar que lo que reproducen es correcto”, explica Pablo Velán, CTO de N5, empresa especializada en software para la industria financiera.

Estas alucinaciones, en el sector financiero, no son solo un error técnico, sino un desafío que afecta la confianza de los clientes en las soluciones digitales. Si los modelos no son monitoreados adecuadamente, pueden difundir información incorrecta y afectar la credibilidad de los bancos y fintechs.

Según un análisis de Vectara, los chatbots pueden cometer errores en entre el 3% y el 27% de sus respuestas, lo que representa un desafío significativo para el sector financiero.

¿Es posible un producto a gran escala sin alucinaciones?

La IA Generativa ya es una realidad en México, impactando la manera en que operan bancos y fintechs. En 2023, este mercado fue valorado en 1.12 billones de dólares, y se espera que alcance los 4.37 billones para 2027, según Market.us. La confianza en estos sistemas es clave para su adopción masiva.

“En N5, con el lanzamiento de nuestras tres Inteligencias Artificiales ‘Fin Skys’, aplicamos dos estrategias clave: mantenerlas aisladas de la red y utilizar múltiples sistemas para validar sus respuestas. Esto reduce drásticamente los errores y mejora la confianza en la IA dentro del sector financiero”, detalla Velán.

Así es como los productos Alfred, Pep y Singular pueden sortear esta dificultad que preocupaba al sector financiero. Al poder integrarse en cualquier sistema core, CRM y/o BPM de la institución, estos algoritmos poseen independencia de datos para máxima seguridad, lo que reduce notablemente la cantidad de alucinaciones.

Enfocadas en asistir a la industria financiera, las Fin Skys buscan solucionar los desafíos únicos de esta industria, garantizando que todas las funcionalidades sean atendidas plenamente, desde responder dudas y consultas hasta vender productos, cobrar deudas, asesorar sobre inversiones o planificación fiscal de forma proactiva.

Como toda herramienta en plena evolución y crecimiento, la IA también tendrá que enfrentarse a diferentes barreras y malestares propios. Afortunadamente, los expertos tecnológicos están atentos a sus cambios y listos para dar respuesta a cualquier obstáculo que aparezca en el camino.

–

Acerca de N5

Fundada en agosto de 2017 por Julian Colombo, N5 es una empresa de software especializada en la industria financiera, dedicada a ofrecer soluciones innovadoras para que el sector se adapte a un mundo en constante evolución tecnológica. En pleno crecimiento, la compañía está presente en más de 15 países y ha experimentado un crecimiento atípico, con tasas del 200% anual.

Siendo la única empresa en el mundo que ofrece una Plataforma Systematics exclusivamente para instituciones financieras, N5 ha integrado recientemente socios estratégicos como Illuminate Financial, Exor Ventures, Madrone Capital Partners, LTS Investments y Arpex Capital. En su cartera de clientes de la plataforma y servicios se incluyen empresas como: Mastercard, Santander, Credicorp Bank, Zurich, Sudameris, N26, Farmers Insurance, Banco Atlas y BCP.