La gobernanza de la IA en los servicios financieros:
qué significa estar «gobernado» en la práctica

En Provenir solemos pensar en la adopción de la IA como un iceberg. Por encima de la superficie están las capacidades que acaparan los titulares: automatización, personalización, interfaces de lenguaje natural y una toma de decisiones notablemente más rápida. Por debajo de la superficie está el trabajo que determina si esas capacidades generan valor sostenible o introducen nuevos riesgos operativos: sesgos que solo emergen a escala, deriva del modelo, dependencia excesiva de las recomendaciones de la IA, y sistemas que funcionan bien en pruebas piloto pero fallan ante la complejidad de la producción real. Rara vez se trata de fallos de la IA en sí misma; son fallos de gobernanza.

Para las instituciones financieras de Nivel 1 (Tier 1), esto es especialmente relevante porque su objetivo no es convertirse en empresas de IA. Han dedicado décadas a construir una infraestructura de toma de decisiones resiliente, capaz de dar servicio a millones de clientes bajo estándares regulatorios exigentes. Su reto es reforzar esa base con IA, no sustituirla. El objetivo es mejorar los resultados para el cliente sin comprometer el control, la resiliencia y la responsabilidad ya existentes.

Por eso vemos la regulación, incluida la Ley de IA de la UE, como un facilitador y no como una barrera. Una buena regulación define las condiciones bajo las cuales la innovación puede escalar de forma responsable. Al exigir trazabilidad, supervisión humana, documentación y rendición de cuentas, ofrece a las organizaciones un marco para desplegar la IA de forma segura en los procesos que más importan.

En última instancia, la conversación nunca debería empezar por la tecnología. Debería empezar por el resultado. Los clientes nunca experimentan un modelo de lenguaje. Experimentan si un préstamo se aprobó de forma justa, si el fraude se detectó con rapidez, si una reclamación se gestionó adecuadamente o si fueron tratados con empatía en un momento de dificultad financiera. La tecnología solo tiene valor si esos resultados para el cliente mejoran.

Esto también define lo que realmente significa una «IA gobernada». La gobernanza no consiste simplemente en conectar un LLM a un flujo de trabajo. Abarca todo lo que rodea a esa solución: cómo se diseñó, cómo se probó, cómo se evaluó la equidad, cómo se monitoriza el rendimiento, cómo se detecta la deriva, si cada decisión puede rastrearse, explicarse y auditarse, y durante cuánto tiempo se conserva la evidencia que la respalda. Estas son las preguntas que los responsables de cumplimiento, los auditores y los reguladores necesitan cada vez más que las instituciones respondan con confianza.

Quizás el principio más importante es que la responsabilidad nunca se transfiere a la tecnología. La IA puede generar recomendaciones y automatizar tareas cada vez más sofisticadas, pero nunca es responsable de los resultados que produce. Esa responsabilidad siempre recae en las personas. A medida que la IA se vuelve más capaz, la responsabilidad humana se vuelve más importante, no menos.

Toda decisión de IA es, en última instancia, un equilibrio entre valor y riesgo. La gobernanza es lo que permite a las organizaciones modificar ese equilibrio, reduciendo el riesgo mientras aumentan el valor que la IA puede aportar de forma segura. Da la confianza necesaria para introducir la IA allí donde genera mejoras significativas, reconociendo al mismo tiempo que, en determinadas situaciones, un enfoque más tradicional puede seguir siendo la mejor opción.

Por eso es importante concebir la gobernanza como una serie de decisiones de diseño conscientes, y no como una lista de controles que marcar. Hay situaciones en las que una persona debe permanecer directamente implicada en cada decisión —como la gestión de clientes vulnerables—, porque el criterio y la responsabilidad van más allá de lo que la IA debería aportar de forma independiente. Hay otras, como la monitorización de transacciones, en las que la automatización puede operar con seguridad a gran escala, siempre que se mantengan mecanismos sólidos de monitorización, alertas y escalamiento.

El objetivo nunca debería ser maximizar la automatización por sí misma. Debería ser maximizar los resultados para el cliente gestionando el riesgo de forma adecuada. En algunas situaciones, la IA debería apoyar a una persona en la decisión final, manteniendo al ser humano firmemente en el proceso. En otras, puede automatizar de forma segura decisiones rutinarias, siempre que se mantengan una monitorización y una gobernanza sólidas. Y siempre habrá situaciones en las que la IA simplemente no sea la tecnología adecuada. La decisión siempre debe reflejar el equilibrio entre el valor, el riesgo y los controles disponibles para gestionar ese riesgo.