Hasta hace poco, la pregunta en los comités de tecnología de los bancos era binaria: ¿tenemos IA o no?
Esa pregunta envejeció rápido.
Bank of America ya habilitó herramientas de inteligencia artificial para sus más de 200.000 empleados, que generan más de 400.000 prompts por día. JPMorgan trabaja con cerca de 1.000 casos de uso, desde fraude y gestión de riesgo hasta procesamiento documental y otras operaciones del banco. Y en Citigroup, según su CEO Jane Fraser, casi nueve de cada diez empleados ya utilizan las herramientas de IA de la organización.
El éxito creó un problema nuevo.
Mientras la inteligencia artificial se limitaba a responder preguntas, el principal riesgo era que se equivocara. Cuando empieza a actuar, el riesgo cambia de naturaleza: puede equivocarse y ejecutar el error.
Esa diferencia quedó particularmente expuesta el 7 de agosto, cuando OpenAI reveló que las evaluaciones preliminares de Astra mostraron capacidades de ciberseguridad tan avanzadas que la compañía ya no podía descartar que el modelo alcanzara su umbral de alerta “Crítico”.
Ese nivel no describe simplemente a una IA que sabe mucho de seguridad informática. Contempla sistemas capaces, en determinadas condiciones, de descubrir vulnerabilidades, desarrollar exploits y llevar adelante ataques sofisticados con un grado de autonomía que reduce drásticamente la necesidad de intervención humana.
El episodio puso un caso concreto sobre una preocupación que el Fondo Monetario Internacional había formulado semanas antes.
En su informe Artificial Intelligence and Cybersecurity in the Financial Sector, publicado el 29 de junio, el FMI planteó una paradoja especialmente incómoda para la banca: las mismas capacidades que permiten utilizar IA para detectar una vulnerabilidad antes que un atacante también pueden servir para encontrarla y explotarla.
Y el riesgo no termina en una institución.
La banca depende de proveedores de nube, software, infraestructura y modelos que muchas veces son compartidos. En un sistema así de interconectado, una vulnerabilidad común puede transformar un incidente individual en un problema simultáneo para múltiples entidades.
El problema, entonces, ya no es solamente qué sabe hacer la máquina.
Es quién le dio permiso para hacerlo.
Para un banco, hablar de autonomía implica decidir qué datos puede consultar una IA, qué sistemas puede modificar, qué operaciones puede ejecutar, bajo qué límites y qué sucede cuando su comportamiento se aparta de lo esperado.
Dar autonomía no significa perder el control.
“Un banco tiene que determinar qué puede hacer la IA. Con qué información, con qué alcance y cómo detenerla si cruza fronteras prefijadas. Si alguna de esas respuestas no está clara, todavía no está listo para delegarle la decisión”, señala Julián Colombo, CEO de N5.
En N5, esa discusión no es abstracta. Es parte del criterio con el que se diseña Singular, la inteligencia artificial bancaria de la compañía concebida para operar bajo un esquema de autonomía supervisada.
La lógica también atraviesa los productos de la familia by N5, orientados a intervenir sobre tareas específicas en lugar de recibir, desde el primer día, control irrestricto sobre procesos completos.
Porque la autonomía no es una condición binaria.
Una organización puede darle a un sistema permiso para leer pero no para escribir; para recomendar pero no para ejecutar; para operar hasta determinado monto; para actuar solamente dentro de ciertos flujos; o para avanzar mientras determinadas condiciones permanezcan dentro de los límites definidos.
En cierto sentido, esa es también la respuesta al riesgo que describe el FMI.
Si una IA cada vez más capaz amplía el radio potencial de un error o un ataque, la solución no es renunciar a esa capacidad. Es diseñar el radio dentro del cual puede utilizarla.
Auditarla. Limitarla. Explicarla. Y, cuando sea necesario, detenerla.
La carrera por incorporar inteligencia artificial terminó antes de que muchos bancos se dieran cuenta.
Ahora empieza otra, bastante más difícil: decidir qué cosas todavía no conviene delegar.
Durante años, el desafío fue hacer que la IA pudiera actuar.
Ahora empieza el más difícil: enseñarle hasta dónde.
