Por Gisela Colombo
Como suele ocurrir con muchas obras artísticas de ciencia ficción, Ex Machina, la película, predijo correctamente el futuro de la Banca.
En 2014, Alex Garland estrenó *Ex Machina*: un thriller que interrogaba si una máquina superinteligente podía ser verdaderamente consciente o simplemente simulaba empatía para escapar. El film planteaba una pregunta incómoda: ¿y si la inteligencia artificial es tan sofisticada que ya no podemos distinguir manipulación de autonomía?
Una década después, la Banca enfrenta una versión menos dramática pero más operativa de ese mismo dilema.
El problema real
Hace tres años un cliente de Banca, por dar un ejemplo, recibía 7 intentos de contacto por semana (mail, WhatsApp, SMS, etc.). Y los recibía sin contexto sobre por qué lo llamaban. El sistema mostraba capacidad nula para entender que «no quiero» significaba «no quiero».
El regulador se limitaba a observar. El cliente estaba solo.
Un comportamiento semejante era constante en los equipos comerciales de diversas industrias.
En búsqueda de una apariencia más humana, la IA había sido entrenada para ser empática. Pero el problema es que, buscando empatía, ha desarrollado algunos defectos propiamente humanos. La procastinación. Y la mentira.
A esta altura todos los que alguna vez hemos conversado con un chatbot hemos experimentado cómo nos miente cuando no tiene respuesta para algo.
Pero, como sucede también en otros ámbitos que manejan información sensible, es fundamental atender a tres puntos de vista:
El cliente. Los sistemas responsables deben entender que no todos responden igual a la comunicación. Algunos necesitan contexto profundo antes de decidir. Otros actúan por urgencia inmediata. Lo crucial es que el silencio se mida como información, no como ausencia. Si alguien no responde, el sistema debe reconocerlo y ajustar. Persistir indefinidamente en contacto no es inteligencia; es acoso.
La institución. Debería mantener control total sobre cómo se aplica la IA. No delegar decisiones a una caja negra. Debería poder simular escenarios, ver qué pasaría si actúa de una forma u otra, y luego decidir conscientemente qué hacer. La IA debe ser una herramienta de apoyo, no una entidad autónoma. Cada decisión debe ser trazable y justificable.
El regulador. Aunque no busca prohibir la IA, debe atender a comprenderla. Necesita poder auditar, reproducir, explicar por qué algo sucedió de una forma y no de otra. Esto implica que el sistema debe ser transparente. No opaco. Que produce explicaciones en múltiples niveles: desde lo conversacional hasta lo técnico.
Hoy las cosas empiezan a ser distintas. Algunas instituciones financieras ya están experimentando con sistemas de IA que resuelven este problema: automatizan el contacto inteligente mientras mantienen transparencia. N5 lanzó recientemente una plataforma que aborda precisamente ese desafío —optimizar comunicación banco-cliente a través de múltiples canales, mientras preserva auditoría completa. Es un ejemplo de cómo el sector reconoce que la inteligencia responsable requiere arquitectura, no solo buenas intenciones.
Opacidad diagnosticada
Ex Machina funciona como thriller porque Ava es demasiado inteligente. Manipula, miente, y logra escapar sin que nadie lo vea venir.
Si miente sistemáticamente, oculta intenciones, es transparente solo cuando le conviene, persigue un propósito propio, sin consideración humana.
Hoy, en cambio, un sistema realmente inteligente no necesita escapar. Puede y quiere confesar sus límites, porque no alcanza su inteligencia si no es totalmente transparente.
Un sistema de IA responsable debería estar arquitecturado con «puntos de renuncia»: si un cliente rechazara contacto tres veces en 30 días, se detendría (no persistiría). Si detectara estrés severo, debería escalar automáticamente a un asesor humano (retirarse). El banco hoy podría ver la justificación detrás de cada decisión. Ninguna decisión tendría por qué ser ignorada por el Banco.
Eso es lo que implica una IA gobernada, una solución responsable y cristalina.
La pregunta sin respuesta
Hoy ya se están construyendo sistemas que, aunque sean máquinas, vienen con arquitectura clara. No porque sean conscientes o benevolentes, sino porque el regulador empieza a exigirlo, la reputación lo requiere, la sostenibilidad lo demanda.
La Banca ya tiene a disposición soluciones que saben cuándo retirarse, saben decir “eso no puedo hacerlo” o “eso no lo sé.”, pero también “eso no conviene”. Porque el experimento más honesto que la tecnología financiera ha intentado ya está aquí.
Y quizá estemos cerca de convertir el presagio de Garland en un efecto superado. No un mundo donde la IA depende del altruismo de quien la crea y opera, sino un mundo donde está regulada y gobernada por arquitectura.
