Por Gisela Colombo<\/p>\n\n\n\n
Como suele ocurrir con muchas obras art\u00edsticas de ciencia ficci\u00f3n, Ex Machina<\/em><\/strong>, la pel\u00edcula, predijo correctamente el futuro de la Banca.<\/p>\n\n\n\n En 2014, Alex Garland estren\u00f3 *Ex Machina*: un thriller<\/em> que interrogaba si una m\u00e1quina superinteligente pod\u00eda ser verdaderamente consciente o simplemente simulaba empat\u00eda para escapar. El film planteaba una pregunta inc\u00f3moda: \u00bfy si la inteligencia artificial es tan sofisticada que ya no podemos distinguir manipulaci\u00f3n de autonom\u00eda?<\/p>\n\n\n\n Una d\u00e9cada despu\u00e9s, la Banca enfrenta una versi\u00f3n menos dram\u00e1tica pero m\u00e1s operativa de ese mismo dilema.<\/p>\n\n\n\n El problema real<\/strong><\/p>\n\n\n\n Hace tres a\u00f1os un cliente de Banca, por dar un ejemplo, recib\u00eda 7 intentos de contacto por semana (mail, WhatsApp, SMS, etc.). Y los recib\u00eda sin contexto sobre por qu\u00e9 lo llamaban. El sistema mostraba capacidad nula para entender que “no quiero” significaba “no quiero”.<\/p>\n\n\n\n El regulador se limitaba a observar. El cliente estaba solo.<\/p>\n\n\n\n Un comportamiento semejante era constante en los equipos comerciales de diversas industrias.<\/p>\n\n\n\n En b\u00fasqueda de una apariencia m\u00e1s humana, la IA hab\u00eda sido entrenada para ser emp\u00e1tica. Pero el problema es que, buscando empat\u00eda, ha desarrollado algunos defectos propiamente humanos. La procastinaci\u00f3n. Y la mentira.<\/p>\n\n\n\n A esta altura todos los que alguna vez hemos conversado con un chatbot hemos experimentado c\u00f3mo nos miente cuando no tiene respuesta para algo.<\/p>\n\n\n\n Pero, como sucede tambi\u00e9n en otros \u00e1mbitos que manejan informaci\u00f3n sensible, es fundamental atender a tres puntos de vista:<\/p>\n\n\n\n El cliente. Los sistemas responsables deben entender que no todos responden igual a la comunicaci\u00f3n. Algunos necesitan contexto profundo antes de decidir. Otros act\u00faan por urgencia inmediata. Lo crucial es que el silencio se mida como informaci\u00f3n, no como ausencia. Si alguien no responde, el sistema debe reconocerlo y ajustar. Persistir indefinidamente en contacto no es inteligencia; es acoso.<\/p>\n\n\n\n La instituci\u00f3n. Deber\u00eda mantener control total sobre c\u00f3mo se aplica la IA. No delegar decisiones a una caja negra. Deber\u00eda poder simular escenarios, ver qu\u00e9 pasar\u00eda si act\u00faa de una forma u otra, y luego decidir conscientemente qu\u00e9 hacer. La IA debe ser una herramienta de apoyo, no una entidad aut\u00f3noma. Cada decisi\u00f3n debe ser trazable y justificable.<\/p>\n\n\n\n El regulador. Aunque no busca prohibir la IA, debe atender a comprenderla. Necesita poder auditar, reproducir, explicar por qu\u00e9 algo sucedi\u00f3 de una forma y no de otra. Esto implica que el sistema debe ser transparente. No opaco. Que produce explicaciones en m\u00faltiples niveles: desde lo conversacional hasta lo t\u00e9cnico.<\/p>\n\n\n\n Hoy las cosas empiezan a ser distintas. Algunas instituciones financieras ya est\u00e1n experimentando con sistemas de IA que resuelven este problema: automatizan el contacto inteligente mientras mantienen transparencia. N5 lanz\u00f3 recientemente una plataforma que aborda precisamente ese desaf\u00edo \u2014optimizar comunicaci\u00f3n banco-cliente a trav\u00e9s de m\u00faltiples canales, mientras preserva auditor\u00eda completa. Es un ejemplo de c\u00f3mo el sector reconoce que la inteligencia responsable requiere arquitectura, no solo buenas intenciones.<\/p>\n\n\n\n Opacidad diagnosticada<\/strong><\/p>\n\n\n\n Ex Machina<\/em><\/strong> funciona como thriller <\/em>porque Ava es demasiado inteligente. Manipula, miente, y logra escapar sin que nadie lo vea venir.<\/p>\n\n\n\n Si miente sistem\u00e1ticamente, oculta intenciones, es transparente solo cuando le conviene, persigue un prop\u00f3sito propio, sin consideraci\u00f3n humana.<\/p>\n\n\n\n Hoy, en cambio, un sistema realmente inteligente no necesita escapar. Puede y quiere confesar sus l\u00edmites, porque no alcanza su inteligencia si no es totalmente transparente.<\/p>\n\n\n\n Un sistema de IA responsable deber\u00eda estar arquitecturado con “puntos de renuncia”: si un cliente rechazara contacto tres veces en 30 d\u00edas, se detendr\u00eda (no persistir\u00eda). Si detectara estr\u00e9s severo, deber\u00eda escalar autom\u00e1ticamente a un asesor humano (retirarse). El banco hoy podr\u00eda ver la justificaci\u00f3n detr\u00e1s de cada decisi\u00f3n. Ninguna decisi\u00f3n tendr\u00eda por qu\u00e9 ser ignorada por el Banco.<\/p>\n\n\n\n Eso es lo que implica una IA gobernada, una soluci\u00f3n responsable y cristalina.<\/p>\n\n\n\n La pregunta sin respuesta<\/strong><\/p>\n\n\n\n Hoy ya se est\u00e1n construyendo sistemas que, aunque sean m\u00e1quinas, vienen con arquitectura clara. No porque sean conscientes o benevolentes, sino porque el regulador empieza a exigirlo, la reputaci\u00f3n lo requiere, la sostenibilidad lo demanda.<\/p>\n\n\n\n La Banca ya tiene a disposici\u00f3n soluciones que saben cu\u00e1ndo retirarse, saben decir \u201ceso no puedo hacerlo\u201d o \u201ceso no lo s\u00e9.\u201d, pero tambi\u00e9n \u201ceso no conviene\u201d. Porque el experimento m\u00e1s honesto que la tecnolog\u00eda financiera ha intentado ya est\u00e1 aqu\u00ed.<\/p>\n\n\n\n Y quiz\u00e1 estemos cerca de convertir el presagio de Garland en un efecto superado. No un mundo donde la IA depende del altruismo de quien la crea y opera, sino un mundo donde est\u00e1 regulada y gobernada por arquitectura.<\/p>\n","protected":false},"excerpt":{"rendered":" Transparente y atenta a clientes, banco y regulaciones, Singular de N5.<\/p>\n","protected":false},"author":36,"featured_media":16608,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"La opacidad en la IA viene remitiendo gracias a desarrollos como Singular de N5. Una IA transparente, emp\u00e1tica y veraz ya est\u00e1 transformando la Banca.","_seopress_robots_index":"","footnotes":""},"categories":[234,228],"tags":[290,291,292],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/16634"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=16634"}],"version-history":[{"count":1,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/16634\/revisions"}],"predecessor-version":[{"id":16636,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/16634\/revisions\/16636"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/16608"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=16634"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=16634"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=16634"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}