Os bancos pararam de perguntar se t\u00eam IA: agora perguntam quanta autonomia d\u00e3o a ela<\/p>\n\n\n\n
At\u00e9 pouco tempo atr\u00e1s, a pergunta nos comit\u00eas de tecnologia dos bancos era bin\u00e1ria: temos IA ou n\u00e3o? Essa pergunta envelheceu r\u00e1pido. O Bank of America j\u00e1 habilitou ferramentas de intelig\u00eancia artificial para seus mais de 200.000 funcion\u00e1rios, que geram mais de 400.000 prompts por dia. O JPMorgan trabalha com cerca de 1.000 casos de uso, desde fraude e gest\u00e3o de risco at\u00e9 processamento documental e outras opera\u00e7\u00f5es do banco. E no Citigroup, segundo sua CEO Jane Fraser, quase nove em cada dez funcion\u00e1rios j\u00e1 utilizam as ferramentas de IA da organiza\u00e7\u00e3o.<\/p>\n\n\n\n
O sucesso criou um problema novo. Enquanto a intelig\u00eancia artificial se limitava a responder perguntas, o principal risco era que ela errasse. Quando come\u00e7a a agir, o risco muda de natureza: ela pode errar e executar o erro.<\/p>\n\n\n\n
Essa diferen\u00e7a ficou particularmente exposta em 7 de agosto, quando a OpenAI revelou que as avalia\u00e7\u00f5es preliminares do Astra mostraram capacidades de ciberseguran\u00e7a t\u00e3o avan\u00e7adas que a empresa j\u00e1 n\u00e3o podia descartar que o modelo atingisse seu limite de alerta “Cr\u00edtico”.<\/p>\n\n\n\n
Esse n\u00edvel n\u00e3o descreve simplesmente uma IA que entende muito de seguran\u00e7a da informa\u00e7\u00e3o. Contempla sistemas capazes, em determinadas condi\u00e7\u00f5es, de descobrir vulnerabilidades, desenvolver exploits e realizar ataques sofisticados com um grau de autonomia que reduz drasticamente a necessidade de interven\u00e7\u00e3o humana.<\/p>\n\n\n\n
O epis\u00f3dio deu um caso concreto a uma preocupa\u00e7\u00e3o que o Fundo Monet\u00e1rio Internacional havia formulado semanas antes. Em seu relat\u00f3rio Artificial Intelligence and Cybersecurity in the Financial Sector, publicado em 29 de junho, o FMI apresentou um paradoxo especialmente inc\u00f4modo para o setor banc\u00e1rio: as mesmas capacidades que permitem usar IA para detectar uma vulnerabilidade antes de um atacante tamb\u00e9m podem servir para encontr\u00e1-la e explor\u00e1-la.<\/p>\n\n\n\n
E o risco n\u00e3o termina em uma institui\u00e7\u00e3o. O setor banc\u00e1rio depende de provedores de nuvem, software, infraestrutura e modelos que muitas vezes s\u00e3o compartilhados. Em um sistema t\u00e3o interconectado, uma vulnerabilidade comum pode transformar um incidente individual em um problema simult\u00e2neo para m\u00faltiplas entidades.<\/p>\n\n\n\n
O problema, ent\u00e3o, j\u00e1 n\u00e3o \u00e9 apenas o que a m\u00e1quina sabe fazer. \u00c9 quem deu a ela permiss\u00e3o para faz\u00ea-lo. Para um banco, falar de autonomia implica decidir quais dados uma IA pode consultar, quais sistemas pode modificar, quais opera\u00e7\u00f5es pode executar, sob quais limites e o que acontece quando seu comportamento se afasta do esperado.<\/p>\n\n\n\n
\nDar autonomia n\u00e3o significa perder o controle. “Um banco tem que determinar o que a IA pode fazer. Com quais informa\u00e7\u00f5es, com qual alcance e como par\u00e1-la se ela ultrapassar limites pr\u00e9-estabelecidos. Se alguma dessas respostas n\u00e3o estiver clara, ainda n\u00e3o est\u00e1 pronto para delegar a decis\u00e3o a ela”, afirma Juli\u00e1n Colombo, CEO da N5.<\/p>\n<\/blockquote>\n\n\n\n
Na N5, essa discuss\u00e3o n\u00e3o \u00e9 abstrata. \u00c9 parte do crit\u00e9rio com que se projeta o Singular, a intelig\u00eancia artificial banc\u00e1ria da empresa, concebida para operar sob um esquema de autonomia supervisionada.<\/p>\n\n\n\n
A mesma l\u00f3gica atravessa os produtos da fam\u00edlia by N5, voltados a intervir em tarefas espec\u00edficas em vez de receber, desde o primeiro dia, controle irrestrito sobre processos completos.<\/p>\n\n\n\n
Porque a autonomia n\u00e3o \u00e9 uma condi\u00e7\u00e3o bin\u00e1ria. Uma organiza\u00e7\u00e3o pode dar a um sistema permiss\u00e3o para ler, mas n\u00e3o para escrever; para recomendar, mas n\u00e3o para executar; para operar at\u00e9 determinado valor; para atuar somente dentro de certos fluxos; ou para avan\u00e7ar enquanto determinadas condi\u00e7\u00f5es permane\u00e7am dentro dos limites definidos.<\/p>\n\n\n\n
De certa forma, essa \u00e9 tamb\u00e9m a resposta ao risco que o FMI descreve. Se uma IA cada vez mais capaz amplia o raio potencial de um erro ou um ataque, a solu\u00e7\u00e3o n\u00e3o \u00e9 abrir m\u00e3o dessa capacidade. \u00c9 desenhar o raio dentro do qual ela pode ser usada. Audit\u00e1-la. Limit\u00e1-la. Explic\u00e1-la. E, quando necess\u00e1rio, det\u00ea-la<\/p>\n","protected":false},"excerpt":{"rendered":"
A corrida para incorporar intelig\u00eancia artificial terminou antes que muitos bancos percebessem. Agora come\u00e7a outra, bem mais dif\u00edcil: decidir o que ainda n\u00e3o conv\u00e9m delegar. Durante anos, o desafio foi fazer com que a IA pudesse agir. Agora come\u00e7a o mais dif\u00edcil: ensin\u00e1-la at\u00e9 onde.<\/p>\n","protected":false},"author":36,"featured_media":17419,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_seopress_robots_follow":"","_seopress_robots_imageindex":"","_seopress_robots_snippet":"","_seopress_robots_primary_cat":"","_seopress_robots_breadcrumbs":"","_seopress_robots_freeze_modified_date":"","_seopress_robots_custom_modified_date":"","_seopress_robots_canonical":"","_seopress_social_fb_title":"","_seopress_social_fb_desc":"","_seopress_social_fb_img":"","_seopress_social_fb_img_attachment_id":0,"_seopress_social_fb_img_width":0,"_seopress_social_fb_img_height":0,"_seopress_social_twitter_title":"","_seopress_social_twitter_desc":"","_seopress_social_twitter_img":"","_seopress_social_twitter_img_attachment_id":0,"_seopress_social_twitter_img_width":0,"_seopress_social_twitter_img_height":0,"_seopress_redirections_value":"","_seopress_redirections_enabled":"","_seopress_redirections_enabled_regex":"","_seopress_redirections_logged_status":"","_seopress_redirections_param":"","_seopress_redirections_type":0,"_seopress_analysis_target_kw":"","footnotes":""},"categories":[234,188,228],"tags":[524,463,525,526,527],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/17422"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=17422"}],"version-history":[{"count":2,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/17422\/revisions"}],"predecessor-version":[{"id":17426,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/17422\/revisions\/17426"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/17419"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=17422"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=17422"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=17422"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}