O que tira o sono dos chefes de TI dos grandes bancos em relação à IA generativa
Para os CTOs ouvidos, os riscos vão da motivação dos times à cibersegurança, passando pela responsabilidade e a possível 'vida própria' dos modelos
O potencial revolucionário da inteligência artificial generativa (GenAI), em tantas frentes de uso que ainda não é possível imaginar tudo, é reconhecido pelos grandes bancos brasileiros. Entretanto, em painel no Febraban Tech, os chefes de tecnologia das instituições também falaram sobre os riscos trazidos pela nova tecnologia.
Perguntados sobre o que “tira seu sono” em se tratando de GenAI, os executivos ressaltaam diferentes pontos. Para Marisa Reghini, vice-presidente de negócios digitais e tecnologia do Banco do Brasil, e Laércio de Souza, vice-presidente de tecnologia e digital da Caixa, um dos principais desafios é como manter os times motivados. Christian Flemming, diretor de tecnologia do BTG, mencionou a questão da cibersegurança.
Receba no seu e-mail a Calculadora de Aposentadoria 1-3-6-9® e descubra quanto você precisa juntar para se aposentar sem depender do INSS
Já Ricardo Guerra, vice-presidente de tecnologia do Itaú, levantou o ponto da GenAI responsável. “O mundo vai evoluir, as pessoas vão se adaptar. A velocidade em que as soluções de GenAI evolui é assutadora, e muitas vezes a IA responsável acaba ficando em segundo plano. Como controlar tudo isso? Tem muito dinheiro no mundo sendo investido em IA, e o que tira meu sono e vai continuar tirando nos próximos anos é esta questão da responsabilidade”, comentou.
Edilson Reis, diretor executivo de tecnologia do Bradesco, lembrou que existem algumas iniciativas, ainda muito incipientes, de tentar avançar com a IA responsável, como treinar modelos “adversários” para testar se a produção original não está alucinando.
Últimas em Negócios
“Daqui a pouco parece que estamos chegando em um cenário de Skynet [IA do filme Exterminador do Futuro], que tem vontade própria. Temos que aproveitar que ainda estamos em uma fase de aprendizado da GenAI, estudar a história, as interções atuais, porque essa questão da IA responsável pode se tornar um problema lá na frente”.
Com informações do Valor Econômico
