O que tira o sono dos chefes de TI dos grandes bancos em relação à IA generativa
Para os CTOs ouvidos, os riscos vão da motivação dos times à cibersegurança, passando pela responsabilidade e a possível 'vida própria' dos modelos
O potencial revolucionário da inteligência artificial generativa (GenAI), em tantas frentes de uso que ainda não é possível imaginar tudo, é reconhecido pelos grandes bancos brasileiros. Entretanto, em painel no Febraban Tech, os chefes de tecnologia das instituições também falaram sobre os riscos trazidos pela nova tecnologia.
Ações que podem subir até 40% em um ano: inscreva-se para conferir empresas onde analistas enxergam oportunidade de alta na Bolsa brasileira.
Perguntados sobre o que “tira seu sono” em se tratando de GenAI, os executivos ressaltaam diferentes pontos. Para Marisa Reghini, vice-presidente de negócios digitais e tecnologia do Banco do Brasil, e Laércio de Souza, vice-presidente de tecnologia e digital da Caixa, um dos principais desafios é como manter os times motivados. Christian Flemming, diretor de tecnologia do BTG, mencionou a questão da cibersegurança.
Já Ricardo Guerra, vice-presidente de tecnologia do Itaú, levantou o ponto da GenAI responsável. “O mundo vai evoluir, as pessoas vão se adaptar. A velocidade em que as soluções de GenAI evolui é assutadora, e muitas vezes a IA responsável acaba ficando em segundo plano. Como controlar tudo isso? Tem muito dinheiro no mundo sendo investido em IA, e o que tira meu sono e vai continuar tirando nos próximos anos é esta questão da responsabilidade”, comentou.
Edilson Reis, diretor executivo de tecnologia do Bradesco, lembrou que existem algumas iniciativas, ainda muito incipientes, de tentar avançar com a IA responsável, como treinar modelos “adversários” para testar se a produção original não está alucinando.
Últimas em Negócios
“Daqui a pouco parece que estamos chegando em um cenário de Skynet [IA do filme Exterminador do Futuro], que tem vontade própria. Temos que aproveitar que ainda estamos em uma fase de aprendizado da GenAI, estudar a história, as interções atuais, porque essa questão da IA responsável pode se tornar um problema lá na frente”.
Com informações do Valor Econômico
