O que tira o sono dos chefes de TI dos grandes bancos em relação à IA generativa

Para os CTOs ouvidos, os riscos vão da motivação dos times à cibersegurança, passando pela responsabilidade e a possível 'vida própria' dos modelos

O potencial revolucionário da inteligência artificial generativa (GenAI), em tantas frentes de uso que ainda não é possível imaginar tudo, é reconhecido pelos grandes bancos brasileiros. Entretanto, em painel no Febraban Tech, os chefes de tecnologia das instituições também falaram sobre os riscos trazidos pela nova tecnologia.

Perguntados sobre o que “tira seu sono” em se tratando de GenAI, os executivos ressaltaam diferentes pontos. Para Marisa Reghini, vice-presidente de negócios digitais e tecnologia do Banco do Brasil, e Laércio de Souza, vice-presidente de tecnologia e digital da Caixa, um dos principais desafios é como manter os times motivados. Christian Flemming, diretor de tecnologia do BTG, mencionou a questão da cibersegurança.

Já Ricardo Guerra, vice-presidente de tecnologia do Itaú, levantou o ponto da GenAI responsável. “O mundo vai evoluir, as pessoas vão se adaptar. A velocidade em que as soluções de GenAI evolui é assutadora, e muitas vezes a IA responsável acaba ficando em segundo plano. Como controlar tudo isso? Tem muito dinheiro no mundo sendo investido em IA, e o que tira meu sono e vai continuar tirando nos próximos anos é esta questão da responsabilidade”, comentou.

Edilson Reis, diretor executivo de tecnologia do Bradesco, lembrou que existem algumas iniciativas, ainda muito incipientes, de tentar avançar com a IA responsável, como treinar modelos “adversários” para testar se a produção original não está alucinando.

“Daqui a pouco parece que estamos chegando em um cenário de Skynet [IA do filme Exterminador do Futuro], que tem vontade própria. Temos que aproveitar que ainda estamos em uma fase de aprendizado da GenAI, estudar a história, as interções atuais, porque essa questão da IA responsável pode se tornar um problema lá na frente”.

Com informações do Valor Econômico

Leia a seguir

Leia a seguir