Para onde caminha a inteligência artificial

“Inteligência Artificial a nosso favor” (Companhia das Letras), de Stuart Russel: entre os livros sobre inteligência artificial (IA), em português, este certamente é um dos que melhor discute a eventualidade de alguma inteligência, bem superior a dos humanos. 

Embora o título não deixe claro, a obra é pautada por uma “superinteligência”. Mesmo não confessado, o principal propósito de Stuart Russel é ponderar sobre as chances de se impedir que a superinteligência venha a ser o último grande acontecimento da história humana. 

Só que a visão do autor acaba por parecer quase adicionada a enfadonhas explanações sobre os mais imediatos riscos e proveitos da IA. Todos envolvendo questões éticas de suma importância. 

Um único mantra unifica e dá coerência às duas dimensões temporais: “manter o controle”, como ressalta o subtítulo. Para tanto, a exposição está organizada em três partes, só a terceira sugerindo uma maneira de entender a IA que venha a garantir máquinas que permaneçam benéficas.

As duas primeiras exploram mais a própria ideia de integração entre as duas inteligências a dos humanos e a das máquinas. Com especial atenção, na segunda parte, ao já enfatizado desafio do controle: como continuar a ter poder absoluto sobre máquinas mais potentes do que os humanos. 

Leitura para todos, mas…

Como o livro se destina ao público em geral, provavelmente qualquer leigo lerá, sem muitas dificuldades, os quatro quintos formados por suas primeiras 233 páginas. Só o final foi reservado a especialistas, na esperança de os incentivar a repensarem seus conceitos fundamentais. Junta quatro áridos apêndices a 365 notas. 

A incógnita central, segundo Russel, é como aprender a prever as preferências humanas, já que as máquinas seriam puramente altruístas e humildes. Uma tese que é apresentada no molde de três princípios: 

• o único objetivo da máquina é maximizar a execução de preferências humanas;
• a máquina não tem certeza de quais são tais preferências;
• a fonte definitiva sobre preferências é o comportamento humano.

Então, o que mais interessa é o “terceiro princípio”, referente às preferências humanas. Elas nem estão na máquina, nem esta é capaz de observá-las diretamente. Porém, alguma conexão definida deve haver entre máquina e preferências humanas. 

Este terceiro princípio estipula que a conexão se dá pela observação de escolhas humanas: supõe-se que as escolhas estão relacionadas de alguma maneira (possivelmente muito complicada) às preferências subjacentes. 

Para entender o quanto tal ligação é essencial, basta pensar no oposto: “se alguma preferência humana não tivesse efeito algum sobre qualquer escolha real ou hipotética que o humano fizesse, então provavelmente não faria sentido dizer que a preferência existe”. 

Por outro lado, é preciso permitir que a máquina se torne mais útil, aprendendo mais sobre o que se quer. Afinal, ela não teria utilidade se nada soubesse a respeito das preferências humanas. A ideia é simples: escolhas humanas revelam informações sobre preferências humanas. Pode ser óbvio, se aplicada a uma escolha entre dois sabores de pizza. Mas as coisas começam a ficar muito mais discutíveis quando se pensa em escolhas entre vidas futuras e escolhas feitas com a intenção de influenciar o comportamento de robôs. 

Ou seja, as verdadeiras complicações surgem porque os humanos não são perfeitamente racionais: preferências e escolhas humanas podem ser incoerentes, e a máquina precisaria levá-las em conta para poder interpretar escolhas como provas de preferências. 

Daí a necessidade de longuíssimas justificativas, tanto para esperanças, quanto para cautelas. Em vez de aqui retratá-las, parece muito mais interessante aproveitar a ocasião para dar três informações sobre o autor, que poderão ser muito úteis no momento de decidir se este livro merece mesmo ser estudado. 

Quem é Stuart Russel

Russel é o fundador e líder de um dos principais programas de pesquisa e ensino sobre o tema no campus de Berkley da Universidade da Califórnia: o Center for Human-Compatible Artificial Intelligence. 

Em 2020 saiu a quarta edição de sua proeza anterior, um compêndio escrito a quatro mãos com Peter Norving, atualmente diretor de pesquisas do Google. Além de permanecer por um quarto de século no topo das listas dos melhores livros sobre inteligência artificial, tal compêndio vem sendo o mais adotado em cursos universitários de 116 países: “Artificial Intelligence: A Modern Approach” (Prentice Hall, 1995). No Brasil, foi traduzido pela editora Campus-Elsevier.

Russel está entre os principais protagonistas do movimento pelo “Humanismo Digital”, fundado em Viena em maio de 2019, cinco meses antes da publicação orignal deste seu livro, agora bem traduzido pela Companhia das Letras. Ele é o autor do terceiro capítulo de recentíssima coletânea, que poderá ser muito útil aos que se preocupam com os rumos da inteligência artificial, colocada em livre acesso pela Springer: “Perspectives on Digital Humanism” (de Werthner H. et al.). 

Por José Eli da Veiga, professor sênior do Instituto de Estudos Avançados da USP, para o Valor Econômico

Leia a seguir