Seremos dominados pelas máquinas? Elon Musk, Harari e o pedido de pausa no desenvolvimento da inteligência artificial

No final de março presenciamos um acontecimento curioso na história do desenvolvimento tecnológico: Elon Musk e outros grandes nomes da tecnologia assinaram uma carta pedindo uma pausa no aprimoramento das inteligências artificiais.

O texto, que também foi assinado por pesquisadores como Yuval Harari, possui um tom catastrófico e alerta para os perigos que o avanço dessa ferramenta poderia causar a humanidade.

É importante negritar o fato de que a carte surge num contexto em que a popularização do Chat GPT tem espantado a sociedade enquanto cria problemas e soluções para diversas áreas. Ao mesmo tempo que tem facilitado o trabalho de muita gente, também tem criado preocupações.

Educadores, por exemplo, têm de lidar com o fato de seus alunos podem terceirizar suas atividades escolares para serem feitas pelos robôs. Além disso, a apreensão sobre a substituição de pessoas pela máquina no mercado de trabalho tem atormentado um número significativo de pessoas.

Todas essas novidades foram propiciadas pela terceira edição do Chat GPT. No momento a OpenAi, empresa responsável pelo programa, prepara-se para o lançamento da versão 4.0. É sobre essa nova versão que recaem os anseios dos signatários da carta.

Elon Musk e os demais pedem para pausar o desenvolvimento de todas as inteligências artificiais que sejam mais poderosas que o GPT-4 por 6 meses, porque o avanço a partir desse nível poderia representar riscos profundos para a sociedade a humanidade.

Um dos argumentos apresentados no documento é que a evolução dessa tecnologia causaria uma "dramática perturbação econômica e política (especialmente para a democracia)”.

Contudo, Elon Musk, o nome mais famoso da carta, é conhecido justamente pela sua falta de apreço a autodeterminação dos povos e a manutenção da democracia. Em 2020, bilionário sul-africano esteve envolvido em uma polêmica em que defendia o golpe de Estado na Bolívia. Ele chegou a afirmar no Twitter: "vamos dar golpe em quem quisermos, lide com isso".

Por esse motivo, parece difícil acreditar nas nobres intenções do pedido de pausa no desenvolvimento da inteligência artificial. Além disso, é importante salientar que o tom catastrófico do documento encontra pouca fundamentação.

Para diversos especialistas, o medo de que possamos estar caminhando para um cenário semelhante aos apresentados em filmes como Matrix ou Exterminador do futuro é completamente despropositado. Isso porque a realidade da inteligência virtual é muito mais banal do que parece. Todo seu fundamento não é nada além de estatística e organização de dados.

Até mesmo especialistas que foram utilizados como fonte para justificar os argumentos do documento se manifestaram alegando que seus trabalhos foram usados de maneira errada.

Segundo Timnti Gebru, pesquisadora especialista na área da inteligência artificial e que teve o trabalho citado na carta, o que os autores fizeram foi basicamente dizer o contrário do que ela afirmou.

Diante disso, somos levados a questionar qual a real intenção de Elon Musk e dos demais signatários com a publicação do pedido de pausa. Para responder a essa questão é necessário lembrar que parte considerável do grupo que assinou o documento já possui um histórico de tecer discursos alarmistas sobre a inteligência artificial.

Em 2017, o instituto responsável pela carta (Future o life) organizou um evento que contou com participação de diversos nomes que também subscreveram o pedido pausa. Esse evento teve o mesmo tom apocalíptico presente no documento.

De acordo com David Sumpter, autor do livro Dominados pelos números: do Facebook às fake News os algoritmos que controlam nossas vidas, a narrativa de Elon Musk exagera deliberadamente a IA para tornar mais fantásticos seus projetos que envolvem essa tecnologia, como os carros autônomos, por exemplo.

É importante lembrar que o medo encanta e causa curiosidade. Assim, cria-se uma aura mística que encobre os produtos da tecnologia e faz com que os criadores e as criações sejam mais valorizados.

Aliado a isso, outro fator digno de nota é a posição atual de Musk na corrida da inteligência artificial. Desde que desfez os laços com a OpenAi ele perdeu muitas posições. Nesse contexto, pedir uma pausa na competição, é pedir que quem está na frente pare pra ser alcançado.

Contudo, alguém poderia me lembrar que existem outras pessoas que assinaram a carta, mas não são desenvolvedores de tecnologia, como o israelense Yuval Harari. Harari é um escritor best-seller que não é conhecido exatamente pelo rigor acadêmico. Muito de sua fama se deve ao seu tom catastrófico que o ajuda a ser um autor muito vendido. Por isso, aparecer em um documento como esse é ocupar um espaço publicitário gratuito.

Por outro lado, ainda que questionemos os objetivos e os fundamentos da carta, isso não quer dizer que a inteligência artificial não vá propiciar mudanças significativas na sociedade. O aumento do desemprego, da desigualdade social e da precarização do trabalho são alguns dos efeitos que frequentemente são listados para um futuro próximo.

As pessoas que assinaram o pedido de pausa na IA sabem disso e sabem também que uma pausa de 6 meses não resolverá esses problemas. Porém, a publicação do documento poderá funcionar como um atestado de “eu avisei” que será usado para engradecer o caráter e a personalidade dos signatários da carta posteriormente.

Em resumo: o tom catastrófico do documento serve como um chamariz para um pedido de pausa que não resolverá os verdadeiros problemas que a inteligência artificial poderá trazer. Precisamos na verdade de políticas públicas de regulação dessa tecnologia e de medidas governamentais para lidar com seus efeitos na sociedade. Infelizmente, há pouca coisa sendo feita nesse sentido.