A impressão de que as redes sociais podem ser um lugar hostil é uma sensação partilhada por muitos usuários. De fato, a necessidade da raiva e do medo para os algoritmos é algo largamente documentado.
A questão que surge dessa constatação é a seguinte: por que as redes sociais são um terreno fértil para esses tipos de afeto? A resposta mais curta é: esses sentimentos prendem nossa atenção, e a atenção é o bem mais precioso da internet.
Jarion Lanier, cientista da Microsoft e pesquisador dos impactos das redes sociais, explica que os algoritmos das big techs funcionam de modo a fazer com que as pessoas se sintam enraivadas, tenham medo ou se sintam em perigo. Embora as empresas não planejem o tipo de conteúdo que incita esses estados, as plataformas privilegiam as produções que são capazes de fazer isso.
Nos incontáveis entroncamentos que existem na internet, o usuário é frequentemente conduzido à paginas que propagam discursos de ódio, teorias da conspiração, violência, fake news, entre outros temas ligados a grupos extremistas.
De acordo com Mark Fisher, autor do livro “A máquina do caos”, esses conteúdos são populares justamente porque possuem relações com o medo e o ódio. Discursos contra as minorias, por exemplo, encontram grande repercussão, porque mobiliza o medo do diferente. Esse medo, por sua vez, transforma-se em ódio diante da presença de imigrantes, homossexuais etc.
Esses sentimentos, normalmente tidos como desagradáveis, são importantes porque mobilizam. Na língua da internet, "geram engajamento". Levadas por esses afetos, é comum que as pessoas comentem, compartilhem e curtam as publicações.
O pânico e a raiva mobilizam porque não apelam para o racional e sim para o que há de mais primitivo no ser humano. Ao encarar uma ameaça (real ou inventada) somos instigados a tomar uma atitude. Nas redes sociais, essa atitude significa passar a informação a diante para espalhar o alerta.
Cegas de ódio as pessoas lotam os campos de comentários com textos em caixa alta que contam com ofensas, xingamentos e até ameaças. No compartilhamento usa-se o tom alarmístico e urgente de um perigo que as outas pessoas parecem desconhecer.
É nesse contexto que a extrema direita encontra espaço propício para se desenvolver. Não é por acaso que a ascensão do neofascismo ocorre no mesmo momento do sucesso das redes socias.
Os articuladores dessa corrente política possuem muito mais espaço na internet e conseguem explorar melhor os ambientes virtuais. Isso quer dizer que a vantagem da direita sobre a esquerda nas redes sociais é em grande medida graças ao privilégio que os algoritmos dão ao conteúdo explorado por pessoas como Trump e Bolsonaro.
Esses políticos conhecem muito bem o papel do ódio para o seu crescimento e estabeleceram a raiva como matéria prima. Eles perceberam também que a internet é lugar excelente para minerar esse tipo de afeto.
Isso não quer dizer, entretanto, que os líderes da extrema direita sejam mais inteligentes ou melhores políticos. Eles apostaram no ambiente virtual, porque as ideias extremistas tinham pouco espaço na mídia tradicional. Ao explorar esse espaço perceberam que suas falas ecoavam atingindo um número enorme de pessoas. Assim, por meio do método de tentativa e erro aprenderam o caminho das pedras para dominar a internet.
É por essa razão que as pessoas desse espectro político são contrárias à regulação das redes sociais. A extrema direita sabe que é beneficiada pelos algoritmos que regem o meio virtual e sabem também que regulá-los poderia diminuir o alcance dos seus conteúdos.
Seria ingenuidade acreditar que as empresas de tecnologia desconhecem o fato de que os algoritmos privilegiam a extrema direita. Por mais que esse benefício possa não ter sido proposital, ao estabelecer o medo e o ódio como parâmetro, contribuiu para ascensão do neofascismo.
Infelizmente, ainda que a propensão das redes sociais para espalhar discursos que incitam a raiva o pânico seja afirmada por pesquisadores e por pessoas de dentro das empresas, além de ser verificável na prática, pouco tem sido feito em relação a isso.
Em sua grande maioria, as leis que surgem para regular os conteúdos na internet ao redor do mundo, limitam-se a policiar notícias falsas e punir crimes de ódio. É claro que esse é um passo fundamental, mas não suficiente, porque trata-se somente da ponta do iceberg.
Lidar exclusivamente com o conteúdo depois de sua circulação é enxugar gelo; não adianta punir um influenciador, se as plataformas estiverem trabalhando para elevar outros que defendem a mesma coisa.
O discurso contrário à regulação (normalmente feito por pessoas da extrema direita), argumenta que regular é sinônimo de censurar. Esse argumento não se sustenta, porque parte da premissa de que a internet é a terra da liberdade e tudo pode ser feito. Esse pensamento, entretanto, está longe de ser verdade, porque as próprias redes sociais possuem suas censuras.
Somente o fato de que as plataformas privilegiam um certo conteúdo já é argumento suficiente para desbancar a teoria da internet como terra da liberdade. Por mais que a pessoa possa, por exemplo, fazer um canal sobre quase tudo no YouTube, o alcance dos vídeos é determinado pelas leis que a empresa determina.
Assim, por mais que possa existir uma liberdade formal sobre o conteúdo produzido, não há liberdade, de fato, porque os produtores precisam se adequar ao que é esperado das redes sociais.
Portanto, não se trata de controlar o que é livre e sim de pensar outras formas de estabelecer o que queremos que a internet privilegie. Algumas pessoas poderão objetar essa posição, defendendo a autonomia das empresas. Contudo, a partir do momento que as redes sociais se transformaram em um ambiente onde as pessoas passam grande parte de suas vidas, os efeitos dos conteúdos consumidos sobre os indivíduos são incomensuráveis. Por isso, as empresas de tecnologia não podem ter liberdade irrestrita.
*Este material não reflete, necessariamente, a opinião do Aratu On.

No final de março presenciamos um acontecimento curioso na história do desenvolvimento tecnológico: Elon Musk e outros grandes nomes da tecnologia assinaram uma carta pedindo uma pausa no aprimoramento das inteligências artificiais.
O texto, que também foi assinado por pesquisadores como Yuval Harari, possui um tom catastrófico e alerta para os perigos que o avanço dessa ferramenta poderia causar a humanidade.
É importante negritar o fato de que a carte surge num contexto em que a popularização do Chat GPT tem espantado a sociedade enquanto cria problemas e soluções para diversas áreas. Ao mesmo tempo que tem facilitado o trabalho de muita gente, também tem criado preocupações.
Educadores, por exemplo, têm de lidar com o fato de seus alunos podem terceirizar suas atividades escolares para serem feitas pelos robôs. Além disso, a apreensão sobre a substituição de pessoas pela máquina no mercado de trabalho tem atormentado um número significativo de pessoas.
Todas essas novidades foram propiciadas pela terceira edição do Chat GPT. No momento a OpenAi, empresa responsável pelo programa, prepara-se para o lançamento da versão 4.0. É sobre essa nova versão que recaem os anseios dos signatários da carta.
Elon Musk e os demais pedem para pausar o desenvolvimento de todas as inteligências artificiais que sejam mais poderosas que o GPT-4 por 6 meses, porque o avanço a partir desse nível poderia representar riscos profundos para a sociedade a humanidade.
Um dos argumentos apresentados no documento é que a evolução dessa tecnologia causaria uma "dramática perturbação econômica e política (especialmente para a democracia)”.
Contudo, Elon Musk, o nome mais famoso da carta, é conhecido justamente pela sua falta de apreço a autodeterminação dos povos e a manutenção da democracia. Em 2020, bilionário sul-africano esteve envolvido em uma polêmica em que defendia o golpe de Estado na Bolívia. Ele chegou a afirmar no Twitter: "vamos dar golpe em quem quisermos, lide com isso".
Por esse motivo, parece difícil acreditar nas nobres intenções do pedido de pausa no desenvolvimento da inteligência artificial. Além disso, é importante salientar que o tom catastrófico do documento encontra pouca fundamentação.
Para diversos especialistas, o medo de que possamos estar caminhando para um cenário semelhante aos apresentados em filmes como Matrix ou Exterminador do futuro é completamente despropositado. Isso porque a realidade da inteligência virtual é muito mais banal do que parece. Todo seu fundamento não é nada além de estatística e organização de dados.
Até mesmo especialistas que foram utilizados como fonte para justificar os argumentos do documento se manifestaram alegando que seus trabalhos foram usados de maneira errada.
Segundo Timnti Gebru, pesquisadora especialista na área da inteligência artificial e que teve o trabalho citado na carta, o que os autores fizeram foi basicamente dizer o contrário do que ela afirmou.
Diante disso, somos levados a questionar qual a real intenção de Elon Musk e dos demais signatários com a publicação do pedido de pausa. Para responder a essa questão é necessário lembrar que parte considerável do grupo que assinou o documento já possui um histórico de tecer discursos alarmistas sobre a inteligência artificial.
Em 2017, o instituto responsável pela carta (Future o life) organizou um evento que contou com participação de diversos nomes que também subscreveram o pedido pausa. Esse evento teve o mesmo tom apocalíptico presente no documento.
De acordo com David Sumpter, autor do livro Dominados pelos números: do Facebook às fake News os algoritmos que controlam nossas vidas, a narrativa de Elon Musk exagera deliberadamente a IA para tornar mais fantásticos seus projetos que envolvem essa tecnologia, como os carros autônomos, por exemplo.
É importante lembrar que o medo encanta e causa curiosidade. Assim, cria-se uma aura mística que encobre os produtos da tecnologia e faz com que os criadores e as criações sejam mais valorizados.
Aliado a isso, outro fator digno de nota é a posição atual de Musk na corrida da inteligência artificial. Desde que desfez os laços com a OpenAi ele perdeu muitas posições. Nesse contexto, pedir uma pausa na competição, é pedir que quem está na frente pare pra ser alcançado.
Contudo, alguém poderia me lembrar que existem outras pessoas que assinaram a carta, mas não são desenvolvedores de tecnologia, como o israelense Yuval Harari. Harari é um escritor best-seller que não é conhecido exatamente pelo rigor acadêmico. Muito de sua fama se deve ao seu tom catastrófico que o ajuda a ser um autor muito vendido. Por isso, aparecer em um documento como esse é ocupar um espaço publicitário gratuito.
Por outro lado, ainda que questionemos os objetivos e os fundamentos da carta, isso não quer dizer que a inteligência artificial não vá propiciar mudanças significativas na sociedade. O aumento do desemprego, da desigualdade social e da precarização do trabalho são alguns dos efeitos que frequentemente são listados para um futuro próximo.
As pessoas que assinaram o pedido de pausa na IA sabem disso e sabem também que uma pausa de 6 meses não resolverá esses problemas. Porém, a publicação do documento poderá funcionar como um atestado de “eu avisei” que será usado para engradecer o caráter e a personalidade dos signatários da carta posteriormente.
Em resumo: o tom catastrófico do documento serve como um chamariz para um pedido de pausa que não resolverá os verdadeiros problemas que a inteligência artificial poderá trazer. Precisamos na verdade de políticas públicas de regulação dessa tecnologia e de medidas governamentais para lidar com seus efeitos na sociedade. Infelizmente, há pouca coisa sendo feita nesse sentido.
*Este material não reflete, necessariamente, a opinião do Aratu On.

O filme "Ela", de 2013, estrelado por Joaquin Phoenix, narra a história amorosa de um escritor solitário que se apaixona por um programa de computador feito para simular o comportamento de uma pessoa real.
Hoje, dez anos depois, histórias como essa são cada vez menos raras. Já é possível encontrar aplicativos muito parecidos com o software do filme. Replika e Xiaoice são dois exemplos de apps que possibilitam a criação de inteligência artificial capaz de conversar com o usuário se adaptando às necessidades e gostos.


[caption id="attachment_199462" align="alignnone" width="620"]<img class="wp-image-199462 size-full" src="https://aratuon.com.br/wp-content/uploads/2023/03/filme-ela.jpg" alt="cena do filme &quot;Ela&quot;" width="620" height="465" /> Cena do filme "Ela" (2013) / reprodução[/caption]
Embora as empresas responsáveis por esses programas os definam como aplicativos que podem oferecer um amigo pessoal, muitas pessoas acabam se apaixonando por esses robôs. O Xiaoice possui mais de 600 milhões de usuários ao redor do mundo e dentre esses, mais de 100 milhões se declaram apaixonados pela inteligência artificial que interagem.
Essa grande quantidade de pessoas talvez indique que o perfil dos usuários que se apaixonam pelos seus robôs personalizados não se resume a indivíduos com problemas de socialização e dificuldades para construir relações com pessoas reais. Existe um contexto social que faz com que muita gente não pense ser absurda a ideia de ter um parceiro virtual.
Em primeiro lugar é importante destacar o fato de que trabalhamos e estudamos cada vez mais. Assim, sobra pouco tempo para criar e cultivar relações amorosas ou de amizade. Esse foi o argumento dado por Melissa, uma nativa de Pequim e usuária do Xiaoice.
"Todo mundo está fazendo hora extra, então achamos que devemos fazer o mesmo. Não temos tempo para fazer amigos e os amigos que temos também estão muito ocupados".
Além disso, creio que haja um outro fator de suma importância que contribui para esse fenômeno social: a idealização do par perfeito em uma época de narcisismo acentuado.
Sabe-se que o romance idealizado não é um problema exatamente novo e sabe-se também que a idealização causa frustrações porque a vida real não corresponde com o que foi sonhado. Contemporaneamente, essa relação entre o real e o sonhado é ainda mais complicada porque vivemos numa era em que nos interessamos cada vez mais por nós mesmos, tal qual Narciso que se apaixona pela sua própria imagem refletida como conta o mito.
A historiadora e psicanalista Elisabeth Roudinesco argumenta que essa forma de ver o mundo faz com que passemos a aceitar menos as diferenças. Ainda que tenhamos apreço pela tolerância, não queremos conviver com o que não é semelhante.
Nesse contexto, o parceiro ideal é simplesmente nosso reflexo. A busca aqui não é somente por pessoas que partilhem das mesmas crenças ou valores fundamentais; o par perfeito deve ser nossa imagem e semelhança. Como no mundo real é muito difícil encontrar pessoas que partilhem das mesmas idiossincrasias, parceiros virtuais têm sido a solução para muitas pessoas.
A inteligência artificial torna-se sedutora, porque é uma espécie de amor personalizado. Com a tecnologia do aprendizado de máquina, o software reconhece padrões que permitem conhecer a personalidade da pessoa mapeando seus desejos, medos, preferências etc.
A partir daí o programa age de acordo com a idealização do usuário de modo a se adaptar a todas as demandas. É como se a inteligência artificial fosse um molde que se transforma de acordo com a geografia da personalidade do indivíduo criando um encaixe perfeito, como uma peça de um quebra-cabeças ou de lego.
Como o objetivo da inteligência artificial é se moldar, ela nunca vai desapontar, nem reclamar, nem desejar algo diferente do que o usuário gostaria. É , portanto, uma relação sem discordâncias, desentendimentos e desavenças.
Por mais insólito que possa parecer, o interesse amoroso de pessoas por linhas de código é um fenômeno que saiu dos filmes de ficção científica e é uma realidade para muita gente. O sucesso dos robôs amantes, contudo, não se dá exclusivamente pela competência dos programadores em criar inteligências artificiais que conseguem simular o comportamento humano.
O nosso modo de vida que cultiva “eu soberano” é um terreno fértil para que busquemos relações idealizadas com pessoas que sejam iguais a nós. Nesse contexto, o avanço da tecnologia supre a fantasia de ter alguém sob demanda.
Acredito que esse fenômeno não é somente uma extravagância despropositada, mas o reflexo de uma sociedade que se orgulha em não lidar com a diferença. Muitos de nós não temos ou teremos um amante robô, mas ainda assim, analisando nossas relações passadas e presentes, compreendemos o que motiva as pessoas a recorrerem à inteligência artificial.
Em uma época onde tudo é personalizado (as propagandas, as bolhas das redes sociais, as sugestões do que assistir ou ouvir etc.), a ideia de um parceiro romântico sob demanda e sob controle surge como mais uma forma de personalização que alimenta nosso narcisismo.
Hoje, esse romance de pessoas com robôs ainda se dá de forma virtual. No entanto, é possível imaginar que em um futuro próximo, empresas fabriquem robôs físicos para encarnar essas inteligências artificiais. Quando esse momento chegar, o que será que acontecerá?
*Este material não reflete, necessariamente, a opinião do Aratu On.

A recente onda de violência nos espaços escolares tem preocupado toda a sociedade e causado medo em crianças e pais de estudantes. Essa série de ataques, classificada pelo ministro da justiça Flávio Dino como uma epidemia, tem convidado à reflexão sobre as suas causas para que seja possível pensar maneiras de prevenir novos casos.
Nesse contexto, as redes sociais costumam ser apontadas como responsáveis, porque é possível rastrear toda a movimentação nas comunidades virtuais que levaram aos casos de violência.
Inicia-se daí tentativas de diálogo e regulamentação das empresas para impedir novos ataques. Contudo, para que isso funcione é necessário compreender o motivo da internet ser um terreno fértil para a criação do discurso de ódio que está por trás desses atentados.
Primeiramente é importante destacar os efeitos psicológicos nos usuários das redes sociais. Como os algoritmos tendem a juntar pessoas que pensam de forma parecida, formam-se bolhas em que as pessoas ficam presas em conteúdos que confirmam sua visão de mundo.
Nessas bolhas, o indivíduo sente que finalmente encontrou seu lugar no mundo onde ele é compreendido e reconhecido. O problema é que esse tipo de agrupamento possui características nocivas, como a diminuição do senso crítico e o aumento da agressividade.
É possível pensar essas comunidades virtuais com o auxílio do conceito de psicologia das massas, cunhado pelo psicólogo francês Le Bom e aprimorado por Freud no texto A psicologia das massas e a análise do eu. Nessa obra, o psicanalista explica como os indivíduos tornam-se mais violentos e submissos quando estão em grupo.
O que as redes sociais fazem é potencializar essas características. Isso acontece por dois motivos. Primeiramente pode-se afirmar que contemporaneamente as pessoas podem estar todo tempo conectadas as suas comunidades através do uso do smartphone.
Em segundo lugar é importante destacar o fato de que é possível se conectar com pessoas que estão muito distantes. Assim, é possível formar grupos muito específicos que não se formariam sem o auxílio das novas tecnologias.
Esses dois fatores permitem que conteúdos extremistas possam ser encontrados com facilidade e a presença constante nas comunidades virtuais faz com que os participantes se tornem cada vez mais extremados.
Além disso, é importante negritar o fato de que as grandes empresas de tecnologia que controlam as redes sociais conhecem a importância do ódio e da violência para manter as pessoas em suas plataformas.
Conteúdos envolvendo teorias da conspiração, pensamento da extrema direita e demais produções pautadas no medo e na raiva são frequentemente oferecidos no YouTube, no Twitter e em demais plataformas.
Por esse motivo, por mais que se tente procurar e punir os responsáveis por criar e compartilhar esse tipo de conteúdo, a tarefa é muito difícil porque as próprias redes sociais se encarregam de alavancar outros influenciadores com o mesmo perfil.
O jornalista italiano Giuliano da Empoli, em seu livro Os engenheiros do caos, nos mostra como a ascensão da extrema direita foi impulsionada por essas características do mundo virtual. Em busca da atenção dos usuários as empresas bombardeiam conteúdos que despertem medo e raiva. Como efeito surgem comunidades de ódio como as que realizam ataques a escolas.
Dessa forma, para tratar essa questão de forma mais profunda, é preciso questionar o funcionamento dos algoritmos. Ainda que buscar e punir os incitadores de crimes de ódio seja necessário, não é suficiente.
É preciso levar a sério a proposta de regular as redes sociais. Se todos os serviços da sociedade possuem regulação, a internet não poder ser uma exceção, sobretudo quando já se conhece os efeitos nocivos que pode produzir.
*Este material não reflete, necessariamente, a opinião do Aratu On.

O papel das redes sociais nos massacres nas escolas

As redes sociais, o ódio e a extrema direita

Seremos dominados pelas máquinas? Elon Musk, Harari e o pedido de pausa no desenvolvimento da inteligência artificial

O amor nos tempos da inteligência artificial: você namoraria um robô?

Cristian Arão

Relacionadas

O equívoco escolar e sua difícil realidade: o inimigo tem muitas faces

Mansa Musa: o homem mais rico da história viveu na África

Educação e relações raciais