Home Revista do Brasil Na ditadura do algoritmo, poder econômico diz o que devemos desejar e pensar
VIDA DIGITAL

Na ditadura do algoritmo, poder econômico diz o que devemos desejar e pensar

Livro lançado por pesquisadores da UFABC analisa como as redes sociais trabalham na manipulação e modulação de ideias para ter controle sobre as massas
Publicado por Helder Lima, da RBA
10:39
Compartilhar:   
pixabay
manipulacao nas redes sociais.jpg

Inteligência Artificial (IA) faz o trabalho de reconhecimento do perfil do internauta e o envio de mensagens em massa

A vida no seio da tecnologia digital e das redes sociais é maravilhosa, diriam os mais empolgados com a tecnologia. Qualquer pessoa de seu círculo de relacionamentos está a seu alcance em tempo real, e toda a informação pode ser compartilhada com quem se queira a qualquer momento. Parece inegável que a liberdade se expandiu com a tecnologia, e assim finalmente a sociedade atinge um estágio de possibilidades de expressão e de pensamento nunca antes visto.

O único problema é que essa percepção é apenas a superfície de um lago de águas turvas que encobre uma realidade cruel com o indivíduo e sua subjetividade. Sob a superfície de facilidades de cada rede social, operam incólumes os algoritmos, recursos capazes de identificar as preferências de cada um e em algum momento despontar com alguma oferta de informação, ou manipulação capaz de levar o indivíduo não para um oásis de liberdade, mas para onde exista um interesse econômico, promovendo um determinado consumo, ou político, para colocar em evidência uma opinião ou uma personagem que tenha o mesmo apelo dos interesses que dirigem a rede social como uma empresa, afinal, as redes são negócios, business, como qualquer outro.

Os estudiosos do comunicação classificam a formação de opinião nas redes sociais como um processo de manipulação e modulação, tomando emprestado do filósofo francês Gilles Deleuze (1925-1995) uma terminologia (‘manipulação’ e ‘modulação’) concebida nos anos 1990 para desnudar o processo segundo o qual os meios de comunicação influenciam a subjetividade e o pensamento de cada um, papel agora que se radicaliza com as redes sociais, seja porque a mensagem se destina ao foco de interesse do usuário, seja porque o coloca em uma bolha, onde só se projeta a informação de afinidade que o sujeito demanda.

“Agora, no século 21, temos a modulação por meio do algoritmo das redes sociais. O algoritmo é mais eficiente na veiculação da mensagem porque, diferentemente da televisão, ele não atinge quem não precisa, quem não é alvo da mensagem, mas somente quem ele identifica com a mensagem”, afirma o pesquisador João Cassino, um dos autores do Livro A Sociedade de Controle: Manipulação e Modulação nas Redes Digitais, lançado pela editora Hedra no último dia 22.  Obra coletiva de alunos do mestrado da UFABC, o livro é organizado pelos pesquisadores Sérgio Amadeu da Silveira, Joyce Souza e Rodolfo Avelino, com textos de, além de Cassino, Debora Machado, Carla Oliveira, Cinthia Monteiro e Mariella Mian.

reproduçãocapa do livro a sociedade do controle.jpg
Capa do livro: uma reflexão para que o leitor possa perceber os interesses que orientam as redes sociais

Cassino explica que os mecanismos de controle na sociedade moderna tiveram sua fundamentação com a noção de disciplina a partir da Revolução Industrial. “O livro tenta dar várias visões sobre a abrangência dos conceitos de manipulação e modulação. Na história, em um primeiro momento você tinha a sociedade disciplinar. Todas as instituições que a gente conhece hoje surgem mais ou menos no final do século 18 e início do 19, com a Revolução Industrial. É onde surge essa noção de hierarquia. Na escola, você tem a figura de autoridade do professor. Na empresa, tem o patrão e os empregados, no hospital, você tem o médico. Então, essas são as figuras da sociedade disciplinar”, afirma, lembrando que a velha palmatória é um dos ícones dessa sociedade.

Já no século 20, com a chegada da televisão e do rádio, foi criada uma nova maneira de modular a opinião, ou seja, “convencer as pessoas a fazerem o que você quer que elas façam”. Esse processo induz comportamentos e não é preciso mais ter a força da disciplina. “A modulação não substituiu a disciplina, mas se soma a ela. E agora, neste começo de século 21, a gente passa a ter a modulação dos algoritmos, dos robôs, da inteligência artificial (IA)”, diz Cassino.

A vida nas redes digitais é personalizada ao extremo a ponto de a mensagem ser veiculada de modo apropriado a cada indivíduo ou grupo. Um exemplo disso foi a eleição de Donald Trump nos Estados Unidos, cuja estratégia se repetiu em 2018 no Brasil para eleger Jair Bolsonaro (PSL) em meio a um oceano de fake news, manipulações e modulações. Cassino dá o exemplo, no caso de Trump, das comunidades negras do bairro do Harlem, em Nova York. São eleitores que não votariam mesmo em Trump, mas nesse caso a mensagem do candidato republicano para esses eleitores tenta demovê-los da ideia de participar do pleito, já que a eleição nos Estados Unidos não é obrigatória. “Já que ele não tem os votos, ele tenta tirar esses votos do adversário pelas redes sociais”, afirma o pesquisador.

As máquinas vão entender que aquela população não tem nada a ver com o Partido Republicano, e as informações sobre a comunidade alimentam uma base de dados, que orienta qual tipo de mensagem será enviada a uma família, por exemplo. “É um processo que identifica a partir de perfis de navegação quais as informações importantes para cada pessoa, e trabalha essas informações, inclusive, fazendo fake news, pra chegar na pessoa a informação que ela quer receber e conseguir influenciar o voto”, diz.

Quem vai fazer todo esse trabalho de reconhecimento do perfil e o envio de mensagens em massa é a Inteligência Artificial. “Isso muda completamente o que estávamos acostumados”, afirma Cassino, referindo-se ao fato de que se torna algo relativo o poder de ocupar as redes sociais com a mobilização das militâncias, por exemplo. “Quando a gente ouve que a esquerda tem que ocupar as redes sociais não é bem assim, não é com militantes que você vai resolver isso. Uma base grande de militantes atenua o problema, mas você não tem como competir com os algoritmos”, destaca.

As empresas que dominam as plataformas das redes são organizações de capital privado que têm seus interesses políticos e econômicos. Diante dessa realidade, distante daquela do início da operação comercial da internet nos anos 1990, quando existia liberdade na rede, o que se tem hoje é o poder do capital determinando o que é veiculado. Indagado sobre qual a melhor estratégia para ocupar as redes, o pesquisador afirma que mais uma vez o poder econômico dá as cartas. “Na verdade, estamos em uma situação muito difícil, porque o uso de robôs – perfis falsos que usam IA – tentam dar volume às campanhas. Mas nós temos dificuldades com essa plataforma, porque tanto o serviço de microssegmentação quanto os robôs de massa são serviços caríssimos. Quem tem dinheiro para isso, ou mesmo comprar anúncios nas redes, é o poder econômico”, diz.

O Facebook, o Twitter e também outras redes detêm tecnologia para colocar as pessoas em bolhas. Eles identificam que determinada pessoa é palmeirense, por exemplo, aí tentam criar relacionamentos dessa pessoa com outros palmeirenses, constituindo grupos de afinidades. “Quando você acha que está falando para o mundo, na verdade está falando na bolha”. E todas essas empresas são sediadas nos Estados Unidos, que tem influência da agência de segurança NSA, do Congresso Nacional, que tem seus interesses políticos.

“Ao mesmo tempo que as esquerdas precisam estar nas redes sociais e disputar os espaços para não deixar a direita nadar de braçada sozinha, você enfrenta não só a militância da direita, mas enfrenta toda a infraestrutura tecnológica dessas empresas norte-americanas; estamos em uma situação em que eles nos colocaram em uma armadilha. A internet que começou a se popularizar na década de 1990 como um sonho de liberdade, e no começo isso era verdade, mas agora eles conseguiram amarrar de um jeito que ficou pior do que a televisão”.

Ditadura do algoritmo?  “No livro chamamos de sociedade do controle, que é o termo inventado pelo Deleuze. O big brother, do 1984 (romance futurista de George Orwell que previa a distopia dos dias de hoje), em que todo mundo olhava todo mundo, virou uma brincadeira de criança, porque qualquer coisa que você coloca na internet é armazenada em bases de dados que não serão apagadas nunca mais, e cada vez o armazenamento é mais fácil de fazer e mais barato”, afirma.