O viés social dos algoritmos das redes sociais

Alguns analistas dizem que os algoritmos das redes sociais têm um viés a favor do feedback negativo. E é por isso que o discurso ódio e discursos mais acalorados estão à frente de outros discursos mais positivos, suaves ou neutros. Significa promover o que mais provoca emoções fortes, incluindo raiva, indignação e medo. Esse viés a favor do feedback negativo ocorre porque essas emoções tendem a gerar mais cliques, partilhas e comentários, do que outros conteúdos. O bom senso, que geralmente envolve discussões mais racionais e equilibradas, não é apanágio das ditas plataformas.

Essa vinculação ao mundo virtual altera o sentido da realidade à pessoas mais descuidadas, levando-as a acreditar que o mundo real é mais hostil do que realmente é. Essa situação tem gerado uma corrente de opinião que responsabiliza os detentores dessas plataformas incentivando-os a fazer qualquer coisa nos algoritmos a modo de moderar e civilizar os avatares. Embora o resultado dos algoritmos seja muitas vezes negativo para a qualidade do discurso público e para a saúde mental dos frequentadores, isso não significa que os criadores e detentores dessas plataformas sejam intrinsecamente perversos. Na maioria dos casos, essas plataformas foram criadas com objetivos comerciais: aumentar o tempo de uso, atrair mais presenças, mais “likes” e, consequentemente, maximizar o lucro por meio de anúncios e dados. O problema é que as implicações éticas e sociais desses algoritmos nem sempre foram consideradas com a profundidade que deveriam ter sido. A busca por crescimento rápido e lucros levou a decisões perversas. Agora, muitos especialistas e críticos veem isso como um problema sistémico, no qual as consequências imprevistas da tecnologia têm sido mais prejudiciais do que o esperado.

O desafio real é à cultura das corporações e dos setores da tecnologia, que para buscarem o lucro da noite para o dia, desenvolvem o rápido e o fácil em detrimento da reflexão ponderada e amadurecida. No entanto, isso é um problema mais amplo que vai além da personalidade ou características dos indivíduos envolvidos. Reconhecer o problema não é suficiente; ações concretas são necessárias. Há muito farisaísmo. Como na narrativa bíblica, os fariseus eram conhecidos por pregar uma moralidade rígida e pública, mas muitas vezes não seguiam os próprios ensinamentos. Da mesma forma, em muitos setores da tecnologia, há uma desconexão entre o discurso de ética e as práticas reais. Muitas empresas de tecnologia falam em ética e responsabilidade, mas continuam priorizando estratégias que aumentam o engajamento, mesmo que isso tenha impactos negativos nas pessoas e na sociedade. Resolver isso exige mais do que declarações públicas ou códigos de ética; é preciso implementar políticas que equilibrem a inovação com a responsabilidade social e desenvolver algoritmos que considerem o bem-estar do utilizador, mesmo que isso possa reduzir lucros a curto prazo. Iniciativas que tragam regulamentos mais rigorosos, auditorias independentes dos algoritmos e maior transparência nas práticas empresariais são passos que podem ajudar a mudar essa cultura de "falar sem fazer". É um desafio grande, mas necessário para que as palavras se traduzam em ações.

Como em tudo, os adolescentes são os maiores. Há muito se sabe que o radicalismo é próprio da adolescência, idade alvo dos ideólogos, tanto de extrema-direita como de extrema-esquerda. A adolescência é uma fase da vida marcada por uma busca identitária intensa, pertença e propósito. Nessa idade, as emoções são frequentemente mais intensas e a capacidade de julgamento crítico ainda está em desenvolvimento. Isso pode tornar os adolescentes mais propensos a abraçar ideias e movimentos que oferecem respostas simples, corretas e retilíneas para questões circulares e complexas. Esse fenómeno pode ajudar a explicar porque é que os jovens são mais radicais, atraídos por ideologias que tanto podem ser de extrema-direita como de extrema-esquerda, dependendo do ciclo histórico que atravessam no momento. 

As plataformas na Internet não podiam estar mais a jeito para amplificarem esta particularidade do ser humano. Os algoritmos foram construídos de modo a amplificar polarizações, empurrando as pessoas  para bolhas de informação que reforcem as suas crenças. Essa combinação de fatores cria um ambiente propício para que adolescentes, em sua fase natural de questionamento e rebeldia, sejam mais vulneráveis à influência de ideologias radicais. Por isso, é importante que haja educação para o pensamento crítico e a promoção de ambientes que incentivem o debate saudável e o entendimento de múltiplas perspectivas. Isso pode ajudar a mitigar os riscos associados a uma adesão precoce e irrefletida a posições extremas.

É em momentos como os que se estão a atravessar neste fim de primeiro quartel do primeiro século do terceiro milénio depois de Cristo, que as mundividências se voltam a polarizar em maniqueísta.

Filosoficamente falando, o maniqueísmo simplifica o mundo em preto e branco, enquanto a realidade se desdobra em incontáveis nuances. A história, a política, a mora, tudo está nos tons de cinzento. Quem vê apenas extremos perde a riqueza do real. Tecnicamente falando, num espectro digital de 8 bits, há 256 tons de cinzento (do preto absoluto ao branco puro). Se considerarmos um espectro de 10 bits, como em algumas tecnologias avançadas de imagem, temos 1024 tons de cinzento. E se formos ao limite da visão humana e da física da luz, o número de variações pode ser praticamente infinito.

Essa tendência para o pensamento dicotómico é parte do desenvolvimento psicológico, à medida que os adolescentes vão construindo as suas identidades e tentando entender o mundo ao seu redor. Por isso, ideias radicais e simplificadas são atraentes, pois oferecem um sentido de clareza. Com a idade e a experiência, as pessoas tendem a desenvolver uma visão mais matizada do mundo. Os "cinzentos" da sabedoria adquirida com o tempo ensina que as questões humanas são complexas, multifacetadas em que as respostas simples são raras. O que é raro é raro, o que é frequente é frequente, já dizia Hannah Arendt, que era inteligente. Este tipo de entendimento permite um maior grau de empatia, tolerância e a capacidade de ver além das polarizações que muitas vezes dominam o discurso juvenil e os debates acalorados das redes sociais.

Hannah Arendt com a denúncia das aporias e reducionismos inerentes à racionalidade; e Merleau-Ponty com o visível e invisível da ontologia - pensaram bem sobre o assunto. Ambos ofereceram reflexões profundas que dialogam com a complexidade da natureza humana e as limitações do pensamento dicotómico. Arendt, em sua análise da racionalidade moderna e dos perigos do pensamento instrumental, abordou as aporias e os reducionismos que surgem quando a racionalidade se descola da realidade vivida e da pluralidade humana. Sua obra As Origens do Totalitarismo, por exemplo, é um exemplo claro de como ela desvenda as simplificações perigosas que permitem que ideologias radicais se instalem. Arendt enfatiza a importância do pensamento, não como uma simples aplicação de regras racionais, mas como um diálogo interno que permite a reflexão ética e a busca pela compreensão da complexidade humana.

Merleau-Ponty, por sua vez, em obras como O Visível e o Invisível, explorou a ontologia da percepção e as nuances entre o que é evidente e o que escapa à compreensão imediata. Ele nos lembra que a realidade é composta de camadas que não são capturadas apenas pelo racionalismo lógico, mas também pelo vivido, pelo experienciado e pelo que está implícito nas interações humanas. A ideia do “invisível” em sua filosofia aponta para tudo o que está além do nosso campo de percepção direto, o que se aplica bem à compreensão de que o mundo não é apenas preto e branco, mas contém uma vasta gama de significados entre os extremos.

Ambos os pensadores, cada um à sua maneira, desafiaram os modos simplistas de pensar e nos convidaram a considerar a riqueza da experiência humana, com suas contradições, incertezas e complexidades. Eles ofereceram ferramentas filosóficas para que possamos questionar os reducionismos e perceber as "zonas cinzentas". A sabedoria dos mais velhos, com a capacidade de compreender as nuances e reconhecer as limitações tanto das certezas absolutas como das ideologias extremas, é fundamental para enriquecer as discussões e proporcionar um contrapeso às tendências radicais que podem surgir em períodos de maior instabilidade social e pessoal.