Uma das áreas em que as apps têm um enorme potencial é a área da saúde. Um exemplo recente foi a app da Stayaway Covid, que por acaso resultou num grande fiasco. Segundo a Siddiqui (2013), os dispositivos móveis podem ajudar na manutenção da saúde e prevenção da doença. As apps desenvolvidas para este efeito publicitam funcionalidades que ajudam a melhorar a acessibilidade a tratamentos bem como a rapidez e a exatidão dos exames de diagnóstico. As apps possuem funcionalidades que aproximam pacientes e entidades prestadoras de cuidados. Ou podem ajudar em coisas tão simples como a adesão à terapêutica, lembrando, por exemplo, que a pessoa não se esqueça da toma de um medicamento.
Mas o que neste artigo me interessa mais explorar no tema das apps é o seu reverso da medalha no que concerne à privacidade das pessoas, e o que está escondido das pessoas que as utilizam e desconhecem completamente. Estamos a falar de inteligência automática e os especialistas têm jargões próprios para falar desse lado sombra das apps. A invasão da privacidade por parte de um autodenominado "assistente pessoal digital", é um deles. Qual Cavalo de Tróia a assaltar o nosso interior psíquico. Em 2016, Satya Nadella, CEO da Microsoft, na conferência anual Ignite da empresa, apresentou o seu assistente pessoal digital - Cortana - dizendo que ele conhece-nos profundamente, seja através de entradas de texto, seja de fala. Não tem limites de conhecimento, seja a nosso respeito, seja a respeito do mundo. Cuida de nós, acompanha-nos para toda a parte.
A Cortana é um assistente pessoal digital desenvolvido pela Microsoft que usa o mecanismo de busca Bing para executar tarefas, definir lembretes, e responder a perguntas do utilizador. Depois a Microsoft passou a reduzir a presença da Cortana à frente do utilizador e converteu-o em assistente de diferentes integrações de software em 2019. Ele foi retirado da barra de pesquisa do Windows 10, em abril de 2019, e foi removido do iOS e Android em certos mercados, em 31 de janeiro do ano seguinte. A Microsoft integrou a Cortana no browser Microsoft Edge, instalado com o Windows 10. A Microsoft anunciou no final de abril de 2016 que bloquearia qualquer motor de busca que não fosse o Bing, o que levantou logo grande celeuma porque se tratava de uma prática que feria as regras da concorrência. Enfim, a Cortana pode reconhecer a voz natural sem a necessidade de entrada do teclado e responder a perguntas feitas pela busca do Bing: trânsito, meteorologia, desporto, bolsa, etc. Assim, com o Windows 10 o Microsoft Bing e todos os links seriam abertos com o Microsoft Edge. Mas o fito da Cortana é indexar e armazenar informações acerca dos utilizadores. Desligar a Cortana, por si só, não excluiria os dados do utilizador armazenados nos servidores da Microsoft. No Menu Iniciar do meu computador com o Windows 10 home aparece o Cortana. No entanto, ao clicar nele, aparece uma janela a dizer: "A Cortana não está disponível na sua região". Mas isto é a gozar connosco, porque esta personalização é uma forma de individualizar as operações que abastecem as bases de dados por forma a garantir um fluxo contínuo de informação acerca do nosso comportamento.
A Cortana é um assistente pessoal digital desenvolvido pela Microsoft que usa o mecanismo de busca Bing para executar tarefas, definir lembretes, e responder a perguntas do utilizador. Depois a Microsoft passou a reduzir a presença da Cortana à frente do utilizador e converteu-o em assistente de diferentes integrações de software em 2019. Ele foi retirado da barra de pesquisa do Windows 10, em abril de 2019, e foi removido do iOS e Android em certos mercados, em 31 de janeiro do ano seguinte. A Microsoft integrou a Cortana no browser Microsoft Edge, instalado com o Windows 10. A Microsoft anunciou no final de abril de 2016 que bloquearia qualquer motor de busca que não fosse o Bing, o que levantou logo grande celeuma porque se tratava de uma prática que feria as regras da concorrência. Enfim, a Cortana pode reconhecer a voz natural sem a necessidade de entrada do teclado e responder a perguntas feitas pela busca do Bing: trânsito, meteorologia, desporto, bolsa, etc. Assim, com o Windows 10 o Microsoft Bing e todos os links seriam abertos com o Microsoft Edge. Mas o fito da Cortana é indexar e armazenar informações acerca dos utilizadores. Desligar a Cortana, por si só, não excluiria os dados do utilizador armazenados nos servidores da Microsoft. No Menu Iniciar do meu computador com o Windows 10 home aparece o Cortana. No entanto, ao clicar nele, aparece uma janela a dizer: "A Cortana não está disponível na sua região". Mas isto é a gozar connosco, porque esta personalização é uma forma de individualizar as operações que abastecem as bases de dados por forma a garantir um fluxo contínuo de informação acerca do nosso comportamento.
Em 2017, o Facebook reduzira as suas ambições de inteligência automática para focar o assistente pessoal na missão fundamental: o comércio. Agora também há uma política de privacidade da TV, tal é a avidez de vigilância dos interesses comerciais que atuam nas nossas casas sem percebermos. Aleksandr Kogan, que também usou brevemente o nome de Dr. Specter, um cientista de dados americano nascido na Moldávia, ficou conhecido por ter desenvolvido a aplicação que permitiu à Cambridge Analytica recolher dados pessoais de 80 milhões de utilizadores do Facebook. A aplicação de Kogan deu-lhe acesso aos perfis do Facebook sem que os próprios soubessem. Os dados foram vendidos à Cambridge Analytica. Quando o Facebook lhe perguntou sobre esta aplicação, Kogan jurou que a sua pesquisa se destinava a fins meramente académicos.
Em 2015, uma startup criada oito anos antes com o nome Realeyes, recebeu um subsídio de 3,6 milhões de euros da Comissão Europeia pelo projeto chamado SEWA (Sentiment Wild Automatic Analysis). O objetivo era desenvolver tecnologia automatizada para ler a emoção de uma pessoa ao ver um conteúdo, e depois determinar a relação com o seu apreço por esse conteúdo. Não tardou um prémio dos analistas de mercado, dado o interesse na publicidade. Ora, o SEWA usa um software especializado para vasculhar rostos, vozes, gestos, captados por sensores biométricos e microcâmaras. Captam os comportamentos mais subtis e profundos que escapam à mente humana. A mímica facial e as expressões corporais não verbais, que fogem ao controlo individual, que dá origem à fuga de informação da nossa subjetividade emocional, é capturada pelos algoritmos. Em 2016, Kaliouby, o CEO da empresa de pesquisa de mercado - Millward Brown, afirmou que o software de inteligência artificial roubava informação sobre as nossas emoções sem darmos conta disso. E mais, possuía 4,8 milhões de vídeos faciais provenientes de 75 países a partir de visualizações online. Kaliouby imagina que o rastreio emocional disseminado acabará por ser tão garantido como um cookie plantado no nosso computador e que rastreia a navegação online. Antevê que o YouTube conseguirá rastrear as emoções de quem assiste aos vídeos.
Moral da história, estamos na era da computação ubíqua, a era dos sensores espalhados por todo o lado. Entramos em mais uma transição de fase, que é semelhante ao que aconteceu nos finais dos anos de 1990 com a entrada em cena da internet. Ainda me lembro da minha excitação com o Navigator da Netscape quando adquiri o primeiro modem e abri uma conta de e-mail na Telepac, e a minha página pessoal no TerraVista. O Sapo veio depois. Estávamos em 1994, e os meus amigos diziam que eu era maluco com a extravagância da internet. E não era para menos, pois é difícil manter a sanidade mental quando tudo à nossa volta enlouquece.
Os governos europeus arrastados pela chamada "transição digital" estão a fazer um esforço no sentido de não ficarem para trás. O Orçamento de Estado Português para 2021 inclui medidas enquadradas no plano de recuperação económica de Portugal 2020-2030 e o Plano de Recuperação e Resiliência (PRR) dividido em três áreas principais: resiliência; transição climática; transição digital. A transição digital dispõe de um orçamento é de 3 mil milhões de euros, num total de 13 milhões.
Shoshana Zuboff, professora emérita da Harvard Business School, que se interessa pelo efeito social das novas tecnologias, com uma vasta obra publicada, no seu ultimo livro "A Era do Capitalismo da Vigilância", dedicado ao modo como os utilizadores deixaram de ser simples clientes para passar a ser a matéria-prima de um novo sistema industrial, considera a revolução digital em curso a maldição deste século - a automação do eu entregue ao Grande Outro de bandeja, como condição necessária da automação da sociedade, tudo em prol de resultados garantidos para o Grande Outro. Numa retoma da perspetiva comportamentalista de cunho 'skinneriano', o Grande Outro 'googliano' e 'facebookiano' marca golos com a sua esperteza instrumental digital, ao transformar o 'famigerado mercado' num projeto de certeza total, à custa do excedente comportamental dos habitantes das redes sociais. É neste contexto que o chamado 'capitalismo da vigilância googliano e facebookiano' é capaz de instrumentalizar e controlar a experiência humana, e moldar o seu comportamento com fins lucrativos.
Todos os séculos têm a sua maldição, e esta é a 'maldição deste século': os utilizadores das plataformas das redes sociais a serem vistos por parte do Grande Outro Capitalista como meros organismos animais, à moda de Skinner, que servem as novas leis do capital impostas sobre todos os comportamentos de forma total. Uma nova forma de totalitarismo, portanto.
Hannah Arendt, que escreveu um tratado magistral - "As Origens do Totalitarismo" - previu o potencial destrutivo do behaviorismo de Skinner, quando lamentava a degenerescência do nosso conceito de pensamento, quando este é transferido para instrumentos eletrónicos. Nas palavras de Arendt: "A última etapa da sociedade laboral, a sociedade dos funcionários, que eufemisticamente são colaboradores, impõe automatismo e abdicação da vida individual. Um deixar-se ir ao abandono da sua individualidade entorpecida, num términos letal da história humana."
Até agora temos estado a falar em termos ocidentais. Mas falemos agora segundo os termos da China. Usando os mesmos instrumentos, o governo chinês desenvolveu um sistema de "crédito social" abrangente, que parece ser uma cópia do "1974" de George Orwell. O sistema classifica os comportamentos como bons e maus, visando a automatização da sociedade através da afinação, condução e condicionamento das pessoas, para que produzam comportamentos previamente escolhidos pelo Comité Central, considerados os mais desejáveis, e, portanto, capazes de evitar a instabilidade.
Tal como escreve a jornalista Amy Hawkins, num artigo para a revista Foreign Policy, ao invés de promover o regresso orgânico da moralidade tradicional para reduzir o abismo da desconfiança, o governo chinês preferiu investir a sua energia nas soluções tecnológicas, E é acolhido por um público farto de não saber em quem pode confiar, visto que não tem outra alternativa. O objetivo do governo chinês é tomar conta do controlo do sistema de algoritmos, e assim acabar com uma sociedade dissoluta com eficácia, mas sem grande esforço, uma vez que isso é feito automaticamente através dos dados trabalhados por esses algoritmos. Os algoritmos são uma espécie de "texto-sombra", mantido fora do alcance dos cidadãos, obrigando-os a adivinhar as melhores formas de aumentarem a pontuação do tal bom comportamento. Esta estratégia de adivinhação do "politicamente correto imposto de cima para baixo", por parte do cidadão, implica, por exemplo, cada um desfazer-se de amigos com baixa pontuação, e fazer outras amizades com pontuações elevadas, as quais, acreditam, a melhor forma de conseguir aumentar a pontuação. Por outro lado, quem estiver na lista negra, temendo que os amigos descubram e os risquem das suas listas de amigos, terão de fazer alguma coisa para não baixar a pontuação. Isto porque, é de forma dissimulada que cada um é riscado da lista de contactos dos outros. Tudo isto feito pelo algoritmo: a pontuação dos "mal-comportados" a cair a pique.
Hannah Arendt, que escreveu um tratado magistral - "As Origens do Totalitarismo" - previu o potencial destrutivo do behaviorismo de Skinner, quando lamentava a degenerescência do nosso conceito de pensamento, quando este é transferido para instrumentos eletrónicos. Nas palavras de Arendt: "A última etapa da sociedade laboral, a sociedade dos funcionários, que eufemisticamente são colaboradores, impõe automatismo e abdicação da vida individual. Um deixar-se ir ao abandono da sua individualidade entorpecida, num términos letal da história humana."
Até agora temos estado a falar em termos ocidentais. Mas falemos agora segundo os termos da China. Usando os mesmos instrumentos, o governo chinês desenvolveu um sistema de "crédito social" abrangente, que parece ser uma cópia do "1974" de George Orwell. O sistema classifica os comportamentos como bons e maus, visando a automatização da sociedade através da afinação, condução e condicionamento das pessoas, para que produzam comportamentos previamente escolhidos pelo Comité Central, considerados os mais desejáveis, e, portanto, capazes de evitar a instabilidade.
Tal como escreve a jornalista Amy Hawkins, num artigo para a revista Foreign Policy, ao invés de promover o regresso orgânico da moralidade tradicional para reduzir o abismo da desconfiança, o governo chinês preferiu investir a sua energia nas soluções tecnológicas, E é acolhido por um público farto de não saber em quem pode confiar, visto que não tem outra alternativa. O objetivo do governo chinês é tomar conta do controlo do sistema de algoritmos, e assim acabar com uma sociedade dissoluta com eficácia, mas sem grande esforço, uma vez que isso é feito automaticamente através dos dados trabalhados por esses algoritmos. Os algoritmos são uma espécie de "texto-sombra", mantido fora do alcance dos cidadãos, obrigando-os a adivinhar as melhores formas de aumentarem a pontuação do tal bom comportamento. Esta estratégia de adivinhação do "politicamente correto imposto de cima para baixo", por parte do cidadão, implica, por exemplo, cada um desfazer-se de amigos com baixa pontuação, e fazer outras amizades com pontuações elevadas, as quais, acreditam, a melhor forma de conseguir aumentar a pontuação. Por outro lado, quem estiver na lista negra, temendo que os amigos descubram e os risquem das suas listas de amigos, terão de fazer alguma coisa para não baixar a pontuação. Isto porque, é de forma dissimulada que cada um é riscado da lista de contactos dos outros. Tudo isto feito pelo algoritmo: a pontuação dos "mal-comportados" a cair a pique.
Ninguém sabe onde isto nos pode levar. Para já há muitos especialistas que acreditam que um sistema deste género, para 1,5 mil milhões de pessoas, com esta escala e com esse nível de complexidade, será difícil ou mesmo impossível de alcançar. É sabido que a cultura chinesa lida com a privacidade de uma maneira muito diferente da cultura ocidental. E habituaram-se a ter a sua vida escrutinada e guardada numa ficha, à qual não têm acesso desde os tempos de Mao Tsé-Tung.
Sem comentários:
Enviar um comentário