Loading...

UM FUTURO LIVRE E RADIOSO

Paul Mason  

0


Excerto

Introdução

Ao terminar a leitura deste livro, quero que o leitor faça uma escolha. Vai aceitar o domínio das máquinas sobre os seres humanos, ou resistir-lhe? E se a resposta for resistir, com que fundamento defenderá os direitos dos humanos contra a lógica das máquinas?

No século XXI, a espécie humana confronta-se com um novo problema. Graças à tecnologia da informação, impuseram-se enormes assimetrias de conhecimento, o que resultou em enormes assimetrias de poder. Usando os ecrãs dos nossos dispositivos inteligentes, tanto grandes companhias como governos estão a tornar-se especialistas em exercer domínio sobre nós por meio de algoritmos. Sabem o que andamos a fazer, em que pensamos, são capazes de prever as nossas próximas acções e influenciar o nosso comportamento. Quanto a nós, nem sequer temos o direito de saber minimamente que isto se está a passar.

E é precisamente este o pesadelo do presente. No futuro, à medida que se desenvolver a inteligência artificial, tornar-se-á muito fácil para nós perder completamente o controlo das máquinas da informação.

Um algoritmo é simplesmente o conjunto de instruções, criado para resolver um problema, concebido e programado por um humano. Por exemplo, quando mostro o meu passaporte, o controlo de fronteira sabe que deve deixar-me passar se as minhas impressões digitais corresponderem às que estão em arquivo; se não for esse o caso, sou detido para interrogatório.

Um programa de computador é um algoritmo que se executa sem intervenção humana. Num certo sentido, é apenas a mais recente realização num longo processo de automação. Nos últimos duzentos anos, uma das nossas estratégias mais bem-sucedidas tem sido deslocar os trabalhadores para a margem do processo industrial, fazer deles observadores, em vez de controladores, atribuindo às máquinas uma autonomia temporária e limitada. O que fazemos com computadores e redes de informação é apenas uma extensão do que fazíamos com moinhos de vento, máquinas de fiar algodão e o motor de combustão. Porém, a partir do momento em que as máquinas podem fornecer instruções a si mesmas, o risco é que a humanidade fique permanentemente à margem, renunciando ao controlo.

Milhões de pessoas estão conscientes dos perigos do controlo algorítmico. Supõem, contudo, que se trata de um problema que deve ser resolvido por uma comissão de ética, uma conferência sobre tecnologia, uma revista científica… ou até pela próxima geração. Na verdade, está intimamente ligado às inadiáveis crises económica, política e moral, que estamos agora a viver.

E eis a razão.

Suponha que eu lhe dizia que havia uma máquina que podia gerir o país melhor do que o governo, pensar de forma mais lógica do que qualquer ser humano individual e funcionar de forma autónoma. Suponha que eu lhe pedia para entregar o controlo de todas as decisões importantes da sua vida a essa máquina. Suponha que eu dizia que o leitor seria mais feliz se alterasse o seu comportamento para antecipar o que a máquina decide. Espero que desdenhe totalmente esta ideia.

Experimente, porém, substituir a palavra «máquina» pelo termo «mercado». Durante três décadas, milhões de pessoas consentiram que as forças do mercado governassem as suas vidas, moldassem o seu comportamento e se sobrepusessem aos seus direitos democráticos. Há até uma religião dedicada ao culto do poder e do controlo desta máquina — chama-se economia.

Ao elevar o mercado ao estatuto de guia espiritual autónomo e sobre-humano, durante os últimos trinta anos, preparámo-nos potencialmente para aceitar o controlo da máquina algures no decurso dos próximos cem anos.

Ao longo da era do mercado livre, aprendemos a celebrar a sujeição dos seres humanos às forças do mercado. Lidámos com conceitos como cidadania, moralidade e «arbítrio» (o poder de agir) como se fossem irrelevantes para o funcionamento do mundo, que agora era dirigido apenas pelas opções dos consumidores e a engenharia financeira.

Todavia, hoje o sistema do mercado livre implodiu. A lógica do egoísmo, da hierarquia e do consumismo já não funciona. Em consequência disso, a religião do mercado deu lugar a deuses mais antigos: racismo, nacionalismo, misoginia e a idolatria de ladrões poderosos.

À medida que nos aproximamos da década de 2020, uma aliança de nacionalistas étnicos, homens que odeiam mulheres e líderes políticos autoritários estão a despedaçar a ordem mundial. O que os une é o seu desdém pelos direitos humanos universais e o seu medo da liberdade. Adoram a ideia do controlo pela máquina, e, se lho consentirmos, usá-la-ão agressivamente para se manterem ricos, poderosos e inimputáveis.

Não é demasiado tarde para conter o caos e a desordem, para deter a tentativa de impor novas hierarquias biológicas baseadas na raça, no género e na nacionalidade, nem para recusar o controlo da máquina. Porém, os argumentos para nos rendermos a essas coisas envolvem-nos de todos os lados.

A ideia de que «a humanidade já acabou» está profundamente impregnada no pensamento moderno, da direita alternativa (alt-right) à esquerda académica. Não importa quanto cada um de nós, pessoalmente, está a tentar viver segundo «valores humanos»: o consenso — de Silicon Valley ao quartel-general do Partido Comunista Chinês — é que os valores humanos não têm alicerces; que não existe algo que corresponda à natureza humana, nenhuma base lógica para privilegiar os humanos sobre todas as máquinas, nenhuma fundamentação racional para direitos humanos universais.

Em retrospectiva, a ideologia do mercado livre parece a droga de entrada para um anti-humanismo arraigado. E estamos prestes a descobrir quão nociva pode ser esta droga mais dura.

«Competir e adquirir» era o primeiro mandamento da religião do mercado livre. Na era da desglobalização e do nacionalismo de direita, tornar-se-á: competir, adquirir, mentir, controlar e matar. Se não pusermos a nova tecnologia das máquinas inteligentes sob o controlo humano, e não as programarmos para realizar val

Seja o primeiro a receber histórias como esta