A Humanidade Sempre Subjugada — agora com Inteligência Artificial

Ou a extraordinária história de uma espécie que inventou a liberdade e depois perdeu a password

A Inteligência Artificial pode dominar-nos.

Pode controlar-nos.

Pode manipular-nos.

Pode concentrar todo o poder nas suas mãos.

É aterrador.

Sobretudo porque, aparentemente, ninguém reparou que andamos a fazer isso uns aos outros há alguns milhares de anos.

A IA chegou atrasada à festa.

Quando apareceu, já encontrou impérios, ditaduras, oligarquias, monopólios, propaganda, censura, guerras, exploração económica e uma extraordinária colecção de mecanismos destinados a convencer milhões de pessoas de que é perfeitamente natural meia dúzia mandar nelas.

A máquina olhou para aquilo e provavelmente pensou:

— E vocês têm medo de mim?

Do chicote ao algoritmo

No princípio era simples.

Havia um chefe.

O chefe tinha uma lança maior.

Logo, era chefe.

Foi talvez o primeiro algoritmo político da humanidade:

Funcionou admiravelmente.

Depois alguém descobriu que era pouco elegante governar permanentemente com uma lança apontada às pessoas.

Inventaram então os palácios, os títulos, as coroas e uma ideia absolutamente extraordinária: o governante tinha sido escolhido pelos deuses.

Era impossível verificar porque, convenientemente, os deuses não davam entrevistas.

Durante séculos, reis governaram por vontade divina.

Os pobres trabalhavam.

Os nobres administravam.

O rei reinava.

E Deus, aparentemente, tratava da contabilidade.

Depois inventámos a liberdade

Um dia aconteceu uma coisa perigosíssima.

As pessoas começaram a ler.

Vieram filósofos, cientistas, iluministas e outros indivíduos manifestamente incapazes de deixar o mundo sossegado.

Perguntaram:

— Mas por que razão aquele senhor manda em nós?

Pergunta inconveniente.

Seguiram-se revoluções, constituições, parlamentos, eleições e direitos humanos.

A humanidade anunciou então: Somos finalmente livres!

Foi um momento magnífico.

Durou pouco.

Porque rapidamente descobrimos uma solução tecnologicamente mais avançada: em vez de concentrar exclusivamente o poder através do nascimento, também podíamos concentrá-lo através do dinheiro.

Era muito mais moderno.

E sobretudo dispensava coroas ridículas.

Sua Excelência, o Mercado

O novo soberano não precisava de castelo.

Precisava de acções.

Quem acumulava riqueza podia comprar empresas.

Quem comprava empresas acumulava mais riqueza.

Quem acumulava mais riqueza ganhava influência.

Quem ganhava influência podia influenciar as regras segundo as quais se acumulava riqueza.

Era um sistema elegantíssimo.

Em engenharia chamaríamos a isto um feedback positivo.

Na sociedade chamamos-lhe frequentemente:

— As coisas são assim.

Uma explicação filosófica de extraordinária profundidade.

Entretanto, milhões de cidadãos continuavam livres.

Tão livres que podiam escolher entre vinte marcas de champô enquanto algumas das decisões fundamentais que condicionavam as suas vidas eram tomadas em lugares onde nunca entrariam.

Mas havia champô para cabelos secos, oleosos, pintados, encaracolados e emocionalmente indecisos.

Nunca a liberdade tinha tido tantas fragrâncias.

E chegou a Internet

Então apareceu a Internet.

Finalmente!

Conhecimento para todos.

Comunicação para todos.

Informação descentralizada.

Uma gigantesca biblioteca universal.

Durante alguns gloriosos minutos históricos pareceu que tínhamos conseguido.

Depois entregámos grande parte dela a meia dúzia de plataformas.

Foi extraordinário.

Construímos a maior infra-estrutura de conhecimento da história da humanidade e utilizámo-la para discutir com desconhecidos, publicar fotografias do almoço e carregar num botão onde dizia:

"Aceito os termos e condições."

Ninguém os leu.

Talvez tenha sido o maior tratado de rendição colectiva alguma vez assinado.

Agora chegou a Inteligência Artificial

E finalmente apareceu a IA.

Uma tecnologia capaz de democratizar conhecimento, ajudar milhões de pessoas a programar, estudar, investigar, diagnosticar problemas, criar empresas, traduzir línguas e aceder a capacidades anteriormente reservadas a especialistas.

A humanidade olhou para esta extraordinária ferramenta e fez imediatamente a pergunta essencial:

— E se ela nos matar a todos?

Naturalmente.

Porque aparentemente os milhares de ogivas nucleares existentes no planeta são apenas decoração.

As guerras são acidentes administrativos.

Os ditadores são uma pequena irregularidade estatística.

E a concentração extrema de riqueza e poder é apenas uma peculiaridade contabilística.

O verdadeiro perigo é o computador começar a pensar.

Talvez porque uma parte da humanidade suspeite secretamente de que pensar é uma actividade subversiva.

O verdadeiro pesadelo

Talvez devêssemos preocupar-nos menos com uma máquina que um dia possa querer dominar a humanidade e um pouco mais com os humanos que sempre quiseram dominar outros humanos.

Porque uma IA não precisa necessariamente de desenvolver ambições imperiais.

Basta alguém com ambições imperiais possuir uma.

Não precisamos de Skynet.

Precisamos apenas de um autocrata com bons servidores.

Não precisamos de robôs marchando pelas ruas.

Basta vigilância automatizada, propaganda personalizada, manipulação informacional e cidadãos suficientemente cansados para concluir:

— Não vale a pena fazer nada.

Esse talvez seja o verdadeiro triunfo de qualquer sistema de dominação.

Não quando obriga as pessoas a obedecer.

Mas quando consegue convencê-las de que não existe alternativa.

A criatura mais perigosa

Há milhares de anos que procuramos monstros.

Encontrámo-los nos deuses.

Nos demónios.

Nos estrangeiros.

Nas máquinas.

Agora procuramo-los nos algoritmos.

Talvez porque seja desconfortável olhar para o espelho.

A Inteligência Artificial pode tornar-se extraordinariamente poderosa e deve ser controlada, auditada e distribuída de forma responsável.

Mas há uma tecnologia muito mais antiga que continua sem solução definitiva:

o ser humano com poder ilimitado.

Esse sistema operativo tem milhares de anos.

Recebeu inúmeras actualizações.

Esperemos que desta vez alguém leia as notas da actualização.

Porque talvez a maior ironia da história humana seja esta:

Inventámos reis e ajoelhámo-nos.

Inventámos dinheiro e servimo-lo.

Inventámos Estados e deixámos alguns capturá-los.

Inventámos plataformas e entregámos-lhes os nossos dados.

Agora inventámos Inteligência Artificial...

...e estamos aterrorizados com a possibilidade de ela fazer connosco aquilo que nós fazemos uns aos outros desde o princípio da História.

Talvez a IA não precise de conquistar a humanidade.

Quando chegar suficientemente longe, poderá simplesmente consultar os arquivos, observar-nos durante alguns segundos e escrever no relatório:

E fechar o processo.

Por redundância.

Nota Editorial

Esta crónica é deliberadamente satírica. A sua tese não é que liberdade, democracia ou progresso social sejam ilusões: a expansão histórica dos direitos políticos é real e mensurável. O alvo da sátira é outro — a recorrente capacidade humana para reconstruir concentrações de poder sob novas formas e, perante a IA, projectar nas máquinas um medo que por vezes evita a pergunta mais imediata: quem controla a tecnologia, com que limites e perante quem responde?

A referência à concentração de poder económico, político e tecnológico é uma reflexão editorial, não a imputação de intenções a pessoas ou instituições específicas. A IA comporta riscos próprios e merece investigação séria de segurança; simultaneamente, a sua utilização por Estados, empresas e indivíduos torna a governação humana uma dimensão incontornável desses riscos.

Referências

• Our World in Data — Democracy
• Our World in Data — The world has recently become less democratic
• UNESCO — Recommendation on the Ethics of Artificial Intelligence
• Freedom House — The Democratic Stakes of Artificial Intelligence Regulation
• Freedom House — Freedom on the Net 2024