A IA vai matar-nos a todos — mas primeiro subscreva o plano Premium

O Apocalipse como Serviço, a segurança por subscrição e o pequeno incómodo chamado liberdade tecnológica.

Há qualquer coisa de enternecedor na súbita preocupação das grandes empresas tecnológicas com a sobrevivência da humanidade.

Durante décadas recolheram dados, construíram impérios digitais, concentraram mercados, inventaram formas cada vez mais sofisticadas de nos manter agarrados a um ecrã e descobriram aproximadamente quatrocentas maneiras diferentes de nos mostrar publicidade a aspiradores depois de termos mencionado a palavra "pó" perto do telemóvel.

Mas agora estão preocupadas connosco.

Muito preocupadas.

A Inteligência Artificial, dizem-nos, pode tornar-se perigosíssima. Pode fugir ao controlo. Pode ultrapassar a inteligência humana. Pode até — segundo algumas versões particularmente entusiásticas do Apocalipse — exterminar a humanidade.

É reconfortante. Finalmente alguém pensa em nós.

Naturalmente, perante tamanho perigo, seria razoável imaginar que estas empresas interromperiam imediatamente o desenvolvimento dos modelos.

Mas não.

Continuam a construir modelos maiores. Continuam a comprar aceleradores. Continuam a erguer centros de dados. Continuam a disputar investigadores. Continuam a lançar produtos. E continuam, sobretudo, a cobrar.

O fim da humanidade, aparentemente, não justifica cancelar o plano de negócios.

O Apocalipse como Serviço

Entrámos assim numa nova fase do capitalismo tecnológico: Apocalypse as a Service — AaaS.

O princípio é simples. A Inteligência Artificial poderá destruir a civilização, mas existem três modalidades disponíveis:

Basic — 20 euros por mês. Possível extinção da humanidade com limites de utilização.

Professional — 50 euros por mês. Extinção mais rápida, contexto expandido e prioridade durante horas de maior procura.

Enterprise — preço sob consulta. Apocalipse dedicado, SLA de 99,99% e suporte técnico 24 horas por dia.

Para organismos públicos haverá naturalmente condições especiais. Contrato de cinco anos. Renovação automática. Os sobreviventes poderão cancelar através da área de cliente.

O problema chama-se liberdade

Entretanto existe uma coisa ligeiramente incómoda chamada open-source. E outra, aparentada, chamada open-weights.

A ideia é profundamente subversiva. Significa que universidades, investigadores, programadores e empresas podem executar modelos nas suas próprias máquinas.

Sem pedir autorização. Sem enviar necessariamente os dados para um servidor do outro lado do Atlântico. Sem pagar por cada milhão de tokens. Sem perguntar ao departamento comercial se determinada funcionalidade está disponível no plano Business Platinum Galactic Edition.

É quase anarquia.

Imagine-se uma pequena empresa portuguesa descarregar um modelo, instalá-lo num servidor Linux e utilizá-lo internamente.

Pior: imagine-se que funciona.

Nesse momento acontece uma coisa terrível. A empresa deixa de ser completamente dependente do fornecedor. Pode experimentar outro modelo. Pode modificar software. Pode integrar sistemas. Pode manter dados localmente. Pode até desligar a Internet e continuar a trabalhar.

Há poucas coisas mais aterradoras para um monopólio do que um cliente que descobre que consegue viver sem ele.

Felizmente existe a segurança

É aqui que aparece uma das palavras mais úteis da civilização moderna: segurança.

Não estou a ironizar sobre os riscos reais da IA. Eles existem. Modelos poderosos podem ser utilizados para fraude, manipulação, ciberataques, desinformação e outras utilizações perigosas. Quanto maiores forem as capacidades, mais séria deve ser a investigação sobre segurança.

Mas existe uma diferença monumental entre estudar riscos reais e transformar todos os riscos possíveis numa gigantesca nuvem metafísica pairando sobre a humanidade.

Porque, quando o medo cresce suficientemente, aparece inevitavelmente a pergunta: — Quem poderá garantir a nossa segurança?

E, por extraordinária coincidência, surge uma resposta: — Nós.

As mesmas empresas que estão a construir a tecnologia.

É uma solução elegantíssima. Criamos o dragão. Explicamos que o dragão é perigosíssimo. E depois cobramos pela licença de utilização do extintor.

A regulamentação também pode fazer milagres

Depois chegam os governos. E os governos fazem aquilo que os governos fazem quando encontram uma tecnologia que não compreendem inteiramente: criam formulários. Comissões. Subcomissões. Autoridades. Certificações. Auditorias. Relatórios. Declarações de conformidade. Avaliações de risco. E eventualmente um portal electrónico que só funciona correctamente com uma determinada versão do navegador.

Tudo em nome da segurança.

O gigante tecnológico contrata então 400 advogados, 200 especialistas em compliance e três antigos reguladores.

A pequena empresa contrata o Joaquim.

O Joaquim é programador. Agora também é responsável pela protecção de dados, cibersegurança, documentação do modelo, avaliação de impacto, auditoria algorítmica e provavelmente pela máquina do café.

Se a regulamentação custar dez milhões de euros, o gigante chama-lhe compliance. A startup chama-lhe falência.

E assim conseguimos realizar uma extraordinária proeza política: regular os monopólios até só os monopólios conseguirem cumprir a regulamentação.

O verdadeiro pesadelo

Talvez por isso estejamos excessivamente fascinados com a hipótese de uma superinteligência dominar o mundo daqui a vinte anos e insuficientemente interessados em saber quem está a acumular poder tecnológico agora.

Não precisamos de imaginar uma IA consciente escondida num centro de dados a planear conquistar a humanidade. Talvez devêssemos primeiro observar quem possui os centros de dados. Quem controla os chips. Quem possui os modelos. Quem controla as plataformas. Quem detém os dados. Quem define os preços. Quem pode alterar unilateralmente as condições de utilização. E quem decide quais tecnologias podemos executar nas nossas próprias máquinas.

É um cenário muito menos emocionante. Não tem robôs assassinos. Não tem olhos vermelhos. Não tem Arnold Schwarzenegger.

Tem contratos de licenciamento.

Por isso vende bastante menos bilhetes de cinema.

O servidor na cave

E algures numa garagem, universidade, laboratório ou pequena empresa existe entretanto um sujeito estranho.

Instalou Linux. Descarregou um modelo aberto. Ligou-o a uma base de dados. Criou uma API. E está perfeitamente satisfeito.

Não pediu autorização a ninguém.

Este indivíduo é perigosíssimo. Não porque esteja prestes a destruir a humanidade. Mas porque acabou de demonstrar que não precisa obrigatoriamente de pagar uma renda mensal para utilizar inteligência computacional.

O verdadeiro terror começou.

O homem executou: ollama run modelo

E funcionou.

Na sede da multinacional alguém sentiu inexplicavelmente um arrepio.

A pergunta inconveniente

Talvez a discussão sobre Inteligência Artificial esteja, portanto, excessivamente concentrada numa pergunta: "E se a IA ficar tão poderosa que ninguém conseguir controlá-la?"

É uma pergunta legítima.

Mas existe outra: "E se a IA ficar tão importante que apenas meia dúzia de organizações conseguir controlá-la?"

Essa segunda hipótese não pertence à ficção científica. Pertence à economia. E talvez seja precisamente por isso que recebe menos trailers.

O open-source não resolve todos os problemas. Não elimina riscos. Não transforma automaticamente programadores em santos nem servidores Linux em instituições democráticas.

Mas introduz uma coisa extraordinariamente importante num mercado tecnológico: alternativas.

E alternativas significam concorrência. Autonomia. Experimentação. Auditoria. Conhecimento distribuído. Capacidade de sair.

E poucas coisas disciplinam melhor o poder do que a possibilidade de alguém dizer: "Obrigado, mas posso executar isto no meu próprio servidor."

Epílogo: o fim do mundo foi adiado

Portanto, durmamos descansados.

Se a Inteligência Artificial decidir exterminar a humanidade, provavelmente receberemos primeiro um email: "Estamos a actualizar os nossos Termos de Serviço."

Teremos 30 dias para discordar.

Depois surgirá uma janela: "A extinção da humanidade requer uma subscrição Premium."

E haverá esperança.

Porque algures num servidor velho, rodeado de cabos, ventoinhas e documentação que ninguém actualiza desde 2024, alguém estará a executar uma alternativa open-source.

Nesse momento talvez descubramos que a questão mais importante da era da Inteligência Artificial nunca foi apenas saber quão inteligente será a máquina.

Foi saber quem terá as chaves da sala onde ela está ligada.

E convém que não exista apenas uma chave.

Muito menos uma chave que exija cartão de crédito.

Referências internacionais

• OCDE — Artificial Intelligence markets: Recent developments and competition issues (2026)
• OCDE — AI openness: A primer for policymakers (2025)
• Open Source Initiative — The Open Source AI Definition 1.0
• Reuters — Europe's AI firms, playing catch-up, challenge US calls for slowdown (18 Set. 2026)

Francisco António dos Santos Gonçalves
Fragmentos do Caos