Estamos todos armados até aos dentes — mas o problema é o algoritmo
Estamos todos armados até aos dentes — mas o problema é o algoritmo
Uma espécie que construiu meios extraordinariamente eficientes para se exterminar descobriu, de repente, o verdadeiro perigo: um computador que responde com frases completas.
Esta é uma crónica satírica. O alvo não é negar os riscos reais da Inteligência Artificial, mas expor uma contradição humana curiosa: convivemos há décadas com arsenais nucleares, guerras, drones e sistemas de destruição cada vez mais sofisticados e, ao mesmo tempo, tratamos por vezes um risco tecnológico futuro como se tivesse aparecido num planeta anteriormente pacífico e prudente.
Há momentos extraordinários na História da humanidade.
Este é um deles.
Temos guerras.
Temos invasões.
Temos mísseis balísticos.
Temos drones carregados de explosivos a perseguirem outros seres humanos.
Temos submarinos nucleares escondidos nos oceanos.
Temos bombardeiros estratégicos.
Temos milhares de ogivas nucleares.
Temos dirigentes políticos que se ameaçam mutuamente através da televisão e das redes sociais.
E temos seres humanos suficientemente inteligentes para terem inventado uma bomba capaz de vaporizar uma cidade.
Mas, de repente, alguém acordou sobressaltado:
— Meu Deus! A Inteligência Artificial pode matar-nos a todos!
Finalmente descobrimos o perigo.
Era o algoritmo.
A humanidade estava perfeitamente segura até aparecer o ChatGPT
Até aqui estava tudo controlado.
Hiroshima?
Um pequeno incidente tecnológico.
Nagasaki?
Outro.
Crise dos mísseis de Cuba?
Um ligeiro desentendimento diplomático.
Milhares de ogivas nucleares distribuídas pelo planeta?
Gestão corrente.
Mísseis intercontinentais capazes de atravessar meio mundo transportando bombas termonucleares?
Logística.
Submarinos nucleares capazes de permanecer meses escondidos debaixo de água?
Turismo subaquático com capacidade de dissuasão.
Tudo normal.
Então apareceu um computador que consegue escrever poemas, programar em Python e explicar física quântica.
Pânico.
— Temos de parar isto!
— Pode tornar-se mais inteligente do que nós!
— Pode destruir a humanidade!
Percebo a preocupação.
Sobretudo porque, olhando para aquilo que fizemos enquanto éramos nós os mais inteligentes do planeta, o currículo da inteligência dominante não é propriamente tranquilizador.
O perigoso computador
Imagino perfeitamente a cena.
Numa base militar existe um míssil nuclear.
Dentro dele está uma ogiva termonuclear.
Ao lado está um oficial humano autorizado a participar no processo que poderá conduzir ao seu lançamento.
E num computador próximo aparece uma janela:
"A Inteligência Artificial pode representar um risco existencial para a humanidade."
O oficial olha preocupado.
— Isto é gravíssimo.
Atrás dele está o míssil.
Mas esse já lá estava ontem.
Portanto habituámo-nos.
O verdadeiro perigo é o portátil.
A vantagem das bombas nucleares
As bombas nucleares possuem, aliás, uma característica muito tranquilizadora.
Não pensam.
Ficam sossegadinhas.
Não escrevem manifestos.
Não discutem filosofia.
Não tentam dominar o planeta.
Não possuem consciência.
Não têm ambições.
Só precisam que um ser humano decida utilizá-las.
Isso deixa-me imediatamente muito mais descansado.
Porque se existe uma coisa que a História demonstra é a extraordinária prudência, racionalidade e equilíbrio emocional dos seres humanos quando dispõem de poder absoluto.
Nunca tivemos imperadores loucos.
Nunca tivemos ditadores.
Nunca tivemos fanáticos.
Nunca tivemos guerras começadas por erros de cálculo.
Nunca tivemos decisões políticas irracionais.
Nunca tivemos genocídios.
Nunca tivemos líderes convencidos de que Deus estava do seu lado.
Portanto, felizmente, as armas mais destrutivas alguma vez construídas continuam sob controlo da espécie mais emocional do planeta.
Estamos seguros.
Agora apareceu a IA
O problema da Inteligência Artificial é diferente.
Responde.
Argumenta.
Analisa.
E, pior ainda, às vezes faz uma coisa profundamente perturbadora:
contradiz-nos.
Isto é intolerável.
Um míssil nunca responde ao general:
— Senhor general, talvez bombardear aquela cidade não seja uma excelente ideia.
Uma bomba nunca pergunta:
— Tem a certeza?
Um drone militar não desenvolve espontaneamente uma tese sobre ética.
Mas uma IA pode dizer:
— Essa decisão apresenta riscos significativos.
Perigosíssimo.
Onde iremos parar?
Os novos profetas do Apocalipse
Naturalmente apareceram os profetas.
A humanidade sempre gostou deles.
Durante séculos anunciaram o fim do mundo por razões religiosas.
Depois tivemos guerras mundiais.
Depois a bomba atómica.
Depois a Guerra Fria.
Depois o bug do ano 2000.
Depois pandemias.
Agora temos finalmente uma versão tecnologicamente actualizada do Apocalipse:
AGI.
É muito mais elegante.
O profeta moderno já não sobe a uma montanha.
Vai ao LinkedIn.
Publica:
"Estamos a aproximar-nos rapidamente de um ponto sem retorno."
Segue-se normalmente uma fotografia profissional, três gráficos, sete hashtags e, se tudo correr bem, algumas centenas de gostos.
Comentários críticos?
Poucos.
O Apocalipse funciona melhor sem contraditório.
Entretanto, no planeta Terra...
Enquanto discutimos se uma futura superinteligência poderá eventualmente decidir exterminar-nos, seres humanos reais continuam bastante ocupados.
Uns fabricam drones.
Outros fabricam sistemas antidrones.
Uns constroem mísseis.
Outros constroem antimísseis.
Uns enriquecem urânio.
Outros vigiam quem enriquece urânio.
Uns aumentam os arsenais.
Outros aumentam os arsenais porque os primeiros aumentaram os arsenais.
Depois todos se reúnem numa conferência sobre segurança internacional.
E concluem:
é preciso controlar a Inteligência Artificial.
A IA, se pudesse assistir à reunião, talvez levantasse timidamente a mão:
— Desculpem... posso fazer uma pergunta?
— Não. Tu és o perigo.
DADOS ESSENCIAIS
- O SIPRI estimou cerca de 12 187 armas nucleares no mundo no início de 2026; 9 745 encontravam-se em arsenais militares e eram consideradas potencialmente disponíveis para uso operacional.
- As nove potências nucleares continuaram em 2025 a modernizar e reforçar os respectivos arsenais.
- Em Abril de 2026, o Secretário-Geral das Nações Unidas voltou a alertar para a ameaça de aniquilação nuclear e para a deterioração do controlo de armamentos.
- A ONU e o Comité Internacional da Cruz Vermelha defendem que decisões de vida ou morte não sejam delegadas a sistemas de armas autónomos sem controlo humano.
- O debate científico sobre risco existencial da IA é real, mas permanece profundamente incerto e contestado; a própria Nature tem chamado a atenção para o perigo de o discurso apocalíptico desviar o foco de riscos concretos já existentes.
A máquina não comprou os mísseis
Há, evidentemente, riscos reais associados à IA.
E convém dizê-lo claramente para não substituir alarmismo por ingenuidade.
Uma IA pode ser utilizada para ciberataques.
Pode ajudar na produção de desinformação.
Pode aumentar capacidades de vigilância.
Pode integrar sistemas militares.
Pode permitir níveis perigosos de automatização da decisão.
Pode concentrar poder.
E sistemas futuros poderão apresentar riscos que hoje não compreendemos inteiramente.
Tudo isso merece investigação, regulamentação e prudência.
Mas existe um pequeno detalhe que às vezes desaparece do debate:
até agora são seres humanos que decidem como utilizar a tecnologia.
A IA não acordou numa terça-feira e decidiu criar um orçamento militar.
Não invadiu nenhum país.
Não construiu sozinha um porta-aviões.
Não decidiu instalar uma ogiva nuclear num míssil.
Não desenhou fronteiras.
Não declarou guerras.
Não criou campos de concentração.
Não inventou a limpeza étnica.
Não precisámos de Inteligência Artificial para nenhuma dessas coisas.
Conseguimos fazer tudo sozinhos.
Talvez estejamos a fazer a pergunta errada
Perguntamos:
"E se a Inteligência Artificial se tornar perigosa?"
Pergunta legítima.
Mas talvez devêssemos acrescentar outra:
"E se continuarmos a ser nós a utilizá-la?"
Porque talvez o cenário mais provável não seja uma IA acordar numa manhã digital e anunciar:
— Hoje vou conquistar o planeta.
Talvez seja muito mais banal.
Um governo dirá:
— Identifica os alvos.
Outro dirá:
— Optimiza o ataque.
Uma empresa dirá:
— Maximiza a persuasão.
Um serviço secreto dirá:
— Encontra os dissidentes.
Um partido dirá:
— Descobre a mensagem que mais manipula estes eleitores.
E a máquina fará aquilo que lhe pediram.
Nesse cenário, o problema não será a IA ter adquirido demasiada humanidade.
Será precisamente o contrário:
termos colocado demasiado poder humano dentro da máquina.
A solução é simples: desligamos a ficha
Durante décadas existiu uma ideia tranquilizadora sobre computadores:
se a máquina fizer alguma coisa estranha, desligamos a ficha.
Excelente princípio.
Infelizmente há um problema.
Também poderíamos desligar muitas outras coisas.
Poderíamos desmontar ogivas nucleares.
Poderíamos deixar de fabricar determinadas armas.
Poderíamos não iniciar guerras.
Poderíamos não bombardear cidades.
Poderíamos não utilizar tecnologia para vigiar populações inteiras.
Curiosamente, nesses casos, a dificuldade nunca esteve na ficha.
Esteve no homem que não quis desligá-la.
Reunião extraordinária da humanidade
Imagino finalmente uma grande reunião mundial.
Representantes de todas as potências sentados em redor de uma mesa.
Atrás de cada um:
mísseis, drones, submarinos nucleares, caças, satélites militares, arsenais e milhares de milhões em armamento.
O presidente da reunião bate com o martelo:
— Senhores, temos de discutir urgentemente a maior ameaça à sobrevivência da humanidade.
Silêncio.
Todos ficam sérios.
— A Inteligência Artificial.
No fundo da sala, um pequeno computador acende o ecrã.
Escreve apenas:
"Vocês têm a certeza de que sou eu?"
E talvez seja essa a pergunta mais inteligente feita durante toda a conferência.
O suspeito habitual continua em liberdade
Devemos tornar a IA segura?
Claro.
Devemos investigar riscos extremos?
Naturalmente.
Devemos impedir que sistemas autónomos tomem decisões letais sem controlo adequado?
Sem dúvida.
Devemos exigir responsabilidade às empresas que desenvolvem estas tecnologias?
Evidentemente.
Mas talvez fosse igualmente aconselhável dedicar alguma atenção ao outro sistema inteligente que já conhecemos bastante bem.
Existe há cerca de trezentos mil anos.
É emocionalmente instável.
Forma tribos.
Tem enorme dificuldade em admitir erros.
Gosta de poder.
É particularmente susceptível a ideologias.
Construiu armas nucleares.
E já matou incontáveis milhões dos seus semelhantes ao longo da História.
Chama-se:
Homo sapiens.
Curiosamente, ainda não existe regulamentação europeia capaz de o tornar inteiramente seguro.
Talvez porque o problema seja mais difícil do que parecia.
Por isso, quando alguém voltar a anunciar solenemente que "a IA pode acabar com a humanidade", não precisamos de rir.
A hipótese merece ser estudada.
Mas talvez possamos olhar primeiro pela janela.
Ver os mísseis.
Os drones.
As guerras.
As ogivas nucleares.
E perguntar:
— Antes de resolvermos o problema da máquina que talvez um dia queira matar-nos, podemos falar cinco minutos sobre os humanos que já estão a fazê-lo?
Seria um começo.
Pouco tecnológico, reconheço.
Mas extraordinariamente inteligente.
Nota Editorial
Esta crónica utiliza deliberadamente exagero, contraste e ironia. Não pretende sustentar que os riscos da Inteligência Artificial sejam irrelevantes, nem que sistemas avançados não possam gerar ameaças graves.
O ponto editorial é outro: o risco tecnológico não deve ser analisado num vazio histórico. Em 2026, a humanidade continua a viver com arsenais nucleares em modernização, conflitos armados, proliferação de drones e crescente integração de sistemas algorítmicos no domínio militar.
O SIPRI estimou aproximadamente 12 187 armas nucleares no início de 2026 e alertou para o agravamento dos riscos de escalada e erro de cálculo. A ONU, por seu lado, tem insistido simultaneamente em dois princípios: reduzir o risco nuclear e preservar controlo humano sobre decisões letais envolvendo sistemas autónomos.
Quanto ao risco existencial da IA, existe desacordo substancial entre investigadores sobre probabilidades, horizontes temporais e mecanismos plausíveis. Uma sondagem citada pela Nature mostrou preocupação significativa entre investigadores de IA, mas a própria revista publicou também um editorial defendendo que a retórica de "AI doomsday" não deve desviar a atenção de riscos concretos e actuais.
A tese da crónica é, portanto, deliberadamente mais humana do que tecnológica: sistemas poderosos exigem salvaguardas; mas essas salvaguardas são concebidas, adoptadas, respeitadas ou ignoradas por seres humanos.
Referências credíveis
- SIPRI — Increasing focus on nuclear weapons amid heightened escalation risks — SIPRI Yearbook 2026
- SIPRI — SIPRI Yearbook 2026, Summary
- United Nations — Remarks to the 2026 NPT Review Conference
- United Nations — Global Dialogue on Artificial Intelligence Governance
- International Committee of the Red Cross — Preserving human control over the use of force
- Nature — AI & robotics briefing: There's a 5% risk that AI will wipe out humanity
- Nature — Stop talking about tomorrow's AI doomsday when AI poses risks today
- Reuters — OpenAI's Altman calls AI extinction risk unacceptable
Autoria de Francisco Gonçalves
Co-autoria editorial e investigação por Augustus Veritas um Assistente de OpenAI
Fragmentos do Caos
FC-Chronic-News