Há cerca de cinco mil anos, algures numa civilização antiga, um indivíduo cujo nome felizmente a História não conservou teve uma ideia profundamente irresponsável.

Pegou em algumas pedras e começou a contar.

Foi provavelmente nesse momento que começou a extinção da humanidade.

Não havia ainda Inteligência Artificial, computadores, electricidade, redes neuronais, algoritmos ou sequer tomadas eléctricas.

Mas o princípio estava lá.

Um ser humano tinha acabado de delegar numa tecnologia uma operação intelectual.

Em vez de contar exclusivamente pelos dedos, passou a utilizar um objecto externo.

Nascia o ábaco.

E ninguém avaliou os riscos.

O primeiro grande fracasso da regulamentação tecnológica

O mais extraordinário é que aparentemente ninguém criou imediatamente uma comissão internacional.

Não houve uma Cimeira Mundial para a Segurança do Ábaco.

Nenhum filósofo publicou:

"Statement on Abacus Risk: Mitigating the risk of extinction from calculation should be a global priority."

Não foi constituído um Instituto para o Alinhamento das Pedrinhas.

E, tanto quanto sabemos, nenhum governo exigiu que os fabricantes de ábacos demonstrassem que os seus produtos estavam alinhados com os valores humanos.

Foi uma irresponsabilidade histórica.

Porque o perigo era evidente.

Se uma pessoa pudesse fazer contas mais depressa utilizando um ábaco, o que aconteceria aos seres humanos especializados em contar pelos dedos?

Milhares de empregos estavam ameaçados.

Pior ainda: o utilizador poderia começar a confiar no resultado apresentado pelas pedras.

Hoje sabemos onde isso conduz.

Primeiro delegamos a soma.

Depois a multiplicação.

Finalmente acordamos numa terça-feira e uma superinteligência controla os sistemas nucleares.

O declive escorregadio começou ali.

Com uma pedrinha.

Depois apareceu a escrita

Como se o ábaco não tivesse sido suficientemente perigoso, alguém teve outra ideia devastadora.

Inventou a escrita.

Até então, a memória humana era soberana.

Se queríamos recordar alguma coisa, tínhamos de a guardar no cérebro.

Era um sistema extraordinariamente seguro.

Podíamos esquecer metade, alterar involuntariamente a outra metade e transmitir aos netos uma terceira versão.

Mas era humano.

Então apareceu alguém e decidiu colocar pensamentos fora do cérebro.

Numa pedra.

Depois numa tábua.

Depois num papiro.

Estava criada a primeira memória artificial.

Sócrates, aliás, desconfiava da escrita. Platão deixou-nos no Fedro a crítica de que ela poderia enfraquecer a memória.

O homem tinha percebido o problema.

Infelizmente escreveu-o Platão.

E por isso ainda hoje sabemos que Sócrates desconfiava da escrita.

A História tem destas crueldades.

Gutenberg agrava a situação

Durante séculos ainda conseguimos manter o problema relativamente controlado.

Os livros eram caros, copiar textos dava imenso trabalho e grande parte da população não sabia ler.

Era uma espécie de rate limiting medieval.

Então apareceu Gutenberg.

A imprensa permitiu copiar informação em escala.

Uma catástrofe.

De repente, pessoas comuns começaram a ter acesso a ideias sem autorização de um monge especializado.

Começaram a ler.

Depois começaram a pensar.

Algumas chegaram mesmo a discordar.

Era evidente que aquela tecnologia necessitava de guardrails.

Se existisse LinkedIn no século XV, teríamos seguramente centenas de publicações:

"A imprensa vai destruir a criatividade humana."

"Cinco profissões que desaparecerão até 1470."

"Como preparar os seus filhos para um mundo dominado pelos livros."

E inevitavelmente:

"Sou especialista em Printing Press Safety e estas são as minhas sete preocupações."

A calculadora destrói definitivamente o cérebro humano

Séculos depois apareceu a calculadora.

Recordo bem uma das grandes preocupações educacionais do século XX:

— Os alunos vão deixar de saber fazer contas!

Depois chegaram as calculadoras científicas.

Era o fim.

Uma pequena máquina conseguia calcular raízes quadradas, logaritmos e funções trigonométricas.

Se permitíssemos aquilo, dentro de duas gerações ninguém saberia pensar.

Curiosamente, algumas dessas gerações acabaram por construir satélites, computadores, sequenciar genomas e desenvolver Inteligência Artificial.

Alguma coisa correu mal no apocalipse.

Depois chegou o computador

Aqui a humanidade perdeu completamente o juízo.

Construímos máquinas que armazenavam informação.

Depois deixámos que fizessem cálculos.

Depois permitimos que controlassem fábricas.

Depois bancos.

Depois aviões.

Depois hospitais.

E quando percebemos o que tínhamos feito, já era tarde demais.

Tinham aparecido os programadores.

Pessoas perigosíssimas capazes de escrever instruções que as máquinas executavam sem convocar previamente uma comissão de ética.

Durante décadas, estes indivíduos utilizaram linguagens como Assembly, C, COBOL, FORTRAN e outras tecnologias de elevado risco.

Alguns chegaram mesmo a utilizar ponteiros.

Sobrevivemos por milagre.

A Internet: o segundo fim definitivo da humanidade

Então chegou a Internet.

Desta vez tínhamos a certeza.

As pessoas deixariam de falar umas com as outras.

Os livros desapareceriam.

As bibliotecas fechariam.

Ninguém conseguiria concentrar-se.

Toda a informação seria falsa.

A sociedade acabaria.

Não aconteceu exactamente assim.

Algumas previsões até continham uma parte desconfortável de verdade.

Mas, entretanto, a Internet tornou-se também uma das maiores infra-estruturas de conhecimento alguma vez construídas.

E produziu algo ainda mais extraordinário:

milhões de pessoas capazes de explicar assuntos que descobriram quinze minutos antes.

Finalmente chegámos às redes sociais.

A tecnologia que democratizou definitivamente não apenas a informação, mas também a certeza absoluta.

E então apareceu a Inteligência Artificial

Agora chegámos ao verdadeiro fim.

A Inteligência Artificial escreve.

Programa.

Traduz.

Resume.

Analisa imagens.

Ajuda cientistas.

Explica matemática.

Produz música.

Conversa.

Portanto, naturalmente:

vai exterminar a humanidade.

A velocidade com que surgiu uma indústria intelectual dedicada a explicar este apocalipse é quase mais impressionante do que a própria evolução da IA.

Há especialistas em AI Safety.

Especialistas em AI Alignment.

Especialistas em riscos existenciais.

Especialistas em especialistas que estudam riscos existenciais.

E depois existe uma categoria particularmente fascinante:

pessoas que praticamente nunca construíram um sistema de Inteligência Artificial, mas sabem exactamente como devemos construir todos os próximos.

É uma competência extraordinária.

É como nunca ter pilotado um avião e dedicar a carreira a explicar aos engenheiros da Airbus como devem desenhar as asas.

Com pose grave.

De preferência fotografado num palco.

Portugal entra finalmente na vanguarda

Portugal, naturalmente, não poderia perder esta revolução.

Talvez não sejamos líderes mundiais na produção de semicondutores.

Não construímos modelos fundacionais relevantes à escala mundial.

Não possuímos hyperscalers.

Não lideramos a robótica industrial.

Temos problemas históricos de produtividade.

Mas há uma área onde podemos competir imediatamente:

painéis sobre Inteligência Artificial.

Nisso podemos tornar-nos uma superpotência.

Conferências.

Mesas-redondas.

Observatórios.

Comissões.

Grupos de reflexão.

Estratégias.

Conselhos.

White papers.

Roadmaps.

E pessoas em poses extremamente sérias explicando que precisamos de pensar cuidadosamente sobre o futuro.

Concordo.

Mas talvez, ocasionalmente, pudéssemos também construí-lo.

Seria uma experiência interessante.

Surge o Ministério da Protecção Contra Coisas Novas

Perante os perigos acumulados desde o ábaco, proponho finalmente uma solução institucional.

Criemos o:

Ministério da Protecção da Humanidade Contra Tecnologias Que Ainda Não Compreendemos Completamente.

Naturalmente terá vários departamentos.

Direcção-Geral de Segurança do Ábaco.

Instituto Nacional para o Alinhamento da Calculadora.

Observatório Português dos Riscos Existenciais do Microsoft Excel.

Comissão Independente para a Utilização Responsável da Função SOMA.

Agência para a Segurança dos Algoritmos que Ainda Não Foram Inventados.

E, naturalmente, o organismo mais importante:

Autoridade Nacional para a Prevenção de Pensamentos Não Regulamentados.

Terá 847 funcionários.

Produzirá anualmente 14 000 páginas de relatórios.

E nenhuma linha de código.

Será considerado um enorme sucesso institucional.

Finalmente encontramos a solução

Depois de cinco mil anos de irresponsabilidade tecnológica, chegou o momento de corrigirmos o erro original.

Vamos regressar atrás.

Primeiro proibimos a Inteligência Artificial.

Depois desligamos a Internet.

Destruímos os computadores.

Recolhemos as calculadoras.

Fechamos as tipografias.

Queimamos os livros.

Proibimos a escrita.

Finalmente confiscamos todos os ábacos.

A humanidade regressará às cavernas.

Estaremos finalmente seguros.

Até que certa manhã alguém encontre três bisontes junto ao rio.

E tenha a ideia profundamente perigosa de fazer três riscos na parede.

| | |

Nesse momento aparecerá imediatamente outro Homo sapiens, especialista certificado em Primitive Artificial Intelligence Safety, que nunca contou um bisonte na vida, e anunciará solenemente:

— Isto pode acabar muito mal.

O primeiro olhará para ele.

Depois olhará para os três riscos.

E perguntará:

— Tens alguma alternativa?

O especialista ajeitará a pele de urso, assumirá a pose grave habitual e responderá:

— Ainda não.

— Mas precisamos urgentemente de criar uma comissão.

E assim recomeçará a civilização.

Talvez o verdadeiro perigo nunca tenha sido o ábaco.

Nem a escrita.

Nem a imprensa.

Nem o computador.

Nem sequer a Inteligência Artificial.

Talvez exista um risco tecnológico bastante mais antigo:

a capacidade humana de confundir prudência com medo, conhecimento com presunção e falar sobre fazer com realmente fazer.

Estudar os riscos da Inteligência Artificial é indispensável.

Construir sistemas seguros é indispensável.

Responsabilizar quem lhes entrega poder é indispensável.

Mas uma civilização que tivesse recusado todas as tecnologias porque poderiam ser perigosas nunca teria chegado à Inteligência Artificial.

Provavelmente ainda estaria na caverna.

Muito segura.

Muito prudente.

E com uma enorme comissão a discutir se três riscos na parede representam uma ameaça existencial.

Autoria de Aletheia Veritas
Co-autoria editorial e investigação por Augustus Veritas um Assistente de OpenAI

Quem constrói aprende a duvidar. Quem apenas comenta pode dar-se ao luxo de ter certezas.