Da guerra nuclear à manipulação das democracias, a inteligência artificial inaugura uma nova era de poder. O verdadeiro perigo poderá não estar nas máquinas que se revoltam contra os homens, mas nos homens que entregam às máquinas o poder de decidir o seu destino.
Há uma curiosa ironia na história da humanidade. Passámos milhares de anos a tentar construir instrumentos capazes de nos libertar do esforço físico e intelectual. Inventámos a roda, dominámos a eletricidade, dividimos o átomo, chegámos à Lua e construímos uma rede capaz de ligar praticamente todos os habitantes do planeta. Agora, pela primeira vez, desenvolvemos uma tecnologia que poderá vir a dispensar-nos da própria tarefa de pensar.
E, como frequentemente acontece com as grandes descobertas humanas, começámos a perguntar-nos se não estaremos a fabricar o instrumento da nossa própria destruição.
Num artigo publicado no The Guardian, a 23 de setembro de 2026, o investigador Toby Walsh, professor de inteligência artificial na Universidade de Nova Gales do Sul, apresenta cinco cenários de catástrofe associados à inteligência artificial: uma superinteligência cujas ações não conseguimos antecipar, sistemas que perseguem objetivos incompatíveis com a sobrevivência humana, armas biológicas, guerra nuclear e, finalmente, a desintegração da sociedade provocada pelos próprios seres humanos com recurso à tecnologia.
Toby Walsh
O interesse desta reflexão não reside propriamente na possibilidade de uma máquina decidir exterminar oito mil milhões de pessoas. Reside numa questão bastante mais perturbadora: estaremos a criar uma forma de poder que, a determinada altura, deixaremos de conseguir controlar?
A nova corrida ao armamento
Durante a Guerra Fria, Washington e Moscovo compreenderam que o equilíbrio nuclear assentava num paradoxo: cada superpotência precisava de possuir capacidade suficiente para destruir a outra, precisamente para evitar que alguma delas desencadeasse uma guerra.
A inteligência artificial introduz uma variável diferente nesta equação.
Ao contrário das armas nucleares, cujo desenvolvimento exige instalações industriais complexas, materiais específicos e infraestruturas relativamente identificáveis, os sistemas avançados de inteligência artificial assentam em conhecimento, capacidade computacional, energia e acesso a dados.
A competição tecnológica entre os Estados Unidos e a China ultrapassa, por isso, a simples disputa comercial. Envolve autonomia estratégica, superioridade militar, controlo das cadeias de abastecimento e influência sobre a futura arquitetura da economia mundial.
Quem controlar os sistemas mais avançados poderá dispor de vantagens significativas na análise de informações, na cibersegurança, na investigação científica e no desenvolvimento de armamento.
O problema surge quando a velocidade da inovação começa a ultrapassar a capacidade das instituições para compreender e supervisionar aquilo que está a ser desenvolvido.
A história demonstra que a humanidade tem uma extraordinária capacidade para inventar novas armas e uma dificuldade igualmente extraordinária em estabelecer os mecanismos necessários para impedir a sua utilização.
A guerra que pode começar sem ninguém a querer
Imaginemos uma crise militar entre duas potências nucleares.
Um sistema de inteligência artificial interpreta determinados movimentos militares como preparativos para um ataque iminente. Outro sistema, do lado adversário, identifica alterações nos dispositivos de defesa e recomenda uma resposta preventiva.
Os responsáveis políticos recebem informações aparentemente consistentes, produzidas por sistemas cuja velocidade de processamento ultrapassa largamente a capacidade humana.
O tempo disponível para decidir reduz-se drasticamente.
Não seria necessário que uma máquina adquirisse consciência, desenvolvesse sentimentos hostis ou decidisse conquistar o planeta. Bastaria uma sucessão de interpretações erradas, agravada pela confiança excessiva dos responsáveis militares na tecnologia.
Este é um cenário hipotético, não uma descrição das capacidades autónomas atualmente demonstradas pela inteligência artificial. Mas ilustra um risco que merece atenção: a automatização de decisões em situações nas quais o erro humano já pode ter consequências irreversíveis.
A história da dissuasão nuclear contém episódios em que a prudência individual e a capacidade de questionar informações aparentemente credíveis contribuíram para evitar decisões catastróficas.
Uma máquina poderá calcular milhões de possibilidades em segundos. Isso não significa que compreenda as consequências políticas, humanas e morais de cada uma delas.
O inimigo invisível
Existe outra dimensão particularmente inquietante: a biotecnologia.
A combinação entre inteligência artificial, engenharia genética e automatização laboratorial abre possibilidades extraordinárias para a medicina. Poderá acelerar a descoberta de medicamentos, melhorar diagnósticos e contribuir para o desenvolvimento de novas terapias.
Mas tecnologias com aplicações benéficas podem também ser utilizadas para fins destrutivos.
A possibilidade de sistemas avançados facilitarem o desenvolvimento de agentes biológicos perigosos constitui um problema de segurança internacional.
Importa, contudo, distinguir a capacidade de produzir conhecimento científico da capacidade de transformar esse conhecimento numa arma eficaz. A criação, produção e disseminação de agentes biológicos envolve obstáculos técnicos e logísticos consideráveis.
Não estamos perante uma inevitabilidade tecnológica. Estamos perante um problema de utilização dual da ciência, que exige supervisão, responsabilidade institucional e cooperação internacional.
O verdadeiro desafio será garantir que a capacidade de prevenir ameaças acompanha a velocidade com que estas podem surgir.
A destruição silenciosa das democracias
Talvez o cenário mais próximo da nossa realidade quotidiana não envolva bombas nucleares, laboratórios clandestinos ou robôs armados.
Envolve os nossos telemóveis.
A inteligência artificial permite produzir imagens, vozes e vídeos sintéticos cada vez mais convincentes. Permite também automatizar campanhas de desinformação, personalizar mensagens e multiplicar conteúdos falsos a uma escala anteriormente inimaginável.
As consequências podem atingir um dos fundamentos essenciais de qualquer sociedade democrática: a existência de uma realidade factual minimamente partilhada.
Quando uma fotografia deixa de constituir prova, quando uma gravação pode ser fabricada e quando milhares de mensagens aparentemente espontâneas são produzidas por sistemas automáticos, torna-se mais difícil distinguir informação de manipulação.
O problema não é apenas tecnológico. É profundamente político, social e cultural.
Uma sociedade incapaz de estabelecer consensos mínimos sobre os factos terá dificuldades crescentes em debater soluções para os seus problemas.
E não será necessário que a inteligência artificial controle os governos. Bastará que seja utilizada para fragilizar a confiança dos cidadãos nas instituições, nos meios de comunicação social e uns nos outros.
A erosão das democracias pode acontecer sem tanques nas ruas e sem um único disparo.
O poder de quem controla os algoritmos
Existe ainda uma questão frequentemente secundarizada no debate público: a concentração do poder tecnológico.
As infraestruturas necessárias ao desenvolvimento dos sistemas mais avançados exigem investimentos financeiros, energéticos e computacionais extraordinários.
Esta realidade favorece um número relativamente reduzido de grandes empresas e Estados com capacidade económica e tecnológica.
A inteligência artificial poderá transformar-se, assim, num dos principais instrumentos de influência internacional do século XXI.
Para a Europa, esta discussão é particularmente importante.
A dependência de tecnologias desenvolvidas fora do espaço europeu levanta questões de soberania digital, proteção de dados, segurança das infraestruturas críticas e autonomia económica.
Mas a resposta não pode limitar-se à regulamentação.
É necessário investir em investigação, formação científica, capacidade computacional e desenvolvimento tecnológico. Regular sem inovar pode significar aceitar uma posição de dependência perante aqueles que detêm os instrumentos que procuramos supervisionar.
Portugal, pela sua dimensão e capacidade económica, dificilmente poderá competir isoladamente com as maiores potências tecnológicas. Pode, no entanto, participar numa estratégia europeia que conjugue inovação, segurança e proteção dos direitos fundamentais.
Esta discussão também tem uma dimensão local. A inteligência artificial pode melhorar a gestão dos serviços públicos, os transportes, a proteção civil e os cuidados de saúde. Mas a utilização destes sistemas deve ser acompanhada por mecanismos claros de transparência e responsabilização.
Uma decisão administrativa errada não deixa de ter responsáveis pelo simples facto de ter sido recomendada por um algoritmo.
A grande ilusão da superinteligência
A ficção científica habituou-nos a imaginar máquinas que desenvolvem consciência, adquirem vontade própria e concluem que os seres humanos constituem um obstáculo à sua existência.
A realidade científica é consideravelmente mais complexa.
Não existe consenso sobre quando, ou sequer se, será possível desenvolver uma inteligência artificial geral com capacidades superiores às humanas em praticamente todos os domínios.
Também não está demonstrado que inteligência avançada implique consciência, vontade própria ou capacidade autónoma para controlar o mundo físico.
O debate sobre os riscos existenciais permanece, por isso, marcado por incertezas significativas.
Há investigadores que consideram necessário preparar desde já mecanismos de segurança para sistemas potencialmente muito mais poderosos. Outros alertam para o perigo de concentrar a discussão em cenários apocalípticos, negligenciando problemas que já existem, como a desinformação, a discriminação algorítmica, a vigilância e os impactos no emprego.
The Guardian
+1
Estas preocupações não são mutuamente exclusivas.
Podemos investigar os riscos de uma eventual superinteligência sem ignorar os efeitos concretos das tecnologias que já utilizamos.
A última decisão será nossa?
Existe uma diferença fundamental entre uma ferramenta que nos ajuda a tomar decisões e um sistema ao qual entregamos a responsabilidade de decidir por nós.
É nessa fronteira que se joga uma parte importante do futuro da inteligência artificial.
Não precisamos de máquinas conscientes para criar problemas de proporções históricas. Precisamos apenas de sistemas suficientemente poderosos, instituições insuficientemente preparadas e seres humanos dispostos a abdicar progressivamente da sua capacidade de supervisão.
A inteligência artificial poderá representar um dos maiores avanços científicos e económicos da nossa história. Poderá contribuir para combater doenças, melhorar a produtividade, acelerar a transição energética e alargar o acesso ao conhecimento.
Mas o progresso tecnológico não garante, por si só, o progresso civilizacional.
O século XX demonstrou-nos que sociedades extraordinariamente desenvolvidas do ponto de vista científico também são capazes de cometer atrocidades de dimensão inimaginável.
A inteligência artificial não altera esta realidade. Amplifica-a.
O desafio do nosso tempo não consiste, portanto, em impedir que as máquinas se tornem inteligentes. Consiste em garantir que os seres humanos continuam suficientemente lúcidos para estabelecer os limites daquilo que estão dispostos a entregar-lhes.
Porque talvez o maior perigo não seja o dia em que uma máquina decidir que já não precisa da humanidade.
Talvez seja o dia em que a humanidade concluir que já não precisa de decidir.
E, nessa altura, poderemos descobrir que a última grande invenção humana foi também aquela que nos fez esquecer a importância de continuarmos a ser humanos.
Comentários
0Ainda não existem comentários. Pode ser o primeiro a participar.