A IA de agora. E o futuro?

Há no atual discurso sobre o uso da Inteligência Artificial (IA) do Governo Federal do Estados Unidos da América (EUA), o argumento de não querer ficar para trás. Mas o que significa ficar para trás? Os tecnólogos preveem criar máquinas que possam ser tão “inteligentes” que não só superam os humanos em todas as tarefas como também são autónomas na sua aprendizagem (i.e. são capazes de aprender por elas próprias). São as super-máquinas AGI em que AGI significa Inteligência Artificial Geral ( i.e. General Artificial Intelligence).
O conceito AGI é difuso. Não só não está definido cientificamente como não será fácil saber se um determinado sistema se comporta como uma máquina AGI. No entanto, ele tem sido usado pelas grandes empresas tecnológicas nos EUA como uma forma de captar investidores.  Mostram que os sistemas que criam são “perigosos”, transmitindo a ideia de que os próprios criadores têm dificuldade em os controlar. E essa ideia faz transparecer a “promessa” de estarem próximos da máquina AGI pois  estarão na frente da inovação tecnológica.
Esta situação que mistura ciência, economia e poder, torna-se confusa. Os próprios políticos não conseguem perceber (ou não estão interessados) qual é a verdade dos factos.
É o caso das notícias sobre a maldade dos agentes da IA -  nome dado aos sistemas de IA autónomos, isto é que atuam de forma independente depois de programados pelos humanos. Num dos últimos incidentes descreve-se que os tais agentes entraram de forma irregular na base de dados da empresa HuggingFace para aí fazer piratear – ou hackear, um repositório com soluções de um teste, modificando-o e depois apagando o seu rasto (Felix, M., AI agent hack tests solvency more than sentience, Reuters, Setembro de 2026).
A forma como esta ocorrência e outras mais recentes do mesmo género, têm vindo a surgir publicamente são assustadoras pois sistematicamente antropomorfizam – ou seja, tornam humanas – as ações dos tais agentes como se tratassem de entidades com intenções, desejos, ambições, etc.
Sabemos hoje que no caso descrito, o objetivo da empresa seria testar a capacidade destes sistemas havendo intenção programada de procurar vulnerabilidades, testar a entrada em locais protegidos e depois piratear esses locais. Esta brecha na segurança não ocorreu por que os agentes se tornaram desonestos ou maus (i.e. rogue), mas porque estes foram mal instruídos, a experiência mal especificada e negligenciados os protocolos de segurança standard.
Mas será que a sociedade ganhará no futuro com o uso destes sistemas autónomos?
No artigo Some Simple Economics of AGI de Catalini, Hui e Wu ( https://arxiv.org/html/2602.20946v2)  os investigadores avaliam o impacto económico do uso destes sistemas autónomos. Por um lado, com a  liberdade que têm de criar código e decidir como atuar  sem que haja um protocolo de verificação humano ou através de máquinas verificáveis (e.g. sistemas recorrendo à lógica computacional) – criam os problemas de segurança que são reportados quase diariamente.
Por outro, alertam para que esta situação descontrolada pode levar ao surgimento do que designam por “economia oca” (i.e. hollow economy)  - um (des)equilíbrio caracterizado por um crescimento exponencial de produção, com declínio de ação humana. Os sistemas autónomos consomem recursos para satisfazer os seus “indicadores mensuráveis” mas estes não são alinhados com os verdadeiros objetivos humanos. Ou seja, apesar de produzirem mais não são fiáveis e são passíveis de não responderem, como se espera, aos objetivos definidos pelos humanos, aumentando riscos e vulnerabilidades dos sistemas informáticos.
Só há uma solução: a verificação. A economia onde estes agentes prevalecerem só trará resultados positivos duradouros se houver certificação, segurança e responsabilização das falhas. Sem a verificação estamos a criar uma dívida que se vai acumulando na sociedade.