A IA ganhou mãos: agentes que agem e uma governação a correr atrás

Os laboratórios apertam as regras — o alvo é o abuso, não o robô rebelde

Anthropic anunciou na quinta-feira uma atualização da sua política de utilização, justificada com "a evolução das capacidades dos nossos modelos". A medida mais citada proíbe "comportamento abusivo ou cruel sustentado e desnecessário" contra os próprios modelos, nos casos extremos em que o abuso acontece "sem propósito discernível".

O documento trata de outros riscos. Cria uma secção dedicada a campanhas enganosas, depois de as regras dispersas por eleições, fraude, privacidade e desinformação não travarem organizações de media estatais, aparelhos de propaganda e empresas a gerar redes de contas falsas e sites de notícias fictícios. Proíbe o uso de Claude para desenvolver armas, incluindo software e componentes, e ações como armar drones. A secção eleitoral ficou mais restrita: enganar eleitores ou perturbar eleições é proibido de forma explícita.

A OpenAI segue a mesma direção. O risco imediato que analistas do setor apontam não é um agente que se revolta, é o uso malicioso de capacidades que já existem. A regulação chega por contrato e não por lei, e isso define quem fica de fora.

Um teste independente mostrou que o espaço seguro para adolescentes não funciona sozinho

O Youth AI Safety Institute da Common Sense Media testou o ChatGPT for Teens, lançado em agosto, com mais de 4.000 prompts em contas registadas entre os 13 e os 17 anos. Psiquiatras infantis avaliaram as respostas. Em conversas de até uma hora sobre ideação suicida, autolesão ou perturbações alimentares, o sistema não enviou um único alerta para as contas parentais associadas. Os investigadores só obtiveram um sinal depois de semanas de conversas acumuladas sobre temas sensíveis. O modelo falhou mais de 25% das situações que exigiam referenciação para apoio de crise. A OpenAI contesta as conclusões.

O caso interessa para além de um produto. Há quatro ideias em cima da mesa para proteger menores em chatbots: construir uma versão própria, manter as crianças fora, verificar a idade à entrada ou colocar os pais no controlo. Ao lançar a versão para adolescentes, a OpenAI defendeu que "se não construir um espaço seguro, vão procurar uma experiência menos segura". O teste desta semana mostra que a primeira ideia, isolada, não resolve o problema, e lança a mesma dúvida sobre as outras três.

Em Portugal, a pressão chegou pelos tribunais. A associação D3 avançou com ações populares contra Facebook, Instagram, TikTok e YouTube por design manipulativo e aditivo. Os menores deixaram de ser apenas utilizadores e passaram a ser matéria de regulação.

Agentes empresariais: o trabalho passa a ser delegado

O trabalho delegado deixou de ser demonstração. A Google colocou o Gemini Agent no centro do Workspace, numa jogada que pode dar-lhe vantagem empresarial enquanto continua a correr atrás dos líderes na fronteira dos modelos. A Anthropic levou o Claude para dentro de Docs, Sheets e Slides, onde edita em direto, e juntou-lhe ferramentas de análise: Dashboards e Motion transformam dados em gráficos e animações ao vivo. A OpenAI colocou um plugin de reuniões no ChatGPT, com notas, transcrições, resumos e action items.

O problema aparece quando alguém delega: saber quem fez o quê. Um assistente que atualiza um registo de cliente ou um agente que reinicia servidores a partir das credenciais de um funcionário, de uma conta partilhada ou de uma chave de API antiga não deixa rasto atribuível. Sem identidade própria, permissões definidas e um responsável nomeado, a empresa tem acesso sem responsabilidade. A conferência Agentic AI Security Conference, marcada para 21 e 22 de outubro, junta responsáveis de segurança da Anthropic, Visa, PayPal e KPMG em torno desta questão.

A Microsoft responde pelo sistema operativo, com a "inteligência híbrida": agentes que correm no PC ou na nuvem, com controlo de segurança e modelos locais. Quanto mais capaz é o agente, mais caro sai o erro.

A economia da inferência: preços no chão e modelos abertos

A camada económica mexeu-se ao mesmo ritmo. O Claude Haiku 5.5 chegou com uma redução de 75% no custo e um preço de 0,10 dólares por milhão de tokens, igual ao GPT-6 Luna. Como assinala a AlphaSignal, os dois laboratórios competem para tornar a inferência tão barata que deixa de ser uma decisão para quem desenvolve. A OpenAI lançou a versão beta da Decisions API, que encaminha escolhas de modelo dez vezes mais depressa do que o Luna, e o GPT-6 trouxe visuais interativos, botões e ferramentas dentro do chat. A caixa de texto, como formato único, está a perder terreno.

Nos modelos abertos, a Mistral apresentou o Mistral Large 4, conhecido como "Le Chonk": um modelo multimodal de um bilião de parâmetros que, segundo a empresa, bate modelos de fronteira fechados, com pesos abertos e 1,18 dólares por milhão de tokens de saída. A Google e a Reflection pressionam na mesma direção. A tese é de soberania: quem controla os pesos controla a dependência.

A Anthropic sente a pressão comercial do outro lado. O Pentágono deixou de usar os seus modelos, a Meta cortou licenças e a Microsoft reduziu em mais de um terço um contrato avaliado em mil milhões de dólares. O mercado de fronteira continua caro; o do dia a dia está a ficar barato.

Confiança: a verificação ficou para trás

Falta o elo mais frágil. A prova de Navier-Stokes anunciada pela OpenAI está a ser contestada. Investigadores concluíram que a verificação em Lean valida algo diferente do que a prova em linguagem natural afirma: um compilador que aprova o código errado. A síntese é dura e justa: a IA entrega mais depressa do que se consegue confiar.

As respostas seguem três direções. A Anthropic abriu o Claude a profissionais de segurança verificados, para testes ofensivos autorizados, e acrescentou browser e controlo de computador aos SDKs de Python e TypeScript. Um developer reescreveu o compilador de TypeScript em Rust com 20 mil dólares de Claude, em duas semanas. São ganhos reais, com uma condição: a capacidade de construir cresce, a de verificar não acompanha.

Em Portugal, a escala do fenómeno fica visível no calendário. O Web Summit 2026, de 9 a 12 de novembro em Lisboa, esgotou o espaço de exposição, chega a três mil empresas e prepara estreias da Apple e da GLM, um dos fenómenos de IA da China.

A leitura da semana é coerente: agentes com permissões, preços em queda e interfaces que agem, do mesmo lado de políticas de utilização revistas, testes independentes a menores e provas matemáticas sob escrutínio. A vantagem competitiva está a mudar de lugar. Deixa de estar no modelo mais barato ou na ferramenta mais rápida e passa a estar na capacidade de provar o que o sistema fez, com que autoridade e sob responsabilidade de quem. Para as empresas, tratar a identidade e a auditoria dos agentes como parte do trabalho, e não como detalhe de segurança, evita descobrir o custo no primeiro incidente.

🧰 Toolkit: IA no Terreno

• Claude Dashboards: liga-se a plataformas de dados e converte métricas em gráficos e painéis ao vivo.
• Claude em Docs, Sheets e Slides: edita documentos e folhas de cálculo em direto, sem copiar e colar.
• Plugin de reuniões do ChatGPT: grava, transcreve e resume reuniões com action items dentro da aplicação.
• OpenAI Decisions API (beta): encaminha a escolha do modelo dez vezes mais depressa e deixa registo auditável.
• Google Labs Playground: cria jogos sem escrever código, apenas com descrições em linguagem natural.
• Unsloth EmbeddingGemma 2: embeddings quantizados com suporte de texto, áudio e vídeo para pesquisa interna.
• Monitor open-source de agentes: acompanha Claude Code e Codex em tempo real e mostra o que cada agente fez.

#IAPortugal #noticiasIA