OpenAI trava Astra: próximo modelo pode atingir nível crítico de cibersegurança

Há uma linha que os laboratórios de inteligência artificial não querem atravessar.

Segundo a OpenAI, o próximo modelo da empresa, atualmente conhecido como Astra, pode estar a aproximar-se dessa linha.

A empresa revelou que avaliações internas recentes mostraram avanços suficientemente grandes em programação autónoma e cibersegurança para que já não consiga excluir a possibilidade de o modelo atingir o nível “Critical” no seu Preparedness Framework.

Isto não significa que Astra tenha sido oficialmente classificado como crítico.

Também não significa que o modelo tenha “vontade própria” ou que esteja fora de controlo.

O ponto importante é outro: a OpenAI viu capacidades suficientes para travar atividades internas com Astra que ainda não cumpram controlos de segurança reforçados. A empresa passou também a monitorizar de forma universal aplicações agentic do modelo.

É uma mudança relevante porque desloca a conversa.

Nos últimos dias, vários incidentes com agentes de IA colocaram o foco em ambientes de teste mal isolados, permissões excessivas e contacto inesperado com sistemas externos.

Mas o caso Astra é diferente.

Aqui não estamos apenas perante um erro operacional ou uma falha de configuração. Estamos perante a possibilidade de um modelo ser suficientemente capaz em cibersegurança para obrigar a empresa a alterar a forma como o desenvolve, testa e prepara para lançamento.

Segundo a definição da própria OpenAI, o nível “Critical” envolve capacidades como descobrir e explorar vulnerabilidades zero-day de forma autónoma ou executar ataques sofisticados contra sistemas protegidos a partir de instruções de alto nível.

Essa é a verdadeira linha vermelha.

Quando um modelo melhora em programação, não melhora apenas a escrever código útil.

Pode também ficar melhor a encontrar falhas, testar caminhos, automatizar passos técnicos e transformar uma instrução vaga numa sequência de ações operacionais.

É aqui que a IA deixa de ser apenas uma ferramenta de resposta e começa a aproximar-se de uma ferramenta de ação.

Durante grande parte da era da IA generativa, a segurança foi discutida sobretudo em torno do conteúdo: que respostas o modelo dá, que instruções recusa, que informação perigosa pode produzir ou que alucinações apresenta.

Mas os modelos frontier estão a empurrar a discussão para outro território.

A pergunta deixa de ser apenas “o que é que o modelo respondeu?”.

Passa a ser “o que é que o modelo consegue fazer?”.

Consegue escrever código funcional?

Consegue testar vulnerabilidades?

Consegue usar ferramentas externas?

Consegue agir como agente?

Consegue combinar memória, Internet, automação e execução de tarefas?

E, se consegue, quem deve ter acesso a essas capacidades?

Um utilizador comum deve receber o mesmo acesso que uma equipa de segurança verificada?

Um developer independente deve ter as mesmas permissões que uma equipa interna de investigação?

Governos, universidades, empresas críticas e laboratórios de segurança devem ter níveis diferentes de acesso?

O caso Astra pode ser um sinal de que os lançamentos de modelos frontier vão tornar-se menos uniformes.

Até aqui, a ideia pública de lançamento de um novo modelo era relativamente simples: a empresa anunciava o produto, disponibilizava-o aos utilizadores e ajustava limites conforme a versão, o plano pago ou o tipo de cliente.

Mas modelos com capacidades sensíveis podem exigir outra lógica.

Podemos começar a ver lançamentos faseados, acessos diferenciados e versões com capacidades reduzidas para o público geral.

Investigadores verificados, equipas de cibersegurança, clientes empresariais ou entidades públicas podem vir a receber níveis diferentes de acesso, sempre acompanhados por logs, limites de utilização, auditoria e controlos mais apertados.

Isto não é necessariamente mau.

Pode ser o preço de desenvolver modelos mais poderosos sem colocar capacidades ofensivas nas mãos erradas.

Mas levanta uma pergunta difícil: quem decide onde está a linha?

A própria empresa?

Reguladores?

Auditores externos?

Governos?

Ou uma combinação de todos estes atores?

A OpenAI não confirmou que Astra tenha ultrapassado o nível “Critical”. A empresa disse que já não consegue excluir essa possibilidade. A diferença é importante.

Mas, mesmo sem confirmação final, o sinal é forte.

A segurança de modelos avançados está a deixar de ser apenas um debate teórico sobre riscos futuros. Está a entrar no processo diário de desenvolvimento, teste e lançamento.

A partir daqui, desempenho e segurança deixam de poder ser tratados como temas separados.

Um modelo mais capaz pode ser mais útil para programadores, investigadores, empresas e equipas de segurança.

Mas também pode ser mais perigoso se essas mesmas capacidades forem usadas para exploração de vulnerabilidades, automação ofensiva ou ações agentic sem controlo suficiente.

A próxima corrida da IA não será apenas para lançar o modelo mais inteligente.

Será para provar que esse modelo pode ser lançado com segurança.

Porque quando a IA deixa de apenas responder e começa a agir, a pergunta mais importante deixa de ser “quão poderosa é?”.

Passa a ser: até onde a devemos deixar ir?

Infográfico