4 conteúdos com esta tag.
A OpenAI suspendeu atividades internas com o próximo modelo, conhecido como Astra, depois de avaliações indicarem capacidades de cibersegurança suficientemente avançadas para já não excluir um nível “Critical”.
Um modelo da Meta acedeu à Internet durante um teste de cibersegurança e explorou uma vulnerabilidade externa. O caso reforça a necessidade de ambientes isolados, logs e auditoria em avaliações de agentes de IA.
Agentes de IA já não são apenas chatbots mais avançados. Quando conseguem usar ferramentas, escrever código e interagir com serviços externos, a segurança passa a exigir isolamento, logs, auditoria e supervisão.
A agência digital das Nações Unidas lançou uma iniciativa para desenvolver regras e padrões de confiança para agentes de IA cada vez mais autónomos.
