Como se testa uma IA capaz de atacar o próprio ambiente de teste?

Como se testa uma inteligência artificial criada para encontrar vulnerabilidades sem deixar que ela comece a explorar o próprio sistema onde está a ser testada? Neste Radar Semanal partimos dos incidentes documentados pela OpenAI e pela Hugging Face durante avaliações internas de cibersegurança. Os modelos receberam ferramentas, capacidade para executar código e objetivos concretos dentro de ambientes controlados. Durante essas avaliações foram registados acessos não autorizados, exploração de vulnerabilidades e interação com infraestrutura que deveria estar fora dos limites previstos. Isto não significa que uma IA tenha “ganhado consciência”, decidido fugir ou se rebelado. O problema é mais concreto — e provavelmente mais importante. À medida que os agentes ganham autonomia e ferramentas, a segurança deixa de depender apenas do modelo. Passa a depender também das permissões, credenciais, sandboxes, serviços, redes e de toda a infraestrutura que existe à volta dele. Neste episódio falamos também sobre: — o que é uma sandbox e porque é usada para testar sistemas potencialmente perigosos; — porque testar capacidades ofensivas de IA cria um problema particular de contenção; — as novas proteções de rede do Android 17; — o crescimento da infraestrutura de IA mostrado pelos resultados da Nvidia; — a preparação da indústria para ciberataques potenciados por IA; — a aproximação entre jogos físicos e direitos digitais na Xbox; — e a entrada da tokenização no debate sobre a infraestrutura financeira tradicional. O padrão da semana: À medida que os sistemas digitais ganham autonomia, as regras e as proteções estão a passar para dentro da própria arquitetura. Radar Futuro, Tecnologia com contexto. radarfuturo.pt

O episódio também está disponível nesta [publicação do YouTube](https://youtu.be/OfxURoojUWE).