ETSI leva a prevenção de deepfakes para dentro do ciclo de vida da IA

Uma norma para agir antes de o conteúdo existir

O ETSI publicou em 29 de outubro a especificação técnica TS 104 275, dedicada à redução do risco de sistemas de inteligência artificial generativa produzirem deepfakes nocivos. O documento aplica à IA generativa os requisitos de cibersegurança de base da EN 304 223 e organiza controlos ao longo do ciclo de vida do sistema, desde a avaliação prévia ao lançamento até à investigação de incidentes.

A mudança prática está no objeto da verificação. Em vez de avaliar apenas se uma imagem ou um áudio já criado parece manipulado, a organização deve demonstrar que identificou formas previsíveis de abuso, escolheu salvaguardas e conserva evidência de que esses controlos funcionam.

Que controlos entram no processo

A especificação inclui avaliações de risco antes da disponibilização, processos de revisão e intervenção humana, filtros e avisos adequados ao contexto, rotulagem de conteúdo gerado e monitorização contínua de ameaças. Inclui também cenários de teste e critérios de aprovação ou reprovação.

Essa combinação aproxima a governação da IA de uma disciplina de engenharia: cada risco deve ser ligado a um controlo verificável, a um responsável e a registos que permitam auditoria. A norma também prevê atualização quando surgem novas técnicas de manipulação ou padrões de fraude.

O alcance jurídico é limitado

A TS 104 275 é uma especificação técnica, não uma lei nem uma certificação automática de conformidade com o Regulamento da Inteligência Artificial. O próprio ETSI apresenta-a como apoio aos objetivos europeus, incluindo sistemas que não pertencem à categoria legal de alto risco. A adoção e a forma como será usada em contratos, auditorias ou supervisão dependem das organizações e das autoridades.

Também não garante que um sistema deixe de produzir material abusivo. Filtros podem ser contornados, os modelos mudam e a avaliação depende da qualidade dos testes. O valor do documento está em tornar explícitas obrigações de processo e em permitir verificar se foram cumpridas.

Porque esta abordagem interessa

Os deepfakes são usados em fraude, abuso sexual baseado em imagem e desinformação. A deteção continua necessária, mas atua depois de o material existir e pode chegar tarde. Uma abordagem preventiva distribui responsabilidade por quem desenvolve, integra e opera a tecnologia.

Para empresas que compram ou disponibilizam modelos generativos, a questão passa a ser concreta: que testes foram feitos, que tipos de abuso cobrem, quem pode intervir e que evidência fica disponível quando há um incidente.

O que falta observar

Será decisivo acompanhar a adoção da especificação, a publicação dos métodos de teste e a relação com normas harmonizadas e orientações do Regulamento da IA. A eficácia terá de ser medida em avaliações independentes e em incidentes reais, não apenas na existência de documentação interna.