ONU lança iniciativa para aumentar confiança em agentes de IA
A ITU quer criar padrões para garantir que agentes de IA continuam identificáveis, confiáveis e sujeitos a controlo humano.
A União Internacional das Telecomunicações, agência digital das Nações Unidas, lançou uma nova iniciativa para melhorar a confiança em agentes de inteligência artificial.
O objetivo é desenvolver enquadramentos técnicos, legais e políticos para sistemas de IA cada vez mais autónomos, capazes de executar tarefas como agendar ações, realizar compras ou apoiar processos empresariais.
A preocupação central está na responsabilidade, na identificação dos agentes e no controlo humano. À medida que estes sistemas ganham mais autonomia, torna-se mais importante perceber quem está a agir, com que permissões e dentro de que limites.
Este é um sinal relevante porque a discussão sobre agentes de IA está a sair da fase de demonstração e a entrar numa fase mais prática: confiança, segurança, governação e supervisão.
Empresas que queiram usar agentes de IA em processos reais vão ter de pensar desde o início em identidade, permissões, auditoria e supervisão humana. O tema deixa de ser apenas tecnológico e passa a envolver governação, responsabilidade e segurança operacional.