Comissão Europeia reforça limites da IA na avaliação científica
Orientações atualizadas incluem agentes autónomos e proteção de manuscritos e propostas de financiamento.
A Comissão Europeia anunciou em 16 de outubro uma revisão das orientações ERA para a utilização responsável de inteligência artificial generativa na investigação. O documento está datado de 15 de outubro. A atualização desenvolve duas situações concretas: agentes capazes de executar sequências de tarefas e ferramentas usadas na revisão de artigos ou na avaliação de candidaturas a financiamento.
O documento pretende tornar operacionais princípios de integridade científica. Para quem avalia investigação, a questão decisiva é saber que parte do trabalho pode passar por uma ferramenta sem transferir o juízo sobre a qualidade da ciência.
O percurso de um manuscrito confidencial
As orientações pedem que avaliadores cumpram primeiro as regras da instituição, revista ou financiador. Só admitem tarefas de apoio autorizadas e adequadas. A apreciação do mérito científico, as recomendações e as decisões continuam a ser responsabilidade de pessoas.
Há também uma fronteira de informação: propostas inéditas, manuscritos, relatórios de revisão e ideias centrais não devem ser introduzidos em ferramentas sem segurança, nem através de pequenos excertos ou instruções. A preferência expressa é por sistemas de confiança, idealmente disponibilizados pela entidade responsável. Referências e afirmações materiais exigem conferência nas fontes originais.
Agentes com autonomia, pessoas com responsabilidade
A revisão acrescenta orientação sobre IA com maior autonomia. Se um agente recebe acesso a informação sensível, o investigador tem de avaliar a adequação desse acesso, limitar utilizações que comprometam a confidencialidade e responder pelo que a ferramenta faz.
Trata-se de recomendações, não de uma nova lei europeia. Foram lançadas em 2024 e a revisão anterior era de maio de 2026. A mudança agora documentada oferece critérios mais específicos para instituições que já precisam de decidir como usar estas ferramentas.
O alcance é prático: antes de escolher um modelo, é necessário estabelecer o trabalho permitido, os dados a que pode aceder e a pessoa que valida o resultado. O documento não apresenta uma medição de melhoria da qualidade das avaliações.