autores:
Barend Mons, Professor Emérito da Universidade de Leiden, Membro do Conselho da Fundação GO FAIR e Diretor da LIFES, a Iniciativa de Leiden para a Ciência FAIR e Equitativa
Arie BaakMembro do Conselho da LIFES Association for FAIR and Equitable science
Koen JonkersComissão Europeia, Centro Comum de Investigação (CCI), Bruxelas, Bélgica
A Inteligência Artificial está transformando a forma como a ciência é conduzida, comunicada e validada. Ela representa uma promessa genuína, permitindo o reconhecimento de padrões em escalas que nenhum pesquisador humano consegue igualar, acelerando fluxos de trabalho e abrindo novos caminhos para descobertas. Mas a IA também é rápida, não isenta de erros e indiscriminada, enquanto a ciência é, por natureza, demorada e meticulosa. A tensão entre essas duas realidades já está gerando sérios problemas: uma avalanche de publicações e dados gerados por IA, revisão por pares comprometida, descobertas distorcidas e erosão da confiança no registro científico. As habilidades exigidas dos futuros cientistas estão mudando fundamentalmente, e as políticas científicas não acompanharam esse ritmo. É urgente preencher essa lacuna.
A ciência passou de um ambiente com escassez de dados para um ambiente com abundância de dados com uma velocidade notável. Enquanto antes os pesquisadores geravam conjuntos de dados modestos e comunicavam suas descobertas principalmente por meio de artigos em linguagem acessível a humanos, agora eles operam em uma era de geração exponencial de dados. Grande parte desses dados é de alta dimensionalidade, distribuída e processável apenas por máquinas. Essa tendência, no entanto, não se reflete na reutilização efetiva dos dados. Para mudar isso, os próprios dados devem ser tratados como um produto científico de primeira classe, e não como um subproduto de artigos.
As máquinas são excelentes em encontrar padrões em conjuntos de dados grandes e complexos. Mas elas não possuem um modelo conceitual inerente da realidade relevante para os humanos. O resultado é uma oferta quase ilimitada de padrões, muitos espúrios, alguns enganosos. Um desafio central para a próxima geração de cientistas será navegar por essa selva de padrões: distinguir sinais significativos de ruído estatístico. A supervisão humana não é opcional; é estruturalmente necessária.
Os formuladores de políticas também devem estar cientes de que a IA na ciência vai muito além dos Grandes Modelos de Linguagem, que atualmente dominam o discurso público. O panorama mais amplo inclui aprendizado de máquina para geração de hipóteses, fluxos de trabalho experimentais automatizados e raciocínio baseado em grafos de conhecimento, cada um com riscos e oportunidades distintos que exigem respostas de governança personalizadas.
A qualidade dos resultados da IA na ciência é diretamente determinada pela qualidade dos dados. entradaDados FAIR (Localizáveis, Acessíveis, Interoperáveis e Reutilizáveis, e cada vez mais entendidos como Totalmente Prontos para IA) são o pré-requisito fundamental para uma ciência responsável orientada por IA. Sem eles, os modelos de IA são treinados com conteúdo bruto, não curado, potencialmente tendencioso ou até mesmo fabricado, produzindo alucinações que podem ser fatais em contextos clínicos e que minam sistematicamente a confiança na ciência. Especialmente quando a reutilização de dados facilmente localizáveis é feita principalmente por atores não científicos, como as atuais empresas de gestão de riscos.
Igualmente importante é o uso de modelos conceituais FAIR para restringir a IA. outputsAo fornecer estruturas semânticas estruturadas, onde cada conceito é bem definido, como eles se relacionam e o que conta como inferência válida, esses modelos reduzem significativamente o risco de alucinações e ajudam a garantir que as descobertas geradas por IA permaneçam explicáveis, interpretáveis e verificáveis por humanos.
A crise de integridade nas publicações científicas agrava esses riscos. Sistemas de IA agora podem gerar artigos, dados e revisões com aparência plausível quase instantaneamente. Uma importante conferência de IA recebeu mais de 20,000 submissões somente em 2025. A resposta (cientistas usando IA para revisar artigos gerados por IA) corre o risco de criar um ciclo vicioso de ruído, no qual sistemas falhos avaliam uns aos outros sem nenhuma verificação externa significativa. Dados FAIR publicados na fonte, onde a proveniência pode ser verificada, estão entre as ferramentas mais robustas disponíveis para combater essa tendência.
Por trás de tudo isso, existe uma falha estrutural nos incentivos. Os pesquisadores ainda são recompensados predominantemente pela quantidade de artigos e pelas taxas de citação, uma métrica concebida para uma era de escassez de dados. Publicar dados FAIR de alta qualidade traz pouco reconhecimento profissional e não garante financiamento. Isso precisa mudar.
O cenário da governança técnica de dados na ciência está em crise. Décadas de dependência de um pequeno número de grandes provedores de nuvem, combinadas com instrumentos legais como a Lei de Nuvem dos EUA (Cloud Act), criaram um problema de soberania de dados que agora é agudo, particularmente em vista da recente instabilidade política dos EUA e seus efeitos sobre a infraestrutura de pesquisa compartilhada internacionalmente. Muitos dos principais recursos de dados científicos do mundo estão efetivamente fora do controle jurisdicional das instituições e comunidades que os geraram.
Os Princípios FAIR, complementados pelos Princípios CARE (que abordam os direitos e interesses dos Povos Indígenas na governança de dados), fornecem uma estrutura coerente para a gestão responsável. Juntos, eles definem as condições sob as quais os dados devem ser abertos ou restritos, reutilizáveis e soberanos. O conceito de uma Internet de Dados e Serviços FAIR (IFDS), na qual os dados permanecem em sua origem e são acessados por algoritmos autorizados, em vez de serem copiados e centralizados, oferece uma resposta arquitetural prática. Nesse modelo, as consultas computacionais são direcionadas a nós de dados distribuídos; os dados não são enviados para repositórios centralizados, a menos que seja inevitável.
A participação equitativa na ciência impulsionada por IA também exige que essa infraestrutura seja genuinamente acessível. Instituições e comunidades no Sul Global não podem ser sujeitos passivos à reutilização de dados. No outro extremo do espectro de conectividade, a indústria que utiliza grande volume de dados não deve ser excluída. Uma infraestrutura FAIR distribuída, projetada para evitar a dependência de fornecedores e pontos únicos de falha, é o mecanismo pelo qual a participação significativa se torna possível.
Uma resposta política coerente exige ação em várias frentes:
A ciência é um bem público global. Sua integridade, equidade e abertura não podem ser presumidas; elas exigem escolhas políticas ativas. A oportunidade para estabelecer uma governança sólida para a IA na produção científica está aberta, mas não permanecerá assim indefinidamente. As decisões tomadas agora sobre padrões de dados, infraestrutura, incentivos e supervisão determinarão se a IA acelera a ciência confiável ou a mina sistematicamente.
Foto da Getty Images para Unsplash +
Hospedado em parceria entre o Conselho Internacional de Ciência (ISC) e o Frontiers Policy Labs, este blog faz parte de um projeto... Uma nova governança para a ciência no século XXI' A série serve como um fórum de discussão dinâmico para liderança intelectual sobre o futuro da governança científica. Afastando-se dos estudos acadêmicos rígidos, a iniciativa reúne vozes globais de destaque para apresentar artigos de opinião incisivos, provocativos, porém baseados em evidências e com visão de futuro. Ao fazer isso, busca contribuir para a definição de um modelo de governança resiliente, inclusivo e transparente, preparado para os desafios de amanhã.
Veja a publicação original aqui..
Aviso Legal
As informações, opiniões e recomendações apresentadas em nossos blogs de convidados são de responsabilidade dos respectivos autores e não refletem necessariamente os valores e crenças do Conselho Internacional de Ciência.
Leia mais sobre Tecnologias emergentes e transformações Leia mais sobre Ciência moderna: fatores geoestratégicos, tecnológicos e sociais de mudança Leia mais sobre Ciência organizada na era da IA: Estamos dormindo no ponto? 
Leia mais sobre o lançamento da primeira plataforma de pesquisa com inteligência artificial da Academia de Ciências do Pacífico e o relatório de avaliação de P&D regional. 