Escrever é pensar

Fonte: Universidade da Flórida

Esta semana, pesquisadores da Universidade da Flórida descobriram que, embora a IA possa ser uma assistente valiosa, ela não consegue substituir cientistas humanos em muitas áreas críticas.

Os pesquisadores testaram o quão bem modelos populares de IA generativa, incluindo o ChatGPT da OpenAI, o Copilot da Microsoft e o Gemini do Google, poderiam lidar com vários estágios do processo de pesquisa. Eles colocaram esses sistemas de IA em seis estágios de pesquisa acadêmica – ideação, revisão de literatura, design de pesquisa, documentação de resultados, extensão da pesquisa e produção final do manuscrito – enquanto limitavam qualquer intervenção humana. O que eles descobriram foi uma mistura de capacidades e limitações.

Ainda assim, a empresa japonesa Sakana anunciou este mês que um artigo escrito por seu "Cientista de IA" passou pelo processo de revisão por pares em um importante workshop de conferência sobre aprendizado de máquina, possivelmente a primeira vez que um artigo totalmente gerado por IA passou pelo processo de revisão por pares.

A empresa disse: “Acreditamos que a próxima geração de cientistas de IA inaugurará uma nova era da ciência. O fato de que a IA pode gerar artigos inteiros que passam pela revisão por pares nos principais workshops de conferências internacionais de aprendizado de máquina é um sinal claro de progresso por vir. Mas isso é apenas o começo. A IA continuará a melhorar, talvez exponencialmente. Em algum momento no futuro, a IA provavelmente será capaz de gerar artigos em níveis humanos ou acima deles.”

Comparar a ciência da IA com a ciência humana não é o objetivo final, diz Sakana. “O mais importante é que as descobertas feitas pela ciência humana e pela IA contribuam para a prosperidade humana, como levar ao tratamento de doenças e esclarecer as leis que governam o universo.”

Comentando sobre os desenvolvimentos anteriores da Sakana no ano passado, Karin Verspoor, reitora da Escola de Tecnologias de Computação da Universidade RMIT, na Austrália, destacou que a Sakana alega que sua ferramenta de IA pode realizar o ciclo de vida completo de um experimento científico a um custo de apenas US$ 15 por artigo — menos do que o custo do almoço de um cientista. Uma das preocupações de Verspoor é que, se artigos gerados por IA inundarem a literatura científica, os futuros sistemas de IA podem ser treinados em resultados de IA e se tornar cada vez mais ineficazes em inovar.

No entanto, as implicações para a ciência vão muito além disso. “Já existem maus atores na ciência, incluindo 'fábricas de papel' produzindo artigos falsos. Esse problema só vai piorar quando um artigo científico puder ser produzido com US$ 15 e um prompt inicial vago. A necessidade de verificar erros em uma montanha de pesquisas geradas automaticamente pode rapidamente sobrecarregar a capacidade dos cientistas de verdade.”

Uma revisão de Miryam Naddaf na Nature na semana passada destaca o uso crescente de IA no processo de revisão por pares. “Os sistemas de IA já estão transformando a revisão por pares — às vezes com o incentivo dos editores e outras vezes violando suas regras. Editores e pesquisadores estão testando produtos de IA para sinalizar erros no texto, dados, código e referências de manuscritos, para orientar os revisores em direção a um feedback mais construtivo e para polir sua prosa. Alguns novos sites até oferecem revisões inteiras criadas por IA com um clique.”

O artigo cita Carl Bergstrom, um biólogo evolucionista da Universidade de Washington em Seattle. Ele diz que se os revisores começarem a confiar na IA para que possam pular a maior parte do processo de escrever revisões, eles correm o risco de fornecer análises superficiais. “Escrever é pensar”, diz Bergstrom.