A aparición de ferramentas de intelixencia artificial como ChatGPT está afectando, tanto para ben como para mal, á produción científica. As IA teñen un enorme potencial á hora de analizar grandes volumes de información e axudarnos aos humanos a manexalas, polo que poden aforrar moitísimo tempo en tarefas tediosas, como ler grandes cantidades de bibliografía sobre un tema, da que en xeral só se aproveita unha mínima parte. Tamén son moi eficaces recoñecendo patróns, polo que á hora de redactar un texto académico podemos facelo directamente no estilo que solicitan en determinada revista.
Na parte negativa, estamos atopando xa problemas porque as IA poden xerar texto cun aspecto semellante ao dun artigo científico, pero non teñen capacidade para comprobar a veracidade nin a coherencia da información que manexan. Máis aínda, ChatGPT tende a "inventar" referencias de artigos falsos para argumentar as súas respostas. Por suposto, o programa non ten posibilidade de inventar nin de tratar de enganar, só aprende mediante a información que se lle proporciona sobre o xeito de argumentar un texto académico.
É dicir, aprende e reproduce patróns, pero non ten ningún control sobre o contido nin sobre a súa autenticidade. O mesmo que fai agora masivamente ChatGPT xa o viñan facendo de xeito máis artesanal persoas ou empresas que se dedican a crear artigos falsos para encher currículos. Asistimos agora á automatización desta tendencia, o que aumenta en volume e gravidade unha situación que xa perturbaba gravemente a xeración de coñecemento.
Non me parece menos interesante que este tipo de ferramentas tamén nos colocan fronte a un espello noutro aspecto: coa participación necesaria dos clústers editoriais predadores, cada vez é máis importante a forma e menos o fondo. Se un texto cumpre os requisitos de estilo que esixe unha revista, aínda que non teña o menor sentido, é máis doado que se publique que se é unha idea interesante cunha forma diferente. O mesmo vale para a linguaxe presuntamente "académica", que adoita ser simplemente un montón de frases feitas que dan a aparencia de culto ou profundo.
Deberiamos poder aproveitar as posibilidades da tecnoloxía e ao mesmo tempo aprender do que nos ensinan sobre nós mesmas e sobre os erros que estamos a cometer na xeración e transmisión do coñecemento científico.
