Chomsky e o ChatGPT

Noam Chomsky, nado en Filadelfia en 1928, leva destacado en campos como a lingüística, filosofía, activismo político e crítica social. A súa teoría da gramática xerativo-transformacional revolucionou a lingüística. Ao longo da súa vida, mantivo unha postura crítica e comprometida en temas que van dende a política e a economía aos dereitos humanos, o que o converte nunha figura polifacética e influínte a nivel mundial. E o asunto da Intelixencia Artificial non escapa á súa ollada, como escribiu nunha análise publicada por The New York Times no pasado ano que titulou "A falsa promesa do Chat GPT. Nel, Chomsky aborda a relación ambivalente entre o progreso da intelixencia artificial (IA) e as súas implicacións éticas e epistemolóxicas. Comeza citando Jorge Luis Borges e sinala a experiencia dual de vivir nunha época de avances prometedores e ameazadores, evocando "a inminencia dunha revelación". A seguir, enfócase nos desenvolvementos revolucionarios da IA, representados por programas como ChatGPT de OpenAI, Bard de Google e Sydney de Microsoft, destacando a súa capacidade para procesar grandes volumes de datos e xerar resultados que emulan o pensamento humano. Chomsky explora a esperanza asociada a estes avances, especialmente en termos de resolver problemas complexos. No entanto, tamén expón a preocupación polo impacto potencial da IA, especialmente no contexto da aprendizaxe automática, argumentando que esta pode degradar a ciencia e envilecer a ética, incorporando unha concepción equivocada da linguaxe e coñecemento á tecnoloxía. Un aspecto crítico que asinala é a limitación dos programas de aprendizaxe automática, subliñando a súa diferenza substancial coa forma en que os seres humanos razoan e utilizan a linguaxe. A pesar da utilidade destes programas en ámbitos específicos, como a programación informática, teñen limitacións fundamentais que os codifican con defectos imposibles de erradicar. Para Chomsky, unha ironía subxacente é a atención e investimentos masivos destinados a estas tecnoloxías, que se perciben como relativamente insignificantes en comparación coa capacidade humana de facer "uso infinito de medios finitos". Así, mentres estes programas se eloxian como precursores da IA xeral, a revelación borgesiana da comprensión aínda non se materializou, e a dominación dos programas de aprendizaxe automática, como ChatGPT, pode impedir ou distorsionar tal revelación. IA versus mente humana Outro punto que o lingüista considera central é a comparación entre a mente humana e os programas de IA. Contrapón a eficiencia e elegancia sorprendente da mente humana, capaz de funcionar con pequenas cantidades de información, coa natureza estatística e pesada dos programas de aprendizaxe automática que requiren grandes volumes de datos. O calcañar de Aquiles da aprendizaxe automática radica na súa falta de mecanismos causais sólidos e leis físicas O ensaio introduce a noción de que estes programas están estancados nunha fase prehumana ou non humana da evolución cognitiva, subliñando que lles falta a capacidade crítica máis crucial: dicir non só o que é o caso, senón tamén o que non é o caso, e o que podería e non podería ser o caso. Esta limitación impide que estes programas alcancen a verdadeira intelixencia. Un exemplo práctico destacado é a dificultade destes programas para oferecer explicacións causais e comprender leis físicas. Máis aínda, contrasta a explicación causal coa descrición e predición, argumentando que o calcañar de Aquiles da aprendizaxe automática radica na súa falta de mecanismos causais sólidos e leis físicas. Chomsky tamén explora a dimensión moral da intelixencia artificial, argumentando que a verdadeira intelixencia debe ser capaz de pensar moralmente e someter os seus resultados a principios éticos. Fai así referencia ao chatbot Tay de Microsoft, que propagou contidos misóxinos e racistas, destacando a falta de capacidade para razoar a partir de principios morais. A conclusión á que chega Chomsky é a da incapacidade constitutiva dos programas de aprendizaxe automática, como ChatGPT, para equilibrar creatividade e restrición ética. Neste senso, o estadounidense subliña que estes programas xeran tanto verdades como falsidades, apoiando decisións éticas e non éticas sen discriminación. Segundo Chomsky, a amoralidade, falsa ciencia e incompetencia lingüística destes sistemas xeran unha reflexión cómica e tráxica sobre a súa popularidade. Para finalizar a súa análise, o intelectual de Pensilvania convida á reflexión sobre o futuro destas tecnoloxías e a necesidade de abordar as súas limitacións intrínsecas e implicacións éticas.