El repositorio digital arXiv dio un giro importante en su política para controlar la calidad de los artículos científicos generados con inteligencia artificial. Ahora, quienes publiquen trabajos creados con herramientas de IA que no respeten los criterios académicos establecidos enfrentarán sanciones que podrían impactar para siempre en su carrera investigadora.
La medida fue anunciada por Thomas Dietterich, profesor emérito de la Universidad Estatal de Oregón y miembro del consejo asesor editorial de arXiv, a través de una publicación en la red social X. En ese mensaje, Dietterich advirtió que los autores que introduzcan artículos fabricados con IA que no cumplan los estándares enfrentan un veto de un año para publicar en el repositorio.
Pero el castigo no termina ahí. Además del veto temporal, quienes sean sancionados deberán enviar todos sus futuros trabajos a revisión por pares antes de que arXiv los acepte, lo que implica una carga permanente y significativa. En áreas donde la velocidad para publicar preprints es clave, esta restricción puede afectar la carrera profesional de los investigadores.
Con esta política, arXiv busca frenar el uso irresponsable de herramientas generativas que producen textos, referencias y gráficos sin rigor o directamente inventados. El problema de artículos con datos falsos o referencias inexistentes no es nuevo, pero hasta ahora las consecuencias para los autores eran poco claras y los controles editoriales permitían que estos trabajos se filtraran.
El trasfondo de esta decisión responde a la dificultad creciente para distinguir el contenido original del generado artificialmente. Plataformas y sistemas de revisión tardaron en adaptarse a herramientas que crean textos, imágenes e identidades falsas con una precisión inédita, lo que no solo afecta la academia sino también la seguridad digital y el consumo masivo de información.
De hecho, se registraron casos donde hackers norcoreanos usaron modelos generativos como ChatGPT para crear deepfakes y lanzar campañas de phishing, falsificando identidades con alta eficacia. Esto muestra que el problema va más allá de la publicación científica y tiene ramificaciones en la seguridad global.
Incertidumbre por la medida contra la IA
Un aspecto polémico de esta medida es que hasta ahora sólo se difundió mediante un hilo en X por parte de un miembro del consejo editorial, sin un comunicado oficial de arXiv. Esto genera dudas sobre cuándo entra en vigor exactamente la política y qué alcance tendrán las sanciones.
La normativa pretende proteger la calidad y confiabilidad de la literatura científica frente a riesgos como las alucinaciones generadas por IA y el plagio sintético. Sin embargo, resulta paradójico que el anuncio inicial se haya dado en una red social donde la desinformación y el contenido falso circulan con facilidad.
Mientras arXiv no publique un documento oficial, persiste la incertidumbre sobre cómo se aplicarán estas restricciones en el ámbito académico. Lo que queda claro es que la comunidad científica enfrenta un desafío creciente para mantener la integridad ante la expansión de contenidos creados con inteligencia artificial.
Cerrar sesión