Un investigador que preparaba una revisión bibliográfica extensa sobre cúmulos globulares pidió ayuda a un asistente conversacional para localizar referencias sobre un efecto muy concreto. El asistente devolvió cuatro citas con título, autores, revista y año, con un formato impecable. Ninguna de las cuatro existía. Los nombres de los autores eran reales, investigadores activos en el campo, pero jamás habían escrito esos artículos.
Ese tipo de fallo, conocido como alucinación, se ha convertido en el motivo de queja más repetido entre astrónomos que empiezan a incorporar herramientas de lenguaje en su trabajo diario, y también en el argumento más citado por quienes desconfían de este tipo de asistencia en un campo que depende, más que casi ningún otro, de la trazabilidad exacta de cada dato publicado hasta su fuente original.
Esto es en qué tareas concretas se usan hoy estas herramientas dentro de la astronomía profesional, dónde falla con más frecuencia la referencia inventada, y qué prácticas de verificación se están adoptando ya para que ese fallo no termine contaminando la literatura científica publicada del campo.
Lo esencial del problema
- El uso real hoy en día concreto. Búsqueda bibliográfica preliminar, generación de código de análisis y redacción de documentación técnica diversa.
- El fallo más citado de todos. Referencias bibliográficas completamente inventadas, con formato correcto pero contenido totalmente inexistente en la práctica.
- Por qué ocurre exactamente. El modelo genera texto plausible según patrones aprendidos, no consulta siempre una base de datos verificada en tiempo real.
- La práctica que ya se impone. Verificar siempre cada referencia contra bases de datos académicas reales antes de citarla en cualquier trabajo propio.
- El papel que queda intacto siempre. La revisión por pares sigue siendo el filtro final antes de cualquier publicación científica seria.
Dónde se usan realmente los modelos de lenguaje en astronomía hoy
La búsqueda bibliográfica preliminar sigue siendo uno de los usos más extendidos hoy: antes de sumergirse en las bases de datos especializadas, algunos investigadores piden a un asistente conversacional un resumen inicial de qué se sabe sobre un tema concreto, tratándolo como un punto de partida orientativo y no como fuente final de ninguna afirmación.
La generación de código para análisis de datos es otro uso consolidado, sobre todo para tareas repetitivas de procesamiento que antes exigían escribir el mismo tipo de script desde cero cada vez, aunque el código generado siempre pasa por una revisión humana antes de aplicarse a datos reales de una publicación.
Ese uso se ha extendido especialmente entre estudiantes de doctorado y postdoctorales que dedican buena parte de su tiempo a tareas de procesamiento rutinario de grandes volúmenes de datos observacionales, donde acelerar la escritura de un script inicial libera tiempo para dedicar al análisis científico propiamente dicho, la parte del trabajo que sí exige criterio experto imposible de automatizar.
La redacción de documentación técnica, resúmenes de propuestas de observación y borradores de comunicaciones internas completa el cuadro de usos más habituales, en tareas donde el coste de un error es mucho menor que en una publicación científica revisada por pares con impacto directo sobre el conocimiento acumulado del campo.
Por qué el modelo inventa referencias con tanta seguridad aparente
Un modelo de lenguaje genera texto prediciendo qué palabra es más probable a continuación, según patrones aprendidos de grandes cantidades de texto durante su entrenamiento, sin acceso directo y verificado a una base de datos bibliográfica en el momento de responder, salvo que la herramienta concreta incorpore explícitamente esa consulta en tiempo real.
Cuando se le pide una cita sobre un tema muy específico, el modelo puede generar un título, unos autores y una revista que encajan perfectamente con el estilo y el formato de una referencia real de ese campo, sin que exista ninguna garantía de que esa combinación concreta corresponda a un artículo publicado de verdad en ningún sitio.
Ese comportamiento no es un error de programación puntual sino una consecuencia directa de cómo funciona la generación de texto en estos sistemas: producen la respuesta más plausible según el patrón aprendido, no necesariamente la respuesta verificada contra una fuente externa confiable.
Algunas versiones más recientes de estas herramientas incorporan capacidad de búsqueda en tiempo real sobre bases de datos externas, lo que reduce de forma notable la frecuencia de este tipo de error, aunque no la elimina por completo, porque la propia búsqueda puede fallar al interpretar mal el resultado encontrado o al combinarlo de forma incorrecta con información generada de otra fuente distinta.
Casos ya bien documentados de referencias inventadas en el propio campo
| Tipo de error detectado | Cómo se descubrió |
|---|---|
| Cita con autores reales y artículo inexistente | búsqueda directa en base de datos académica sin resultado |
| Cita con revista real y título inventado | revisión editorial antes de aceptar el manuscrito para publicación |
| Cifra numérica atribuida a un estudio que no la contiene | verificación cruzada del propio revisor con el artículo original citado |
Varias revistas del campo han reportado de forma pública casos de manuscritos recibidos con referencias que, tras la verificación editorial habitual, resultaron no existir en ninguna base de datos bibliográfica reconocida, lo que llevó a rechazar el manuscrito hasta que el autor corrigiera y verificara cada cita de forma manual e individual.
En algunos de esos casos documentados, el propio autor reconoció después no haber revisado personalmente cada referencia antes de enviar el manuscrito, confiando en que el formato correcto y la coherencia aparente del contenido generado era suficiente garantía, un supuesto que la revisión editorial demostró falso en cuestión de minutos con una simple búsqueda directa.
Por qué la astronomía resulta especialmente sensible a este tipo de fallo
La astronomía observacional depende de forma directa de la trazabilidad exacta de cada medición hasta su fuente original: un dato de brillo, distancia o composición química solo tiene valor científico si se puede rastrear hasta el instrumento, la fecha y el equipo que lo obtuvo, publicado en un artículo verificable por cualquier otro investigador.
Introducir una referencia inventada en ese circuito no solo mancha el manuscrito concreto donde aparece, sino que, si pasa desapercibida, puede propagarse a trabajos posteriores que citen ese manuscrito sin verificar a su vez la fuente original, contaminando de forma silenciosa una cadena de citas que en principio debería ser completamente verificable.
Ese riesgo de propagación silenciosa preocupa especialmente a quienes gestionan grandes bases de datos bibliográficas del sector, porque una vez que una cita inventada se incorpora al sistema de referencias cruzadas de una publicación, corregirla exige un esfuerzo editorial considerable, muy superior al que habría costado verificarla correctamente antes de la publicación original.
Las prácticas de verificación que ya se están imponiendo
La práctica que más se repite entre los grupos de investigación que ya usan estas herramientas de forma habitual es la verificación obligatoria de cada referencia generada contra bases de datos académicas reconocidas antes de incluirla en cualquier documento con vocación de publicación, sin excepción alguna por muy plausible que parezca la cita.
Algunas instituciones han empezado a exigir además una declaración explícita, en el propio manuscrito enviado a revisión, de qué partes del trabajo se apoyaron en herramientas de este tipo, un requisito de transparencia que varias revistas científicas del sector ya incorporan de forma explícita en sus normas de publicación para autores.
Esa declaración obligatoria no busca prohibir el uso de la herramienta, sino dejar constancia clara de en qué parte del proceso intervino, de forma que un eventual revisor pueda prestar atención adicional precisamente a esas secciones concretas del manuscrito durante el proceso de evaluación previo a la aceptación final para publicación.
Qué papel muy concreto sigue reservado exclusivamente al investigador humano
La interpretación científica del resultado, la decisión de qué pregunta de investigación merece la pena perseguir y el juicio final sobre si un hallazgo es sólido o requiere más datos adicionales siguen siendo tareas que ninguna herramienta de este tipo puede sustituir, por mucho que ayude a acelerar ciertas tareas mecánicas previas del proceso.
La revisión por pares, el mecanismo que ha sostenido la fiabilidad de la publicación científica durante siglos, sigue actuando como filtro final antes de que cualquier resultado se acepte como validado por la comunidad, y ese papel no ha cambiado con la llegada de estas nuevas herramientas de asistencia.
Ese filtro humano, lento y a veces frustrante para quien espera ver su trabajo publicado, ha demostrado en la práctica ser precisamente el que ha detectado la mayoría de los casos de referencias inventadas conocidos hasta ahora, lo que refuerza el argumento de quienes defienden mantenerlo intacto pese a la presión por acelerar el ritmo de publicación científica.
Cómo distinguir ya una cita sospechosa sin usar herramientas especiales
Una señal de alerta habitual es una combinación de autores que, aunque cada uno por separado sea real y activo en el campo, nunca ha publicado en conjunto sobre el tema exacto que la cita atribuye, algo que una búsqueda rápida en cualquier base de datos bibliográfica pública revela con facilidad en pocos minutos.
Otra señal de alerta clara es un título de artículo excesivamente genérico o que combina de forma extraña dos subtemas que rara vez aparecen juntos en la literatura real del campo, un patrón que, con algo de experiencia en el área concreta, un investigador especializado detecta casi de forma intuitiva antes incluso de verificarlo con una búsqueda formal, algo relevante también para quien sigue de cerca otras aplicaciones de tecnología avanzada en la ciencia espacial.
Cómo ha cambiado ya la formación de los investigadores más jóvenes
Los programas de doctorado en astronomía han empezado a incorporar de forma explícita módulos sobre el uso responsable de estas herramientas, con énfasis particular en la obligación de verificar cada afirmación generada antes de incorporarla a cualquier trabajo con vocación de publicación científica seria.
Esa formación temprana busca evitar que quienes empiezan su carrera investigadora normalicen el uso de estas herramientas sin el escepticismo necesario, un riesgo que los propios supervisores de tesis han señalado como una de sus preocupaciones más recientes al dirigir a estudiantes que han crecido usando este tipo de asistencia de forma cotidiana desde edades bastante tempranas de su formación académica previa.
Algunos departamentos han llegado a introducir ejercicios prácticos específicos en los que se pide a los estudiantes identificar de forma deliberada referencias inventadas mezcladas entre citas reales, como forma de entrenar el ojo crítico necesario antes de confiar en cualquier resultado generado por estas herramientas sin verificación adicional posterior.
Ese tipo de ejercicio, sencillo de organizar y barato en recursos, se ha extendido con rapidez entre distintos programas de posgrado del campo, precisamente porque aborda el problema desde la formación de hábitos de trabajo más que desde la prohibición directa de una tecnología que, usada con criterio, sigue aportando ahorro de tiempo real en tareas mecánicas del día a día investigador.
Qué dicen ya las propias revistas científicas al respecto
Varias de las revistas más citadas del campo han publicado ya directrices explícitas sobre el uso de estas herramientas en la preparación de manuscritos, permitiendo su uso como apoyo en tareas de redacción o de código, pero exigiendo responsabilidad plena del autor humano sobre la veracidad de cada afirmación y cada referencia incluida en el texto final.
Ninguna de esas directrices permite, hasta ahora, que una herramienta de este tipo figure como autora de un trabajo científico, un límite que se justifica precisamente porque la responsabilidad última sobre la veracidad de lo publicado debe recaer siempre en una persona identificable y localizable, algo que ninguna herramienta automatizada puede asumir.
Esa postura editorial coincide, en líneas generales, con la adoptada por revistas de otras disciplinas científicas distintas, lo que sugiere un consenso emergente bastante amplio dentro de la comunidad académica internacional sobre dónde trazar el límite exacto entre asistencia legítima y sustitución inaceptable de la responsabilidad autoral, un debate que también atraviesa el mapa normativo global de la inteligencia artificial.
Preguntas frecuentes
¿Por qué el modelo no simplemente dice que no sabe la referencia?
Porque su diseño está optimizado para generar una respuesta completa y coherente ante cualquier pregunta, y admitir desconocimiento de forma explícita exige un tipo de entrenamiento y de calibración específico que no todos los sistemas incorporan con la misma fiabilidad, sobre todo en preguntas muy especializadas y poco frecuentes en su entrenamiento original.
¿Se puede confiar en el código generado para análisis de datos científicos?
Con revisión humana previa a su uso sobre datos reales, sí puede resultar útil como punto de partida, pero exige la misma verificación cuidadosa que cualquier código escrito por una persona sin experiencia específica en el análisis concreto que se quiere realizar, antes de aplicarlo a ningún resultado destinado a publicación.
¿Este problema de referencias inventadas ocurre solo en astronomía?
No, es un fenómeno documentado en prácticamente todas las disciplinas científicas y también fuera del ámbito académico, aunque en astronomía resulta especialmente visible por la cultura de verificación cruzada tan arraigada en la propia comunidad, que detecta y reporta estos casos con relativa rapidez cuando aparecen.
¿Existen herramientas específicas para verificar citas de forma automática?
Sí, existen servicios que comprueban la existencia real de una referencia contra bases de datos académicas reconocidas, y su uso se recomienda cada vez con más insistencia como paso obligatorio antes de enviar cualquier manuscrito a revisión, precisamente para evitar este tipo de error concreto que tanto ha dañado la confianza en estas herramientas.
¿Ha afectado ya este problema a algún artículo publicado y revisado?
Se han documentado casos detectados durante el propio proceso de revisión por pares, antes de la publicación final, lo que confirma que ese filtro sigue funcionando como salvaguarda efectiva, aunque también ha generado preocupación sobre cuántos casos similares podrían haber pasado desapercibidos en circuitos de revisión menos rigurosos o en publicaciones de acceso menos controlado.
La herramienta ha llegado para quedarse en tareas mecánicas de apoyo, pero el episodio de las referencias inventadas ha dejado una lección clara entre quienes trabajan con datos astronómicos: ninguna cita entra en un manuscrito sin que alguien, con nombre y apellido, la haya comprobado con sus propios ojos contra la fuente original, por muy fiable que parezca a primera vista el resultado generado.