El gesto de verificación
Un resumen producido por una inteligencia artificial no es la fuente. Aquí va un gesto en tres tiempos, basado en lo que hacen los mejores verificadores profesionales.
Un resumen producido por una inteligencia artificial no es la fuente. Es una compresión, y una compresión puede cortar un matiz sin señalarlo: una fecha, una reserva, un desacuerdo entre expertos. El problema no es nuevo, precede con mucho a los modelos de lenguaje. Lo que cambia es la velocidad a la que se produce un resumen, y la confianza que inspira su forma acabada.
Un resumen escrito por una persona puede equivocarse por atajo, pero esa persona suele saber que está simplificando. Un modelo de lenguaje no hace esa distinción: produce la formulación más probable, conserve o no la reserva presente en el texto de origen. Nada, en su salida, distingue un resumen fiel de un resumen que ha perdido un matiz por el camino.
Lo que hacen los mejores verificadores
En 2019, Sam Wineburg y Sarah McGrew publican un estudio que compara tres grupos ante una misma tarea: juzgar si un sitio merece o no ser creído. 10 historiadores con doctorado, 10 verificadores profesionales y 25 estudiantes de grado. Los historiadores y los estudiantes se quedan en la página examinándola: un logotipo, un nombre de dominio que suena serio, una maquetación cuidada bastan a menudo para convencerlos. Los verificadores profesionales hacen lo contrario: dejan la página en unos segundos, abren otras pestañas, y buscan lo que otras fuentes dicen de ese sitio o de la propia afirmación. Esa práctica tiene un nombre, la «lectura lateral», opuesta a la lectura «vertical» que se queda en la página. Resultado medido: los verificadores profesionales llegan a conclusiones mejor fundadas, en mucho menos tiempo que los otros dos grupos.
Un resumen producido por una máquina retira justamente los indicios de contexto que ayudan normalmente a juzgar una página: ya no hay nombre de dominio que examinar, ni maquetación que evaluar, solo una serie de frases allanadas y sin aristas. El gesto de verificación desplaza entonces la atención al lado donde de verdad debe estar, la fuente misma, en lugar del envoltorio del resumen, que no dice nada de ella.
El gesto, en tres tiempos
El método SIFT, publicado el mismo año por el investigador Mike Caulfield, traduce esa práctica en gestos repetibles. Aplicado a un resumen producido por una máquina, se reduce a tres verificaciones, en este orden.
- Volver a abrir la fuente original y localizar el pasaje exacto. Un resumen rara vez cita una frase entera: parafrasea. Encontrar el pasaje preciso del que habla permite verificar que existe, y que dice de verdad lo que el resumen le hace decir.
- Comprobar si la fuente presenta el hecho como establecido o como discutido. Una frase puede ser exacta y estar sin embargo truncada de una reserva: «algunos investigadores cuestionan», «este resultado sigue en discusión». Un resumen que allana ese matiz convirtiéndolo en algo cierto transforma una hipótesis en verdad.
- Comprobar la fecha de la fuente. Un hecho correcto en una fecha puede quedar superado unos años más tarde, sobre todo en un tema que se mueve rápido. Una fuente sin fecha, o fechada sin que el resumen lo precise, merece una búsqueda adicional antes de retomarla.
Esos tres tiempos responden cada uno a una avería distinta: el primero atrapa una cita aproximada o inventada, el segundo una certeza que no lo era, el tercero una información verdadera ayer y falsa hoy.
Por qué no es una pérdida de tiempo
El estudio de Wineburg y McGrew lleva un subtítulo que resume su resultado central: leer menos para aprender más. Los verificadores profesionales no dedican más tiempo que los otros dos grupos: dedican menos, porque buscan la información correcta en el sitio correcto en lugar de agotar la página que tienen delante. Los tres tiempos de arriba siguen la misma lógica: no piden releer todo, solo volver a abrir la fuente una vez, en el punto preciso que el resumen afirma.
Este gesto no sustituye una experiencia técnica sobre un tema: no pretende convertir a nadie en especialista del campo en cuestión. Repara la avería más frecuente: un matiz desaparecido durante el resumen, no un error de razonamiento erudito. Y cuando el control falla en una página de The AI Manual, existe una dirección precisamente para eso: Informar de un error.
Fuentes
- Lateral Reading and the Nature of Expertise: Reading Less and Learning More When Evaluating Digital Information Sam Wineburg, Sarah McGrew, Teachers College Record, vol. 121, n.º 11, 2019.
- SIFT (The Four Moves) Mike Caulfield, Hapgood, 2019.
Este artículo se publica bajo licencia CC BY 4.0: cópielo, tradúzcalo, vuelva a publicarlo citando a la ODERSA.