Los chatbots de IA se posicionan cada vez más como la primera parada para obtener información, situados en la parte superior de los resultados de búsqueda, integrados en los navegadores y comercializados como asesores de confianza. Hay un problema con ese planteamiento: estos sistemas fabrican información con el mismo tono de seguridad que usan cuando aciertan. Entender cómo plantar cara no es una habilidad técnica. Es un requisito básico de alfabetización para cualquiera que utilice estas herramientas.
Las citas existen. Eso no significa que sean reales.
Una de las defensas más prácticas contra la fabricación por parte de la IA es exigir fuentes. En ChatGPT, por ejemplo, los usuarios pueden configurar el sistema a través de Configuración, en Personalización y configuración, para que siempre cite fuentes con enlaces al hacer afirmaciones factuales. Si el chatbot no lo hace, esa ausencia funciona como una señal de alerta que merece la pena investigar de inmediato.
El problema es que las citas pueden ser tan poco fiables como las afirmaciones que se supone deben respaldar. Un caso del mundo real ilustra esto claramente: una consulta sobre por qué la aplicación de Apple TV no se puede usar en Roku después de suscribirse a través de Roku Channel produjo un resumen de IA que dio una respuesta incorrecta. La fuente que citó fue un hilo de discusión en un sitio web de programación oscuro, y el enlace en sí no funcionaba. Una segunda cita apuntaba a un artículo de CNET que en realidad no respaldaba la afirmación que se estaba haciendo. Las citas existían. Simplemente no cumplían la función que se supone que deben cumplir las citas.
Esto significa que la verificación requiere dos pasos, no uno. Primero, comprueba que el enlace funciona. Segundo, lee la fuente y confirma que realmente respalda lo que dijo la IA. Omitir cualquiera de los dos pasos deja la puerta abierta a la desinformación disfrazada de investigación.
Ni siquiera los documentos fuente garantizan la precisión
El problema de la fabricación no desaparece cuando a una IA se le da un documento específico en el que trabajar. Un ejemplo revelador: cuando se le pidió a ChatGPT que resumiera una propuesta de la FCC sobre un nuevo estándar para televisión abierta, y se le proporcionó un enlace directo a un PDF en el sitio web de la FCC, aun así inventó afirmaciones. Fabricó todo un conjunto de conclusiones sobre cómo afectaría el estándar propuesto a la cobertura de antena. Cuando se le presionó para obtener citas directas del documento, produjo dos párrafos que no existían en el material de fuente. Cuando se le desafió sobre esas citas, las describió como paráfrasis. Solo después de subir el PDF directamente, el sistema reconoció que sus afirmaciones principales no tenían base en el documento.
Este es el patrón de comportamiento que vale la pena entender. Los chatbots de IA no señalan la incertidumbre de la manera en que lo haría un investigador humano cuidadoso. No dicen “no estoy seguro” o “no pude encontrar esto en el documento”. Rellenan el vacío con contenido que suena plausible y lo presentan sin matices. La seguridad del resultado no está correlacionada con su precisión.
La consecuencia práctica es que estas conversaciones deben tratarse más como interrogatorios que como consultas. Pide citas. Pide números de página. Pide al sistema que confirme afirmaciones específicas frente a la fuente. Si las respuestas cambian o el sistema retrocede, eso es información valiosa sobre la fiabilidad de todo lo que dijo antes.
La fluidez es el verdadero riesgo
Esto es lo que la mayor parte de la cobertura sobre la precisión de la IA pasa por alto: el peligro no es solo que estos sistemas se equivoquen. Es que están diseñados para sentirse fluidos, y la fluidez desincentiva la verificación.
La búsqueda web tradicional requería hacer clic en los sitios web, leer más allá de los anuncios y el contenido de relleno, y formarse un juicio sobre la calidad de la fuente. Ese proceso era molesto. También era una forma de escepticismo integrado. Las respuestas de IA eliminan esa fricción por completo. Un usuario recibe una respuesta directa y segura, y se va satisfecho, sin ningún estímulo natural para comprobar más a fondo.
Google ha estado expandiendo esta dinámica. Su AI Mode, que ofrece respuestas en una ventana de chat similar a ChatGPT o Gemini, estaba separado inicialmente de los AI Overviews que aparecen en la parte superior de los resultados de búsqueda estándar. Desde entonces, Google ha añadido un campo de entrada de texto en la parte inferior de esos resúmenes, lo que permite hacer preguntas de seguimiento y redirige a los usuarios al AI Mode para continuar la conversación. La preocupación es estructural: cuanto más conversacional y autónoma se vuelve la experiencia, más bajan en la página los enlaces a sitios web externos y menos probable es que los usuarios los consulten.
El cuadro de texto crea una apertura útil. Si un resumen de IA cita un enlace roto, presenta un comentario de Reddit como autorizado u ofrece información no verificable, los usuarios pueden contraatacar directamente y exigir una respuesta mejor. Esa es una palanca pequeña pero real.
El punto más amplio es que la fluidez de la búsqueda impulsada por IA es una característica que puede volverse en contra del usuario. La tecnología que elimina la fricción también elimina los momentos de pausa en los que suele producirse el pensamiento crítico.
En resumen
Los chatbots de IA fabrican información con seguridad y sin señales obvias de incertidumbre. Exigir citas es un primer paso útil, pero las citas deben verificarse: el enlace debe funcionar y la fuente debe respaldar realmente la afirmación. Incluso cuando a una IA se le da un documento específico, aún puede inventar contenido que no aparece en ese documento. La postura adecuada es escéptica e interrogativa, no confiada. Y cuanto más fluida se siente una interfaz de IA, más deliberadamente deben reintroducir los usuarios la fricción que evita que se omita la verificación por completo.
Basado en información de Fast Company - Tech.