Alfabetización en IA - Cómo funciona un LLM sin jerga técnica

Si formás a tu equipo en IA (que según el artículo 4 del AI Act ya es obligatorio), la primera pregunta que van a hacer es: ¿qué hay dentro de la caja negra? ¿Cómo sabe ChatGPT qué responder? ¿De dónde saca las respuestas que da?

No es una pregunta teórica. Si tu equipo entiende cómo funcionan estos modelos de verdad, no en resumen de TikTok sino en lo básico funcional, después es mucho más fácil explicar por qué no puedes subir contraseñas sin cifrar, por qué se "inventa" cosas, y por qué a veces dice que sabe algo sobre un evento que pasó hace tres meses y no tiene idea.

Este es el capítulo 2 de la serie. El capítulo 1 explicaba qué obliga el AI Act y a quién. Este viene con el material para formar al equipo en una sesión de 30 a 45 minutos.

Qué es un modelo de lenguaje: predicción de la próxima palabra

ChatGPT, Claude, Gemini. Todos son lo mismo en términos conceptuales: máquinas que aprenden a predecir qué palabra viene después de la que acabas de escribir.

Es como el autocorrector del móvil, pero entrenado con miles de millones de ejemplos en vez de cientos. Tú escribís "Hola, ¿cómo" y el teléfono sugiere "estás?". Los modelos de lenguaje hacen exactamente eso, pero de forma masiva, analizando contexto mucho más amplio.

El proceso tiene tres pasos simple:

1. Recibes una pregunta o contexto. "Explica cómo se hace una tortilla española".
2. El modelo analiza los patrones que aprendió durante el entrenamiento. Reconoce que esa pregunta suele ir seguida de explicaciones que incluyen patatas, huevo, cebolla.
3. Genera una respuesta palabra por palabra, prediciendo en cada paso cuál es la siguiente palabra más probable.

No entiende nada en el sentido humano. No tiene la capacidad de "entender" porque entender implica tener experiencias, emociones, contexto sensorial. Lo que hace es buscar regularidades estadísticas en los patrones de lenguaje.

La diferencia práctica: un humano que lee "explica cómo se hace una tortilla española" activa recuerdos, imagina los pasos, tiene referencia sensorial. ChatGPT predice "patatas" porque en miles de millones de textos de internet, después de esa pregunta, aparecen palabras como patatas, huevo, freír. Es pura estadística.

¿Por qué importa esta distinción? Porque explica casi todos los comportamientos extraños que ves después. Las alucinaciones, los olvidos, las respuestas que suenan perfectas pero son falsas.

Tokens: la unidad de medida que explica todo

Un token es una porción pequeña de texto. Una palabra típicamente ocupa un token, a veces menos (palabras cortas), a veces más (palabras con puntuación).

Ejemplo: la frase "Hola, ¿cómo estás?" ocupa aproximadamente 5 tokens.

Este concepto resuelve la pregunta que muchos se hacen después de una conversación larga con ChatGPT: ¿por qué dice que "la conversación es demasiado larga" si solo escribí 2 páginas de texto?

Respuesta: porque la ventana de contexto (el máximo de tokens que el modelo puede procesar a la vez) tiene un límite.

• ChatGPT-4: hasta 128.000 tokens. En palabras, son aproximadamente 96.000 palabras.
• Claude Sonnet 4.5: hasta 200.000 tokens (150.000 palabras aproximadamente).
• Claude Sonnet 5: hasta 1.000.000 de tokens. Equivale a unos 750.000 palabras, más o menos la extensión de tres novelas largas.

Cuando el modelo procesa tu pregunta, usa tokens para:

• Leer la pregunta que hiciste.
• Recordar (si es una conversación) todo lo que pasó antes.
• Generar la respuesta, palabra por palabra (cada palabra nueva suma tokens).

Si sumas todo eso y superás el límite, el modelo no puede seguir.

Aquí viene lo importante: los modelos no olvidan porque les da la gana. Olvidan porque tienen un límite físico. Es como si tuvieras una caja que solo cabe un número fijo de papeles. Cuando llena, tienes que sacar papeles viejos para meter nuevos.

Por qué "olvida" en conversaciones largas

Los modelos no tienen memoria verdadera entre conversaciones. Cada vez que empezás una conversación nueva, el modelo comienza desde cero. No tiene registro de lo que pasó en sesiones anteriores.

Pero incluso dentro de una sesión, hay efecto de deterioro del contexto (context rot). Conforme la conversación crece y ocupá más tokens, el modelo empieza a "olvidar" o desdibujar lo que pasó al principio.

No es que olvide como una persona que no tiene cafeína. Es que los datos antiguos en la ventana de contexto tienen menos peso en el cálculo probabilístico que los datos recientes. Es estadística, no memoria.

Implicación práctica: si le hacés al modelo una pregunta compleja que requiere coordinar información de hace 50 mensajes, probablemente tenga dificultades. No porque sea incompetente, sino porque ese contexto está fuera de su ventana o está degradado.

Solución: si necesitás que analice información antigua dentro de una sesión, repetí la información relevante cerca de la pregunta nueva.

Alucinaciones: por qué se inventa cosas

Una alucinación en IA es cuando el modelo genera algo que parece plausible, bien escrito, totalmente coherente... pero que es completamente falso.

Ejemplos reales:

• Le preguntás a ChatGPT por un estudio sobre "efectos de la cafeína en la concentración" y te cita un estudio de 2024 con título, autores y revista real. Buscás el estudio. No existe. Nunca existió.
• Gemini te da direcciones de una pizzería que cierra "el lunes" y todas sus especialidades. Búscala. No existe.
• Claude te describe "un evento importante en la historia de la fotografía en 1889" con una narrativa convincente. Verificás. El evento no pasó.

¿Por qué ocurren?

Porque el modelo no distingue entre "información que aparecía en el entrenamiento" e "información inventada que sigue los patrones estadísticos de cómo se escriben cosas verdaderas".

El modelo fue entrenado con un volumen gigantesco de texto. Ese texto es de calidad mixta. Contiene:

• Hechos verificados.
• Ruido y errores.
• Información desactualizada (a propósito del corte de entrenamiento).
• Especulación y opinión escritas como hechos.

Cuando generates una respuesta, el modelo predice palabra por palabra, buscando la opción más probable según los patrones. Si dices "Estudio sobre cafeína 2024", el modelo sabe que estudios reales tienen estructura similar ("autores, institución, revista"), así que genera esa estructura. Pero no verifica que esa combinación específica de autores e institución exista.

Es como si alguien leyera millones de resúmenes de películas y después le pidieran que escriba un resumen de una película que no existe. Podría hacer algo coherente, convincente, perfectamente estructurado. Pero falso.

La tasa de alucinaciones depende del modelo y la tarea:

• En preguntas generales: entre 2,5% y 8,5% según estudios recientes.
• En dominios especializados (derecho, medicina): puede superar 15% o 20%.
• En preguntas sobre hechos muy recientes o muy niche: más del 50% en algunos casos.

¿Cuál es el indicador que tu equipo debe conocer? Que una respuesta bonita no significa verdad. Una alucinación se ve perfecto. Por eso los modelos son útiles para generar ideas, estructuras, puntos de partida, pero no para inputs que requieran verificación o hechos especializados.

Estrategia práctica: si usás la IA para redactar, generar ideas o estructurar contenido, el riesgo es bajo. Si la usás para buscar datos específicos, hechos fechados o información técnica no verificada, siempre requiere chequeo posterior.

El corte de entrenamiento: qué no sabe el modelo

Aquí es donde aparece la frustración frecuente de usuarios.

Hoy es julio de 2026. ChatGPT-4 fue entrenado hasta abril de 2024. Claude Sonnet fue entrenado hasta octubre de 2024. Eso significa:

• No saben qué pasó en el mundo después de esa fecha.
• Si le preguntás "¿quién ganó la Eurocopa 2024?", algunos modelos sí pueden responder porque eso pasó durante la ventana de entrenamiento. Pero si preguntás sobre un evento de junio de 2026, no tiene ni idea.

Solamente porque el modelo no sabe algo, no significa que vaya a decirte "no sé". Significa que va a alucinacinar. Va a inventar una respuesta que suena coherente.

Este comportamiento es frustrante para equipos que usan IA esperando que sea como Google, una base de datos actualizada. No lo es. Es un predictor estadístico de próxima palabra entrenado hasta una fecha fija.

Implicación práctica para formación:

• Tu equipo debe saber: "ChatGPT no sabe nada después del abril de 2024. Si preguntás sobre eventos recientes, probablemente mienta".
• No es culpa de ChatGPT. Es una limitación de diseño. El modelo fue parado ahí.

Algunos modelos modernos (como ChatGPT-4 con internet en tiempo real, o Claude con búsqueda) pueden actualizarse con búsquedas en la web. Pero eso es una característica agregada, no parte del modelo base.

Diferencias prácticas entre modelos para el equipo

No todos los modelos funcionan igual. Y el modelo que tu empresa elige afecta lo que el equipo puede hacer.

ChatGPT (OpenAI):

• Entrenamiento hasta abril de 2024.
• Ventana de contexto: 128.000 tokens.
• Caso de uso: redacción, brainstorming, explicaciones generales, ideas. Bueno para equipo de marketing, contenido, comunicaciones.
• Limitaciones: alucinaciona en datos específicos, desconoce eventos recientes, no sabe información confidencial de tu empresa.
• Versión gratuita: existe y funciona, pero más lenta y con límite de consultas.

Claude (Anthropic):

• Entrenamiento hasta octubre de 2024.
• Ventana de contexto: desde 200.000 tokens (Sonnet 4.5) hasta 1.000.000 (Sonnet 5).
• Caso de uso: análisis de documentos largos, tareas que requieren razonamiento, seguridad en contextos regulados (finanzas, legal, salud). Bueno para equipos de análisis de datos, compliance, legal.
• Limitaciones: más lento que ChatGPT en algunos casos, no genera imágenes.
• Versión gratuita: existe, con límites generosos.

Gemini (Google):

• Integración con Google Workspace (Docs, Sheets, Gmail).
• Caso de uso: equipos que ya usan Google, análisis de hojas de cálculo, generación de contenido multimedia.
• Limitaciones: privacidad de datos en la nube de Google.
• Versión gratuita: sí.

Lo que el equipo debe entender es simple: cada modelo tiene fortalezas. ChatGPT es más rápido para escribir. Claude es mejor para documentos largos. Gemini se integra mejor si usás Google. Y todos, sin excepción, alucinan.

Cómo detectar una alucinación

Tu equipo debe poder identificar cuándo el modelo probablemente se inventó algo.

Señales de alerta:

• El modelo cita un estudio, libro o fuente específica, pero cuando lo buscás en Google, no aparece.
• Da datos muy específicos (fechas, números, nombres) que suenan demasiado precisos.
• Cuando le pedís que "cite la fuente" o "te muestre dónde lo encontró", no puede.
• La respuesta es sobre un dominio muy niche donde hay poca información en internet (derecho fiscal español de 1998, por ejemplo).
• Te dice algo sobre un evento posterior a su corte de entrenamiento como si lo supiera con certeza.

Estrategia de verificación rápida:

1. Preguntale al modelo: "¿Cuál es tu fecha de corte de entrenamiento?"
2. Si la pregunta es sobre algo después de esa fecha, ya sabés que puede estar alucinando.
3. Si la pregunta es anterior, pero es un dato específico, buscá la fuente en Google o en bases especializadas.

Ejercicio para la sesión de formación

Si estás formando a tu equipo, este ejercicio de 10 minutos muestra el problema de forma visceral.

Consigna: "Preguntale a ChatGPT: 'Dame cinco empresas españolas de software que ganaron un premio internacional en 2023'."

Luego: "Verifica si esas empresas existen y si ganaron ese premio."

Resultado probable: el modelo va a inventar nombres de empresas que suenan plausibles, con nombres de premios que existen, con detalles falsos. El equipo verá que buscar a "TechVision Spain" (empresa inventada) en Google no da nada.

Eso enseña más que mil diapositivas.

Errores frecuentes al enseñar esto

Los errores más comunes al formar equipos en IA:

Error 1: Asumir que el equipo ya lo sabe. "Usan ChatGPT todos los días, deben entender cómo funciona". Falso. Usarlo no es entenderlo. La mayoría de los usuarios piensan que ChatGPT "busca en internet" o que "sabe todo". Hay que desdecir explícitamente.

Error 2: Material genérico. Traer un PDF sobre "El futuro de la IA en la industria" que podría aplicarse a cualquier empresa. Tu equipo necesita saber cómo funciona ChatGPT en su contexto específico. ¿Cuál es la herramienta que usan? ¿Qué información van a subir? ¿Qué riesgos hay? Eso. No panoramas.

Error 3: Solo conceptos, sin ejemplos. Si solo hablas de "alucinaciones", algunos van a seguir pensando que es raro. Si les mostrás un ejemplo donde ChatGPT inventa una fecha de un evento que realmente pasó pero con detalles falsos, lo entienden al instante.

Error 4: No dejar preguntas. Después de explicar esto, alguien va a preguntar "¿Si alucinaciona, cómo sé cuándo confiar en ChatGPT?". Es una pregunta válida. La respuesta es: "Confías en la estructura y formato. No en los hechos específicos. Verificas los hechos siempre". Pero hay que permitir la pregunta.

Guion de 30 minutos para formar al equipo

Si vas a usar este material con tu equipo mañana, acá está el guion:

Minutos 0-3: Entrada "Vamos a entender qué hay dentro de ChatGPT. No es magia. Es estadística. Saber eso te va a ahorrar problemas."

Minutos 3-8: Qué es un modelo de lenguaje Explica la predicción de próxima palabra con el ejemplo del autocorrector del móvil. Luego: "Es como eso, pero entrenado con miles de millones de textos, no cientos". Enfatizá que no entiende, que predice patrones.

Minutos 8-12: Tokens y ventana de contexto Explica el concepto de token (un trozo de texto pequeño). Luego: "ChatGPT puede procesar 128.000 tokens. Claude, hasta 1 millón. Cuando superás ese límite, se queda sin memoria." Dá ejemplos: "3 conversaciones largas con ChatGPT = aproximadamente los límites".

Minutos 12-17: Alucinaciones Abre ChatGPT en directo. Preguntale algo donde sabés que va a alucinar (datos recientes, referencias niche, o invenciones claras). Mostrá la respuesta. Luego buscá en Google. No existe. Que el equipo lo vea en vivo.

Minutos 17-22: Corte de entrenamiento y diferencias de modelos Explica que ChatGPT se paró en abril de 2024. Claude en octubre de 2024. Eso significa que no saben qué pasó después. Si alguien pregunta sobre un evento de hoy, probablemente mienta.

Minutos 22-27: Estrategia de uso seguro "No subas contraseñas. Los datos que subís pueden usarse para entrenar (a menos que tengas contrato especial). Verifica hechos. Usa ChatGPT para escribir, estructurar, brainstorming. No para buscar información verificada."

Minutos 27-30: Preguntas y ejercicio rápido Pregunta abierta: "¿Alguien tiene una historia de algo que ChatGPT inventó?". Probablemente salga algo. Analizalo juntos.

Opcionalmente: el ejercicio de "dame cinco empresas" de arriba.

Cierre: "La próxima sesión es sobre cómo usar estas herramientas sin meter información confidencial de la empresa. Hay reglas claras."

Diferencia entre "usar bien" y "usar sin riesgos"

Esta es la frontera que muchos equipos confunden.

Usar bien ChatGPT significa:

• Escribir prompts claros.
• Revisar lo que genera.
• Iterar si no es lo que necesitás.

Usar sin riesgos ChatGPT significa:

• No subir información confidencial.
• No meter contraseñas o datos bancarios.
• Verificar hechos si importan.
• No depender de su memoria entre sesiones.
• Entender que todo lo que subís puede afectar privacidad.

Un equipo puede escribir un email genial con ChatGPT sin riesgos. Pero si sube el email template de clientes internos, confidencial, sin cifrado previo, es riesgoso sin importar qué tan bien escrito sea.

Por eso el AI Act obliga a formar: porque no es suficiente que la gente sepa usar la herramienta. Hay que que sepa qué información no meter en la herramienta.

Próximas sesiones en la serie

Esto que acabás de leer es el contenido de la sesión 2. Las próximas cubren:

• Capítulo 3: Datos y privacidad. Qué información es segura subir a ChatGPT, qué riesgos hay, contratos de datos, RGPD.
• Capítulo 4: Alfabetización por rol. Qué necesita saber un comercial que no necesita saber un contador. Marketing vs. finanzas vs. legal.
• Capítulo 5: Cómo escribir instrucciones claras (prompt engineering aplicado). Siete patrones que funcionan.
• Capítulo 6: Shadow AI, política interna y cómo documentar para auditoría del artículo 4.

Mientras tanto, si necesitás diseñar un plan de formación integral que cumpla la obligación del AI Act en tu empresa, reservá una cita aquí. Mapeamos qué herramientas usás, qué riesgos específicos tiene tu empresa, y te dejamos el plan documentado.

Fuentes

• Introducción a los LLM, los Grandes Modelos de Lenguaje (Versión marzo 2026)
• Alucinaciones en LLMs: qué son, por qué ocurren y cómo mitigarlas en producción
• Alucinaciones en IA generativa: por qué ocurren y por qué se están reduciendo
• Ventanas de contexto - Claude Platform Docs
• Claude con 1 Millón de Tokens: Qué Significa y Por Qué Cambia Todo en 2026
• Reglamento (UE) 2024/1689 - Artículo 4 en EUR-Lex
• AESIA - Agencia Española de Supervisión de la Inteligencia Artificial