- Liu, N. F., Lin, K., Hewitt, J., Paranjape, A., Bevilacqua, M., Petroni, F. y Liang, P. (2023). Lost in the Middle: How Language Models Use Long Contexts. arXiv:2307.03172. arxiv.org/abs/2307.03172 — El rendimiento es mayor cuando la información relevante está al principio o al final del contexto y cae cuando está en medio. Base del momento 5.
- Shi, F., Chen, X., Misra, K., Scales, N., Dohan, D., Chi, E. H., Schärli, N. y Zhou, D. (2023). Large Language Models Can Be Easily Distracted by Irrelevant Context. ICML 2023 (PMLR 202). arxiv.org/abs/2302.00093 — Añadir información irrelevante a problemas de matemáticas escolares (GSM-IC) reduce mucho la precisión. Base del momento 4.
- Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R. y Wilson, N. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI ’25. doi.org/10.1145/3706598.3713778 — Encuesta a 319 profesionales: más confianza en la IA se asocia con menos pensamiento crítico; más confianza en uno mismo, con más. Es un estudio de autopercepción. Base del momento 6.
- Anthropic. Referencia de la API Messages, parámetro
temperature. docs.anthropic.com/en/api/messages — Indica que incluso con temperatura 0,0 los resultados no son completamente deterministas.
- Hugging Face y Meta (2024). Welcome Llama 3 – Meta’s new open LLM. huggingface.co/blog/llama3 — El tokenizador de Llama 3 tiene un vocabulario de 128.256 tokens.
Simulación ilustrativa. La adivina es un modelo de juguete: 52 cartas y unas pocas reglas escritas a mano (palo, número, color y figura), un sesgo inventado hacia el as de picas, los ases y las figuras, y una regla softmax con temperatura. Sus porcentajes no son medidas de ningún modelo real; los efectos que imita sí están documentados en las fuentes.
Simplificaciones conscientes: en un modelo real, las afinidades y los pesos no se programan, salen de miles de millones de parámetros aprendidos; una pieza que está en el contexto puede volver a salir (aquí, la carta de la mesa sale de la baraja); la curva de pesos por posición está dibujada a mano para imitar la forma en U descrita por Liu et al., y la ventana real tiene decenas o cientos de miles de tokens, no siete. En el juguete, además, el efecto de la mesa se diluye un poco cuantas más cartas hay. La escala de la vela es ilustrativa; en las API reales la temperatura suele ir de 0 a 1 o de 0 a 2.
El caso del correo al casero (momento 9) es inventado: los borradores, sus nombres, la cláusula 7 y la «Ley de Calderas» son ficticios, y sus porcentajes, ilustrativos.
Las cartas están dibujadas por código para esta pieza; no reproducen ninguna baraja comercial.