Después de El panadero introdujo la bandeja en el…, un lector tiene buenas razones para anticipar horno. La frase admite otras continuaciones gramaticales, pero no todas son igualmente probables. Si aparece armario, el lector necesitará imaginar una circunstancia menos habitual. Si aparece satélite, la oración puede seguir siendo interpretable dentro de una historia particular, aunque esa interpretación no estaba disponible con la misma facilidad antes de conocer la continuación.
La anticipación lingüística admite grados. El sistema puede esperar una categoría gramatical sin decidir una palabra, activar propiedades semánticas como recipiente o lugar de destino, o concentrar su expectativa en una forma específica. La psicolingüística busca describir qué se anticipa en cada momento, con qué precisión y cuánto cambia la interpretación cuando llega evidencia inesperada. La teoría de la información da una medida sencilla para estudiar una parte del problema, el surprisal de una palabra.
La lectura anterior examinó cómo las estructuras sintácticas se construyen antes de que la oración termine. El cálculo probabilístico agrega una dimensión, la de las distintas probabilidades que una persona puede asignar a las continuaciones mientras lee. Las probabilidades se modifican con cada palabra y con la información que aporta el entorno. Una continuación inesperada exige actualizar esas expectativas. El desafío es mostrar que la cantidad de información formalizada por el modelo guarda relación con el trabajo que realiza el lector real.
Probabilidades que dependen del contexto
La probabilidad de encontrar una palabra aislada en un corpus es distinta de la probabilidad de encontrarla después de una secuencia concreta. Horno puede no ser una de las palabras más frecuentes del español, pero se vuelve muy esperable en el ejemplo del panadero. Una palabra común, por el contrario, puede ser improbable en una construcción determinada. La frecuencia general proporciona un antecedente y la probabilidad contextual incorpora lo que se sabe en ese punto de la oración.
Si las palabras observadas son , la probabilidad de la siguiente se escribe como
La distribución contiene todas las continuaciones que el modelo considera posibles. Puede asignar una probabilidad considerable a horno, otra a armario y valores pequeños a muchas palabras restantes. Esta forma de representar la expectativa evita imaginar que el lector adivina una sola palabra y después comprueba si acertó. Una distribución amplia permite incertidumbre, en tanto que una concentración marcada favorece una predicción más específica.
Las probabilidades deben sumar uno sobre el conjunto de alternativas adoptado. Esa condición parece trivial, pero obliga a precisar qué cuenta como unidad. En modelos de lenguaje computacional una palabra puede dividirse en subpalabras o tokens. La probabilidad de toda la palabra se obtiene entonces mediante la secuencia de unidades que la componen. Si se comparan estimaciones de modelos con tokenizaciones distintas, es necesario evitar que una diferencia de segmentación se interprete como una diferencia psicológica en la expectativa.
El contexto lingüístico puede complementarse con la situación. En una panadería, horno tendrá otra plausibilidad que en una conversación sobre un experimento espacial. También influyen la pregunta en discusión, el género y lo que ya ha ocurrido en el relato. Ninguna probabilidad es, en sentido psicológico, independiente de la experiencia del intérprete. Los modelos estadísticos estiman expectativas a partir de corpus o datos experimentales, estimación que después se contrasta con el comportamiento de personas concretas.
Una estrategia clásica para obtener esas estimaciones es presentar a varios participantes el comienzo de una oración y pedirles que la completen. La proporción de participantes que escribe una misma palabra es la probabilidad de cloze de esa palabra. Esta tarea aproxima las continuaciones que los lectores generan cuando deben elegir una, aunque simplifica el proceso natural. Un participante puede considerar plausibles varias palabras y escribir únicamente una. El procedimiento depende además de la población examinada. Estudiantes universitarios y especialistas pueden producir distribuciones muy diferentes ante un mismo enunciado. Por eso es útil comparar las estimaciones de cloze con modelos entrenados sobre corpus y examinar en qué construcciones discrepan.
Cuánto informa una continuación
Shannon (1948) definió la información de un evento a partir de su improbabilidad. La medida crece logarítmicamente cuando disminuye la probabilidad. Para una palabra, el surprisal expresado en bits es
Un evento con probabilidad 0,5 aporta un bit y uno con probabilidad 0,25 aporta dos. Si la probabilidad vuelve a reducirse a la mitad, la información aumenta otro bit. De este modo, diferencias multiplicativas de probabilidad se convierten en diferencias aditivas de información.
Imaginemos una distribución ilustrativa después de El médico prescribió un…. Se asigna una probabilidad de 0,40 a antibiótico, 0,20 a analgésico, 0,05 a examen y 0,0005 a telescopio. El resto de la probabilidad corresponde a otras continuaciones. Aplicando la fórmula, antibiótico tiene un surprisal aproximado de 1,32 bits, analgésico de 2,32, examen de 4,32 y telescopio de 10,97. Las cifras se han elegido para mostrar la relación matemática. Ninguna pretende describir una medición real de expectativas en hablantes.
La palabra sorpresa puede inducir un equívoco. El surprisal es una magnitud informativa. No describe un asombro consciente. La aparición de un término técnico infrecuente puede ser poco sorprendente para un especialista y muy costosa para otro lector. La medida depende de qué distribución represente mejor las expectativas de cada uno. El surprisal no equivale a dificultad de lectura. Una continuación de alto surprisal puede tener pocos problemas articulatorios o sintácticos y, aun así, requerir una actualización conceptual importante.
La escala logarítmica evita otro malentendido. La diferencia entre probabilidades 0,5 y 0,25 equivale a un bit, igual que la diferencia entre 0,01 y 0,005. En el segundo caso las dos opciones son raras, pero la razón entre sus probabilidades sigue siendo dos. El surprisal refleja esa razón, sin medir una distancia semántica fija entre expresiones. Dos palabras cercanas en significado pueden diferir mucho en probabilidad y dos muy distintas pueden tener probabilidades semejantes.
Incertidumbre antes de saber la respuesta
El surprisal corresponde al evento que finalmente aparece. La entropía describe la incertidumbre de una distribución antes de observar ese evento y se define como
Después de La reunión terminó a las… quedan abiertas muchas horas posibles. Después de El número par inmediatamente posterior al ocho es…, la distribución debería concentrarse mucho más, si el lector comprende la construcción y dispone del conocimiento pertinente. La segunda situación tiene una entropía menor, aunque todavía no se haya observado la continuación.
Dos palabras pueden recibir el mismo surprisal en contextos con entropías muy distintas. Una alternativa con probabilidad 0,1 puede aparecer en una situación donde las demás probabilidades se reparten entre pocos candidatos, o en otra donde existe una larga cola de posibilidades mínimas. La incertidumbre previa y la información de la palabra observada responden a preguntas distintas.
La diferencia es importante para los modelos sintácticos. Hale (2006) examinó el papel de la incertidumbre sobre el resto de la oración. Al llegar una palabra, pueden desaparecer análisis estructurales o aparecer nuevas posibilidades condicionadas por ella. La llamada reducción de entropía mide el cambio entre distribuciones de análisis posibles. Conviene observar que esa diferencia no tiene por qué ser positiva en cada paso, puesto que una continuación puede abrir más incertidumbre de la que resuelve. Hale asigna costo solo a las reducciones y trata los aumentos de incertidumbre como gratuitos, una decisión que no todos los modelos comparten.
Para entenderlo basta un caso abstracto. Si el sistema atribuye casi toda la probabilidad a una estructura y aparece una palabra que la descarta, la distribución restante podría repartirse entre numerosas alternativas antes poco relevantes. El evento fue sorprendente y, a la vez, aumentó la incertidumbre estructural posterior. Se distinguen aquí tres magnitudes, que son la probabilidad del evento observado, la incertidumbre previa y el cambio de incertidumbre. Un experimento que estudia una de ellas no debería atribuir sin más sus resultados a las otras dos.
En la práctica, calcular entropía exige definir sobre qué objetos se distribuye la probabilidad. Puede tratarse de palabras futuras, categorías gramaticales, árboles sintácticos o interpretaciones de una escena. Los resultados cambian según esa elección. Las fórmulas son claras cuando el espacio de alternativas está especificado, pero su aplicación al lenguaje natural exige modelos que determinen dicho espacio.
De la probabilidad al esfuerzo de lectura
Hale (2001) usó un analizador probabilístico para relacionar el procesamiento sintáctico con las expectativas sobre las continuaciones. Levy (2008) formuló una teoría más general del costo incremental basada en expectativas, según la cual, cuanto menor sea la probabilidad que el sistema atribuye a una palabra, mayor debería ser, en promedio, el esfuerzo necesario para procesarla. El planteamiento vincula una medida informativa con datos de comprensión en tiempo real.
Smith y Levy (2013) encontraron que la relación entre probabilidad contextual y tiempo de lectura era aproximadamente logarítmica en sus datos. Este resultado encaja con el surprisal. Cada vez que la probabilidad se reduce en la misma proporción, el costo tiende a aumentar en una cantidad semejante. La correspondencia abre la posibilidad de estimar cuánto aporta una palabra al tiempo total de procesamiento.
La lectura, desde luego, está afectada por otras variables. Una palabra más larga necesita cierto tiempo de inspección visual. La frecuencia de sus letras y su familiaridad pueden facilitar el reconocimiento. La puntuación, las regresiones o la distancia con un antecedente también modifican el recorrido ocular. Una correlación entre surprisal y latencia será más convincente si persiste al controlar esos factores y si se reproduce en distintos materiales.
También importa que las medidas se obtengan sobre el mismo tramo temporal. El tiempo total de fijaciones en una palabra incluye decisiones posteriores y posibles regresiones. Una medida temprana puede reflejar etapas diferentes. Si el investigador escoge después de observar los datos la ventana que produce el efecto más fuerte, aumenta el riesgo de una conclusión espuria. Los modelos de lectura deben formular anticipadamente qué medida y qué región consideran críticas.
Hay además diferencias entre la estimación lexical y la estructural. Una palabra como que es frecuente en la lengua, pero su aparición en una posición inesperada puede obligar a reconsiderar la estructura. El surprisal basado en frecuencias unigrama captaría mal ese caso. Un modelo que representa dependencias sintácticas puede asignar una probabilidad condicional más apropiada. Por eso una teoría del procesamiento no puede identificar sin examen la rareza de una palabra con la sorpresa que produce dentro de la oración.
Predicción de palabras, propiedades o estructuras
El contexto puede preactivar un significado sin determinar todavía su expresión. En Para cortar el pan tomó un…, cuchillo es probable, pero el lector también dispone de instrumento, cortador y otras posibilidades. La expectativa podría codificarse como una distribución sobre nombres concretos, como un conjunto de propiedades del objeto o como una combinación de ambos niveles.
Algo semejante ocurre con la sintaxis. Después de El investigador afirmó que…, una continuación oracional es probable. Tras un determinante, se esperan ciertas categorías que pueden continuar el sintagma nominal. Una pregunta introducida por qué informe establece expectativas sobre una posición posterior de integración. Las probabilidades se distribuyen entre estructuras que respetan las restricciones gramaticales y, dentro de ese espacio, la experiencia favorece unas sobre otras.
Los modelos probabilísticos de gramática asignan pesos a árboles o reglas y los modelos secuenciales predicen palabras a partir de su contexto. En una comparación adecuada, interesa saber si la estructura explícita mejora la predicción de las dificultades humanas donde los datos lineales aportan pistas insuficientes. Dos modelos pueden dar valores parecidos a la mayoría de las palabras y divergir precisamente ante una dependencia larga o una ambigüedad temporal, que son las regiones más informativas para la teoría.
Las expectativas integran también conocimiento del mundo. El hielo se derritió porque aumentó la… favorece una continuación sobre temperatura o calor por razones causales. El lector puede adquirir esas regularidades a partir de experiencia directa, educación y lenguaje. En un relato fantástico que establezca otras leyes físicas, la expectativa cambiará. Una teoría psicológica debe permitir que el modelo de situación local module probabilidades construidas durante años.
Predicción de la palabra o facilidad de integración
Gran parte de la evidencia experimental identifica facilitación. La anticipación solo se infiere de manera indirecta. Una palabra congruente produce normalmente una respuesta electrofisiológica N400 menor que una incongruente. El resultado es compatible con la preactivación de parte de su significado, pero también puede surgir porque la integración posterior es menos costosa. La N400, que se estudiará en la lectura Integración semántica y N400, permite localizar temporalmente la sensibilidad al contexto, pero por sí sola no indica todo lo ocurrido antes de la palabra.
Los movimientos oculares pueden dar una pista anticipatoria más directa. Altmann y Kamide (1999) mostraron que, durante la escucha de frases como The boy will eat…, los oyentes dirigían la mirada hacia objetos comestibles de una escena antes de que se pronunciara su nombre. El verbo restringía el dominio de referentes. El resultado indica anticipación conceptual y referencial sin obligar a concluir que el sistema había preparado la forma fonológica exacta del sustantivo.
Esa diferencia motivó experimentos sobre la preactivación lexical específica. DeLong, Urbach y Kutas (2005) usaron en inglés los artículos a y an, cuya elección depende del inicio fonológico de la palabra siguiente. Informaron una modulación anticipatoria antes del sustantivo, interpretada como evidencia de predicción de su forma. Una gran replicación multicéntrica de Nieuwland y colaboradores (2018) no encontró apoyo claro para el efecto original sobre el artículo, aunque sí para la sensibilidad a la predictibilidad del sustantivo. El episodio obliga a distinguir una conclusión sólida, que el contexto influye en el procesamiento semántico, de otra más específica, que en determinadas condiciones se preactiva una forma fonológica concreta.
Por otra parte, no toda predicción es consciente. Una persona puede anticipar una categoría sin poder decir qué esperaba. Los experimentos deben identificar el nivel representacional con indicadores adecuados y evitar que una facilitación genérica se presente como prueba de una conjetura verbal completamente formulada.
Aprender las probabilidades de un interlocutor
Las expectativas están moldeadas por la experiencia de largo plazo, pero también cambian durante una conversación. Si una persona comienza a usar repetidamente una construcción poco habitual, el oyente puede adaptar sus preferencias. Fine y colaboradores (2013) documentaron una rápida adaptación de expectativas sintácticas. Una construcción que al inicio provocaba dificultad podía procesarse con menor costo después de varias exposiciones. Esta plasticidad condiciona el diseño de los experimentos. Repetir muchas ambigüedades del mismo tipo puede alterar la distribución que se pretendía medir. Un participante aprende las regularidades del laboratorio, incluso cuando estas difieren de su experiencia cotidiana. Un efecto que disminuye con los ensayos admite la adaptación como explicación alternativa al cansancio.
Las historias individuales importan igualmente. Después de El electroencefalograma mostró…, un especialista dispone de continuaciones técnicas muy distintas de las que imagina alguien sin formación en neurofisiología. La frecuencia general de una palabra es un sustituto imperfecto de la probabilidad subjetiva. La edad, el vocabulario y el grado de dominio de una segunda lengua pueden alterar qué información se anticipa y con cuánta rapidez. No se sigue de esas diferencias que un grupo prediga y otro no. Cada grupo puede usar niveles representacionales distintos o distribuir los recursos de manera diferente.
En el bilingüismo, las expectativas se ajustan al idioma activo sin que la otra lengua quede necesariamente desactivada. La semejanza entre construcciones, la frecuencia de exposición y el contexto de interlocución pueden modificar la competencia de alternativas. Como la predicción lingüística pertenece a un repertorio aprendido y situado, medirla con un corpus monolingüe general puede ocultar parte de esa variación.
Kuperberg y Jaeger (2016) examinaron qué significa atribuir predicción al sistema de comprensión. Su propuesta concede importancia al beneficio esperado de anticipar y al costo de mantener representaciones preparadas. En contextos muy restrictivos puede ser rentable preactivar información específica, pero cuando el discurso da pocas pistas una expectativa amplia reduce el trabajo desperdiciado. También cambia la conveniencia de anticipar según la confiabilidad de la fuente y la finalidad de la tarea. Este enfoque explica la variación experimental sin asumir que todas las predicciones deban ocurrir en el mismo nivel lingüístico.
Los modelos computacionales como instrumentos de comparación
La probabilidad condicional requerida por el surprisal puede estimarse mediante modelos n-grama, gramáticas probabilísticas y redes neuronales. Cada familia impone restricciones diferentes. Un n-grama usa un contexto local; una gramática representa dependencias mediante estructura; un modelo neuronal moderno puede mantener representaciones de largo alcance sin proporcionar necesariamente un árbol sintáctico explícito.
Goodkind y Bicknell (2018) encontraron que la capacidad de distintos modelos de lenguaje para predecir tiempos de lectura aumentaba con su calidad probabilística. La observación favorece el uso del surprisal computacional como predictor de comportamiento humano, aunque la capacidad predictiva no equivale a una demostración de identidad cognitiva. Un modelo puede acertar por asociaciones que el lector humano no usa, o fallar en una construcción rara a pesar de captar regularidades globales.
Los modelos pueden compararse en regiones diseñadas para distinguir hipótesis. Si dos modelos predicen adecuadamente palabras frecuentes, esa coincidencia informa poco sobre su arquitectura. Una subordinada de largo alcance, una dependencia con varios candidatos o una construcción no canónica puede revelar si una representación estructural explícita proporciona una ventaja. La validación necesita ir más allá de una correlación promedio y examinar errores sistemáticos.
Importa asimismo la calibración. Un modelo puede ordenar bien las continuaciones, asignando mayor probabilidad a las que las personas suelen esperar, pero seguir siendo demasiado confiado. Si concentra casi toda la probabilidad en la palabra más plausible, producirá valores de surprisal extremos ante alternativas que los lectores aceptan sin gran esfuerzo. La calidad predictiva general y la correspondencia con las probabilidades humanas son evaluaciones relacionadas, pero no intercambiables. En estudios psicolingüísticos conviene preguntar tanto si el modelo acierta el orden de las alternativas como si su grado de incertidumbre se aproxima al de los participantes.
Además, conviene controlar cuánto conoce cada sistema acerca de los textos usados para evaluarlo. Un modelo entrenado con material muy próximo a las oraciones experimentales podría asignar probabilidades muy ajustadas por familiaridad estadística. Eso no demostraría que haya aprendido las restricciones generales que interesan al investigador. Las pruebas con construcciones nuevas y distribuciones controladas ayudan a separar memoria de entrenamiento y generalización lingüística.
Los modelos de lenguaje de gran escala dan estimaciones para textos naturales que serían muy costosas de obtener mediante miles de tareas de cloze. Son herramientas experimentales valiosas, aunque sus distribuciones dependen del corpus y del entrenamiento. Quien habla una lengua desde la infancia y quien predice tokens tras un entrenamiento masivo pueden producir probabilidades similares por procedimientos diferentes. Las comparaciones válidas se apoyan en predicciones contrastables y reconocen las divergencias de aprendizaje, percepción y memoria.
Un sistema que recuerda imperfectamente
Las teorías probabilísticas suelen escribir la probabilidad de la próxima palabra condicionada por toda la secuencia anterior. El lector humano quizá ya olvidó parte de esa secuencia. Un antecedente distante puede mantenerse solo de manera esquemática o mezclarse con otro semejante. La expectativa real se calcula sobre lo que aún está disponible, que rara vez es una transcripción perfecta de todo lo escuchado. Futrell, Gibson y Levy (2020) formalizaron este principio en la teoría de lossy-context surprisal. El sistema predice a partir de una representación de contexto degradada por la memoria. Una palabra puede ser difícil aunque hubiera sido muy esperable para alguien que conservara intacto el texto anterior. La dificultad depende de la interacción entre probabilidad y pérdida de información contextual.
El planteamiento ayuda a comprender por qué las dependencias largas desafían una teoría puramente predictiva. La continuación de una frase puede ser estadísticamente probable y, aun así, requerir recuperar un elemento remoto que se representa con poca precisión. El surprisal calculado sobre el texto íntegro subestimaría entonces el costo humano. El siguiente capítulo examinará los mecanismos de mantenimiento, interferencia y recuperación que producen esas diferencias.
La relación entre memoria y predicción no es unilateral. Una expectativa fuerte puede facilitar la recuperación de un antecedente. A la inversa, una representación de memoria ambigua altera qué se considera probable. La separación entre memoria y predicción sirve para construir modelos, aunque durante la comprensión ambas operaciones se condicionan mutuamente.
Distribuir información entre hablante y oyente
La predictibilidad afecta al propio acto de hablar. En conversaciones naturales, las palabras esperables suelen pronunciarse con menor duración o prominencia. Bell y colaboradores (2009) documentaron efectos de frecuencia y probabilidad contextual sobre la reducción fonética. El hablante puede dedicar menos material acústico a una continuación que el contexto vuelve accesible y pronunciar con mayor claridad otra más informativa.
Jaeger (2010) analizó la relación entre redundancia, reducción y densidad informativa. La hipótesis de Uniform Information Density propone que ciertas elecciones de producción distribuyen información de forma relativamente regular y evitan concentraciones excesivas de carga para el receptor. La idea no debe convertirse en la afirmación de que los hablantes calculan bits de manera consciente o de que toda oración tiene densidad constante. La hipótesis describe una presión estadística que convive con énfasis, estilo, planificación y normas gramaticales.
Este enfoque conecta comprensión y producción. Si una continuación tiene baja probabilidad, puede ser útil dar señales acústicas o sintácticas más explícitas. Si el destinatario comparte muchas expectativas, una forma breve puede bastar. Las diferencias entre hablar a un especialista y hacerlo a una audiencia nueva se explican en parte por esa calibración, aunque intervienen también convenciones del género y consideraciones sociales.
En la escritura ocurre algo parecido. Un texto técnico que acumula términos nuevos, subordinadas poco frecuentes y cambios abruptos de tópico impone varias actualizaciones difíciles en el mismo tramo. La solución editorial consiste en preparar los conceptos necesarios antes de usarlos y reservar las sorpresas para aquello que merece realmente atención. La poesía y la ficción, en cambio, pueden explotar deliberadamente una continuación improbable. Un giro narrativo eficaz depende de que el texto haya construido expectativas reconocibles. Sin ese trabajo previo, la rareza puede parecer accidental.
Cuando la expectativa se equivoca
La predicción es ventajosa en un entorno con regularidades y puede producir errores cuando la evidencia es escasa. Si una persona oye una frase bajo ruido, una palabra probable puede imponerse sobre otra que fue pronunciada realmente. La ilusión perceptiva expresa una ponderación imperfecta entre señal y expectativa. Un caso análogo ocurre en el análisis sintáctico cuando una continuación favorece durante varios segundos una estructura que después resulta inadecuada.
La evidencia inesperada puede también desencadenar aprendizaje. Si un interlocutor usa varias veces un término en un sentido poco habitual y luego lo aclara, la distribución local de expectativas cambia. Los errores iniciales pueden disminuir sin que el oyente haya aprendido una nueva regla gramatical. La sensibilidad a la experiencia reciente explica parte de la flexibilidad del diálogo, cuyos participantes ajustan rápidamente sus anticipaciones al estilo y al vocabulario de quienes tienen delante.
Las consecuencias dependen del contexto. En una conversación informal, la interpretación aproximada puede bastar. En una indicación farmacológica o un testimonio, la sustitución de una palabra poco esperable por otra más probable puede tener un costo serio. Allí conviene verificar los elementos cuyo error importa, sin suponer que la familiaridad del enunciado garantiza su exactitud.
Las entrevistas clínicas producen además expectativas por la forma de las preguntas. ¿Desde cuándo escucha voces? presupone una categoría y favorece respuestas que la aceptan. ¿Cómo describiría lo que escucha? abre posibilidades diferentes. El diseño de la pregunta cambia el espacio de respuestas disponibles para el paciente y también las expectativas del entrevistador. La teoría probabilística no reemplaza la pragmática de la entrevista, pero ayuda a explicar por qué una formulación orienta la interpretación antes de que aparezca la respuesta.
En los textos científicos, el lector también construye expectativas a partir de títulos, definiciones y estructura argumental. Una palabra inesperada puede indicar una distinción genuinamente nueva o una terminología inconsistente. El trabajo del autor consiste en controlar esa diferencia. Una definición precisa reduce la incertidumbre, pero cambiar de término por simple variación estilística puede reintroducirla sin añadir información.
Qué explica una buena teoría predictiva
El alcance del surprisal es grande y sus límites están bien definidos. Mide la improbabilidad de una continuación bajo un modelo especificado. Cuando esa medida predice tiempos o respuestas cerebrales, establece una relación empírica entre expectativa formal y procesamiento. Quedan abiertos la representación sobre la que se calcula la probabilidad, el papel de la memoria y el mecanismo que vincula información con costo. Una evaluación rigurosa necesita declarar las unidades de predicción, el corpus que sostiene las probabilidades y la población cuyos datos se comparan. También debe separar sorpresa lexical, actualización estructural, plausibilidad conceptual y recuperación de dependencias. Estas fuentes suelen coincidir en la misma palabra y sus efectos pueden confundirse.
La teoría gana fuerza cuando se enfrenta a contrastes específicos. Puede comparar dos continuaciones igual de frecuentes con distinta probabilidad contextual, o dos estructuras igualmente esperables con distinta carga de memoria. Puede examinar además si el lector cambia de expectativa tras nuevas exposiciones y si ese cambio sigue las probabilidades propuestas por el modelo. En esos casos la formalización deja de ser una metáfora y genera predicciones refutables.
La comprensión humana explota regularidades porque la lengua las contiene y porque aprenderlas acelera la interpretación, pero cada palabra llega a un sistema con historia, atención y memoria limitadas, para el cual conocer el contexto completo y mantenerlo disponible son cosas diferentes. La lectura Memoria de trabajo y dependencias lingüísticas parte de esa limitación. Para predecir bien lo que viene, el sistema necesita conservar o recuperar aquello que ya pasó.
Referencias
Altmann, G. T. M., y Kamide, Y. (1999). Incremental interpretation at verbs: Restricting the domain of subsequent reference. Cognition, 73(3), 247–264.
Bell, A., Brenier, J. M., Gregory, M., Girand, C., y Jurafsky, D. (2009). Predictability effects on durations of content and function words in conversational English. Journal of Memory and Language, 60(1), 92–111.
DeLong, K. A., Urbach, T. P., y Kutas, M. (2005). Probabilistic word pre-activation during language comprehension inferred from electrical brain activity. Nature Neuroscience, 8(8), 1117–1121.
Fine, A. B., Jaeger, T. F., Farmer, T. A., y Qian, T. (2013). Rapid expectation adaptation during syntactic comprehension. PLOS ONE, 8(10), e77661.
Futrell, R., Gibson, E., y Levy, R. P. (2020). Lossy-context surprisal: An information-theoretic model of memory effects in sentence processing. Cognitive Science, 44(3), e12814.
Goodkind, A., y Bicknell, K. (2018). Predictive power of word surprisal for reading times is a linear function of language model quality. En Proceedings of the 8th Workshop on Cognitive Modeling and Computational Linguistics (pp. 10–18). Association for Computational Linguistics.
Hale, J. (2001). A probabilistic Earley parser as a psycholinguistic model. En Proceedings of the Second Meeting of the North American Chapter of the Association for Computational Linguistics (pp. 159–166). Association for Computational Linguistics.
Hale, J. (2006). Uncertainty about the rest of the sentence. Cognitive Science, 30(4), 643–672.
Jaeger, T. F. (2010). Redundancy and reduction: Speakers manage syntactic information density. Cognitive Psychology, 61(1), 23–62.
Kuperberg, G. R., y Jaeger, T. F. (2016). What do we mean by prediction in language comprehension? Language, Cognition and Neuroscience, 31(1), 32–59.
Levy, R. (2008). Expectation-based syntactic comprehension. Cognition, 106(3), 1126–1177.
Nieuwland, M. S., Politzer-Ahles, S., Heyselaar, E., Segaert, K., Darley, E., Kazanina, N., Von Grebmer Zu Wolfsthurn, S., Bartolozzi, F., Kogan, V., Ito, A., Mézière, D., Barr, D. J., Rousselet, G. A., Ferguson, H. J., Busch-Moreno, S., Fu, X., Tuomainen, J., Kulakova, E., Husband, E. M., ... Huettig, F. (2018). Large-scale replication study reveals a limit on probabilistic prediction in language comprehension. eLife, 7, e33468.
Shannon, C. E. (1948). A mathematical theory of communication. Bell System Technical Journal, 27, 379–423, 623–656.
Smith, N. J., y Levy, R. (2013). The effect of word predictability on reading time is logarithmic. Cognition, 128(3), 302–319.