Lenguaje, computación e inteligencia artificial

Modelos multilingües y transferencia entre lenguas

Para orientarte: Tokenización, subpalabras y representación textual, Representaciones contextuales, Modelado del lenguaje, preentrenamiento y fine-tuning.

Ver secciones del texto
  1. Qué significa que un modelo sea multilingüe
  2. Parámetros compartidos y espacios de representación
  3. Transferencia positiva, negativa y selección de datos
  4. Tokenización y costos desiguales entre lenguas
  5. Transferencia sin ejemplos y adaptación localizada
  6. Traducción, lengua puente y acción comunicativa
  7. Variación y alternancia de lenguas
  8. Resultados desagregados, conjuntos de prueba y evaluación humana
  9. Recursos escasos y decisiones colectivas
  10. Un asistente documental multilingüe como caso de diseño
  11. Qué puede aportar la investigación lingüística
  12. Un experimento para examinar la transferencia
  13. Criterios para una afirmación multilingüe responsable
  14. Referencias

DESARROLLO COMPLETO · BIBLIOGRAFÍA INCLUIDA

Una persona consulta en español una colección que contiene artículos en inglés, testimonios en portugués y documentos bilingües. Espera una explicación coherente que distinga las palabras de los autores de la interpretación del sistema y conserve los matices que su pregunta requiere. La situación reúne operaciones diferentes, como reconocer lenguas, recuperar información entre ellas, interpretar textos, traducir algunos fragmentos y redactar una respuesta. Llamar multilingüe al modelo describe una condición general, aunque no acredita que realice todas esas operaciones con igual competencia.

El multilingüismo computacional obliga a revisar una simplificación frecuente, la que identifica el lenguaje con los datos disponibles en unas pocas lenguas de amplia circulación digital. Los sistemas aprenden bajo distribuciones desiguales de textos, tareas, géneros y convenciones gráficas. Una arquitectura compartida puede aprovechar semejanzas entre lenguas, pero también reproducir esas desigualdades o introducir dependencias nuevas. Por eso la transferencia debe estudiarse como un resultado condicionado por datos, decisiones técnicas y prácticas sociales. A continuación se examina lo que se comparte cuando un modelo trabaja con varias lenguas, el origen de los beneficios y conflictos entre tareas y el sentido de evaluar una capacidad multilingüe. El propósito es vincular la explicación técnica con problemas lingüísticos concretos como la variación, la traducción, el cambio de código, la equivalencia semántica y la participación de las comunidades cuyos usos se convierten en recursos computacionales.

Qué significa que un modelo sea multilingüe

Conviene distinguir aquí tres nociones. La cobertura indica que una lengua aparece en los datos o figura entre las entradas admitidas; el rendimiento describe resultados en tareas definidas; la adecuación considera si esos resultados sirven a los participantes y a las situaciones en que se utilizarán. Nada impide que un mismo modelo cubra una lengua, resuelva preguntas escolares y resulte poco adecuado para redactar comunicaciones comunitarias, sin que ninguna de esas observaciones contradiga necesariamente a las otras. Hay, además, diversas arquitecturas de servicio. Algunos sistemas identifican la lengua, traducen al inglés, consultan un modelo y devuelven la respuesta traducida. Otros procesan directamente varias lenguas con parámetros compartidos. Un tercer diseño combina un componente general con módulos especializados. Vistos desde la interfaz, que no deja ver el mecanismo empleado, los tres pueden parecer multilingües, aunque difieren en sus rutas de información, en las pérdidas que pueden introducir y en lo que requiere su evaluación.

La competencia tampoco es una magnitud única. Comprender una pregunta, producir una respuesta, recuperar documentos, mantener un registro formal y reconocer una ironía requieren recursos parcialmente distintos. Puede haber buena comprensión receptiva junto a una generación poco idiomática. Incluso dentro de una misma lengua, un sistema puede manejar noticias generales y fracasar ante instrucciones técnicas o ante conversaciones en que se alternan variedades. Una evaluación limitada a la fluidez de las frases producidas deja fuera estos contrastes.

La propia unidad llamada lengua es, además, una decisión práctica de clasificación. Sus límites no siempre coinciden con las categorías de los hablantes, con las fronteras nacionales ni con los inventarios de los corpus. Bajo una misma etiqueta se agrupan a veces variedades con historias y usos diferentes. Una declaración como «funciona en español» necesita entonces precisar para qué comunidades, géneros y modalidades vale y con qué criterio de éxito se ha medido, requisito que no impide la evaluación y hace posible formular afirmaciones sostenibles.

Parámetros compartidos y espacios de representación

En un modelo multilingüe, una parte de los parámetros interviene en el procesamiento de secuencias de lenguas diferentes y se ajusta, según el objetivo elegido, con ejemplos diversos. La ventaja potencial de compartirlos es que regularidades aprendidas con muchos datos en una lengua podrían ayudar a resolver problemas relacionados en otra. El mecanismo no requiere que todas las palabras tengan traducciones explícitas en el conjunto de entrenamiento. Un espacio de representación puede acercar expresiones que aparecen en contextos funcionalmente semejantes. Ahora bien, la cercanía vectorial y la equivalencia semántica son relaciones distintas. Dos palabras pueden compartir dominios temáticos y diferir en connotación, distribución sintáctica o condiciones de uso; a la inversa, representaciones separadas pueden conducir a una decisión correcta gracias a capas posteriores. La geometría interna debe interpretarse respecto de tareas y operaciones concretas, sin convertir cualquier agrupación visible en una teoría completa del significado.

Pires, Schlinger y Garrette (2019) estudiaron la transferencia entre lenguas en BERT multilingüe. Sus experimentos mostraron que el fenómeno no podía reducirse al vocabulario compartido, aunque las características de las lenguas y de las tareas influían en los resultados. El hallazgo planteó la pregunta de qué regularidades pueden aprenderse mediante entrenamiento conjunto. De él no se sigue que cualquier modelo multilingüe posea representaciones perfectamente universales, ni que las diferencias lingüísticas desaparezcan en sus capas internas.

A modo de analogía, un estudiante que ha aprendido a identificar las relaciones entre los participantes de una acción puede aprovechar esa habilidad al estudiar otra lengua, aunque tendrá que aprender cómo la nueva lengua las expresa. También en un modelo lo transferible puede coexistir con exigencias específicas. La comparación, de alcance limitado, aclara la estructura del problema, pero no prueba identidad entre el aprendizaje humano y la optimización computacional. La evidencia tendrá que mostrar qué comportamiento del modelo mejora y en qué condiciones se conserva.

Transferencia positiva, negativa y selección de datos

Se habla de transferencia positiva o negativa según que el aprendizaje asociado a una lengua o tarea mejore o empeore el desempeño en otra respecto de una comparación pertinente. Ambas nociones son relativas a un diseño experimental. Si el modelo conjunto dispone de más cómputo o de datos de mejor calidad, una mejora no puede atribuirse sin reservas al multilingüismo. Esas diferencias deben controlarse o, al menos, documentarse. La competencia por capacidad es una explicación posible de ciertos conflictos. Un sistema con recursos limitados reparte su aprendizaje entre muchas regularidades. Algunas se refuerzan, mientras otras requieren distinciones que quedan mal representadas. Sin embargo, un descenso puede deberse también a la calidad de los corpus, al objetivo de entrenamiento, al muestreo o a la tokenización, sin que medie una competencia inevitable entre lenguas. Con una misma arquitectura pueden obtenerse comportamientos distintos si cambia la composición del entrenamiento.

Conneau y colaboradores (2020) presentaron XLM-R y estudiaron el aprendizaje multilingüe a gran escala. Su trabajo es una referencia para examinar cómo el entrenamiento compartido y la disponibilidad de datos pueden beneficiar tareas entre lenguas, así como los compromisos que trae consigo ampliar la cobertura. Esos compromisos deben medirse. Ninguna regla simple establece que añadir lenguas siempre ayude, o siempre perjudique, a las ya incluidas. El muestreo tiene consecuencias concretas. Si cada ejemplo se selecciona en proporción directa al tamaño de su corpus, las lenguas con más datos pueden dominar las actualizaciones; si se eleva mucho la frecuencia de una colección pequeña, el modelo puede repetirla en exceso. Las políticas intermedias intentan equilibrar exposición y diversidad. Para evaluarlas hacen falta resultados por lengua y por dominio, además de un examen de la duplicación. Contar documentos sin estudiar su variedad puede dar una imagen engañosa de los recursos reales de cada lengua.

Tokenización y costos desiguales entre lenguas

La tokenización transforma el texto en unidades de un vocabulario computacional que no coinciden necesariamente con palabras completas. Según la lengua y el método, una misma cantidad de contenido puede requerir números muy distintos de unidades. Esa diferencia afecta la longitud efectiva del contexto, el costo de procesamiento y la dificultad de aprender determinadas regularidades. El tokenizador forma parte, por tanto, del problema multilingüe, pues su elección, anterior al análisis, dista de ser neutral.

Supongamos, como ejemplo didáctico, que dos instrucciones equivalentes ocupan respectivamente cuarenta y ochenta unidades en un sistema. Con un límite fijo de contexto, la segunda ocupa el doble de espacio y deja menos para documentos de apoyo. La diferencia no prueba todavía una peor comprensión, porque el modelo puede compensarla en parte. Sí crea, en cambio, una desigualdad operativa que conviene medir. Comparar únicamente el número de caracteres o de palabras visibles puede ocultar ese reparto desigual del presupuesto de contexto.

Las dificultades tampoco se limitan a los alfabetos distintos. Es posible que la segmentación interactúe con la flexión, la composición, las convenciones de separación gráfica y la presencia de variantes ortográficas. Una unidad poco frecuente puede dividirse en fragmentos manejables para el modelo o en una secuencia que dificulte la generalización. Como entre frontera de token y frontera de morfema no hay correspondencia necesaria, la segmentación de un tokenizador es un procedimiento de codificación que no puede presentarse como un análisis morfológico correcto.

Una evaluación útil observa ejemplos reales, mide longitudes relativas y relaciona esos resultados con tareas. Entre sus ejemplos figuran nombres propios, expresiones especializadas y formas regionales. Una segmentación visualmente elegante o una cifra uniforme entre todas las lenguas tienen interés únicamente si reducen los obstáculos que encuentran los usuarios. Modificar el vocabulario puede mejorar ciertos casos, aunque obliga a considerar la compatibilidad con el preentrenamiento y la disponibilidad de datos para aprender las unidades nuevas.

Transferencia sin ejemplos y adaptación localizada

En transferencia entre lenguas, zero-shot suele designar la situación en que un modelo se entrena o ajusta para una tarea en una lengua y se evalúa en otra, sin ejemplos etiquetados de esa tarea en la lengua de destino. La expresión no significa que el modelo nunca haya visto textos de esa lengua, pues puede haberlos encontrado en abundancia durante el preentrenamiento. Para interpretar un resultado es esencial separar la exposición lingüística de la supervisión de la tarea. Few-shot, por su parte, puede designar el uso de unos pocos ejemplos para ajustar parámetros o su inclusión en el contexto, dos procedimientos con costos y riesgos diferentes. Además del contenido de la tarea, los ejemplos pueden enseñar el formato esperado, la distribución de etiquetas o una convención local. Por eso es útil estudiar qué cambia cuando se traducen, se sustituyen por ejemplos autóctonos o se reordenan. Una mejora aislada en la puntuación no indica cuál de esas informaciones aprovechó el modelo.

La adaptación localizada permite introducir terminología, géneros y criterios que un entrenamiento general representa de modo insuficiente. Adaptar exige, sin embargo, conocimientos que una lista de palabras no recoge. Un asistente de orientación universitaria necesita reconocer cómo se nombran las unidades académicas, qué documentos tienen autoridad y qué acciones corresponden a cada procedimiento. Tales conocimientos pueden depender de una institución específica, incluso cuando la lengua es la misma que en otros contextos donde el sistema funciona bien.

La comparación adecuada incluye una línea de base sencilla, como la recuperación documental, reglas para unas pocas categorías o una traducción seguida de un clasificador. Si un modelo complejo aporta poco frente a una alternativa transparente, su elección requiere una justificación adicional. Debe comprobarse, asimismo, la estabilidad del rendimiento fuera de los ejemplos usados para adaptar. Un conjunto reducido que reproduce plantillas puede dar la impresión de un aprendizaje local sin mostrar que se extienda a las formulaciones variadas que emplearán las personas.

Traducción, lengua puente y acción comunicativa

Una traducción puede preservar la información proposicional y modificar al mismo tiempo la relación interpersonal. Una solicitud indirecta, una forma de tratamiento o una expresión de cautela cumplen funciones que dependen del contexto, de modo que el equivalente léxico más cercano puede producir otro efecto. Esto tiene consecuencias cuando se recurre a una lengua puente, porque cada transformación puede normalizar diferencias relevantes para comprender la intención o para responder de manera adecuada. Consideremos una petición hipotética como «Si no fuera mucha molestia, quizá podrías revisar esto hoy». Una representación reducida a «revisar hoy» conserva la acción y el plazo, pero pierde la mitigación y la incertidumbre sobre la disponibilidad del interlocutor. En un sistema de extracción de tareas esa pérdida puede ser aceptable, siempre que se reconozca. Resultaría problemática si la misma representación se usara después para presentar la petición como una orden categórica o para evaluar el trato del hablante.

La generación multilingüe produce a veces la salida en una lengua distinta de la requerida, problema de traducción accidental que Xue y colaboradores (2021), al presentar mT5, examinaron en determinadas condiciones de transferencia. Resolver el contenido y controlar la lengua de producción son, por tanto, exigencias separables. Un texto adecuado en lo informativo puede fallar en la situación comunicativa por aparecer, total o parcialmente, en una lengua que nadie pidió.

Por estas razones, una evaluación de traducción o de mediación necesita combinar criterios como la fidelidad informativa, la preservación de referencias, el tratamiento de ambigüedades, el registro y la utilidad para los destinatarios. En documentos especializados puede hacer falta conservar los términos originales y explicar las alternativas antes que imponer una equivalencia única. Cuando la incertidumbre traductológica afecta decisiones, debe quedar representada. Una salida fluida que elimina en silencio un problema conceptual puede ser menos útil que una versión que lo hace visible con precisión.

Variación y alternancia de lenguas

Las conversaciones reales no siempre respetan fronteras limpias entre lenguas. En un mismo intercambio, una persona incorpora a veces un término técnico inglés a una explicación en español, cita una expresión familiar en otra lengua o alterna según el interlocutor. El cambio de código no es por definición ruido ni falta de competencia. Puede organizar la identidad, marcar una cita, diferenciar actividades o expresar una relación social. Un sistema que lo corrige automáticamente puede alterar la contribución del usuario.

Ante la alternancia, la identificación de lengua por documento resulta insuficiente. A veces se necesitan decisiones por segmento; otras veces, clasificar cada palabra añade una precisión aparente que no ayuda a la tarea. Los préstamos asentados, los nombres propios y las formas compartidas complican cualquier separación rígida. Antes de diseñar un detector conviene preguntarse qué decisión permitirá tomar su resultado. La granularidad adecuada se deriva de ese uso y no solo de lo que el algoritmo puede etiquetar.

También hay variación dentro de una lengua. Las diferencias léxicas, pragmáticas, ortográficas y de registro pueden afectar la interpretación. Un asistente que convierte sistemáticamente una variedad regional en un estándar editorial quizá resulte útil para cierta publicación e invasivo en una conversación personal. La adaptación debería responder al propósito acordado. Corregir un error tipográfico, traducir una expresión y reemplazar una variedad son intervenciones diferentes que es aconsejable distinguir en la interfaz y en la evaluación.

Para investigar estos fenómenos hacen falta conjuntos de prueba con usos naturales y criterios elaborados junto con hablantes competentes. Las frases creadas mezclando palabras al azar permiten estudiar una perturbación técnica, aunque no representan necesariamente la alternancia propia de la comunicación real. Si los datos proceden de conversaciones, hay que proteger además la privacidad. Que el material sea lingüísticamente auténtico deja en pie las obligaciones relativas al consentimiento, al contexto de circulación y a la posibilidad de que una expresión identifique a sus participantes.

Resultados desagregados, conjuntos de prueba y evaluación humana

Al agregar los resultados de muchas lenguas, el promedio puede mejorar mientras algunas de ellas empeoran. Si además las tareas y los tamaños de muestra difieren, el valor agregado se vuelve difícil de interpretar. Los resultados deberían presentarse desagregados, con la ponderación explicada y una estimación de su incertidumbre.

Cabe conservar una síntesis si deja ver qué experiencias representa. Para decidir un despliegue hace falta saber quiénes reciben un servicio adecuado y dónde persisten los fallos.

Los conjuntos traducidos facilitan la comparación, aunque pueden introducir rasgos de traducción ausentes en los textos originales, conservar referencias culturales ajenas a los nuevos lectores o eliminar dificultades propias de la lengua de destino. Los conjuntos creados de manera independiente reflejan usos locales, pero hacen difícil atribuir las diferencias exclusivamente al modelo. Una estrategia sólida combina ambos tipos y explicita qué pregunta responde cada uno. La equivalencia del instrumento entre lenguas debe investigarse aun cuando existan versiones en todas ellas.

La evaluación humana exige una atención semejante. Los evaluadores necesitan competencia lingüística y conocimiento del dominio, aunque incluso con ambos pueden discrepar legítimamente sobre naturalidad, registro o traducción. Una pauta de evaluación puede penalizar alternativas válidas si es demasiado rígida y volver irreproducibles los juicios si es demasiado vaga. Es útil separar dimensiones y registrar los desacuerdos relevantes. Cuando estos expresan normas distintas entre comunidades, suprimirlos mediante un promedio puede borrar justamente el fenómeno que el estudio debería describir.

Debe evaluarse, por último, la tarea completa. Puede ocurrir que una respuesta bien redactada en la lengua solicitada se apoye en documentos equivocados, que la búsqueda encuentre información correcta y la presente con referencias que el usuario no logra verificar o que una conversación empiece bien y se degrade al cambiar de lengua. Hacen falta, por tanto, pruebas de recuperación, generación, atribución y continuidad, además de mediciones lingüísticas aisladas, ya que componentes que funcionan bien por separado pueden fallar en el recorrido que los articula.

Recursos escasos y decisiones colectivas

La expresión «lengua con pocos recursos» describe una relación con infraestructuras específicas, como corpus, herramientas, financiación, documentación y posibilidades de participación, sin atribuir a la lengua ninguna carencia intrínseca. Puede haber tradiciones orales ricas escasamente representadas en colecciones digitales, así como lenguas con millones de hablantes que disponen de pocos datos accesibles para una tarea determinada. Confundir disponibilidad computacional con riqueza lingüística reproduce una jerarquía que el análisis debería cuestionar.

Joshi y colaboradores (2020) examinaron las desigualdades de inclusión lingüística en el procesamiento del lenguaje. Su trabajo ayuda a situar los indicadores técnicos dentro de un problema más amplio de representación. Una lista extensa de lenguas admitidas puede coexistir con diferencias profundas en inversión, evaluación y capacidad de producir herramientas útiles. Para apreciar la inclusión hay que observar las tareas que pueden realizarse en la práctica, la calidad alcanzada y las condiciones de control sobre los recursos.

Nekoto y colaboradores (2020) propusieron y desarrollaron una investigación participativa para la traducción automática en lenguas africanas. Su aporte consiste en incorporar a participantes relevantes en la construcción y la evaluación, sin tratar la disponibilidad de datos como el único obstáculo. Otros proyectos pueden tomar de ese trabajo la negociación de objetivos, responsabilidades y formas de contribución adecuadas a las comunidades y tareas involucradas, sin copiar una estructura organizativa que se pretenda universal. La gobernanza de los datos plantea, por su parte, preguntas sobre acceso, reutilización, atribución y retirada a las que el beneficio técnico de ampliar un corpus no da respuesta. Que un material sea visible públicamente no lo vuelve apropiado para cualquier entrenamiento o publicación, pues puede haber conocimientos situados, restricciones culturales o expectativas específicas de circulación. Las decisiones deben tomarse con quienes tienen autoridad para ello, sin identificar a una única persona con toda una comunidad.

Un asistente documental multilingüe como caso de diseño

Imaginemos una biblioteca universitaria que quiere ayudar a sus estudiantes a consultar investigaciones en español, inglés y portugués. El encargo parece tan sencillo como responder en la lengua elegida, aunque antes habría que definir qué significa responder correctamente. Al resumir un artículo, el sistema debe distinguir resultados, interpretaciones y limitaciones. Cuando compara trabajos, necesita reconocer que términos parecidos pueden pertenecer a tradiciones conceptuales diferentes. La elección de la lengua de la interfaz resuelve solo una parte del diseño.

El equipo podría comenzar con una colección limitada y preguntas representativas. Algunas exigirían recuperar un documento en otra lengua y otras obligarían a comparar conceptos o explicar una cita. Se conservarían los metadatos originales y las traducciones ofrecidas quedarían identificadas como tales. Cuando un término técnico admitiera varias soluciones, la respuesta podría presentar la forma original junto con una breve explicación. Esa decisión favorecería la trazabilidad sin obligar a traducir toda la bibliografía ni a simular equivalencias inexistentes.

La prueba incluiría consultas escritas directamente por usuarios de cada lengua, cambios de lengua durante la conversación y peticiones de conservar las citas en su versión original. Los evaluadores revisarían si se mantiene la atribución, si aparecen errores sistemáticos en determinados dominios y si el sistema expresa incertidumbre cuando la evidencia es insuficiente. Las consultas traducidas aportarían una comparación adicional, sin sustituir los usos naturales de las distintas comunidades académicas.

Un fallo instructivo sería encontrar el artículo correcto y responder con una generalización que solo resulta plausible en otra tradición disciplinaria. Otro consistiría en traducir una categoría institucional como si tuviera un equivalente administrativo exacto. Problemas como estos obligan a revisar los documentos, las instrucciones y las formas de presentar la información. Un modelo de mayor tamaño podría ayudar, aunque no dispensaría de definir el servicio ni de revisar el recorrido que transforma fuentes heterogéneas en una respuesta.

Qué puede aportar la investigación lingüística

La lingüística aporta hipótesis sobre dónde buscar diferencias relevantes. La morfología orienta preguntas sobre segmentación y generalización; la sintaxis, sobre relaciones estructurales; la semántica, sobre equivalencia y alcance. De la pragmática proceden las que atañen a acciones y presupuestos. La sociolingüística examina quiénes quedan representados por una categoría de lengua y qué normas se privilegian. Con estas contribuciones pueden construirse pruebas más informativas que una colección indiscriminada de ejemplos difíciles. No obstante, las categorías lingüísticas tampoco deben convertirse en explicaciones automáticas. Si dos lenguas muestran rendimientos diferentes, atribuirlo a su distancia tipológica obliga a separar ese factor de la cantidad de datos, la calidad del corpus, la escritura y el dominio. De una correlación puede extraerse una hipótesis, aunque no la identificación de su causa. Los diseños controlados, el análisis de errores y la comparación entre configuraciones ayudan a evaluar esas explicaciones alternativas. Cuando los recursos disponibles no permiten aislar cada factor con suficiente seguridad, el análisis debe decirlo.

Hay que evitar, asimismo, una lectura antropomórfica de la transferencia. Que una red aproveche información aprendida en varias lenguas no prueba que tenga una experiencia bilingüe humana ni que organice su conocimiento del mismo modo. El interés científico está en estudiar qué regularidades pueden aprenderse y qué limitaciones persisten en condiciones específicas. La comparación con personas puede ser productiva si fija tareas, medidas y diferencias de experiencia, condiciones que faltan cuando las equivalencias se infieren a partir de una respuesta convincente.

Los objetivos de un programa de investigación multilingüe deben poder cambiar cuando aparecen necesidades locales. Tal vez una comunidad valore más la búsqueda en archivos, la transcripción revisable o la enseñanza que un asistente general. La elección de la tarea define qué datos se recopilan y qué éxito se considera relevante. Tratar esas decisiones como parte del conocimiento producido vincula la calidad técnica con una comprensión más precisa de las prácticas en que la tecnología adquiere sentido.

Un experimento para examinar la transferencia

Puede diseñarse un estudio pequeño en torno a una tarea delimitada, la de identificar si una consulta solicita información, pide una acción o comunica un problema. Las categorías deben definirse con ejemplos y contraejemplos, con la salvedad de que algunos mensajes cumplen varias funciones. El estudio compara dos condiciones, un modelo ajustado solo con ejemplos de una lengua de origen y el mismo modelo adaptado mediante ejemplos de la lengua de destino. Ambos se evalúan sobre mensajes que no intervinieron en ninguna decisión de entrenamiento. Para que la comparación sea interpretable se mantiene el mismo conjunto final de prueba y se documenta la selección de ejemplos. Si las consultas proceden de distintas instituciones, se evita que mensajes casi idénticos de una misma plantilla aparezcan a la vez en entrenamiento y prueba. Cuando el diseño lo requiere, la partición se hace también por conversación o por usuario. Estas precauciones impiden que el supuesto aprendizaje entre lenguas dependa en realidad del reconocimiento de una fórmula institucional repetida o de las peculiaridades de unos pocos participantes.

Los resultados se analizan por categoría y por tipo de formulación. Una oración interrogativa como «¿Me cambias la fecha?» puede ser una petición de acción. Si el modelo confunde sistemáticamente la forma interrogativa con una solicitud de información, el error admite una explicación pragmática que un promedio general ocultaría. Es útil comparar mensajes directos e indirectos sin alterar su naturalidad. Los ejemplos construidos por los investigadores pueden complementar los datos, siempre que se identifiquen como tales y no reemplacen en silencio la muestra de uso real.

Una tercera condición emplea traducciones revisadas de los mensajes. Si el modelo mejora mucho con ellas, caben varias explicaciones, ya que la traducción podría simplificar el registro, eliminar ambigüedades o acercar las expresiones al dominio de entrenamiento. Antes de atribuir la diferencia a una mayor dificultad de la lengua original se examinan pares concretos. Ese examen permite identificar qué propiedades cambiaron y formular una hipótesis posterior, por ejemplo sobre la mitigación, la variación léxica o las convenciones locales de solicitud.

Con errores interpretables y materiales bien documentados, un experimento acotado puede producir conocimiento más útil que una afirmación amplia sostenida solo por una puntuación agregada. Su informe distingue entre alcance y límites. Puede afirmar que, en esa tarea y con esa muestra, cierta adaptación mejoró la identificación de peticiones indirectas, pero no puede extender sin más el resultado a toda la comprensión de la lengua ni a cualquier comunidad que la use. Tiene que reconocer igualmente si el número de participantes es pequeño o si ciertas variedades quedaron sin representar.

Criterios para una afirmación multilingüe responsable

Una descripción responsable de un modelo debería indicar qué lenguas y variedades se evaluaron, qué tareas se realizaron, qué datos se utilizaron y dónde quedan incertidumbres. Con esa información puede distinguirse una capacidad demostrada de una expectativa razonable o de una posibilidad todavía no estudiada, sin que una etiqueta amplia de cobertura ocupe el lugar de la evidencia necesaria para una aplicación concreta. La documentación debería actualizarse cuando cambian los datos, el modelo o las condiciones de uso. Las diferencias en los resultados deben interpretarse antes de clasificarse. Detrás de un error puede haber un fallo de recuperación o de traducción, un desconocimiento del dominio, un formato de instrucción inadecuado o un mal manejo del registro. Identificar el origen orienta intervenciones más precisas. Cuando faltan los documentos que responden a la consulta, ningún ajuste del estilo de respuesta resolverá el problema. Del mismo modo, si la evidencia es adecuada pero se pierde una distinción pragmática, ampliar indiscriminadamente el corpus puede dejar intacta la dificultad central.

La transferencia entre lenguas permite aprovechar aprendizajes compartidos sin construir cada sistema desde cero. Resulta más útil cuando se combina con una evaluación situada y con la participación en las decisiones sobre datos y objetivos. Un producto se juzga por las formas de comprensión, expresión y acceso que habilita para personas concretas antes que por el número de lenguas que enumera. Desde esa perspectiva, el multilingüismo vincula directamente la arquitectura computacional con la diversidad social del lenguaje.

Referencias

Conneau, A., et al. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL. https://aclanthology.org/2020.acl-main.747/

Joshi, P., Santy, S., Budhiraja, A., Bali, K., y Choudhury, M. (2020). The State and Fate of Linguistic Diversity and Inclusion in the NLP World. Proceedings of ACL. https://aclanthology.org/2020.acl-main.560/

Nekoto, W., et al. (2020). Participatory Research for Low-resourced Machine Translation: A Case Study in African Languages. Findings of EMNLP. https://aclanthology.org/2020.findings-emnlp.195/

Pires, T., Schlinger, E., y Garrette, D. (2019). How Multilingual is Multilingual BERT? Proceedings of ACL. https://aclanthology.org/P19-1493/

Xue, L., et al. (2021). mT5: A Massively Multilingual Pre-trained Text-to-Text Transformer. Proceedings of NAACL. https://aclanthology.org/2021.naacl-main.41/

REVISIÓN CIENTÍFICA DOCUMENTADA

Modelos multilingües: inequidad de tokenización y variación interna

Actualización académica ·

La cobertura multilingüe no demuestra equivalencia de precio ni de rendimiento. Dos estudios comparan el coste de fragmentar texto en tokens y diferencias de precisión entre variedades regionales, destacando las condiciones de tarea y plataforma.

Un mismo contenido puede exigir costos de tokenización muy diferentes

Evidencia: Ahia y colaboradores (2023) compararon tokenizadores empleados en modelos comerciales con textos de diversas lenguas. Algunos idiomas requerían varios múltiplos de tokens para representar información equivalente, lo que podía elevar el costo y reducir los ejemplos que caben en contexto.

Limitaciones: Las cifras dependen de proveedor, tokenizador, grafía, traducción, periodo y modelo concreto. No se pueden presentar como tarifas actuales universales ni como un índice completo de equidad lingüística.

Implicaciones: Desagregar para cada idioma tokens, costo efectivo, capacidad contextual y calidad de la respuesta, en lugar de presentar cobertura de lenguas como sinónimo de servicio equivalente.

Pregunta de contraste

Si dos usuarios solicitan información comparable y uno necesita cuatro veces más tokens, ¿qué medidas adicionales permitirían estimar las diferencias de acceso y utilidad?

Fuente vinculada: Ahia, O., Kumar, S., Gonen, H. y colaboradores

Las variedades regionales muestran disparidades que promedios por idioma ocultan

Evidencia: Tang y colaboradores (2025) compararon la predicción de puntuaciones de reseñas hoteleras de Taiwán y China continental emparejadas contextualmente. Varios modelos mostraron diferencias de error y exactitud entre las variedades y condiciones de presentación.

Limitaciones: La investigación se restringe a reseñas, una plataforma y variedades inferidas parcialmente por región; no controla todas las diferencias de escritura, mezcla de códigos y familiaridad temática.

Implicaciones: Exigir resultados separados por variedad, género y formato, utilizando pares comparables antes de interpretar una puntuación global de competencia multilingüe.

Pregunta de contraste

Si la puntuación media para mandarín parece alta, ¿qué evaluación emparejada permitiría identificar una desigualdad específica entre dos variedades?

Fuente vinculada: Tang, Z., Huang, C.-Y., Li, T.-C. y colaboradores

Publicaciones científicas y DOI (2)

Cada referencia se relaciona con uno de los dos problemas examinados. Sus hallazgos se interpretan de acuerdo con el diseño y la población del estudio.

  1. Ahia, O., Kumar, S., Gonen, H. y colaboradores (2023). Do All Languages Cost the Same? Tokenization in the Era of Commercial Language Models. Proceedings of EMNLP.

    DOI 10.18653/v1/2023.emnlp-main.614 · Publicación académica contrastada · Fuente complementaria incorporada · Texto completo examinado

    Las cifras dependen de proveedor, tokenizador, grafía, traducción, periodo y modelo concreto. No se pueden presentar como tarifas actuales universales ni como un índice completo de equidad lingüística.

  2. Tang, Z., Huang, C.-Y., Li, T.-C. y colaboradores (2025). Using Contextually Aligned Online Reviews to Measure LLMs’ Performance Disparities Across Language Varieties. Proceedings of NAACL.

    DOI 10.18653/v1/2025.naacl-short.29 · Publicación académica contrastada · Fuente complementaria incorporada · Texto completo examinado

    La investigación se restringe a reseñas, una plataforma y variedades inferidas parcialmente por región; no controla todas las diferencias de escritura, mezcla de códigos y familiaridad temática.

Alcance: dos cuestiones científicas contrastadas, una búsqueda temática independiente, dos DOI verificados y 2 textos completos examinados; el manuscrito original se conserva íntegro.

REFERENCIA DE LA EDICIÓN WEB

Citar esta lectura

Modelos multilingües y transferencia entre lenguas. (2026). Lingüística y Semiótica. https://linguisticaysemiotica.org/temas/modelos-multilingues-y-transferencia-entre-lenguas

Referencia encabezada por el título: la dirección editorial del proyecto no se presenta como autoría individual de cada texto. Consulta los criterios de citación y el registro de cambios.

Publicación web: .

CONTINUAR EXPLORANDO

Buscar lecturas y conceptos

Títulos, conceptos y secciones · las tildes no cambian los resultados.