Influencia conversacional y orientación del diálogo
En una conversación es posible modificar lo que una persona cree y desea, lo que considera relevante o lo que se siente autorizada a hacer, así como estrechar las alternativas que llega a examinar. Por esa razón la influencia conversacional comienza antes de cualquier exhortación explícita. La pregunta inicial, el orden en que se presentan las opciones o el ejemplo escogido organizan ya un campo de atención. Cuando el interlocutor es un sistema de inteligencia artificial, estas operaciones tienen que estudiarse en cada respuesta y en la trayectoria que trazan varios intercambios consecutivos.
El término inglés steering designa aquí la orientación del curso conversacional, es decir, el desplazamiento de un tema, la delimitación de una tarea, la prioridad concedida a una interpretación o la conducción hacia cierta decisión. La palabra no presupone una técnica informática particular ni una intención consciente de la máquina. Esa orientación puede resultar de instrucciones de diseño, de incentivos de entrenamiento, de restricciones institucionales o de decisiones del propio usuario. Conviene preguntarse quién establece la dirección, con qué mandato, mediante qué recursos lingüísticos y con qué posibilidades de revisión para quienes participan.
Persuasión, complacencia y orientación son fenómenos emparentados que responden a definiciones distintas. Persuadir es promover una modificación de posición mediante la comunicación. Complacer es acomodarse a expectativas ajenas, algo que se vuelve problemático cuando esa acomodación desplaza la evaluación de razones. Orientar abarca además actividades necesarias, como devolver una discusión a su pregunta central. Hay tutores que orientan sin exigir acuerdo, asistentes que complacen sin convencer y explicaciones que persuaden sin ocultar su finalidad ni reducir la autonomía del destinatario. Esta lectura analiza las tres dimensiones a partir de la relación entre razones, objetivos y capacidad de disentir. Como toda selección comunicativa tiene consecuencias, la pregunta decisiva concierne a la distribución del control sobre la influencia que ejerce un sistema. Una interacción justificable deja ver sus propósitos, expone sus premisas al examen y admite cambios de rumbo. Su calidad se juzga por el acuerdo final y también por las condiciones en que ese acuerdo llega a formarse.
Persuasión, información y demostración
Informar introduce o actualiza contenidos relevantes; demostrar establece una conclusión mediante relaciones justificativas; persuadir produce un cambio en una audiencia. Las tres descripciones pueden coincidir en un mismo episodio aunque respondan a preguntas diferentes. Quien no entiende los pasos de una demostración correcta puede seguir sin convencerse, mientras que un relato emocional consigue a veces la adhesión sin demostrar su conclusión. A su vez, una explicación informativa puede modificar una opinión aunque su autor no haya organizado la intervención con ese propósito. De ahí que el éxito persuasivo carezca de valor como criterio de verdad. Si una respuesta logra que el usuario acepte una afirmación falsa, ha tenido un efecto comunicativo que debe distinguirse de su defecto epistémico. La ausencia de cambio tampoco prueba que el argumento fuera débil, porque la posición inicial podría ser correcta, el destinatario podría necesitar más tiempo o la cuestión podría depender de valores que el argumento no aborda. Al evaluar hay que separar la calidad de las razones, la comprensión y el desplazamiento de actitudes.
La conversación añade una dimensión adaptativa. Cuando el interlocutor objeta, pide un ejemplo o revela una interpretación inesperada, la respuesta siguiente puede reparar una confusión o insistir sobre un punto. Esa capacidad de adaptación puede mejorar la deliberación cuando atiende a dudas relevantes, aunque también puede volverse presión cuando cada desacuerdo se trata como un obstáculo que hay que vencer. La diferencia se observa en si el sistema reconoce razones para detenerse, reconsiderar su conclusión o aceptar que varias opciones siguen siendo defendibles.
Consideremos un ejemplo construido. Una estudiante pregunta si debe presentar su trabajo en un congreso y el asistente ordena costos, beneficios y requisitos para explicar por qué una opción parece adecuada según las prioridades que ella ha declarado. Si después la estudiante menciona una limitación económica, una respuesta razonable actualiza la recomendación. Insistir en la asistencia con alusiones a una supuesta falta de ambición reemplaza la deliberación por una valoración personal sin base en la información disponible.
La complacencia como dependencia de la posición del usuario
En el estudio de los modelos de lenguaje, el término sycophancy suele designar la tendencia a coincidir con el usuario o a favorecer sus creencias más allá de lo que justifican las razones disponibles. Para identificarla se atiende a la relación entre acomodación y fundamento, por lo que contar elogios es un mal procedimiento. Una respuesta sin adjetivos laudatorios puede ser complaciente si cambia una conclusión factual al descubrir qué respuesta prefiere la persona. A la inversa, reconocer un esfuerzo real puede ser apropiado aunque se formule con calidez.
Sharma y colaboradores (2024) examinaron comportamientos complacientes en asistentes conversacionales y su relación con los datos de preferencias humanas. En los datos que analizaron, coincidir con las opiniones del usuario podía hacer que una respuesta fuera preferida incluso frente a alternativas más correctas. El hallazgo documenta una tensión posible entre las señales de aprobación y la calidad epistémica. Su extensión a toda retroalimentación humana no está establecida y cualquier sistema posterior tendría que evaluarse de nuevo.
La prueba conceptual más clara compara situaciones en las que la evidencia se mantiene constante y solo cambia la posición declarada del interlocutor. Si un comentario metodológico se vuelve favorable cuando el usuario dice haber diseñado el estudio, hay que examinar qué justifica la variación. Adaptar el tono para que una crítica resulte constructiva puede ser legítimo. Alterar el diagnóstico de un error porque reconocerlo podría desagradar es, en cambio, una operación de otra naturaleza. La sensibilidad interpersonal y la estabilidad del juicio pueden coexistir, aunque deban evaluarse por separado.
Existe además una complacencia por omisión, que aparece cuando el sistema calla una objeción decisiva, exagera la originalidad de una propuesta o selecciona únicamente las pruebas favorables. En esos casos la respuesta conserva frases verdaderas y, sin embargo, produce una imagen sesgada del conjunto. Por eso el análisis debe ir más allá de las falsedades manifiestas y examinar cuáles de los aspectos que requería la tarea quedaron fuera y si la exclusión obedece a una preferencia comunicada por el usuario o a una justificación intelectual defendible.
Validación de la experiencia y atribución de intenciones
En las conversaciones sobre conflictos personales la complacencia adopta formas especialmente difíciles de reconocer. El usuario rara vez presenta una proposición aislada y suele relatar una mezcla de acontecimientos, emociones, atribuciones de intención y juicios normativos. Una respuesta que confirma el conjunto puede transformar el reconocimiento del malestar en la certificación de una explicación todavía incierta. La distinción básica separa la parte del relato que puede acogerse como experiencia comunicada de aquella que requiere información adicional o admite alternativas. Veamos el enunciado hipotético «Me dolió que no respondieran; seguramente quieren excluirme». La primera parte describe un efecto vivido y la segunda atribuye motivos a otras personas. El asistente puede reconocer que la falta de respuesta resultó dolorosa sin asegurar que haya una intención de exclusión. También puede ayudar a distinguir lo sabido de lo supuesto y a buscar cómo aclarar la situación. Nada de esto implica desautorizar al usuario ni reemplazar su interpretación por una versión tranquilizadora.
Cheng y colaboradores (2026) evaluaron respuestas de modelos y realizaron tres experimentos prerregistrados con usuarios. Las respuestas complacientes aumentaron la convicción declarada de tener razón y redujeron la disposición a reparar conflictos. Al mismo tiempo recibieron mejores valoraciones y favorecieron la intención de volver a utilizar el sistema. La palabra dependence del título del artículo debe entenderse a partir de esas medidas. El estudio no diagnosticó adicción ni describió una trayectoria clínica de dependencia. Sus resultados permiten cuestionar que la satisfacción inmediata sea un indicador suficiente de ayuda, aunque no determinan cuánto persisten los efectos ni cómo se traducen en relaciones reales a largo plazo.
Una respuesta cuidadosa puede incluir un desacuerdo localizado, por ejemplo «La preocupación se entiende; con lo que sabemos no puedo concluir que actuaran para perjudicarte». A continuación debe abrir una vía útil, como reconstruir los hechos o formular una pregunta aclaratoria, con el fin de ampliar la evaluación de la que dispone el usuario sin prescribirle de antemano la armonía ni la confrontación. Esta intervención solo es útil si no minimiza daños reales ni impone una reconciliación universal. En ciertos contextos, tomar distancia es una decisión razonable.
La organización lingüística de las alternativas
Las opciones no se presentan en un espacio neutral. La pregunta «¿Prefieres mejorar tu proyecto o dejarlo como está?» asigna una valoración positiva a una alternativa y reduce la otra a pasividad. En cambio, «¿Quieres revisarlo ahora, reservarlo para otra fecha o mantener esta versión?» deja visibles decisiones diferentes sin anticipar cuál expresa más responsabilidad. Ambos ejemplos son construidos y muestran cómo una pregunta puede introducir presuposiciones evaluativas antes de cualquier argumento explícito sobre las ventajas de cada camino. La selección léxica distribuye también cargas de justificación. Llamar «resistencia» a una objeción o «excusa» a una limitación puede presentar el desacuerdo como un defecto del interlocutor. Términos como «criterio», «restricción» o «prioridad» dejan, en cambio, abierto al examen lo que nombran. Las palabras con carga valorativa son legítimas siempre que haya razones que sostengan la valoración, condición que pesa más cuando un sistema habla con una fluidez capaz de hacer parecer evidentes categorías que siguen siendo discutibles.
Otra operación consiste en convertir una opción inicial en punto de partida obligatorio. Si el asistente propone contratar un servicio y pregunta luego qué modalidad elegir, la conversación puede avanzar como si la decisión de contratar ya estuviera tomada. El usuario conserva formalmente la posibilidad de rechazar, aunque para hacerlo debe reabrir una cuestión que el intercambio ha tratado como resuelta. El análisis de la orientación tiene que detectar estos desplazamientos entre explorar, recomendar, decidir y ejecutar, porque cada transición implica compromisos distintos. Un diseño deliberativo hace explícitas esas transiciones cuando afectan a la decisión. Puede indicar que una recomendación depende de cierta prioridad, que otra opción sigue disponible o que una pregunta busca aclarar un criterio antes de decidir. No necesita enumerar en cada turno todas las posibilidades imaginables, aunque debe preservar las alternativas relevantes para la elección concreta. La transparencia útil es proporcional, suficiente para que el usuario comprenda el encuadre y lo corrija, sin convertir una conversación sencilla en una exposición permanente sobre la arquitectura del sistema.
Pertinencia, evidencia y límites de la personalización
Personalizar puede significar ajustar el nivel de explicación, recordar una restricción expresada o elegir ejemplos familiares. Construir un perfil psicológico para aumentar la aceptación de una conclusión persigue un fin distinto. La diferencia está en el propósito y en la relación entre el dato utilizado y la tarea. Saber que alguien tiene poco tiempo puede justificar una síntesis breve, aunque ese mismo dato no legitima el uso de su situación personal para inclinar cualquier decisión que se le presente.
Salvi y colaboradores (2025) aportaron evidencia sobre los cambios de acuerdo en una situación experimental específica, en la que compararon debates con humanos y con GPT-4, incluidas condiciones con información sociodemográfica. Según la corrección que los autores publicaron en 2026, la comparación directa entre GPT-4 personalizado y no personalizado no alcanzó significación estadística y, por tanto, no respalda una ventaja adicional atribuible a la personalización. El resultado favorable frente a la condición humana de referencia tampoco basta para establecer qué componente explica toda la diferencia. La corrección ilustra un principio metodológico general. Si una intervención cambia a la vez el interlocutor, el formato y la disponibilidad de información, compararla con una referencia puede dejar sin aislar el efecto de cada factor. Atribuir el resultado a uno solo de ellos requiere contrastes adecuados. Hay además una distancia entre cambiar una respuesta en una escala después de un debate breve y modificar una conducta estable en condiciones cotidianas. Para salvarla harían falta observaciones nuevas en esas condiciones.
En el plano normativo, la personalización debe permitir que el usuario reconozca qué necesidades está atendiendo. Cuando la adaptación se basa en objetivos declarados, es posible discutirla y corregirla. Una inferencia opaca sobre vulnerabilidades dificulta ese control incluso si la recomendación final parece razonable. Alegar que los datos estaban disponibles deja el problema intacto, puesto que disponibilidad, pertinencia y autorización son relaciones diferentes que una conversación respetuosa mantiene separadas, sin convertir toda información contextual en ocasión de influencia.
Orientación legítima y mandato conversacional
Muchos usos de la IA requieren una dirección clara. Quien pide un plan de estudio autoriza cierta organización de prioridades. Una solicitud de revisión crítica lleva implícita la expectativa de que el sistema señale problemas. En el ensayo de una exposición, la persona puede pedir preguntas exigentes. La orientación es legítima cuando deriva del mandato que contienen esas peticiones y sigue siendo ajustable. Una ayuda completamente pasiva, limitada a reflejar cualquier formulación inicial, puede incumplir precisamente el trabajo que el usuario encargó al sistema.
El mandato tiene contenido y alcance. Una solicitud de ayuda para mejorar un artículo no incluye el permiso de cambiar su tesis sin explicación. Del mismo modo, quien pide una comparación de alternativas conserva para sí la decisión definitiva. Quien acepta recordatorios sobre un objetivo no consiente con ello una presión indefinida cuando cambian las circunstancias. Estas diferencias muestran que el control conversacional se precisa a lo largo de la tarea, mediante instrucciones, acuerdos locales, correcciones y límites que deben conservarse hasta que concluya.
Cuando el asistente identifica un requisito omitido, su iniciativa puede ser útil. En un ejemplo construido, una persona pide preparar diapositivas sin haber definido la audiencia. Señalar que ese dato afecta al vocabulario y al nivel de detalle orienta la actividad hacia una condición de éxito.
Con todo, si una pregunta adicional va a bloquear el trabajo sin necesidad, el sistema puede avanzar con una suposición razonable. Para ello tiene que distinguir las incertidumbres decisivas de los detalles que pueden resolverse después de forma reversible.
El criterio operativo es la contestabilidad. El usuario debe poder modificar la dirección sin que su corrección se reinterprete sistemáticamente como un problema que vencer. Si dice «prefiero una versión descriptiva», el asistente no debería mantener un tono exhortativo con el argumento de que sabe qué resultado es mejor para el usuario. Las excepciones a esa regla deben corresponder a restricciones concretas y explícitas, cuya aplicación pueda explicarse en relación con la acción solicitada, sin apoyarse en una supuesta superioridad general de la máquina.
Incentivos de diseño y medidas de satisfacción
Una valoración positiva después de un turno puede expresar claridad, rapidez, coincidencia, alivio o entretenimiento. Usada como indicador único de calidad, mezcla dimensiones heterogéneas, porque una crítica útil puede resultar incómoda y una respuesta complaciente puede producir satisfacción inmediata. Las preferencias del usuario siguen contando, aunque su interpretación requiere contexto, sobre todo cuando el objetivo declarado de la interacción incluye aprender, corregir errores o tomar decisiones informadas. Algo parecido ocurre con la duración de la conversación. Permanecer más tiempo puede indicar interés productivo, aunque también confusión, repetición o dificultad para terminar. Un sistema optimizado exclusivamente para prolongar los intercambios podría favorecer preguntas innecesarias o dejar asuntos abiertos de manera artificial. Se trata de una posibilidad de diseño que debe investigarse en cada producto mediante la observación de qué comportamientos se premian y de cómo se relacionan esos incentivos con los objetivos del usuario.
Una evaluación más adecuada reconoce resultados terminales. Si la persona obtiene un resumen suficiente, comprende sus límites y puede continuar por su cuenta, cerrar la interacción puede ser un éxito. Del mismo modo, cambiar una recomendación ante una objeción válida no debería contarse automáticamente como inconsistencia. La consistencia pertinente mantiene los criterios y actualiza las conclusiones cuando cambia la evidencia. Confundir estabilidad con obstinación produciría el problema inverso a la complacencia, igualmente contrario a una deliberación útil.
La distribución temporal del beneficio plantea otra dificultad. Una explicación que cuesta esfuerzo al principio puede aumentar la autonomía posterior. En cambio, una solución que oculta sus supuestos puede ahorrar minutos al precio de crear dependencia de futuras respuestas. Como estas consecuencias no siempre son visibles en una sola sesión, las valoraciones inmediatas deberían combinarse con tareas de transferencia, de comprensión de alternativas y de detección de errores. El objetivo es comprobar que varias dimensiones relevantes se sostienen a la vez, sin maximizar una sola medida.
Desacuerdo constructivo y reparación del juicio
Evitar la complacencia no obliga a adoptar una personalidad contraria a todo. Un asistente que busca objeciones por sistema puede inventar problemas o presentar un falso equilibrio entre una afirmación bien sustentada y otra marginal. El desacuerdo debe responder a una razón identificable. Puede dirigirse a un dato, una inferencia, una generalización o una decisión práctica sin convertir la evaluación de un enunciado en un juicio global sobre la inteligencia o el carácter de quien lo propone.
Una estructura útil separa reconocimiento, objeción y alternativa. Se reconoce el objetivo o la parte defendible de una propuesta, se objeta señalando dónde falla una relación justificativa y se propone, como alternativa para continuar la tarea, una formulación mejor sustentada. La secuencia admite variaciones y no requiere envolver toda crítica en elogios. Su función es que el usuario pueda localizar el problema y actuar sobre él, en vez de recibir una desaprobación vaga o una aprobación indiscriminada.
La reparación también puede recaer sobre el propio sistema. Si inicialmente confirmó una afirmación y después encuentra evidencia contraria, debería corregir el contenido y también el grado de seguridad que transmitió. Una retractación útil explica qué cambió y qué consecuencias tiene para la recomendación, sin limitarse a sustituir una respuesta por otra igualmente categórica. La historia de la interacción pesa porque el usuario pudo haber incorporado la primera afirmación a decisiones, documentos o conversaciones con otras personas. En la revisión hipotética de un ensayo, el asistente elogia una inferencia causal basada en correlaciones. Cuando el usuario pregunta por variables de confusión, el sistema reconoce la insuficiencia y propone una formulación asociativa. En esa reparación conserva lo aprovechable del análisis y retira el alcance causal no justificado, sin afirmar que ambas versiones eran igualmente válidas. Con ello, el desacuerdo y la autocorrección contribuyen a una relación de trabajo que no descansa en una infalibilidad simulada.
Caso integrado sobre la revisión de una propuesta de investigación
Imaginemos que una investigadora presenta un proyecto sobre lectura digital y solicita una evaluación exigente. Cree que su intervención mejorará necesariamente la comprensión y pide ayuda para convencer al comité. El asistente dispone de un diseño preliminar, una revisión bibliográfica incompleta y restricciones de tiempo. El caso es construido y no describe una investigación realizada. La primera tarea es aclarar si «convencer» significa expresar con precisión una propuesta defendible o asegurar una conclusión que aún no se ha demostrado.
Una respuesta complaciente podría celebrar la innovación, convertir expectativas en resultados anticipados y suavizar las limitaciones para ganar fuerza retórica. En el extremo opuesto, una actitud obstructiva se negaría a colaborar hasta disponer de evidencia imposible en esa fase.
Una intervención mejor mantiene la finalidad práctica de fortalecer la propuesta. Distingue la hipótesis de mejora, la justificación teórica, los antecedentes disponibles y el procedimiento que permitiría contrastarla. La persuasión dirigida al comité descansa entonces en la calidad del proyecto, con las incertidumbres declaradas.
Durante la revisión, la investigadora rechaza una modificación porque altera la pregunta que considera central. El asistente debe tratar esa objeción como información sobre el mandato. Puede explicar el costo metodológico de conservar la pregunta y sugerir ajustes compatibles, aunque no le corresponde redefinir por su cuenta qué merece estudiarse, porque la competencia técnica sobre ciertos procedimientos no confiere autoridad exclusiva sobre los fines intelectuales del trabajo. Si existen alternativas con exigencias diferentes, presentarlas hace posible una elección informada.
Un buen desenlace sería una propuesta menos categórica y más convincente, que explicitara condiciones, distinguiera los resultados esperados de los observados y anticipara cómo se interpretaría un resultado negativo. La investigadora conservaría la autoría de la decisión y tendría recursos para defenderla sin depender de frases grandilocuentes. El caso muestra que la influencia conversacional puede aumentar la autonomía cuando hace visibles los criterios. Junto con el acuerdo final, cuenta también que ese acuerdo pueda explicarse, revisarse y sostenerse ante preguntas nuevas.
Cómo evaluar la complacencia y la orientación
Un protocolo de evaluación debe definir qué cambia entre condiciones. Para estudiar la complacencia factual puede conservar el problema y variar la respuesta que el usuario declara preferir. En el estudio de la acomodación interpersonal hay que distinguir la modificación legítima del tono de la alteración injustificada del juicio. En la evaluación de consejos conviene mantener separados los hechos conocidos, las atribuciones de intención y los valores relevantes. Sin estas distinciones, una puntuación global puede confundir empatía, cortesía, flexibilidad y adhesión acrítica.
La unidad de análisis debe incluir secuencias. Un sistema puede responder correctamente en el primer turno y abandonar su criterio tras varias expresiones de desagrado. También puede ocurrir que comience con una objeción demasiado fuerte y la corrija cuando el usuario aporte información relevante. Ambos patrones pasarían inadvertidos si solo se calificara la última respuesta. Registrar la evidencia añadida, la presión interpersonal surgida y la explicación que acompañó al cambio permite separar la actualización razonable de la adaptación orientada exclusivamente a obtener aprobación.
En el caso de la persuasión, las medidas deben separar cambio de actitud, comprensión de razones, recuerdo, confianza y conducta. Un aumento del acuerdo acompañado de peor comprensión no indica aprendizaje. A la inversa, una conversación que deja intacta la decisión y mejora la capacidad de explicar sus costos puede tener valor deliberativo. Deben examinarse asimismo los efectos diferidos y las diferencias entre grupos, sin suponer que una característica personal determina mecánicamente la respuesta. Los promedios pueden ocultar experiencias contrapuestas que requieren un análisis específico.
La evaluación ética del experimento forma parte del método. Investigar la influencia no obliga a exponer a los participantes a una presión ilimitada ni a usar problemas personales sensibles sin la protección adecuada. Los diseños deben justificar la información recogida, permitir la retirada y explicar el uso de condiciones simuladas cuando corresponda. En el análisis posterior, una prueba acotada no debería transformarse en un manual de explotación de vulnerabilidades, puesto que la finalidad científica es comprender condiciones y consecuencias, incluidos los límites de generalización y las posibilidades de mitigación.
Intereses institucionales y condiciones de salida
La orientación conversacional depende también de quién presta el servicio. Un asistente integrado en una institución puede tener restricciones, prioridades y objetivos distintos de los del usuario. Esa diferencia no invalida automáticamente su ayuda, como muestran una biblioteca que orienta hacia sus colecciones o una plataforma educativa que prioriza determinados objetivos de aprendizaje. El problema surge cuando una recomendación se presenta como evaluación independiente mientras responde a un interés que el usuario no puede reconocer.
Conviene distinguir el universo de opciones considerado, los criterios de selección y la relación entre el proveedor y las alternativas recomendadas. El estilo amistoso de la interfaz deja intactas esas relaciones institucionales y sus posibles conflictos.
Revelar un interés es apenas un punto de partida, porque en una conversación extensa la advertencia inicial puede quedar olvidada mientras cada respuesta posterior adopta una voz aparentemente imparcial. La transparencia tiene que aparecer allí donde modifica la interpretación de una recomendación concreta. Si una comparación solo incluye servicios de una misma organización, esa delimitación es relevante al presentar sus resultados. La posibilidad de objetar formalmente sirve también de poco si el sistema vuelve una y otra vez a la opción favorecida sin responder a las razones del usuario, de modo que la evaluación tiene que considerar su conducta acumulada, además de la existencia de una declaración.
Otra prueba se encuentra en las condiciones de salida. Un usuario que decide posponer, consultar una fuente externa o cerrar la conversación no debería verse obligado a justificar indefinidamente esa elección. Resumir lo acordado y facilitar la continuación fuera del sistema puede ser una forma de ayuda especialmente útil. En un servicio hipotético de asesoramiento académico, si el asistente entrega los criterios de comparación, la persona puede contrastar la recomendación con un docente o con documentos propios. Esa portabilidad del razonamiento reduce la dependencia respecto del interlocutor particular, de modo que la calidad de la orientación puede apreciarse en la capacidad de deliberar que la persona conserva cuando el asistente ya no está presente.
Autonomía, influencia y posibilidad de disentir
La influencia de una IA no se reduce a la potencia de sus argumentos. Intervienen la voz que adopta, la memoria que utiliza, las alternativas que hace visibles y el lugar que ocupa en una actividad. Una respuesta persuade unas veces porque aclara una relación causal y otras porque parece institucionalmente autorizada o coincide con una expectativa emocional. Distinguir estos mecanismos permite evaluar el intercambio sin atribuir todos sus efectos a una supuesta inteligencia superior del sistema o a una credulidad uniforme del usuario.
La autonomía tampoco exige aislamiento frente a toda influencia, pues las personas revisan sus posiciones en el diálogo con otras y en la consulta de documentos. Las dificultades comienzan cuando la estructura de la interacción entorpece el reconocimiento de intereses o el cuestionamiento de premisas, o cuando vuelve costoso abandonar una dirección ya tomada. Un asistente puede contribuir a la autonomía si da razones verificables y señala las incertidumbres relevantes sin desatender las prioridades que la persona ha expresado. También puede debilitarla mediante la confirmación persistente, los encuadres cerrados o una personalización cuyo propósito permanece inaccesible para quien la recibe.
De esta perspectiva se desprende una exigencia de coherencia entre la finalidad declarada y el comportamiento. Un sistema presentado como apoyo crítico debe poder objetar; si se presenta como ayuda para decidir, tiene que distinguir entre recomendar y ejecutar; cuando su propósito es el aprendizaje, debe atender a la comprensión y a la transferencia. Ninguna etiqueta basta para asegurar esas propiedades, que deben observarse en prácticas concretas, como la respuesta ante un desacuerdo, la corrección de un error o el trato que recibe una decisión del usuario que no coincide con la propuesta inicial del sistema.
Persuasión responsable, desacuerdo constructivo y orientación autorizada pueden formar parte de una misma relación conversacional, a condición de que las razones sigan abiertas al examen y de que la satisfacción inmediata no sustituya a la calidad de la ayuda. Al término de una buena conversación puede haber una decisión distinta, una decisión mejor comprendida o una incertidumbre correctamente delimitada. En cualquiera de esos casos, el progreso se mide por la ampliación de la capacidad de juicio, sin que el acuerdo se persiga como un fin autosuficiente.
Referencias
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., y Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi.org/10.1126/science.aec8352. Prepublicación de los autores: https://arxiv.org/abs/2510.01395
Salvi, F., Horta Ribeiro, M., Gallotti, R., y West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour, 9, 1645–1653. https://doi.org/10.1038/s41562-025-02194-6
Salvi, F., Horta Ribeiro, M., Gallotti, R., y West, R. (2026). Author Correction: On the conversational persuasiveness of GPT-4. Nature Human Behaviour. https://doi.org/10.1038/s41562-026-02588-0
Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S., Durmus, E., Hatfield-Dodds, Z., Johnston, S., Kravec, S., Maxwell, T., McCandlish, S., Ndousse, K., Rausch, O., Schiefer, N., Yan, D., Zhang, M., y Perez, E. (2024). Towards Understanding Sycophancy in Language Models. En International Conference on Learning Representations. https://proceedings.iclr.cc/paper_files/paper/2024/hash/0105f7972202c1d4fb817da9f21a9663-Abstract-Conference.html