Cuando alguien dice que un asistente «decidió», «se equivocó» o «quiere confirmar un dato», describe una secuencia técnica con un vocabulario de agencia. Esa manera de hablar puede ser una abreviatura práctica, una interpretación de la conducta o una afirmación más fuerte sobre capacidades internas. Las consecuencias varían según la lectura que se adopte y cambian también cuando la máquina deja de ser una herramienta ocasional y ocupa una posición estable como redactora, tutora, recepcionista o coordinadora dentro de una actividad.
Elegir entre personificar todo sistema y negar cualquier eficacia a sus intervenciones deja sin resolver la pregunta por la agencia. Una vía más precisa distingue qué hace el sistema, cómo se interpreta lo que hace, qué derechos recibe y quién responde por sus consecuencias. Esta lectura aplica esas distinciones a la ocupación de roles con precisión técnica y atención a los efectos sociales reales, sin tomar la apariencia conversacional como prueba de conciencia ni usar la descripción computacional para borrar decisiones humanas e institucionales.
Descomponer la pregunta por la agencia
El término agencia reúne problemas que pueden separarse analíticamente. Un sistema interviene causalmente cuando su funcionamiento modifica un resultado; presenta capacidad operativa cuando selecciona y ejecuta acciones dentro de un entorno. Recibe una atribución interpretativa si alguien explica su conducta mediante objetivos o intenciones. Ocupa, por último, una posición normativa cuando hay expectativas sobre lo que debe hacer y mecanismos para responder a sus incumplimientos. Estas cuatro dimensiones son instrumentos de análisis que se combinan de maneras variables, sin el orden fijo de una escala universal de desarrollo. Una alarma modifica la conducta de un edificio sin conversar ni elegir entre estrategias. Hay programas capaces de seleccionar una ruta aunque carezcan de autorización para enviar una notificación. También hay personajes virtuales que parecen muy intencionales sin disponer de ninguna herramienta que afecte el exterior. Como las dimensiones no aumentan siempre juntas, medir la agencia con una única puntuación puede ocultar diferencias decisivas entre eficacia, flexibilidad, apariencia y poder institucional.
Queda por fijar la unidad de análisis. ¿Se habla del modelo, del asistente que integra herramientas, de la plataforma o de la organización que lo utiliza? Cuando un modelo produce un plan, su ejecución puede quedar sujeta a permisos, verificaciones y servicios externos. Atribuir todo el resultado a una sola entidad simplifica la explicación y puede volverla engañosa. La unidad pertinente se elige según la pregunta, sea predecir el comportamiento, diagnosticar un fallo, describir la distribución del trabajo o asignar la responsabilidad por una decisión.
El análisis debe detenerse en las diferencias que cambian la comprensión del caso y elegir un nivel suficiente para el problema, sin perder la conexión entre ese nivel y las condiciones que lo hacen posible. Para explicar una respuesta errónea quizá basten la fuente recuperada y el procedimiento de generación. Si se investiga una comunicación enviada sin permiso, habrá que examinar además el encargo y los controles de ejecución.
La atribución intencional como recurso explicativo
Dennett (1987) estudia la postura intencional como una estrategia para comprender y anticipar conductas mediante la atribución de creencias, deseos y racionalidad. Su perspectiva ayuda a distinguir entre la utilidad de una descripción y las preguntas sobre su fundamento. Decir que un programa «busca la ruta más corta» puede facilitar una predicción sin describir literalmente todos sus procesos. El valor de la expresión se juzga por lo que explica y por las diferencias relevantes que deja fuera. En la conversación cotidiana, las abreviaturas agentivas ahorran esfuerzo. «El asistente encontró tres artículos» suele ser más manejable que enumerar cada operación de búsqueda, filtrado y presentación. El problema aparece cuando la abreviatura se usa para inferir capacidades adicionales. Que el sistema haya encontrado los documentos no indica que comprenda su relevancia como la comprendería un investigador, ni que pueda justificar la selección con criterios que no estaban representados en la consulta ni en sus procedimientos.
Una misma atribución resulta a veces útil en una escala e insuficiente en otra. Para coordinar el trabajo, «está revisando las referencias» informa de una actividad en curso. Para auditar un error se necesita saber qué archivos se abrieron, qué coincidencias se aceptaron y qué verificaciones se omitieron. Pasar de una descripción a otra no supone descubrir que la primera fuera necesariamente falsa. Cuando aparecen preguntas sobre evidencia, control o consecuencias, la formulación funcional puede requerir una descomposición.
Atribuir intenciones a un sistema es, además, un acto distinto de atribuirle experiencia subjetiva. Los participantes pueden hablar de planes y objetivos sin sostener ninguna teoría sobre la conciencia artificial. Una investigación que trate ambas clases de expresión como equivalentes sobreinterpretará sus datos. Resulta más informativo averiguar qué predicciones hace el usuario a partir de su vocabulario y cómo reacciona cuando el sistema falla. La interpretación práctica se manifiesta en expectativas y decisiones tanto como en las palabras con que se describe el comportamiento observado.
Agencia semiótica y distribución del control
Kockelman (2007) propone estudiar la agencia como una capacidad social y semiótica multidimensional, graduada y distribuida, que vincula significado, conocimiento, poder y responsabilidad. Aplicado a sistemas que producen signos dentro de actividades colectivas, el enfoque lleva la pregunta más allá de quién emite una frase, hacia quién controla su formulación, qué relaciones representa y qué consecuencias puede tener su interpretación.
Consideremos un asistente que elige palabras dentro de un marco que otros definieron. La institución fija el objetivo, una persona aporta los documentos, el sistema construye una respuesta y un destinatario la interpreta y actúa en consecuencia. Son contribuciones de naturaleza distinta. El reparto entre varios participantes no borra las diferencias de poder, ya que quien decide el procedimiento puede tener mayor capacidad de modificar la actividad que quien corrige una frase al final. Una descripción de la red de contribuciones tiene que conservar esas asimetrías, entre ellas la distancia entre controlar la expresión de un mensaje y controlar su circulación. Cuando un sistema redacta un mensaje, puede ocurrir que una persona lo modifique, lo firme y lo publique, o que la configuración autorice su envío automático. Aunque el texto generado sea parecido, la ocupación del rol cambia porque cambian los puntos de revisión y los compromisos adquiridos. Para analizar la agencia hay que seguir el signo a través de esas transformaciones y registrar el momento en que una propuesta pasa a ser un documento operativo para otras personas.
La interpretación final introduce otra fuente de efectos. Es posible que un usuario tome una sugerencia por una instrucción, o una respuesta provisional por una resolución institucional. El sistema no controla por completo esa lectura, aunque su formulación y su ubicación pueden favorecerla. La responsabilidad de diseño alcanza a las interpretaciones previsibles, más allá de lo que los desarrolladores quisieron comunicar. Los signos funcionan dentro de prácticas y su eficacia depende de convenciones que la arquitectura técnica no reemplaza por sí sola.
Qué es un rol en una actividad
Un rol puede describirse como una posición reconocible que organiza tareas, expectativas, derechos y obligaciones. Su nombre es apenas un indicio. Llamar «tutor» a un chatbot dice poco sobre si realiza seguimiento pedagógico, adapta sus explicaciones o detecta los límites de su competencia. El análisis debe identificar qué conductas se esperan y qué ocurre cuando no aparecen. En la práctica, un rol existe cuando los demás orientan su participación hacia esa posición y cuando las intervenciones de quien la ocupa tienen consecuencias dentro de la actividad compartida.
Los roles pueden ser temporales o duraderos. En un ejercicio, el asistente puede hacer de entrevistador según un guion, lo que pide un encuadre local. En una institución puede recibir de forma estable las solicitudes y repartirlas entre áreas, una función que requiere además procedimientos de continuidad, acceso y revisión. Llamar igual a ambos casos puede ocultar la diferencia entre una simulación didáctica y una función organizativa que afecta a usuarios reales.
Tampoco existe una competencia general para un rol. Un asistente que ayuda a practicar vocabulario quizá carezca de recursos para evaluar adecuadamente una dificultad de aprendizaje, del mismo modo que el que resume una reunión no adquiere por ello el derecho a cerrar la discusión. Cada posición reúne componentes que el análisis debería separar. La pregunta de si un sistema «puede ser tutor» resulta demasiado amplia mientras no se especifiquen tareas, destinatarios, condiciones de uso y mecanismos de supervisión. La evaluación mejora cuando la etiqueta se traduce en un conjunto de actuaciones observables.
Los roles, por último, pueden ser impugnados. Cuando un participante rechaza que el asistente arbitre una discusión o corrige una atribución de autoridad, su resistencia forma parte del fenómeno estudiado y sería un error descartarla como obstáculo externo. La ocupación de una posición depende del reconocimiento y de la negociación aunque exista una asignación formal. Analizar quién puede cuestionar el rol y qué efectos tiene su objeción hace visible la distribución real del poder en la actividad.
Voz, formulación y compromiso
Goffman (1979) distingue tres dimensiones del formato de producción que suelen reunirse bajo la palabra hablante, a saber, quien anima la expresión, quien formula sus palabras y la posición cuyo compromiso se representa. La distinción aclara situaciones en que una persona lee un texto ajeno o habla en nombre de una institución. Aplicada a los sistemas conversacionales, lleva a preguntar quién produce la señal, quién organiza la formulación y a quién se atribuye el contenido que llega al destinatario. Un sintetizador que da voz a un texto aprobado por una persona, un modelo que redacta un borrador que una organización revisa antes de adoptarlo y una interfaz que genera una respuesta sin revisión específica y la presenta bajo el nombre de esa organización no deben tratarse como una misma forma de autoría. La cadena de producción determina qué clase de control existió y qué respaldo cabe inferir de la firma, la voz y el contexto de publicación.
El pronombre «yo» introduce un punto de referencia conversacional que deja sin resolver esa cadena. En «he localizado el archivo» puede referirse al sistema que ejecutó la búsqueda, mientras que en «apruebo tu solicitud» parece representar a una autoridad institucional. La misma forma gramatical cubre compromisos diferentes. Para evaluar si su uso es adecuado hay que reconstruir la acción y el procedimiento que la sostiene. La presencia de la primera persona no prueba agencia moral y su ausencia tampoco elimina las consecuencias institucionales.
La atribución tiene que mantenerse cuando el contenido se transforma. Si un resumen convierte la hipótesis de una participante en un acuerdo del equipo, cambia quién aparece comprometido con la proposición. Un fallo de ese tipo altera la organización de las responsabilidades y sus efectos exceden lo estilístico. Un sistema que ocupa el rol de redactor necesita conservar las diferencias entre cita, paráfrasis, inferencia y decisión. Su intervención semiótica puede ser decisiva incluso cuando carece de herramientas para ejecutar acciones fuera del documento que produce.
Persona conversacional y función operativa
Una persona conversacional es una configuración expresiva compuesta por un nombre, un estilo, unas formas de presentación y unos patrones de respuesta. Puede ayudar a reconocer un servicio o a sostener una ficción, aunque no define ella sola las capacidades del sistema. El tono de profesor es compatible con la falta de competencia pedagógica, como la voz de asistente lo es con la falta de acceso al calendario. La evaluación tiene que separar lo que la interfaz representa, lo que puede realizar y lo que está autorizada a realizar en el contexto concreto.
La consistencia de la persona conversacional puede mejorar la previsibilidad y también crear expectativas excesivas. Cuando un sistema se presenta siempre como experto, el usuario puede transferir la confianza entre dominios que requieren conocimientos y procedimientos distintos. Una representación más precisa deja ver los cambios de tarea y los límites de cada dominio. El sistema no tiene que adoptar una identidad nueva ante cada consulta, aunque debe evitar que la continuidad del estilo se tome como evidencia de la competencia que requiere cada situación.
Los papeles ficticios plantean un problema diferente. En una simulación, el usuario puede pedir un interlocutor difícil, un personaje histórico o un entrevistador imaginario. El desempeño se evalúa entonces respecto del ejercicio y de sus reglas, sin leerlo como afirmación de una identidad real.
Aun dentro de la ficción, los límites del juego siguen siendo relevantes, porque una respuesta que sale del encuadre puede adquirir efectos no previstos. Marcar las transiciones y permitir abandonar el personaje ayuda a conservar la utilidad de la simulación sin confundirla con una autoridad efectiva.
La función operativa, por su parte, puede existir sin una persona conversacional elaborada. Un sistema de clasificación que distribuye solicitudes ocupa una posición relevante en una organización aunque no converse con nadie. A la inversa, un personaje muy expresivo puede carecer de poder para modificar un registro. Estas combinaciones explican por qué la apariencia humana es un indicador insuficiente de agencia práctica. El estudio de los roles tiene que seguir permisos, dependencias y efectos, además de las formas lingüísticas que vuelven visibles o invisibles esas relaciones.
Delegación y autonomía acotada
Delegar consiste en transferir determinadas tareas o decisiones dentro de un marco. Quien encarga la selección de referencias relevantes puede reservarse la decisión de incorporarlas al texto. Del mismo modo, quien autoriza correcciones ortográficas puede excluir los cambios argumentativos. La autonomía del asistente se define respecto de ese encargo y no como una propiedad absoluta. Un sistema tiene más margen cuando puede elegir los medios dentro de límites claros, pero ese margen excluye alterar los fines o ampliar por cuenta propia su ámbito de actuación. Hay delegaciones explícitas y otras que se apoyan en convenciones de la actividad. Pedir que se organice una bibliografía presupone operaciones rutinarias que no requieren una consulta para cada una. La convención tiene límites. Eliminar referencias porque parecen poco prestigiosas introduce un criterio sustantivo que quizá nadie autorizó. Ejecutar bien requiere interpretar el encargo y detectar los cambios de alcance. Consultar tiene sentido cuando resuelve una diferencia material, sin convertirse en un ritual que interrumpa cada decisión reversible y ordinaria.
La autonomía técnica depende también de los recursos disponibles. Un agente con capacidad para elaborar un plan completo quizá carezca de credenciales para ejecutarlo; otro puede disponer de herramientas amplias y necesitar restricciones para utilizarlas adecuadamente. La capacidad de planificar y los permisos son partes del mismo problema y deben evaluarse en conjunto. Conviene describir qué información recibe el sistema, qué acciones puede proponer, cuáles puede ejecutar y qué señales permiten comprobar el resultado antes de continuar con los pasos que dependen de él.
Una delegación bien organizada conserva la posibilidad de intervenir. Revisar una propuesta, detener un proceso o modificar una preferencia sin destruir el trabajo previo exige estados comprensibles y resultados parciales identificables. Con una autonomía acotada, el asistente ejecuta con iniciativa dentro del mandato, no oculta sus procedimientos tras una promesa de eficiencia y mantiene puntos de control proporcionados a la incertidumbre, la reversibilidad y las consecuencias de cada acción.
Capacidad, permiso y legitimidad
Tres preguntas deben mantenerse separadas. Se trata de saber si el sistema puede realizar una acción, si tiene permiso para hacerlo y si el procedimiento que autoriza la acción es legítimo en la actividad. Un asistente podría ser técnicamente capaz de cambiar una calificación y haber recibido acceso por un error administrativo. Ninguno de esos hechos haría de la modificación, sin más, una decisión académica válida dentro del procedimiento correspondiente.
Cuando una acción afecta a varias personas, la aceptación de una sola de ellas es insuficiente para legitimarla. En un equipo, alguien puede pedir al asistente que resuma una discusión y no estar necesariamente facultado para autorizar su publicación en un espacio abierto. El análisis debe identificar las reglas de la actividad, a los titulares de la información y a los destinatarios para reconocer cuándo una acción cambia las condiciones de participación o de exposición de personas ausentes. Las interacciones sin ese efecto no necesitan trámites adicionales.
A veces un rol recibe reconocimiento práctico sin reconocimiento formal. Los miembros de un grupo quizá consultan siempre al asistente antes de decidir, aunque ninguna norma le atribuya poder. Esa influencia es relevante porque modifica la deliberación. A la inversa, una institución puede asignarle una función que los usuarios evitan por falta de confianza. El estudio de la ocupación real de un rol obliga a atender tanto a las designaciones oficiales como a las prácticas efectivas, ya que el organigrama y la conversación pueden describir distribuciones de autoridad que en el trabajo cotidiano coinciden solo en parte.
La evaluación debe examinar también quién puede revocar la delegación. Un rol cuya autoridad no admite discusión ocupa una posición distinta de la de otro sujeto a revisión accesible. Poder corregir un dato, pedir una explicación o acudir a una persona responsable forma parte de la configuración del rol y muestra cómo se tramitan los desacuerdos y qué recursos tiene el afectado, aunque no alcance para acreditar que el sistema sea justo o competente.
Responsabilidad y efectos de la personificación
Cuando se personifica al asistente, la atención puede concentrarse en él y dejar ocultas decisiones de diseño u organización. «La IA rechazó la propuesta» deja sin especificar quién eligió los criterios, quién configuró el procedimiento y quién podía revisar el resultado. La frase quizá valga como abreviatura inicial, pero resulta insuficiente cuando se investiga un perjuicio. En ese caso la explicación tiene que seguir la cadena de intervención y distinguir las contribuciones técnicas de las decisiones humanas sobre el despliegue, la supervisión y el uso del resultado dentro de una institución.
Floridi y Sanders (2004) propusieron separar las cuestiones de agencia moral, responsabilidad y niveles de abstracción para analizar agentes artificiales. Es una posición filosófica discutida, útil aquí porque muestra que llamar agente a un sistema no resuelve todas las preguntas normativas. Puede analizarse la relevancia moral de sus acciones sin concluir que posee las condiciones de responsabilidad de una persona, ni que sus creadores quedan exentos de obligaciones.
La distribución de las contribuciones no debe disolver la responsabilidad. Cuando muchas partes intervienen, hace falta precisar qué control tenía cada una y qué información estaba a su alcance. Un proveedor puede responder por ciertas capacidades del servicio; una organización, por el procedimiento en que lo incorpora; un usuario, por las decisiones que adopta dentro de su ámbito. Las obligaciones concretas varían con el contexto y con las normas aplicables, de modo que su determinación en cada caso corresponde al análisis jurídico.
El lenguaje puede facilitar esa precisión. Cabe indicar qué salida produjo el sistema y cómo se convirtió en acción, sin presentar la decisión como voluntad autónoma de la máquina. Esta formulación reconoce la eficacia del sistema sin atribuirle una autoridad que nadie ha explicado. Con ella pueden distinguirse también los errores del modelo, los fallos de integración y los problemas del procedimiento institucional. Localizar el origen tiene consecuencias prácticas, porque cada tipo de fallo requiere una reparación distinta. Mejorar una respuesta puede dejar intacta una regla de uso que produce resultados inadecuados de manera sistemática.
Roles múltiples y conflictos de expectativas
En una misma sesión, un asistente puede ocupar varios roles, como recuperar información, criticar una propuesta, redactar una versión y preparar su entrega. Cada cambio modifica los criterios de éxito y los derechos de actuación. La búsqueda pide cobertura y pertinencia; la crítica, evaluación; la redacción, fidelidad al encargo; la entrega, control del destinatario y del estado del documento. Si las transiciones quedan implícitas, una sugerencia puede convertirse en una modificación, o una versión de trabajo en una comunicación definitiva, sin un paso claramente identificable.
Los conflictos aparecen cuando un rol favorece conductas que dificultan otro. En una lluvia de ideas caben posibilidades improbables que un verificador debe descartar si carecen de respaldo. Para promover el aprendizaje, un tutor puede hacer preguntas; un asistente operativo quizá deba resolver la tarea directamente. La respuesta adecuada cambia según la función que esté activa. Pedir al sistema que sea a la vez creativo, infalible, breve y exhaustivo puede producir tensiones que se negocian mejor con prioridades concretas que con etiquetas generales. A ello pueden sumarse destinatarios con expectativas incompatibles. Una organización quiere reducir consultas, los usuarios quieren explicaciones detalladas y el equipo de soporte necesita registros suficientes para continuar los casos. Situado en el punto de encuentro de esas demandas, el asistente no puede evaluarse únicamente por la satisfacción inmediata de quien escribe el último mensaje. Hay que estudiar la actividad completa para determinar qué compromisos se consideran legítimos y cómo se comunican, junto con los mecanismos disponibles para resolver los conflictos que el diseño no anticipó.
La gestión de roles mejora cuando las transiciones relevantes se hacen visibles de manera breve. «Ahora revisaré las fuentes de las afirmaciones elegidas» cambia el criterio respecto de la generación de ideas; «Esta es una propuesta pendiente de aprobación» fija el estado del resultado. Estas marcas organizan el trabajo y dan a los participantes una idea de qué esperar. Con ellas pueden reducirse los errores técnicos y los desacuerdos sobre lo que se había encargado.
Caso de estudio sobre la coordinación de un seminario
Imaginemos un seminario en el que un asistente reúne propuestas de lectura, detecta coincidencias y prepara un calendario. El equipo le asigna una función de coordinación limitada, con la que puede ordenar la información y sugerir una distribución, aunque la selección final corresponde a docentes y participantes. Desde el comienzo el sistema ocupa una posición funcional, porque sus resultados se incorporan al trabajo. No hace falta atribuirle voluntad personal para reconocer que modifica qué alternativas aparecen juntas y qué restricciones se vuelven visibles durante la deliberación.
En una primera versión, el asistente etiqueta una lectura como obligatoria porque aparece mencionada varias veces. Además de ser una clasificación errónea, esa etiqueta convierte la frecuencia de mención en decisión colectiva y desplaza al sistema hacia un rol de autoridad curricular que nadie le asignó. Una reparación adecuada identifica la transformación, restituye la categoría de propuesta y revisa las dependencias del calendario. Sirve también para comprobar si otras partes del documento heredaron la misma inferencia indebida sobre el estado de las lecturas.
Tras la revisión, el equipo aprueba una lista y autoriza preparar el calendario definitivo. El rol del asistente cambia, porque ahora trabaja con decisiones establecidas. Su agencia operativa se ejerce al avanzar dentro del mandato y al reconocer cuándo una solución obligaría a modificar una decisión que corresponde al grupo. Puede distribuir las sesiones según las restricciones acordadas, aunque una incompatibilidad nueva lleva a reconsiderar el plan. Si faltan semanas, no debería eliminar lecturas en silencio. Tiene que presentar al equipo el conflicto y las alternativas disponibles.
El caso ayuda a distinguir atribución, capacidad y autorización. Los participantes pueden decir que el asistente «organizó el seminario», aunque el resultado incluya decisiones humanas, datos institucionales y trabajo técnico. La expresión basta para una descripción general, pero una evaluación detallada tiene que reconstruir esas contribuciones y medir el éxito por la adecuación del calendario y la claridad con que se distribuyeron las decisiones. En esa evaluación, la seguridad de la voz o la eficiencia aparente del sistema pesan poco frente a la trazabilidad, es decir, la posibilidad de reconstruir cómo cada propuesta llegó a ser un compromiso compartido.
Cómo observar la ocupación de roles
Para empezar, la investigación puede identificar las acciones recurrentes, esto es, a quién se pregunta, quién propone, quién corrige, quién acepta y quién ejecuta. Los nombres que usan los participantes aportan información, pero deben contrastarse con la secuencia. Sucede a veces que un sistema llamado «asistente» es en la práctica un filtro obligatorio, o que otro llamado «experto» se limita a entregar materiales que todos revisan. La ocupación del rol se observa en dependencias y consecuencias. Las etiquetas, las descripciones comerciales o las instrucciones iniciales quizá no reflejan el uso real.
Los episodios de fallo son especialmente informativos. Cuando el asistente se equivoca, se hace visible quién debe corregirlo, si se considera legítimo cuestionarlo y si el grupo suspende la decisión o continúa. Las reacciones del grupo revelan expectativas que pueden permanecer invisibles en el funcionamiento ordinario. También conviene observar las ausencias, porque retirar temporalmente una función muestra qué trabajo deben reorganizar los participantes y, con ello, qué posición había llegado a ocupar el sistema, aunque depender de él no siempre sea un problema.
En un diseño comparativo cabe variar por separado los permisos y la presentación. Con las mismas capacidades y nombres distintos pueden estudiarse las atribuciones, mientras que el mismo nombre con facultades diferentes deja ver los efectos operativos. Para interpretar los resultados hay que registrar qué sabían los participantes sobre esas condiciones, ya que una diferencia de comportamiento podría provenir de sus expectativas, de su experiencia previa o de una función disponible. La investigación gana precisión cuando trata la apariencia y la capacidad como variables experimentales distintas. La anotación de los datos, por su parte, debe conservar estados y transiciones. Una propuesta, una aceptación y una ejecución pueden aparecer en turnos separados sin coincidir siempre. Codificarlas como una sola decisión oculta quién intervino y cuándo. El análisis necesita registrar además los objetos implicados, como documentos, herramientas, versiones y destinatarios. Todo rol se ejerce respecto de algo, de manera que su significado cambia según el sistema comente una copia privada, modifique un archivo compartido o publique una comunicación que otros tomarán como referencia.
Una concepción situada de la agencia
La agencia de un sistema conversacional puede estudiarse sin resolver de antemano todas las controversias sobre la mente y la conciencia. Es posible describir la selección de acciones, la interpretación social, la distribución del control y los efectos institucionales con evidencia adecuada a cada nivel. Esa separación evita inferir capacidades internas de una apariencia convincente y, en el extremo opuesto, negar consecuencias sociales porque el mecanismo es computacional. Una pregunta bien planteada especifica qué clase de agencia se investiga y qué observaciones permitirían sostener o revisar la atribución realizada. La ocupación de roles es igualmente situada. Depende de tareas, reconocimiento, permisos y prácticas que pueden cambiar en el curso de una conversación. Cabe que un sistema desempeñe bien una parte de un rol y falle en otra, o que sea aceptado localmente sin tener autoridad institucional. Estas combinaciones requieren descripciones graduadas que conserven las diferencias. Las categorías de herramienta, persona o agente pleno son útiles cuando describen aspectos concretos del proceso y sus límites, pero asignar una de ellas de una vez para siempre a la máquina entera impide dar cuenta de esas combinaciones.
El diseño puede hacer más claros el proceso y sus límites mediante encargos delimitados, transiciones visibles y resultados verificables. El usuario debe poder comprender qué hizo el sistema y qué decisiones siguen abiertas. La organización debe identificar quién responde cuando una salida se convierte en acción. En esas condiciones, la atribución de agencia es compatible con una distribución explícita de la responsabilidad. Se puede hablar de un asistente que actúa y, en la misma descripción, nombrar a las personas y los procedimientos que definen sus objetivos, fijan sus facultades y reciben sus consecuencias.
Falta examinar cómo se realiza la ocupación de un rol en la secuencia misma de la interacción. Una propuesta de rol tiene que ser reconocida, sostenerse en actuaciones y conectarse con prácticas que duran más que un turno. La lectura siguiente propone organizar ese examen con las nociones de uptake, enactment e integración. Con ellas, la pregunta por lo que es el sistema se amplía a la de cómo llega a contar como participante pertinente en una actividad concreta y revisable.
Referencias
Dennett, D. C. (1987). The Intentional Stance. MIT Press. https://mitpress.mit.edu/9780262040938/the-intentional-stance/
Floridi, L., & Sanders, J. W. (2004). On the Morality of Artificial Agents. Minds and Machines, 14(3), 349–379. https://doi.org/10.1023/B:MIND.0000035461.63578.9d
Goffman, E. (1979). Footing. Semiotica, 25(1–2), 1–30. https://doi.org/10.1515/semi.1979.25.1-2.1
Kockelman, P. (2007). Agency: The Relation between Meaning, Power, and Knowledge. Current Anthropology, 48(3), 375–401. https://doi.org/10.1086/512998