La confianza ciudadana se ha convertido en una de las variables decisivas para la adopción de inteligencia artificial en el sector público. Public Sector Tech Watch ha dedicado este 22 de septiembre una sesión específica a presentar evidencia basada en una encuesta a más de 4.000 personas de varios países de la Unión Europea sobre cómo perciben el uso de IA por parte de los gobiernos.
La iniciativa, titulada «Trust Matters: Citizens and AI in the Public Sector», parte de una pregunta que muchas estrategias tecnológicas dejan en segundo plano: una herramienta puede mejorar eficiencia y, aun así, reducir confianza si el ciudadano la percibe como injusta, opaca o inapropiada para el contexto.
La documentación pública del evento no ofrece todavía un cuadro completo de resultados numéricos, por lo que no es correcto atribuir porcentajes concretos. Sí establece los ejes del estudio: expectativas ciudadanas, percepción de justicia, adecuación del uso y relación entre rendimiento del servicio y confianza.
Más de 4.000 respuestas para estudiar una cuestión poco medida
El estudio utiliza una muestra superior a 4.000 personas de varios países de la UE.
Este enfoque aporta evidencia comparada más allá de opiniones de expertos o responsables tecnológicos.
La confianza no es homogénea y puede variar según país, edad, servicio o tipo de decisión.
La eficiencia no garantiza legitimidad
Una Administración puede reducir tiempos con IA y aun así generar rechazo.
Si el ciudadano no entiende qué función cumple el sistema o considera que automatiza una decisión que debería ser humana, la mejora operativa puede no traducirse en confianza.
El diseño debe evaluar simultáneamente eficiencia y legitimidad.
El contexto importa
No todos los usos se perciben igual. Un asistente que ayuda a localizar información tiene un impacto distinto a un sistema que clasifica solicitudes o influye en una prestación.
La tolerancia al error también cambia.
La gobernanza debe adaptar controles al efecto real sobre la persona.
Equidad y trato justo
La percepción de justicia es central cuando la IA participa en decisiones públicas.
Los ciudadanos necesitan confiar en que casos similares reciben un tratamiento consistente y que existe capacidad de corregir errores.
La supervisión humana debe ser real y documentada.
Transparencia comprensible
Informar de que existe IA no basta si el usuario no entiende para qué se utiliza.
Las explicaciones deben indicar función, límites y posibilidad de revisión.
Las recientes pautas europeas sobre transparencia de contenido sintético muestran cómo estos principios se están haciendo operativos.
Confianza y calidad del servicio
La confianza puede aumentar cuando la IA mejora tiempos y precisión de forma visible.
Pero una experiencia rápida no compensa errores graves.
Los indicadores deben combinar rendimiento y percepción de usuarios.
Derecho a reclamar
Un ciudadano necesita saber cómo cuestionar un resultado.
El canal de revisión debe estar disponible sin exigir conocimientos de IA.
La Administración debe conservar evidencias para reconstruir el caso.
La importancia de explicar quién responde
El uso de un proveedor no desplaza la responsabilidad institucional.
La persona debe saber qué organismo es responsable del servicio.
La gobernanza del EDPS insiste en accountability y trazabilidad.
Shadow AI y confianza interna
La confianza no afecta solo a ciudadanos. Los empleados también necesitan reglas para utilizar herramientas.
Si los usos son informales y no se documentan, aumentan riesgo y desigualdad entre equipos.
La formación directiva, como la impulsada en Cataluña, puede ayudar a ordenar la adopción.
Datos personales y expectativas
Una persona puede aceptar IA para mejorar una búsqueda y rechazar que se utilicen datos sensibles sin una explicación clara.
El principio de minimización debe acompañar el diseño.
La expectativa razonable del usuario es un componente importante de confianza.
Diseño centrado en personas
Los proyectos deberían incluir investigación con usuarios antes de desplegar.
Probar mensajes, interfaces y procesos de revisión permite detectar problemas que una evaluación técnica no ve.
La participación ciudadana puede formar parte del desarrollo.
Evitar antropomorfismo engañoso
Los asistentes pueden presentarse con lenguaje humano, pero no deberían inducir a creer que existe una persona detrás.
La interfaz debe dejar claro que se trata de un sistema automatizado cuando corresponda.
La transparencia protege expectativas.
Errores y comunicación
Todo sistema puede fallar. La confianza depende también de cómo responde la Administración cuando ocurre.
Reconocer el problema, ofrecer alternativa y corregir datos puede ser más importante que intentar ocultar la automatización.
Los protocolos de incidente deben incluir comunicación pública.
Medir confianza antes y después
Una línea base permite saber si un proyecto cambia percepción.
Las encuestas pueden complementarse con reclamaciones, abandono de trámites y uso de canales alternativos.
La confianza debe medirse de forma continuada.
Diferencias entre grupos
La media puede ocultar que determinados colectivos desconfían más.
Edad, experiencia digital o relación previa con la Administración pueden influir.
La evaluación debe buscar brechas y no únicamente un indicador agregado.
Accesibilidad y confianza
Un sistema que excluye a personas con discapacidad deteriora legitimidad.
La IA debe integrarse con criterios de accesibilidad desde el diseño.
Los canales alternativos siguen siendo necesarios.
La IA no debe complicar el servicio
Agregar un chatbot a un procedimiento complejo no equivale a simplificar.
La Administración debería revisar el proceso antes de automatizarlo.
Enfoques de simplificación administrativa son un complemento necesario.
Contratación basada en resultados públicos
Los pliegos pueden incluir métricas de calidad y confianza, no solo disponibilidad técnica.
El proveedor debe aportar información sobre funcionamiento y cambios.
La capacidad de salida evita depender de una herramienta que deteriora el servicio.
IA europea no equivale automáticamente a confianza
El origen de la tecnología puede influir en soberanía, pero la confianza ciudadana depende de cómo se usa.
Un sistema europeo también necesita transparencia, precisión y control.
La estrategia Apply AI debe combinar capacidad tecnológica y legitimidad.
Fuente europea
La sesión de Public Sector Tech Watch se celebra el 22 de septiembre de 2026 y presenta la encuesta a más de 4.000 personas.
La principal lección es metodológica: las Administraciones no deberían evaluar la IA solo con métricas técnicas. Si la tecnología afecta a la relación con la ciudadanía, la confianza debe convertirse en un indicador de diseño, despliegue y revisión.
Confianza como variable de diseño
La confianza puede incorporarse desde el inicio del proyecto mediante entrevistas, pruebas con usuarios y análisis de expectativas. Esperar a medirla después del despliegue limita la capacidad de corregir decisiones estructurales.
Los equipos deberían preguntar qué usos considera aceptables la ciudadanía y en qué situaciones espera intervención humana.
Estas respuestas ayudan a definir límites antes de construir la solución.
La explicación debe adaptarse al nivel de impacto
Un sistema que recomienda contenidos informativos necesita menos explicación que uno que influye en una ayuda pública.
La transparencia proporcional evita saturar al usuario con textos legales cuando el riesgo es bajo y aporta más detalle cuando la decisión importa.
La Administración puede probar distintos formatos para saber qué información se entiende realmente.
Confianza y automatización de decisiones
La percepción suele cambiar cuando la IA pasa de asistir a decidir. Por eso es útil diferenciar clasificación, recomendación y decisión automatizada.
Los ciudadanos pueden aceptar que una herramienta ordene documentos y exigir más garantías si determina prioridad o elegibilidad.
El inventario de casos de uso debería indicar con precisión qué función cumple el sistema.
Importancia de la revisión humana visible
Decir que existe supervisión humana no basta si el ciudadano no sabe cómo solicitarla. Los servicios pueden incorporar un canal claro para revisión o reclamación.
La persona revisora necesita contexto, historial y capacidad para apartarse de la salida automática.
Cuando la supervisión funciona, puede reforzar confianza incluso si el sistema comete un error inicial.
Auditorías y publicación de métricas
Las Administraciones pueden publicar métricas agregadas de precisión, reclamaciones y correcciones sin revelar información sensible.
Esta transparencia permite evaluar si el sistema mejora con el tiempo.
Los datos deben contextualizarse para evitar presentar una única cifra como prueba de calidad absoluta.
Confianza de los empleados públicos
Los trabajadores que utilizan el sistema también necesitan confiar en él. Si consideran que las salidas son poco fiables, pueden ignorarlo; si confían demasiado, pueden aceptar errores sin revisar.
La formación debe enseñar capacidades y límites.
Las correcciones realizadas por empleados pueden convertirse en señal para mejorar el sistema.
Participación de colectivos afectados
Los proyectos de mayor impacto deberían consultar a grupos directamente afectados, asociaciones y expertos en accesibilidad o derechos.
Esta participación permite detectar consecuencias que el equipo técnico puede no anticipar.
La consulta temprana es más útil que pedir opinión cuando el sistema ya está contratado.
Evitar sesgos de automatización
Las personas tienden a dar más credibilidad a una recomendación cuando parece provenir de un sistema sofisticado. Este sesgo de automatización puede afectar tanto a ciudadanos como a empleados.
Las interfaces deberían evitar presentar resultados como verdades indiscutibles.
Mostrar incertidumbre o necesidad de comprobación puede ayudar en casos adecuados.
Privacidad como componente de confianza
Un ciudadano puede valorar un servicio rápido y al mismo tiempo rechazar que sus datos se reutilicen fuera de contexto.
La información sobre datos utilizados, conservación y responsables debe estar disponible de forma comprensible.
La confianza se deteriora rápidamente si aparece una sensación de vigilancia excesiva.
Comparar canales con y sin IA
Las Administraciones pueden mantener grupos de control o comparar indicadores antes y después del despliegue. Esto permite saber si la IA aporta realmente valor.
Tiempo de resolución, satisfacción y tasa de reclamación ofrecen una visión más completa que el número de interacciones.
Un sistema que atiende más consultas pero genera más confusión puede no ser una mejora.
El papel de la contratación pública
Los pliegos pueden exigir herramientas para auditoría, exportación de logs, explicación de cambios y medición de calidad.
También deben definir qué ocurre con los datos cuando termina el contrato.
La confianza ciudadana depende en parte de que la Administración mantenga control sobre la infraestructura que utiliza.
Confianza y continuidad del canal humano
En servicios sensibles, mantener una alternativa humana puede ser esencial durante la transición. El objetivo no es duplicar indefinidamente todos los canales, sino garantizar que una persona pueda resolver excepciones.
Los datos de uso mostrarán qué colectivos recurren más a esa alternativa.
Eliminarla demasiado pronto puede excluir a usuarios con menor competencia digital.
Un indicador que debería llegar a los cuadros de mando
La confianza puede medirse de forma periódica y relacionarse con cambios de versión, incidencias o nuevas funciones.
Si cae tras una actualización, el equipo puede investigar qué cambió.
Convertir esta variable en un indicador operativo ayuda a que deje de ser una preocupación abstracta.
Segmentar la confianza por tipo de servicio
Una medida agregada puede ocultar diferencias importantes. No es lo mismo preguntar por IA en una web informativa que por un sistema que participa en prestaciones, empleo público, sanciones o salud.
Las Administraciones deberían medir percepción por caso de uso y por nivel de impacto. Esto permite identificar dónde la ciudadanía exige más explicación, intervención humana o garantías antes de aceptar la automatización.
La segmentación también ayuda a evitar conclusiones generales del tipo «la ciudadanía confía» o «desconfía» de la IA, que simplifican en exceso una realidad dependiente del contexto.
Una carta pública de uso de inteligencia artificial
Los organismos pueden publicar una relación comprensible de los sistemas de IA que utilizan, su finalidad, responsable y canal de reclamación. Este inventario no necesita revelar detalles que comprometan seguridad.
Una carta de uso permite a la ciudadanía saber cuándo interviene automatización y qué garantías existen. También obliga internamente a mantener actualizado el registro de casos.
La transparencia estructurada puede reforzar confianza porque reduce la sensación de que los sistemas operan de forma invisible.
Reclamaciones y correcciones como indicador de calidad
El número de quejas no debería interpretarse únicamente como un problema reputacional. Puede convertirse en una fuente de aprendizaje sobre situaciones donde el sistema falla o la explicación es insuficiente.
Registrar cuántas decisiones o respuestas se corrigen tras una revisión humana aporta una señal más útil que la mera cantidad de interacciones.
Estos datos deben analizarse junto con el volumen total y la gravedad de cada caso para evitar comparaciones engañosas.
Probar si una explicación mejora realmente la confianza
La Administración puede ensayar distintas formas de explicar el uso de IA y medir comprensión. Un aviso genérico puede cumplir formalmente una obligación y no aportar información útil al ciudadano.
Pruebas con usuarios permiten comparar textos breves, paneles de detalle o ejemplos sobre cómo interviene el sistema. La explicación más larga no siempre es la mejor.
El objetivo debe ser que la persona entienda qué hace la IA, qué no hace y cómo puede solicitar revisión cuando sea necesario.