Interoperable Europe celebra el 22 de septiembre el webinar Trust Matters: Citizens and AI in the Public Sector, centrado en cómo perciben los ciudadanos la utilización de inteligencia artificial por parte de los gobiernos.
La sesión presentará resultados de una encuesta con más de 4.000 participantes de varios países de la UE y analizará cómo la percepción de equidad, adecuación y calidad del servicio puede reforzar o debilitar la confianza pública.
Qué ocurre ahora y por qué es relevante
El encuentro forma parte de la serie del Public Sector Tech Watch sobre evolución hacia servicios más integrados, inteligentes y centrados en la ciudadanía.
La Comisión quiere conectar evidencia empírica sobre percepción ciudadana con decisiones de diseño y gobernanza de sistemas públicos basados en IA.
En el sector público, este tipo de cambio tiene valor cuando puede trasladarse a procedimientos, contratos, datos y responsabilidades. La tecnología o el estándar por sí solos no garantizan una mejora; deben integrarse en un servicio que pueda operarse, auditarse y mantenerse.
Impacto sobre la relación con ciudadanía y empresas
La investigación se centra directamente en ciudadanos y en sus expectativas frente al uso de IA por gobiernos.
Los servicios digitales públicos deben reducir fricción sin trasladar complejidad técnica al usuario. Identidad, autorización, interoperabilidad o inteligencia artificial pueden funcionar en segundo plano, pero la persona necesita saber qué ocurre cuando existe un error y cómo pedir revisión.
Las Administraciones deberían probar los servicios con usuarios reales y perfiles diversos. La accesibilidad, el lenguaje claro y los canales alternativos siguen siendo esenciales incluso cuando la infraestructura se vuelve más automatizada.
Datos e interoperabilidad
La encuesta permite comparar percepciones entre países y tipos de uso, aunque sus resultados deberán interpretarse dentro del contexto de cada servicio.
La interoperabilidad combina aspectos técnicos, semánticos y organizativos. No basta con que dos sistemas intercambien información: deben interpretar de la misma manera los datos y conocer quién es responsable de su calidad.
Los estándares comunes reducen el coste de conectar nuevas aplicaciones y facilitan sustituir proveedores. Cuando una Administración define interfaces propias y cerradas para cada proyecto, el mantenimiento se vuelve más costoso con el tiempo.
Seguridad, privacidad y control de acceso
La confianza en IA pública depende también de protección de datos, seguridad y capacidad de respuesta ante fallos.
La identidad y la autorización deben aplicar mínimo privilegio y trazabilidad. Los registros de acceso permiten investigar incidentes y explicar por qué un usuario o sistema pudo consultar una información concreta.
En servicios que comparten datos entre organismos, conviene evitar copias innecesarias. Consultar información en origen puede mejorar actualidad y reducir duplicidades, siempre que exista base jurídica y mecanismos de seguridad adecuados.
Inteligencia artificial y automatización responsable
El punto central es que rendimiento técnico no basta: un sistema puede ser preciso y aun así resultar inaceptable si se percibe como injusto o inapropiado.
La IA puede mejorar búsqueda, clasificación, personalización o detección de patrones, pero introduce nuevos requisitos de evaluación. Las organizaciones necesitan saber qué modelo se utiliza, qué fuentes alimentan el sistema y qué supervisión humana existe.
La calidad debe medirse con casos reales y volver a comprobarse cuando cambia una versión. Un sistema que funcionaba correctamente puede degradarse si cambian los datos o el comportamiento de los usuarios.
Gobernanza pública
Las Administraciones pueden utilizar estas conclusiones para diseñar evaluaciones de impacto y mecanismos de participación.
Los proyectos transversales necesitan responsables claros para datos, servicio, seguridad y cumplimiento. Esta gobernanza evita que decisiones críticas queden exclusivamente en manos del proveedor tecnológico.
También conviene definir cómo se aprueban cambios y cómo se retira una funcionalidad que deja de ser adecuada. La capacidad de parar o limitar un sistema forma parte de una buena gobernanza.
Contratación y sostenibilidad
Los pliegos de IA deberían incluir métricas de experiencia, transparencia y calidad además de rendimiento técnico.
La contratación debería priorizar interoperabilidad, documentación, portabilidad, soporte y reversibilidad. Los contratos a largo plazo necesitan prever que los estándares y productos evolucionarán.
Cuando existe un componente abierto o una especificación común, la Administración puede reducir dependencia si conserva capacidad para contratar mantenimiento con distintos proveedores.
Qué debería revisar una Administración interesada
- Definir el caso de uso y el problema que pretende resolver.
- Identificar datos, responsables y base jurídica.
- Revisar estándares e interfaces existentes.
- Diseñar seguridad y autorización desde el inicio.
- Documentar supervisión humana si interviene IA.
- Crear pruebas de interoperabilidad y de usuario.
- Exigir exportación, documentación y reversibilidad.
- Medir coste operativo y resultados.
- Formar a empleados que utilizarán o supervisarán el sistema.
- Revisar periódicamente riesgos y utilidad.
Riesgos que conviene evitar
Generalizar resultados de una encuesta a cualquier servicio puede ser engañoso; la aceptación cambia según el impacto de la decisión y el contexto.
Otro riesgo es asumir que un estándar o una política común eliminan la necesidad de gobernanza local. Cada organismo sigue teniendo que adaptar procedimientos, permisos y responsabilidades a su propio contexto.
También puede aparecer dependencia organizativa aunque la tecnología sea interoperable. Si todo el conocimiento queda concentrado en un único equipo o contratista, la Administración tendrá dificultades para evolucionar el servicio.
Qué pueden aprender otras Administraciones
Los organismos españoles pueden incorporar preguntas de confianza y comprensión a sus pilotos de IA antes de escalar.
Los aprendizajes reutilizables incluyen especificaciones, modelos de datos, políticas, criterios de evaluación y procedimientos de incorporación. Compartir estos activos puede acelerar proyectos sin obligar a copiar una solución completa.
Qué habrá que observar
Después del webinar será relevante revisar los resultados detallados y las diferencias entre países, usos y perfiles.
La madurez se comprobará con adopción real, incidencias, calidad y capacidad de evolución. Será especialmente importante conocer si estas iniciativas reducen tiempos de integración, mejoran confianza y permiten mantener el control público sobre datos y decisiones.
Preguntas frecuentes
¿A quién afecta principalmente?
Administraciones que diseñan o despliegan sistemas de IA, responsables de política digital y equipos de servicio público.
¿Cuál es el objetivo?
Entender cómo la IA influye en confianza y qué espera la ciudadanía de su uso por los gobiernos.
¿Es una obligación?
Es una iniciativa de investigación y debate, no una obligación regulatoria.
¿Cuál es el primer paso práctico?
Revisar el caso de uso, los datos implicados y los requisitos técnicos existentes antes de seleccionar una herramienta o proveedor.
Fuentes
La información principal procede de Interoperable Europe.
Lecturas relacionadas
Puede ampliarse contexto con nuestros análisis sobre IA pública europea, código abierto y soberanía, gobierno del dato y interoperabilidad semántica.
Cómo convertir confianza IA sector público Europa en una práctica operativa
El primer paso es identificar el punto exacto del ciclo administrativo en el que esta novedad tiene efecto. Puede ser una fase de atención, una decisión de acceso, una política de uso de IA, un proceso de formación o una obligación de seguridad. Describir ese punto de forma concreta evita respuestas genéricas que después resultan difíciles de implantar.
Después conviene elaborar una lista de actores: unidad responsable, área TIC, seguridad, protección de datos, contratación, asesoría jurídica y usuarios finales. No todos deben participar con la misma intensidad, pero cada uno necesita conocer qué cambia y qué decisión le corresponde.
La implantación debería acompañarse de una línea base. Antes de cambiar un proceso hay que medir tiempos, errores, incidencias o satisfacción. Sin una referencia previa, será difícil demostrar si la nueva práctica mejora realmente el servicio.
Documentación mínima que debería conservarse
Las Administraciones deberían mantener una ficha de cada iniciativa con finalidad, alcance, responsables, fuentes de datos, proveedores, controles, fecha de última revisión y métricas. Este inventario es especialmente útil cuando existen múltiples herramientas o pilotos distribuidos entre departamentos.
Si interviene IA, también conviene registrar modelo o servicio utilizado, versión, configuración relevante y conjuntos de prueba. Si intervienen estándares de interoperabilidad, deben documentarse perfiles, versiones y cualquier extensión local.
La documentación no debe convertirse en una carga desproporcionada. Su objetivo es que otra persona pueda entender el sistema, revisar una decisión y continuar el servicio si cambia el equipo o el proveedor.
Pruebas antes de producción
Las pruebas deberían cubrir funcionamiento normal y escenarios adversos. En un servicio de autorización, por ejemplo, deben probarse accesos permitidos, denegados y reglas contradictorias. En una herramienta de IA conviene incluir consultas ambiguas, información incompleta y casos fuera de alcance. En una política de accesibilidad deben participar usuarios con necesidades reales.
Los resultados deben registrarse y repetirse después de cambios importantes. Esta batería estable permite detectar regresiones y convierte la evaluación en un proceso continuo en lugar de una comprobación única antes del lanzamiento.
También resulta útil probar la reversibilidad: exportar datos, cambiar una configuración o sustituir un componente en un entorno controlado antes de que sea necesario hacerlo en una situación real.
Formación y comunicación interna
Una política digital solo funciona si las personas conocen cómo aplicarla. La formación debe ser específica para cada rol. Los empleados que atienden ciudadanía necesitan saber cómo explicar el sistema y gestionar excepciones; los perfiles técnicos deben comprender controles y dependencias; y los responsables necesitan interpretar métricas y riesgos.
Los materiales breves y actualizados suelen ser más útiles que manuales extensos que quedan obsoletos. Guías de una página, ejemplos y procedimientos de escalado pueden facilitar que la práctica se integre en el trabajo cotidiano.
También conviene crear un canal para dudas y reporte de problemas. Las primeras semanas de uso suelen revelar situaciones no previstas que deberían alimentar mejoras.
Medir impacto y no solo cumplimiento
Completar un formulario, aprobar una política o instalar una herramienta demuestra actividad, pero no necesariamente resultado. Los indicadores deben relacionarse con el objetivo real: reducción de incidentes, mejora de accesibilidad, mayor confianza, menos tiempo de trámite, mejor trazabilidad o menor dependencia tecnológica.
Las métricas cualitativas también importan. Entrevistas y pruebas de usuario pueden detectar problemas que no aparecen en estadísticas. En sistemas de IA, por ejemplo, un porcentaje de precisión alto puede ocultar errores graves en un grupo concreto de casos.
La combinación de indicadores técnicos, operativos y de experiencia permite decidir si la iniciativa debe ampliarse, ajustarse o retirarse.
Revisión periódica y gestión del cambio
Las normas, estándares y tecnologías evolucionan. Una práctica correcta en 2026 puede necesitar ajustes meses después. Por eso es recomendable definir una fecha de revisión y no esperar a que aparezca un incidente o una auditoría.
Los cambios deberían gestionarse con control de versiones y comunicación. Si una política de acceso cambia, los equipos necesitan saber qué reglas dejan de aplicarse. Si un modelo de IA se actualiza, deben repetirse pruebas relevantes. Si un proveedor modifica condiciones, la Administración debe evaluar su impacto.
Esta disciplina permite mantener el servicio alineado con objetivos y evita que la acumulación de pequeños cambios termine creando una arquitectura difícil de comprender.
Capacidad de salida y autonomía pública
La Administración debe poder continuar prestando el servicio aunque cambie una herramienta o un proveedor. Esto exige acceso a datos, documentación y configuraciones suficientes para migrar. En proyectos colaborativos o basados en estándares, la portabilidad es parte del valor estratégico.
La autonomía no significa desarrollar todo internamente. Significa conservar capacidad de decisión, supervisión y sustitución. Un servicio puede estar externalizado y seguir bien gobernado si las responsabilidades y derechos están claros.
Cooperación entre Administraciones
Muchas de estas novedades afectan a problemas comunes. Compartir guías, pruebas, cláusulas y experiencias puede reducir coste y acelerar aprendizaje. Las redes europeas, estatales y locales son especialmente útiles para identificar prácticas ya probadas.
La cooperación también ayuda a evitar que cada organismo interprete un estándar de manera distinta. Cuanto más común sea la infraestructura, mayor valor tiene acordar perfiles y procedimientos compartidos.
Conclusión
Más de 4.000 ciudadanos europeos ponen a prueba la confianza en la IA utilizada por los gobiernos es relevante porque traslada un debate tecnológico a una cuestión de gestión pública. La clave no estará en adoptar una herramienta o una declaración, sino en convertirla en procesos comprensibles, medibles y revisables.
Las entidades que documenten, prueben, formen y midan de manera continua podrán aprovechar mejor la novedad y reducir el riesgo de que se convierta en un cambio meramente formal.
Una última clave: probar confianza con usuarios reales
La confianza no puede evaluarse solo con intención declarada. Conviene observar si las personas comprenden el papel de la IA, saben cómo pedir revisión y perciben el servicio como predecible y justo. Estas señales complementan las métricas técnicas y ayudan a detectar problemas antes de escalar.
Fotografía: Vitaly Gariev / Pexels.