El Gobierno del Principado de Asturias ha defendido una adopción de inteligencia artificial sometida a supervisión humana y acompañada de formación, transparencia, seguridad y protección de datos. El planteamiento fue expuesto el 22 de septiembre por el director general de Innovación, Investigación y Transformación Digital, Joaquín Cuetos, durante una jornada de talento e IA integrada en la Semana de la IA organizada por el Clúster TIC Asturias en Gijón.
La posición institucional parte de una preocupación concreta: que la expansión de estas tecnologías no genere nuevas brechas laborales y sociales. El debate se produce mientras empresas y administraciones incorporan asistentes, automatización y sistemas predictivos a un ritmo mayor que el de muchos programas de capacitación.
La supervisión humana puede convertirse en un principio operativo, pero necesita traducirse a decisiones: qué sistemas requieren revisión, quién la realiza, qué información recibe y cuándo puede apartarse del resultado.
Supervisión humana como condición práctica
La expresión aparece con frecuencia en políticas de IA.
Para ser efectiva, la persona revisora debe disponer de tiempo, contexto y autoridad.
Confirmar automáticamente una recomendación no constituye una supervisión real.
Definir qué decisiones no se delegan
Las organizaciones pueden clasificar procesos según impacto.
Una herramienta que resume documentos no plantea el mismo riesgo que un sistema que prioriza ayudas o candidatos.
Los casos más sensibles necesitan puntos de control obligatorios.
Evitar sesgo de automatización
Las personas tienden a confiar más en una salida cuando parece generada por un sistema sofisticado.
La formación debe enseñar a cuestionar resultados.
Las interfaces pueden mostrar incertidumbre y fuentes cuando resulte posible.
Brechas laborales
La IA puede beneficiar más a trabajadores con mayor formación y acceso a herramientas.
Sin políticas de capacitación, otros perfiles pueden quedar rezagados.
La respuesta requiere formación vinculada a tareas reales y no cursos genéricos.
Recualificación
Muchos puestos cambiarán más por transformación de tareas que por desaparición completa.
Las organizaciones deben identificar qué trabajo se automatiza y qué nuevas responsabilidades aparecen.
La recualificación puede comenzar antes de implantar sistemas a gran escala.
Brechas sociales
La desigualdad también afecta a ciudadanía.
Quienes tienen menor competencia digital pueden encontrar más barreras si los servicios dependen de asistentes o canales automáticos.
La digitalización debe mantener alternativas accesibles.
Formación como infraestructura
Asturias sitúa la capacitación entre los elementos necesarios para una adopción segura.
La formación no debería ser una acción posterior.
Debe formar parte del presupuesto y del plan de despliegue.
Directivos y responsables públicos
Los líderes necesitan comprender riesgos, coste y dependencia tecnológica.
El programa catalán de dirección estratégica e IA muestra un enfoque específico para este perfil.
Asturias puede desarrollar itinerarios similares.
Empleados públicos
Los funcionarios necesitan reglas sobre herramientas autorizadas y datos.
La experiencia de Aragón con sesiones internas muestra la utilidad de compartir casos reales.
La formación debe incluir revisión de resultados.
Empresas y pymes
Las empresas pequeñas necesitan apoyo para identificar casos y proveedores.
La adopción debe partir de problemas medibles.
Comprar licencias sin proceso puede generar gasto sin retorno.
Talento tecnológico
Asturias cuenta con un ecosistema TIC que participa activamente en la Semana de la IA.
Las empresas necesitan perfiles técnicos y expertos sectoriales.
La colaboración con FP y universidad puede ampliar la base de talento.
Transparencia
Un ciudadano debería poder saber cuándo una IA interviene de forma relevante.
La explicación debe adaptarse al impacto.
No todos los sistemas necesitan la misma cantidad de detalle.
Inventario público de IA
Las administraciones pueden mantener un registro de sistemas con finalidad, responsable y proveedor.
Parte de esa información puede publicarse.
El inventario ayuda también internamente a detectar usos duplicados.
Protección de datos
La IA puede procesar expedientes y datos personales.
La minimización y el control de acceso siguen siendo obligatorios.
El Encuentro Ibérico de Protección de Datos refleja la necesidad de coordinación regulatoria.
Seguridad
Los modelos conectados a sistemas amplían superficie de ataque.
Los permisos deben limitarse a acciones necesarias.
La trazabilidad es esencial si un agente ejecuta operaciones.
Agentes de IA
Los agentes capaces de utilizar herramientas requieren controles específicos.
La arquitectura PICEE-PA propone registrar autorizaciones y acciones.
El principio puede aplicarse a proyectos regionales.
Datos de calidad
Los modelos no compensan información incompleta o desactualizada.
Las organizaciones necesitan gobernanza del dato.
Los responsables deben conocer qué fuentes alimentan cada sistema.
Sesgos
La evaluación debe comprobar diferencias entre grupos relevantes.
Un promedio general puede ocultar fallos sobre colectivos pequeños.
Los conjuntos de prueba deben representar el uso real.
Accesibilidad
La IA puede mejorar servicios para personas con discapacidad.
También puede introducir barreras si las interfaces no son accesibles.
Las pruebas deben incluir usuarios diversos.
IA en orientación laboral
Los sistemas pueden ayudar a relacionar perfiles con formación u ofertas.
Estas recomendaciones afectan a oportunidades y necesitan supervisión.
La persona debe poder comprender y corregir datos de partida.
IA en educación
La tecnología puede apoyar aprendizaje y personalización.
Los docentes deben conservar responsabilidad pedagógica.
La evaluación debe adaptarse para medir aprendizaje real.
IA en servicios públicos
Los asistentes pueden responder preguntas o guiar trámites.
La información debe mantenerse actualizada.
Un canal humano sigue siendo necesario para excepciones.
Pruebas antes de producción
Los proyectos deberían utilizar entornos controlados.
Casos adversos ayudan a detectar fallos.
El paso a producción necesita criterios de calidad definidos.
Monitorización continua
Un modelo puede degradarse cuando cambian datos o versiones.
Las métricas deben mantenerse después del lanzamiento.
La evaluación no termina con la aprobación inicial.
Versionado
Los proveedores actualizan modelos con frecuencia.
La organización necesita saber qué versión generó un resultado.
Registrar cambios facilita auditoría.
Costes
La IA introduce costes variables por uso.
Los proyectos deben medir consumo y presupuesto.
Un piloto barato puede volverse costoso al escalar.
Dependencia tecnológica
La capacidad de cambiar proveedor reduce riesgo.
Prompts, datos y flujos deberían documentarse.
Las recomendaciones de la CNMC sobre portabilidad resultan relevantes.
Open source y modelos abiertos
Las alternativas abiertas pueden aumentar control en determinados casos.
No son automáticamente más seguras.
La Administración debe evaluar mantenimiento y comunidad.
Compra pública
Los pliegos pueden exigir documentación, evaluación y salida.
La compra debería describir resultados y riesgos.
Evitar marcas concretas facilita competencia.
Indicadores de impacto
Asturias puede medir tiempo ahorrado, calidad, reclamaciones y satisfacción.
Los indicadores deben compararse con la situación anterior.
Una herramienta popular no necesariamente es efectiva.
Participación de trabajadores
Los equipos afectados deben intervenir antes del despliegue.
Su conocimiento permite detectar tareas que realmente consumen tiempo.
La participación también facilita adopción.
Negociación y cambio organizativo
La IA puede modificar funciones y cargas.
Las organizaciones públicas necesitan gestionar estos cambios con transparencia.
La tecnología no debe utilizarse para evitar conversaciones laborales necesarias.
Impacto territorial
Asturias combina áreas urbanas, industriales y rurales.
La adopción puede producir beneficios distintos según territorio.
Las políticas deben evitar concentrar recursos en pocos núcleos.
Empresas tradicionales
La IA también puede aplicarse en industria, turismo o energía.
Los casos de uso deben adaptarse al nivel digital de cada empresa.
La capacitación generalista puede no ser suficiente.
Semana de la IA como espacio de debate
El evento del Clúster TIC permite reunir empresas, administración y formación.
La utilidad aumenta si las conclusiones se documentan.
Las jornadas pueden producir guías y retos concretos.
Qué significa supervisión humana en la práctica
Significa definir responsables, umbrales y capacidad de corrección.
También implica diseñar interfaces que permitan revisar.
El concepto debe convertirse en requisitos técnicos y organizativos.
Fuente
La posición del Principado fue expuesta el 22 de septiembre durante la Semana de la IA y está recogida en la agenda oficial del Gobierno de Asturias y en la cobertura publicada por La Noción.
El reto para Asturias será convertir este enfoque en procesos medibles. La supervisión humana tendrá valor si se diseña antes del despliegue y si las personas que revisan sistemas cuentan con capacidad real para corregirlos.
Un registro regional de casos de IA
Convertir la supervisión humana en una práctica sistemática empieza por saber qué sistemas existen. Asturias podría mantener un inventario con finalidad, unidad responsable, proveedor, datos utilizados, nivel de riesgo y mecanismos de revisión.
El registro permitiría detectar duplicidades y conocer qué herramientas están ya en producción. Parte de la información puede publicarse para reforzar transparencia, mientras que los detalles de seguridad pueden mantenerse restringidos.
Clasificar usos por impacto
No todas las aplicaciones necesitan el mismo nivel de control. Un asistente que ayuda a redactar un borrador interno puede gestionarse con reglas simples, mientras que un sistema que recomienda acceso a una prestación necesita validación, explicabilidad y supervisión mucho más estrictas.
Clasificar por impacto evita imponer burocracia excesiva a usos de bajo riesgo y concentra recursos donde una decisión puede afectar derechos o acceso a servicios.
Supervisión humana con capacidad de corregir
El revisor debe conocer qué información utilizó el sistema y poder apartarse de la recomendación. Si la interfaz solo permite aceptar, la supervisión será nominal.
Registrar cuándo y por qué una persona corrige el resultado también genera datos útiles para mejorar el modelo.
Formación vinculada a cada herramienta
La capacitación general en IA puede complementarse con módulos específicos antes de utilizar una aplicación concreta. Los usuarios necesitan conocer errores típicos, límites de datos y procedimiento ante una respuesta dudosa.
Esta formación debería actualizarse cuando cambie el modelo o la interfaz.
Canal de incidencias algorítmicas
Los empleados públicos y ciudadanos pueden detectar comportamientos incorrectos que no aparecen en pruebas iniciales. Un canal específico permite registrar estos casos y priorizarlos según impacto.
La organización debería distinguir una incidencia técnica, un error de datos y un posible sesgo para derivar cada problema al equipo adecuado.
Evaluación de proveedores
Antes de contratar una solución, la Administración puede solicitar documentación sobre entrenamiento, alojamiento, seguridad, actualizaciones y subcontratistas. La capacidad de auditar y exportar datos debe evaluarse junto al precio.
Los contratos deberían obligar al proveedor a comunicar cambios que alteren el comportamiento del sistema.
IA generativa en puestos administrativos
Los primeros casos pueden centrarse en síntesis, búsqueda o preparación de borradores. Estas tareas permiten ganar experiencia sin delegar decisiones formales.
La revisión sigue siendo necesaria porque una respuesta fluida puede incluir errores normativos o referencias inexistentes.
Indicadores de brecha laboral
Asturias puede observar qué perfiles reciben formación, qué áreas usan herramientas y cómo cambia la productividad entre grupos. Si solo acceden trabajadores con mayor cualificación digital, la tecnología puede ampliar diferencias internas.
Los datos de participación ayudan a orientar programas de recualificación hacia colectivos con menor adopción.
Impacto sobre calidad del empleo
La automatización puede liberar tiempo, pero también aumentar ritmo o vigilancia si se diseña mal. Evaluar satisfacción, autonomía y carga permite conocer efectos que no aparecen en métricas de productividad.
La participación de trabajadores y representantes puede aportar evidencia antes de extender una solución.
Pruebas con colectivos diversos
Los servicios públicos deben funcionar para personas de distintas edades, niveles educativos y capacidades. Las pruebas de usuario deberían incorporar esa diversidad.
Esto es especialmente importante cuando la IA interviene en lenguaje natural, donde vocabulario y contexto pueden alterar resultados.
Gobernanza común para proyectos autonómicos
Asturias está desarrollando a la vez gemelos digitales, automatización y nuevas capacidades de datos. Un marco común de gobernanza puede reutilizar plantillas, criterios de riesgo y procedimientos de aprobación.
La reutilización reduce burocracia y facilita que los equipos aprendan unos de otros.
Derecho a una revisión humana comprensible
Cuando un sistema de IA influya de forma significativa en un trámite, la persona afectada debería conocer cómo solicitar revisión por un empleado competente. El canal debe ser visible y no exigir conocimientos técnicos.
La revisión humana también necesita acceso a la información utilizada por el sistema para evitar que el empleado se limite a repetir el mismo resultado automático.
Publicar criterios de uso permitido
Una guía regional breve puede explicar qué herramientas pueden utilizarse con información pública, interna o personal. Clasificar ejemplos reduce dudas y shadow AI.
Estas reglas deberían actualizarse cuando cambien contratos, modelos o normativa.
Auditoría de decisiones corregidas
Analizar de forma agregada cuándo los empleados se apartan de una recomendación automática ayuda a detectar modelos que fallan en situaciones concretas. Estas correcciones pueden convertirse en una fuente de aprendizaje para mejorar datos y reglas.
Revisión periódica de modelos
Un sistema que funciona correctamente al inicio puede degradarse cuando cambian datos, normas o perfiles de usuario. Asturias puede exigir revisiones periódicas y registrar la versión de cada modelo en producción.
La gobernanza debe contemplar retirada segura cuando una herramienta deje de cumplir su objetivo.
Fotografía: Markus Winkler / Pexels.