España ha participado en Naciones Unidas en un Diálogo de Alto Nivel dedicado a la protección de los derechos de la infancia frente a la inteligencia artificial. El encuentro, celebrado el 22 de septiembre en Nueva York durante la semana de la Asamblea General, reunió a líderes y representantes de países que trabajan en una coalición internacional impulsada por España junto con Francia, Australia, Kenia y otros socios.
La iniciativa busca coordinar a gobiernos, organismos internacionales, empresas tecnológicas, sociedad civil y expertos para abordar riesgos que afectan específicamente a niños y adolescentes. Entre los problemas citados por sus promotores se encuentran contenido dañino, ciberacoso, material sexual sintético, manipulación y sistemas de recomendación que pueden afectar a menores.
Durante la reunión, el presidente del Gobierno español, Pedro Sánchez, defendió una regulación más estricta y una mayor responsabilidad de las empresas por el impacto de sus servicios sobre los menores. Esas afirmaciones corresponden a la posición expresada por el Ejecutivo español; el debate internacional incluye distintas perspectivas sobre cómo equilibrar protección, privacidad, libertad de expresión e innovación.
Un diálogo de alto nivel en Nueva York
El encuentro se celebró en la sede de Naciones Unidas. España participó junto con Francia, Australia, Kenia y otros socios internacionales. La reunión pretende convertir compromisos generales en cooperación más concreta.
Una coalición lanzada en julio
La iniciativa internacional se presentó durante el primer Diálogo de Naciones Unidas sobre Gobernanza de la Inteligencia Artificial. En julio, la Moncloa informó de una veintena de países y organizaciones adheridos, con apoyo de Francia, Kenia y la Unión Europea.
Derechos de la infancia
El marco parte de la idea de que los derechos reconocidos a niños y adolescentes deben mantenerse también en entornos digitales. La dificultad está en trasladar principios jurídicos a plataformas globales y sistemas algorítmicos que cambian con rapidez.
IA segura desde el diseño
La protección no puede depender únicamente de controles posteriores. Los productos pueden incorporar configuraciones adecuadas por defecto, límites en funciones sensibles y pruebas específicas con escenarios que involucren a menores.
Sistemas de recomendación
Las plataformas utilizan algoritmos para decidir qué contenido muestran. Estos sistemas pueden optimizar tiempo de uso o interacción. Las evaluaciones de riesgo deberían considerar cómo se comportan cuando el usuario es menor.
Transparencia algorítmica
Las autoridades necesitan información suficiente para supervisar. Los usuarios y familias también deberían comprender criterios básicos de recomendación. La transparencia no implica publicar secretos comerciales completos.
Ciberacoso
La IA puede amplificar mensajes, generar contenido o facilitar campañas coordinadas. Las plataformas necesitan canales de reporte eficaces y mecanismos que eviten revictimización.
Contenido sexual sintético
Los modelos generativos pueden crear imágenes falsas de personas reales. Cuando afectan a menores, el daño puede ser especialmente grave. Las empresas necesitan medidas de prevención, detección y retirada.
Deepfakes
El contenido manipulado plantea problemas de identidad y reputación. Las pautas europeas sobre contenido sintético buscan concretar obligaciones de transparencia. El etiquetado no resuelve por sí solo todos los usos dañinos.
Verificación de edad
Una medida debatida es comprobar que ciertos usuarios alcanzan la edad requerida. La verificación debe minimizar datos y evitar crear repositorios innecesarios de identidad. El diseño debe demostrar un atributo con la menor información posible.
Cartera europea de identidad
El Gobierno español ha señalado soluciones basadas en credenciales digitales como una vía para acreditar edad. El objetivo técnico sería demostrar que una persona supera un umbral sin compartir más datos. eIDAS 2.0 ofrece el marco europeo para carteras digitales.
Edad mínima en redes sociales
El Ejecutivo español ha defendido elevar a 16 años la edad mínima de acceso mediante una iniciativa legislativa. Esa posición debe distinguirse de una obligación plenamente vigente mientras la tramitación correspondiente no haya concluido.
Responsabilidad de plataformas
El Gobierno español reclama que las empresas respondan por el impacto del diseño de sus servicios. Las compañías tecnológicas y otros actores mantienen posiciones diversas sobre el alcance y proporcionalidad de esas obligaciones.
AI Act
El Reglamento europeo de IA introduce obligaciones según riesgo y función del sistema. No sustituye las normas específicas de protección de menores, consumo, privacidad o plataformas. La coordinación entre marcos es necesaria.
DSA
La Ley de Servicios Digitales regula riesgos sistémicos de grandes plataformas. La protección de menores ocupa un lugar relevante. Las autoridades pueden utilizar auditorías, obligaciones de transparencia y medidas correctivas.
RGPD
Los datos de menores requieren una atención reforzada. Las bases jurídicas, la información y el diseño de interfaces deben adaptarse. El Encuentro Ibérico de Protección de Datos trató recientemente esta cuestión.
Consentimiento
El consentimiento de menores tiene reglas específicas según contexto y edad. No todas las actividades de una plataforma dependen del consentimiento. Las interfaces deben evitar empujar a aceptar tratamientos mediante patrones engañosos.
Dark patterns
Los diseños pueden empujar a compartir información, mantener notificaciones o permanecer conectado. Los menores pueden ser especialmente vulnerables. La regulación europea intenta limitar prácticas manipulativas.
Publicidad personalizada
La segmentación basada en perfiles de menores está sujeta a restricciones. La IA puede aumentar precisión del targeting. La supervisión debe observar tanto los datos declarados como las inferencias.
Inferencias
Un sistema puede deducir intereses, estados o preferencias sin que el usuario los haya indicado expresamente. Estas inferencias pueden ser sensibles y difíciles de corregir si no son visibles.
Educación digital
La protección no depende únicamente de prohibiciones. Niños, adolescentes y familias necesitan competencias para interpretar contenido, configurar privacidad y detectar manipulación.
Docentes
Los profesores necesitan recursos para explicar deepfakes, fuentes y verificación. La ley gallega de educación digital en tramitación incorpora un marco específico para IA educativa.
Familias
Los controles parentales pueden ayudar, pero no sustituyen un diseño seguro. Las familias necesitan información comprensible. La responsabilidad no puede recaer exclusivamente en ellas.
Salud y bienestar
Existe debate científico y regulatorio sobre los efectos de determinadas dinámicas digitales. La evidencia puede variar según servicio, intensidad de uso y población. Las políticas deberían apoyarse en estudios y evitar generalizaciones.
Chatbots de compañía
Los asistentes que simulan relaciones personales plantean nuevos interrogantes. Los menores pueden atribuirles autoridad o empatía. Las pruebas de seguridad deberían considerar dependencia, respuestas dañinas y límites de edad.
Filtros y moderación
Los modelos pueden detectar contenido, pero cometen errores. La revisión humana sigue siendo necesaria en casos sensibles. Los sistemas de apelación protegen frente a bloqueos incorrectos.
Idioma y contexto
La moderación puede rendir de forma distinta entre lenguas y dialectos. Los menores utilizan jerga y códigos cambiantes. Las pruebas deben representar comunidades reales.
Interoperabilidad de reportes
Los usuarios deberían poder denunciar contenido de forma sencilla. Las autoridades necesitan canales para intercambiar información cuando un servicio opera en varios países.
Coordinación entre países
Una plataforma puede operar desde una jurisdicción y prestar servicio en decenas. Las coaliciones facilitan criterios comunes. Las competencias legales concretas siguen perteneciendo a los marcos aplicables.
UNICEF
La organización aporta experiencia en derechos de infancia y diseño de políticas. Su participación puede ayudar a evaluar impacto más allá de métricas técnicas.
UNESCO
La UNESCO trabaja en educación, cultura y ética de IA. Su participación conecta protección con alfabetización digital y marcos internacionales.
Empresas tecnológicas
La coalición pretende involucrar a la industria. Los desarrolladores conocen capacidades y limitaciones de los sistemas. La supervisión pública sigue siendo necesaria para verificar compromisos.
Sociedad civil
Organizaciones de infancia y derechos pueden detectar problemas no visibles para reguladores. La participación amplia mejora diagnóstico. Los procesos deberían publicar conclusiones y seguimiento.
Evaluación de impacto
Los servicios con gran uso infantil pueden realizar análisis específicos. Las métricas deberían incluir exposición a contenidos, quejas, tiempo de respuesta y efectividad de controles.
Auditorías
Las grandes plataformas pueden estar sujetas a revisiones independientes. La calidad del auditor y el acceso a datos son esenciales. Las conclusiones deben traducirse en medidas verificables.
IA generativa en búsquedas
Los menores reciben cada vez más respuestas sintetizadas en lugar de listas de fuentes. Esto aumenta la importancia de precisión, trazabilidad y señales de incertidumbre.
Contenido educativo
La IA puede ofrecer apoyo personalizado. Los sistemas deben evitar respuestas inapropiadas por edad. La supervisión docente mantiene el contexto pedagógico.
Diseño por defecto
Las cuentas de menores pueden tener privacidad reforzada, límites de contacto y recomendaciones más conservadoras. El usuario no debería necesitar navegar por menús complejos para activar protecciones básicas.
Métricas de la coalición
El éxito no debería medirse solo por número de adhesiones. Los miembros pueden publicar compromisos implementados, cambios de diseño y resultados. Indicadores comunes permitirían comparar progreso.
Qué no implica el diálogo de la ONU
La reunión no crea por sí misma una nueva ley internacional vinculante. Es un espacio de coordinación política e institucional. Las obligaciones concretas seguirán dependiendo de normas nacionales, europeas e internacionales aplicables.
Fuentes oficiales
La Moncloa informó del diálogo del 22 de septiembre en la nota sobre protección de la infancia frente a la IA. El Ministerio para la Transformación Digital publicó en julio la creación de la coalición internacional.
La utilidad de la iniciativa dependerá de que los compromisos se traduzcan en estándares, diseño y mecanismos de supervisión capaces de operar sobre plataformas y sistemas que cambian con rapidez.
Principio de interés superior del menor
Las políticas y diseños pueden evaluar cada medida preguntando qué efecto tiene sobre seguridad, privacidad, autonomía y acceso a información. Este principio ayuda a evitar soluciones que protegen un riesgo creando otro igual o mayor.
La verificación de edad, por ejemplo, debe analizarse también por la cantidad de datos que exige.
Participación de niños y adolescentes
Las decisiones sobre entornos que utilizan a diario pueden incorporar su experiencia. Consultas adaptadas por edad permiten conocer problemas de diseño que adultos y reguladores no detectan.
La participación debe ser segura y no convertir a menores en responsables de resolver fallos de las plataformas.
Evaluaciones específicas por edad
Un servicio puede comportarse de forma adecuada para adultos y generar riesgos distintos en adolescentes. Las empresas deberían segmentar pruebas y no asumir que una evaluación general cubre a todos los grupos.
La madurez cognitiva y los patrones de uso cambian significativamente con la edad.
Configuraciones de privacidad reforzada
Las cuentas identificadas como pertenecientes a menores pueden limitar por defecto la visibilidad pública, los mensajes de desconocidos y determinadas recomendaciones. Las protecciones deberían ser difíciles de desactivar accidentalmente.
Los cambios sensibles pueden requerir información clara o intervención de responsables según la edad y el marco aplicable.
Recomendaciones nocturnas y tiempo de uso
Las plataformas conocen horarios de actividad. El diseño puede evitar notificaciones o estímulos intensivos durante determinadas franjas para cuentas de menores.
Estas medidas deben evaluarse por eficacia y no presentarse como sustituto de educación o acompañamiento familiar.
Acceso de investigadores a datos
La evaluación independiente requiere información sobre funcionamiento de plataformas. Los marcos europeos contemplan mecanismos para investigadores acreditados en determinados casos.
El acceso debe proteger privacidad y secretos comerciales al mismo tiempo que permite estudiar riesgos sistémicos.
Estándares internacionales de reporte
Una coalición puede acordar indicadores comunes sobre exposición a contenidos dañinos, tiempos de retirada, apelaciones y uso de controles parentales. Medir con definiciones comparables facilita evaluar progreso entre países.
Los indicadores deben evitar incentivos perversos, como reducir reportes dificultando que los usuarios denuncien.
Respuesta ante incidentes transfronterizos
Un deepfake o campaña dañina puede circular por varias plataformas y países en minutos. Protocolos de contacto entre autoridades y empresas pueden acelerar conservación de evidencia y retirada cuando exista base legal.
La cooperación debe mantener garantías procesales y mecanismos de revisión.
Formación de fuerzas y profesionales
Docentes, sanitarios, servicios sociales y cuerpos de seguridad pueden necesitar pautas para identificar daños relacionados con IA. La capacitación debería explicar qué evidencia conservar y qué canales utilizar.
Una respuesta coordinada reduce el riesgo de que una víctima tenga que repetir su caso ante múltiples organismos.
Un cuarto enlace interno sobre alfabetización
La Semana de la IA de Navarra ejemplifica cómo las administraciones están incorporando pensamiento crítico, privacidad y verificación a la capacitación. Estas competencias complementan la regulación.
Revisión periódica de compromisos
La coalición puede establecer reuniones anuales para publicar qué medidas se han implementado y qué riesgos emergentes necesitan atención. La IA evoluciona demasiado rápido para que una declaración inicial sea suficiente durante varios años.
El seguimiento permite incorporar nueva evidencia y corregir medidas que produzcan efectos no previstos.
Publicar avances verificables
La coalición internacional puede reforzar su utilidad si cada miembro informa periódicamente de medidas concretas, plazos y resultados. Distinguir anuncios, normas aprobadas y cambios de producto permitirá saber qué compromisos han pasado realmente a ejecución.
La transparencia también facilitará comparar enfoques sin asumir que una única solución regulatoria funciona igual en todos los países.
Fotografía: Boris Hamer / Pexels.