La IA y los deepfakes obligan a las plataformas a reforzar la protección infantil

La protección del menor en internet atraviesa un momento crítico. Los modelos tradicionales, basados únicamente en filtros de contenido y verificación de edad simple, resultan insuficientes ante el avance de la inteligencia artificial (IA). Esta tecnología permite generar contenido manipulado con un realismo extremo, elevando la sofisticación de los riesgos de abuso.

El alarmante aumento de los deepfakes en México

En el marco del Día del Niño, la firma Sumsub advierte que la conectividad infantil crece a un ritmo que la regulación actual no logra contener. Según la Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hogares (ENDUTIH) 2024, el 77% de los menores entre 6 y 17 años en México tiene acceso a internet en su hogar.

Esta inclusión digital, aunque positiva, amplía la exposición a amenazas. Los datos son contundentes:

• Los ataques con deepfakes en Latinoamérica aumentaron un 201% en promedio.
• México lidera la región con un incremento cercano al 500% interanual.
• Más de 2.9 millones de adolescentes mexicanos sufrieron acoso en línea durante 2024, según REDIM.

Limitaciones de los controles actuales

Actualmente, muchas plataformas digitales confían en la verificación de edad como su defensa principal. Sin embargo, este control es vulnerable. Los menores pueden evadirlo mediante identidades falsas o la intermediación de adultos. Además, estos sistemas no ofrecen visibilidad sobre el comportamiento del usuario una vez dentro de la plataforma.

Casos recientes, como el uso de herramientas de IA generativa para crear imágenes sexualizadas sin consentimiento, evidencian la urgencia de actualizar estos mecanismos. En México, la Ley Olimpia ya sanciona la difusión de material íntimo manipulado, lo que otorga a las empresas una responsabilidad legal y ética mayor.

Estrategias para una protección digital efectiva

José Pablo Diethelm, experto en identidad digital, señala que las plataformas deben transitar hacia esquemas preventivos y no reactivos. Para lograr una protección robusta, se recomiendan cuatro pilares fundamentales:

1. Verificación multicapa y recurrente

La protección debe iniciar con una verificación de identidad sólida desde el registro. Es necesario cruzar información con documentos oficiales y realizar revalidaciones periódicas para evitar que cuentas legítimas se utilicen de forma indebida.

2. Monitoreo continuo del comportamiento

El enfoque debe evolucionar hacia el análisis de conducta en tiempo real. Esto incluye el seguimiento de transacciones e interacciones para identificar patrones de grooming o explotación digital. Un sistema de puntuación de riesgo dinámico permite ajustar la supervisión según el comportamiento del usuario.

3. El uso de “IA contra IA”

Resulta imposible frenar ataques impulsados por inteligencia artificial mediante controles manuales o tradicionales. Las plataformas deben implementar defensas basadas en IA que detecten contenido sintético y bloqueen interacciones de riesgo antes de que escalen.

4. Responsabilidad compartida y deber de diligencia

La normativa vigente exige a las plataformas un rol activo en la prevención de contenido dañino. La seguridad de los menores no puede recaer exclusivamente en los padres; las empresas deben asegurar todo el ciclo de vida del usuario dentro de su ecosistema.

De no cerrar la brecha entre la sofisticación de las amenazas y la capacidad de respuesta, los menores continuarán siendo el eslabón más vulnerable del mundo digital.