Niño pequeño interactuando con un robot avanzado, simbolizando la unión de la infancia y la tecnología.
Creada con Midjourney / editada por tecnoandroid ©

Inteligencia artificial: la nueva guardiana de la seguridad infantil en internet

El 84% de los niños de 3 a 4 años ya se conectan a internet de alguna forma. Ante este problema, la IA aparece para para crear un entorno digital seguro.

Marcial Triguero
Por Marcial Triguero

La preocupación por la seguridad de nuestros niños en internet es un tema candente que cobra cada vez más importancia en nuestra sociedad. Con el auge del uso de dispositivos y el acceso casi ilimitado a la web, los peligros que acechan en el ciberespacio se han vuelto una realidad palpable para padres y tutores. En este punto, la inteligencia artificial aparece como una prometedora aliada para blindar a los más pequeños de los riesgos online. ¿Cómo se está moviendo el tablero regulatorio para integrar estas tecnologías en la protección infantil? Vamos verlo en base a datos y casos de estudio.

La inteligencia artificial en el punto de mira (para bien) de los reguladores

Ofcom, el organismo regulador del Reino Unido, ha asumido una responsabilidad clave bajo la Ley de Seguridad online del país. Esta entidad no solo vigila, sino que también impulsa el uso responsable de la tecnología para salvaguardar a los usuarios más jóvenes. Con este fin, Ofcom ha propuesto una consulta que evaluará cómo la inteligencia artificial y otras herramientas automatizadas pueden jugar un papel central en la detección y eliminación proactiva de contenido perjudicial en la red.

Esta iniciativa aparece en un momento en el que los datos muestran una conexión masiva de los niños a internet desde edades muy tempranas. Por ejemplo, se ha revelado en una investigación de la propia Ofcom, que cerca del 84% de los niños entre 3 y 4 años ya navegan por la web, y un sorprendente 24% de los niños de 5 a 7 años ya poseen sus propios smartphones (esto es importante para entender la urgencia de implementar medidas efectivas).

Mark Bunting, director del Grupo de Seguridad en Línea de Ofcom, ha compartido que el enfoque inicial de la consulta se centrará en evaluar la eficacia actual de las herramientas de IA en la protección de los menores. “Queremos asegurarnos de que la industria evalúe la precisión y efectividad de estas herramientas. Es fundamental gestionar los riesgos para la libertad de expresión y la privacidad“, mencionó en una entrevista para TechCrunch. La expectativa es que, a partir de los resultados de esta consulta, se puedan establecer recomendaciones claras y posiblemente imponer sanciones a las plataformas que no cumplan con los estándares requeridos para proteger a los niños en internet.

Dato interesante

Las herramientas de IA no solo están siendo consideradas para detectar contenido explícito o perjudicial sino también para identificar material de abuso sexual infantil, que anteriormente era difícil de rastrear.

En definitiva, la propuesta de Ofcom no solo busca fomentar el uso de tecnologías avanzadas como la IA para combatir los peligros de internet, sino que también plantea un debate necesario sobre cómo equilibrar la seguridad online, la privacidad y la libertad de expresión. Este es un claro ejemplo de cómo los reguladores están comenzando a jugar un papel activo en la conformación del futuro de nuestra interacción digital, poniendo a la protección infantil como uno de los temas más importantes a abordar.

El desafío de las redes sociales y la edad

Sabemos que son el patio de recreo digital en la actualidad, pero ¿son seguras para los niños tan pequeños? La respuesta es compleja. A pesar de las restricciones de edad impuestas por plataformas populares, un asombroso 38% de los niños de 5 a 7 años ya están activos en ellas.

WhatsApp y YouTube Kids son extremadamente populares entre estos jóvenes internautas, pero esto plantea una gran pregunta: ¿Están realmente preparados para navegar por estos espacios sin supervisión adecuada?

Nota para reflexionar

Aunque las plataformas intentan hacer su parte, la realidad es que la tecnología avanza más rápido que las regulaciones. Esto nos lleva a un territorio inexplorado en cuanto a seguridad infantil en línea se refiere.

La realidad de la exposición a contenido dañino

Niño concentrado usando un smartphone en casa, ilustrando la temprana exposición de los menores a la tecnología.
Creada con Midjourney / editada por tecnoandroid ©

¿Sabías que hay una brecha enorme entre lo que los niños ven en línea y lo que sus padres creen que ven? (esto es más serio de lo que pensamos…). Datos recientes revelan que el 32% de los niños entre 8 y 17 años informaron haber visto contenido preocupante en internet. Sin embargo, solo el 20% de los padres están al tanto de esta exposición alarmante.

Esta desconexión puede ser peligrosa. La falta de comunicación entre padres e hijos sobre las actividades en línea aumenta el riesgo de que los menores se encuentren con contenido dañino sin el apoyo adecuado para manejarlo.

Algunos ejemplos de contenido preocupante que los niños pueden encontrar incluyen:

  • Bullying cibernético
  • Contenido sexual explícito
  • Vídeos de violencia extrema
  • Esquemas de fraude

(Este tipo de contenido no solo afecta emocionalmente, sino que puede tener repercusiones a largo plazo en el desarrollo de los niños)

Entender esta realidad nos obliga a tomar medidas más proactivas para proteger a nuestros pequeños en el infinito mundo digital. Es fundamental implementar filtros efectivos y promover una supervisión parental adecuada para minimizar estos riesgos.

Implicaciones de las nuevas tecnologías

¿Alguna vez has oído hablar de los deepfakes? Estas tecnologías emergentes están siendo un auténtico dolor de cabeza en internet y, no dejan de lado el ámbito de la seguridad infantil. Los deepfakes son contenidos que parecen increíblemente realistas, lo cual es un arma de doble filo, especialmente para los más jóvenes.

La inteligencia artificial, que ya está en el punto de mira por su capacidad para filtrar contenido perjudicial, también tiene el potencial de detectar y combatir los deepfakes.

Pero aquí encontramos actualmente un gran problema: la precisión de estas herramientas aún no es perfecta, lo que implica un desafío continuo para los desarrolladores y reguladores.

Y es que la implementación de la IA no solo se trata de bloquear lo dañino, sino de educar a los usuarios jóvenes sobre cómo navegar de forma segura y crítica por internet. La inteligencia artificial no es una solución mágica, pero es una herramienta poderosa que, si se utiliza correctamente, puede marcar diferencias significativas en la vida de nuestros hijos online.

Comparte este Artículo
Sígueme en redes:
Veterano de la tecnología con más de 20 años de trayectoria, apasionado por los dispositivos móviles, la domótica y la inteligencia artificial. Además de mi fascinación por el cine y las series, tengo una sólida experiencia en administración de servidores y bases de datos. Comprometido con el aprendizaje continuo, busco siempre estar al día con las últimas tendencias tecnológicas.
Deja tu comentario