Riesgos
Cómo funciona
¿Qué es la IA generativa?
Es una tecnología que crea imágenes, videos, voces o textos a partir de datos existentes, imitando personas reales y generando contenido que parece auténtico, aunque no lo sea.
¿Qué son los deepfakes y cuál es su peligro?
Los deepfakes son contenidos creados con IA que pueden mostrar a una persona —incluso a niños y adolescentes— haciendo o diciendo algo falso. Su difusión vulnera la imagen, la intimidad y el consentimiento, generando daños emocionales y riesgos para la seguridad, además de dejar los datos incorporados en el sistema que entrenó la IA.
¿Cómo se crea un deepfake?
Cuando alguien sube una foto, un video o un audio de una persona a una app con IA generativa, la tecnología puede recrear su cara, su voz y sus gestos, y hacer que parezca que esa persona está diciendo o haciendo algo que nunca ocurrió.
Estás funciones son de uso cada vez más frecuente y suelen estar disponibles en aplicaciones o sitios web gratuitos y fáciles de usar.
Pensemos juntos
¿Qué riesgos pueden asociarse a estos contenidos?
Riesgos en entornos escolares
El acoso digital con deepfakes expone a estudiantes y docentes mediante imágenes no consentidas que se viralizan rápidamente, generando daños emocionales y sociales.
Impacto en la salud mental
Los deepfakes pueden generar ansiedad, alteraciones del sueño, apatía o depresión, afectando el bienestar emocional y el rendimiento escolar.
Cambios en la forma de relacionarse
El impacto de los deepfakes puede reflejarse en retraimiento, miedo a socializar, abandono de actividades y conductas agresivas.
Dificultad para borrar el contenido
¿Cómo cuidamos las infancias?
Antes de que usen tecnología:
informarse y prevenir riesgos
Cuidar a las infancias en el entorno digital comienza por informarnos como adultos. Así como acompañamos a los chicos en la calle o en un vehículo, también debemos guiarlos en el uso de la IA, conociendo riesgos, medidas de protección y respetando su autonomía progresiva.
Consentimiento y edad mínima
No toda app es segura por permitir registrarse. El respeto al consentimiento y a la edad legal protege la identidad, la voz y la imagen de las infancias en el entorno digital.
Autonomía progresiva
A medida que crecen, niñas, niños y adolescentes pueden decidir más sobre su imagen y datos, pero siempre con el acompañamiento y la guía de los adultos.
Acompañamiento digital
Acompañar a los niños en apps y redes genera confianza y seguridad. El control parental ayuda a gestionar tiempo, contenidos y alertas.
Probar antes de usar
Antes de que los niños usen una app, pruébala. Así podrás verificar contenido inapropiado, publicidad, solicitudes de datos, contactos con desconocidos y opciones de privacidad y seguridad.
Hablar genera confianza
Conversar con los niños sobre su actividad en línea ayuda a construir confianza. Pregunta sobre herramientas, contenidos o situaciones incómodas y muestra interés genuino en lo que hacen, evitando un tono de control
Privacidad en línea
No compartir datos, fotos o ubicación propia ni de otros. Recordá que todo lo que se sube puede usarse en internet y en herramientas de IA.
Revisar términos y condiciones
Los términos y condiciones suelen ser largos y confusos, especialmente para las infancias, pero una alternativa es enfocarse en verificar si explican qué hacen con los datos recolectados o bien consultar reseñas en sitios especializados.
