“Deepfakes” en las secundarias: ¿cuándo y quién pone el límite? 
En varios países de América Latina, varones adolescentes han usado el rostro de sus compañeras de colegio para “desnudarlas” digitalmente y exponerlas en grupos y catálogos. Un solo caso en México afectó a 400 alumnas. ¿Qué responsabilidad tienen las empresas tecnológicas en esta situación? ¿Cómo la están abordando las autoridades?
- Redacción AN/ SBH
La Fiscalía de Zacatecas, México, abrió una investigación contra tres muchachos que manipularon con inteligencia artificial la imagen de al menos 400 compañeras. No se conformaron con poner sus rostros en fotos de cuerpos desnudos en posiciones sexualmente explícitas. También alojaron las imágenes en un servidor de Google en forma de catálogo que difundieron por Whatsapp y redes sociales. Las autoridades los acusan de delitos contra la intimidad sexual.
Pero el asunto va mucho más allá. Basta una búsqueda rápida por internet para conseguir noticias casi idénticas en Argentina, Ecuador, Colombia y España. Esa conducta aún carece de nombre en varios países, como Colombia, pero los expertos consultados coinciden en que se trata de un delito que ocasiona múltiples daños a las víctimas, muchas veces niñas y adolescentes.
Los reportes periodísticos muestran otro patrón: las autoridades escolares suelen “resolver” la situación desde una perspectiva que ignora los daños perpetrados a las víctimas. Con argumentos como que “no son sus cuerpos”, o “no las tocaron”, minimizan que sí son sus rostros, sus nombres, su identidad y su dignidad. Los perjuicios causados son diversos, pero se pueden englobar en tres grupos: emocional, reputacional y de seguridad.
“Empieza el tema de ansiedad, la persecución, el preguntarse qué van a hacer con esa imagen, quién se va a aprovechar de ella”, explica Katherine Jaramillo, cofundadora de la ONG Valientes Colombia, sobre el daño emocional. Y continúa: “De allí pueden surgir amenazas también, ‘le vamos a enviar esta imagen a su mamá, no sé qué…’ Entonces mira cómo se agranda esto.. pasa de un delito de material sexual abusivo a empezar a hablar de ‘sextorsión’, injuria, calumnia”.
Juan Martín Pérez García, coordinador de Tejiendo Redes de Infancia en América Latina y el Caribe, también señala los riesgos: “Por ejemplo, en el caso de Zacatecas, los 400 perfiles identificados con nombre y grupo escolar se convirtieron en un perfilamiento para las redes de explotación sexual, que son impunes y reinan en todo el territorio”.
Y justo por ocurrir todo en el entorno digital, los daños pueden permanecer en el tiempo. Chequeado reporta, sobre el tema en Argentina, el caso de un joven imputado de 19 años. “Aunque la Justicia ordenó la desindexación de imágenes de estos sitios, aún en el buscador de Google el nombre de algunas de las jóvenes sigue siendo asociado a páginas porno, lo que le da continuidad al daño provocado en su reputación”. Pérez pone un ejemplo: “Cuando esta adolescente busque trabajo, su empleador o empleadora va a encontrar esa imagen. No importa si fue sintética, está su rostro. Y con alta probabilidad esa imagen estará suelta y no estará señalada como parte de una denuncia penal”.
En Colombia, la plataforma TeProtejo, una línea de reporte de vulneraciones contra niños, niñas y adolescentes de Red Papaz, empieza a mostrar esta violencia como un fenómeno recurrente: “Teníamos muchos reportes de grooming, ciberacoso, material sexual de explotación. Pero ya estamos empezando a ver reportes también con temas de inteligencia artificial”, comenta Cristina Escobar, directora de Protección Infantil de Red Papaz.
El abordaje
“‘¿Quién quiere la de Antonia, 13 años, colegio tal?’, así anunciaban cada foto, con nombre, edad y colegio, como si fuera una subasta de ganado. A quien la quería se la pasaban o se la cobraban por interno”, describe un artículo de El Espectador que denuncia lo sucedido en Colombia. Cuenta la historia un año después de ocurrida, y a la fecha de la nota, indica que no se supo qué medidas se tomaron con los responsables, solo que los echaron del colegio.
Escobar comenta que los colegios que han reportado situaciones como estas a Red Papaz, sí están activando las rutas con la Secretaría de Educación. Pero en lo penal, la impunidad es la norma, porque esa conducta no está tipificada como delito en Colombia. “Los abogados les recomiendan que no lo hagan”, señala Alejandro Castañeda, jefe del centro Internet Seguro de Red Papaz. Explica que existe un vacío legal y que por eso el proceso se complejiza enormemente y termina por revictimizar a las demandantes.
El seguimiento periodístico de un caso en un instituto universitario en México demuestra lo anterior. Las víctimas contaron a Radio Ambulante cómo las autoridades las obligaron a buscar sus imágenes entre todo el material del agresor: cientos de miles de archivos de contenido sexual, incluso de abuso infantil. Al final, la justicia no condenó al joven por ninguno de estos casos, porque aunque aparecieron las imágenes en su iPad, no se pudo probar que él las había manipulado.
En Ecuador, en 2023, se reportó que una autoridad escolar resolvió solucionar el “inconveniente” al borrar las fotos de los equipos. Sin embargo, el Ministerio de Educación informó la creación de un protocolo para la actuación en caso de violencia digital en el Sistema de Educación Nacional.
Jaramillo cuenta que Valientes Colombia también se ha enterado de casos que no han llegado a una investigación penal. En uno de ellos, a su juicio, las autoridades escolares actuaron de manera tardía y los responsables de la manipulación de las imágenes las borraron y allí quedó todo, porque “sin pruebas no hay delito”. En otro caso la víctima fue un adolescente al que le tomaron y manipularon una foto de sus genitales. Esta vez los propios compañeros trivializaron la situación por tratarse un hombre.
A propósito de este caso, la experta aclara: “Los delitos de abuso, y en nuestro caso que manejamos explotación sexual, son delitos feminizados, donde la mayoría de las víctimas somos las mujeres. Pero eso no quiere decir que los chicos no sean víctimas, ¿hasta donde a un hombre le pesa tanto su masculinidad para denunciar estos casos?”.
México, en 2021, sancionó la Ley Olimpia, que tipifica la violencia digital contra niñas y mujeres. Esa decisión movió a otros países a seguir su ejemplo, con un movimiento que se llama de la misma manera. Así que Argentina y Panamá también tienen ya su “Ley Olimpia”, y feministas buscan su promulgación en Guatemala, Honduras, El Salvador, Colombia, Ecuador y Bolivia.
Sin embargo, en el caso de Zacatecas, Pérez cuenta que el caso enfrentó obstáculos para llegar a la justicia. “Se redujo a un tema de un niño que había hecho algo incorrecto y no se le dio atención, pese a la llamada de alerta ante lo que ya de entrada era un hecho delictivo. Y muy preocupante que cuando la presión ya es alta, las autoridades educativas se encierran con uno de los niños y dicen ‘ellos borran el material y ya’. Como que ya se borró, entonces no hay problema. Las personas tienen que tomar las avenidas para protestar y allí es que interviene la fiscalía”.
Actor clave
¿Por qué ocurren? ¿Es posible prevenirlo? En cuanto a la primera pregunta, los expertos apuntan múltiples causas.
Para Pérez, estas situaciones tienen que ver con la cosificación de los cuerpos de las mujeres y niñas, con una industria pornográfica que se sostiene y promueve con ese fenómeno y con los algoritmos basados en prejuicios sexistas y etarios. También señala un factor interesante que tiene que ver con la educación, y lo sustenta en el bajo resultado de las últimas pruebas PISA. La gente joven “está teniendo pocos elementos para construir el pensamiento crítico, como hacerse una pregunta tan sencilla y simple: ¿se puede hacer? Claro, con la tecnología. ¿Lo debo de hacer aunque se pueda? ¿Esto es legal? ¿Esto va a afectar a alguien?”.
Escobar apunta la violencia estructural contra la mujer. “Esto existe desde toda la vida, no es como que hace 20 años no existiera, sino que pues el acceso era mucho más controlado, restringido. En cambio, ahorita en el mundo tecnológico está la mano de todos y todas demasiado fácil”.
Y Jaramillo agrega algo más: la falta de los padres. “No solo es una ausencia física. Tenemos a padres en casa, pero que siempre están en otro mundo. Piensan que sus hijos están juiciosos ahí con el computador. Claro, pero es que el computador ya es una ventana al mundo y desconocen eso”.
Los expertos coinciden en que, para hacer frente a esta situación que, no dudan, se incrementará, hace falta educar para prevenir y actuar con debida diligencia. Es decir, que todos los actores (familias, educadores, autoridades) reconozcan estas actuaciones como delitos de violencia sexual y que al enterarse actúen en función de la víctima.
Sin embargo, apuntan que nada es suficiente si las empresas tecnológicas no establecen, desde el propio diseño de las aplicaciones, regulaciones que obliguen a prevenir prácticas como crear imágenes sexuales con rostros de niñas, niños o adolescentes. “¿Hasta dónde estas tecnologías son parte del delito y también pueden ser parte de la solución?”, reflexiona Jaramillo.
Pérez recuerda que la UNESCO advirtió sobre esta situación al pedir que la IA se desarrolle bajo estándares éticos. En 2021, ocho gigantes tecnológicas se comprometieron a cumplir las recomendaciones del organismo. Pero el daño está hecho y en la región las regulaciones siguen pendientes. Recientemente, la Unesco recomendó a los países miembros controlar el uso de IA en las escuelas.
La regulación es urgente. Más allá de que las familias y autoridades reaccionen correctamente a estas situaciones, el riesgo es grande. Porque, hoy en día, cualquiera puede modificar las imágenes tan fácilmente que tres chicos, el líder de apenas 14 años, pudieron hacerlo 400 veces.
