Víctimas de deepfake: los alcances penales tras el caso que remece al colegio Saint George’s por las alumnas desnudadas con Inteligencia Artificial

Para Dominga (22), recibir llamadas de hombres que gimen su nombre y mensajes de texto donde le piden fotos de ella desnuda, es una ocurrencia que pasa cada un par de meses. Es tan así, que dice que su respuesta ante ello es automática: apenas ve que le llega una notificación de un número desconocido, lo único que hace es bloquear. Pero no importa la cantidad de veces que lo haga: cada cierto tiempo llega un nuevo hombre a molestarla. 

Pasó cerca de un año y medio hasta que se enteró cómo es que llegaban a ella: un día, un hombre se comunicó con la madre de Dominga por mensaje de texto y le comentó que existía un grupo en Telegram con su nombre. Allí, no solo compartían fotos de Dominga desnuda, sino que también de ella misma. “Habían fotos de otras niñas también, de niñas chicas. Era horrible. Y hacían comentarios como: ‘hoy es el cumpleaños de la mamá de la Domi. Mandémosle fotos, mandémosle videos’”, relata la joven. 

Sin embargo, ninguna foto del grupo era de verdad. Los registros de ella y de su madre estaban hechos con inteligencia artificial (IA): sus rostros eran lo único real. Así, ellas fueron víctimas de deepfake: imágenes, vídeos o audios generados que imitan la apariencia o la voz de una persona. 

Un fenómeno que ya es de carácter mundial -por ejemplo, a principios de este año se bloqueó el nombre de Taylor Swift de la red social X debido a la difusión de fotos pornográficas de ella realizadas con IA-. El fenómeno llegó y se masificó en Chile la semana pasada, cuando se hizo público que alumnos del Colegio Saint George’s crearon imágenes de sus compañeras desnudas con esta misma herramienta.  

Este viernes, la Corte de Apelaciones de Santiago declaró admisibles los dos recursos de protección presentados por cuatro familias en favor de sus hijas, estudiantes del colegio Saint George’s. Paralelamente, hace una semana la Fiscalía Metropolitana Oriente abrió una investigación para pesquisar la eventual comisión de delitos en la conducta desplegada por los estudiantes respecto de sus compañeras. Lo que se busca determinar es si pueden o no configurarse ilícitos de trato degradante o de uso de material pornográfico infantil -considerando que quienes lo hicieron también son adolescentes-, ya que las afectadas son menores de edad, en el primer caso de este tipo en el país.

De acuerdo a Pablo Trigo, del Centro de Estudios en Derecho, Tecnología y Sociedad (CE3) de la Universidad de Chile, estas fotografías se realizan con sistemas avanzados de inteligencia artificial. “Estos modelos son entrenados con grandes bases de datos. Generalmente, hacen un barrido del internet; tienen un repositorio grande de imágenes, por ejemplo. Y los sistemas son entrenados con estas imágenes, y en el caso particular de la creación de imágenes, a través de ciertas instrucciones y con este entrenamiento, pueden generar fotos ultrarrealistas”. 

Camila (26) supo que estaban vendiendo fotos pornográficas de ella de la misma manera que Dominga. Si bien recibía llamadas de hombres que no conocía y mensajes en los que le pedían comprar material pornográfico hace un año y medio, siempre pensó que aquellos contactos tenían que ver con su trabajo de modelo. Sin embargo, hace una semana atrás le llegó un mensaje un diferente:

“¿Me vendes el pack completo? Pago bien”, le escribió un extraño. Y junto con el texto, adjuntó una imagen de ella desnuda. Pero al igual que Dominga, ese no era su cuerpo. Habían sido creadas con inteligencia artificial.

A pesar de que no contestó enseguida debido al shock, Camila optó por seguirle el juego al hombre y preguntarle por más detalles. Así, entre la conversación, el hombre le dijo que había comprado algunas imágenes y que las demás las había obtenido en distintas redes sociales. 

Con eso, Camila decidió ir a la Policía de Investigaciones (PDI) para denunciar. Allí, le aconsejaron que cambiara su número de teléfono y comunicara su caso a través de Fiscalía en Línea, quienes le derivarían su caso a la oficina que correspondiera. Hasta hoy, sigue esperando una respuesta. 

Según Maurizio Sovino, Director de la Unidad Especializada en Delitos Sexuales de la Fiscalía Nacional, casos como el de Dominga y Camila no pueden ser judicializados por sí solos, debido a que en Chile aún no existe una ley que tipifique este tipo de delitos. Esto, a pesar de los datos levantados por la Unidad de Género y Participación Ciudadana de la Subsecretaría del Interior, en el 2023, donde se concluyó que las personas más expuestas a sufrir violencia digital son niños, niñas o adolescentes (88%) y mujeres (65%).

“Poner a una persona dentro de un contexto sexual, erótico o pornográfico es sanción solamente en el caso de niños, niñas y adolescentes. Es decir, hasta los 17 años (…) Si es que yo tomo una imagen, por ejemplo, de alguna red social de una adolescente en la playa o en el campo, donde quiera que sea, y la adultero para que quede en un contexto erótico o pornográfico, eso sí sería delito”, explica Sovino.

Es tan así, que la acción puede ser imputable en el caso de que un menor de edad cree o difunda este tipo de material pornográfico, como sucedió con los alumnos del Colegio Saint George’s. Así lo dice María Elena Santibáñez, abogada y académica de la Pontificia Universidad Católica, quien explica que estos delitos cometidos con imágenes reales de menores de edad, que son adulteradas obteniendo una representación de los mismos en contextos sexuales, son considerados por nuestra legislación como material pornográfico infantil, sancionando su producción y distribución.

La especialista agrega, sin embargo, “que en el caso de que este delito sea cometido por adolescentes, la reacción penal es muy distinta, pues la ley de responsabilidad penal adolescente, promueve sanciones con un fuerte carácter educativo y que, en el caso de arribarse a condenas, como multas, amonestaciones, servicios comunitarios abogan por soluciones alternativas al conflicto penal”, explica.

“Ley Pack” duerme en el Congreso desde 2019

Hasta el momento, esta es la única legislación en Chile que puede proteger a las personas de delitos cibernéticos de carácter sexual. Sin embargo, hay intentos como la “Ley Pack”, iniciativa impulsada principalmente por la diputada Maite Orsini y la actual Ministra de Defensa, Maya Fernández. Este proyecto de ley, que ya se aprobó por la Cámara de Diputados, penaliza la difusión de imágenes, audios o vídeos de carácter íntimo sin consentimiento. Sin embargo, aún se espera que la ley se vote en el Senado desde 2019.

Aun así, existen iniciativas como el Boletín 13928 – 07, emitido por el Fiscal Nacional Ángel Valencia. En él, el fiscal sugiere a la misma “Ley Pack” ciertas modificaciones, como la inclusión de imágenes exhibidas creadas con inteligencia artificial. De acuerdo con Pablo Trigo, investigador del CE3 de la Universidad de Chile, a pesar de que la creación y difusión de fotos pornográficas realizadas con IA no sea delito, sí hay una manera de penalizar al autor de las imágenes.

“Hay varios elementos que constituyen el delito de injurias, que pueden ser complejos de demostrar. Especialmente en este entorno, en el que hay que dar con el autor mismo de esta clase de contenido, pero es la herramienta que actualmente la cual podría recurrir una persona afectada”, dice el investigador. 

Sovino también está de acuerdo con esta alternativa. “Hay que hacer ejercicios de interpretación para ver dónde este delito podría calzar. Pienso que podrían ser injurias por su afectación, daño a la honra. Si es que existe una difusión pública, podría haber un ultraje a las buenas costumbres. Si hay escándalo, si hay trascendencia. Pero no existe un tipo penal específico para esto”, explica el abogado.

Hasta el día de hoy, ni Dominga ni Camila saben quiénes son los hombres detrás de los mensajes y las llamadas. Menos en el caso de los autores. Ni siquiera saben cómo estas personas llegaron a sus números telefónicos. “Yo no sé quiénes pueden ser. En el grupo de Telegram hay un mensaje donde uno de los chicos dice: ‘es una conocida a la que le tengo ganas’. Pero mi número telefónico lo conoce poca gente. Entonces, yo me pongo a pensar y no sé quién puede ser (…) He puesto en duda todo”, dice Dominga.

Esta falta de responsables no solo es un problema para las víctimas. La dificultad que las autoridades tienen para saber quiénes son los responsables, en un mundo donde el anonimato es la regla, impiden que este tipo de situaciones se puedan penalizar. “Hay un elemento técnico de cómo tener certeza del autor de esta clase de delito, de cómo generalizar una trazabilidad en esta manipulación de imágenes con inteligencia artificial. Muchas veces hay una red de personas que pueden estar en la cadena de alteración de la imagen”, menciona Pablo Trigo.

Para Trigo, las desarrolladoras de estas nuevas tecnologías también tienen una responsabilidad importante. Al respecto indica que “podrían generarse ciertas medidas que eviten el uso ilícito, es que las personas que son los creadores de esta guías traten de que no sea posible dar esta instrucción para hacer la imagen”, dice el especialista.

La situación se complejiza más si se considera el Boletín 13928-07 emitido por Ángel Valencia. Allí, el fiscal aclara que “el país carece de servicios policiales y periciales adecuados para investigar estas conductas. La investigación de delitos de violencia digital demanda una mayor especialización y de recursos materiales/tecnológicos”. Además, en el documento se indica que las unidades especializadas ya se encuentran con una sobrecarga que les impide trabajar con tiempo en los demás casos.

Para el Director de la Unidad de Delitos Sexuales, Maurizio Sovino, encontrar responsables también es una dificultad. Sin embargo, asegura que no es imposible. “Lo que ocurre a través de redes sociales o grupos, es que la evidencia es muy fácil destruirla. Es muy fácil vivir en el anonimato en redes. Existen diferentes herramientas que usa la Fiscalía de Chile o la policía para poder lograr identificar a quien envía esta fotografía. Quién generalmente las difunde por algún medio no, esa es la principal puerta de entrada (…) A través de eso uno puede seguir la trazabilidad hasta encontrar a la persona”, indica Sovino.

Las secuelas de la violencia digital

Para la doctora Claudia López, experta en interacción entre personas e inteligencia artificial del Centro Nacional de Inteligencia Artificial (CENIA), esta es una problemática de género. Y una que, además, no se puede prevenir. “Si tienen una foto tuya, cualquier persona puede subirla a una aplicación que desnude el cuerpo de esa fotografía. Entonces, tenemos cero control (…) Otra persona decide que puede utilizar la fotografía de una tercera persona simplemente para hacerle daño. Eso es lo que más preocupa de esta situación: hay mucha indefensión. Es difícil que una persona diga: ‘esto es responsabilidad mía para que esto no me pase’”.

De hecho, este fue el caso de Dominga: una vez que su madre vio las imágenes sexuales creadas con IA que las demás personas en el grupo de Telegram habían hecho, le pidió que no se expusiera más en redes sociales. “Quería que borrara el Instagram, TikTok, todo lo que pudiera tener mi cara. Llegó un punto en el que eran muchos mensajes y diferentes números siempre, y nosotras bloqueábamos y bloqueábamos”, cuenta Dominga.

Según Fernanda Maldonado, especialista experta en trauma psicológico, el impacto que puede tener este tipo de situaciones en las víctimas puede ser demoledor y depende de varios factores: qué tan masiva fue la difusión de la fotografía, si el creador de la imagen es alguien cercano o no y cómo la persona enfrente lo ocurrido.

“Si bien no es tu cuerpo, al construirlo con tu cara, que es parte de tu identidad, va a tener muchos efectos (…) es algo súper amenazante. Mucha ansiedad, mucha angustia, mucha vergüenza. Es una sensación de querer aislarte”, indica Maldonado.

“Yo trato de pensar positivo, aunque uno obviamente se siente mal y un poco extraña al ver estas fotos con inteligencia artificial. Yo decía: ‘imagínate alguien puede ver estas fotos y pensar de verdad que esa soy yo’. O sea, mi cuerpo, básicamente”, dice Dominga. “A mi mamá le afecta más que a mí. A ella le llegan estas fotos, y siempre llora cuando le llegan estos mensajes”.

Para Camila, la situación es una más de miles. “Una, como es mujer, siempre recibe distintos tipos de mensajes, ya sea por Facebook, por Instagram, por Twitter. Entonces, al día de hoy, me encuentro como en una coraza. De cierta forma no me afecta, como a otras que quizá sí les pueda afectar”, aclara Camila, quien hizo una publicación en su Instagram dando a conocer la situación para sus seguidores. “Mi yo de 15 años, probablemente, se hubiera quedado callada de la pura vergüenza. Y ahora, gracias a las herramientas que tengo y todo lo que he pasado, puedo estar tranquila y compartirlo”, concluye.