"Desnudar a alguien con IA es un delito casi imposible de erradicar"

"Desnudar" a alguien con Inteligencia Artificial es un delito, pero es técnicamente posible y muy difícil de erradicar. La investigadora especialista en Inteligencia Artificial y directora de la Fundación Ellis, Nuria Oliver, explica que ya se han dado muchos casos de este tipo en España y a nivel internacional, con grandes estrellas como Rosalía y Taylor Swift que han sido víctimas de estos programas. Aunque las grandes compañías pueden regular sus algoritmos, hay muchas IA de código abierto que no son tan fácilmente controlables.

Esto no significa que el delito no se persiga y se condene. Pero lo preocupante es que "este tipo de imágenes se comparten en grupos privados y son difíciles de rastrear. Para cuando se encuentran el daño ya está hecho en las víctimas y las fotos circulando por internet", cuenta Oliver.

Añade que es un reto muy grande, pero que ya hay otras IA que se pueden encargar de capar ese tipo de contenidos y de vigilar que no circulen por la red. Pese a todo, lo más probable es que sea un riesgo derivado de la irrupción de las inteligencias artificiales con el que haya que convivir. 

Imagenes conseguidas en redes sociales

La Guardia Civil de Valencia investiga a cinco menores de edad por la modificación, mediante técnicas de inteligencia artificial (IA) y su posterior difusión de imágenes conseguidas en las redes sociales de alumnas de varios centros docentes a las que mostraban desnudas.

Se ha acreditado un total de diecisiete mujeres perjudicadas, trece de ellas menores de edad, según informó la Guardia Civilen un comunicado donde señala que los cinco menores, de nacionalidad española, están siendo investigados por la comisión de un delito de revelación de secretos.

Dos institutos en Valencia

Según las fuentes, la dirección de dos institutos de educación secundaria de la provincia de Valencia dio la voz de alarma a finales de noviembre por la difusión de fotografías de mujeres menores de edad modificadas mediante IA para dejarlas completamente desnudas.

De la información obtenida por los agentes se pudo determinar la presunta autoría de cinco menores de edad, quienes habrían obtenido las fotografías de las redes sociales de las víctimas, modificándolas posteriormente a través de IA para despojarlas de la vestimenta y difundirlas sin autorización de las interesadas.

En estos casos se aplica el protocolo de acoso escolar, recién modificado este año y que prevé un "equipo de intervención" formado por profesionales del centro que atiende a la víctima en menos de 24 horas. 

Actuar con rapidez

El objetivo de este nuevo protocolo es la rapidez, ya que el antiguo tenía un exceso de burocracia por el que podían pasar varios meses o hasta un curso desde que se comunicara el caso al Previ (Plan de prevención de la violencia y promoción de la convivencia) hasta que alguien se personaba en el centro para tomar medidas. Durante todo este tiempo, la víctima continuaba siendo hostigada por su acosador y en muchos casos acababa por abandonar el centro escolar para que la dejaran tranquila esperando una respuesta que no llegaba. 

Cuando se detecta un caso de acoso lo primero es comunicarlo al docente, y de manera inmediata este lo hará al equipo directivo. Por la gravedad de este caso el equipo directivo decidió denunciarlo directamente ante la Guardia Civil, que inició las investigaciones oportunas y detuvo a los cinco menores acusados de difundir este contenido sin consentimiento. El programa informático con el que lo hicieron deja claro que solo está permitido usar fotos de personas mayores de edad, pero tampoco tienen ningún sistema de control sobre ello.