En semanas recientes, un caso de acoso digital ha generado gran atención pública. Una joven de 17 años, tras rechazar a un joven con quien tuvo algunos encuentros, comenzó a ser objeto de ataques mediante deepfakes. El agresor, molesto por la negativa, creó perfiles falsos en redes sociales y difundió información falsa sobre ella, incluyendo anuncios de prostitución y afirmaciones no verídicas sobre su vida sexual. Aunque acudió a la policía, su situación no recibió la atención necesaria, evidenciando la carencia de protocolos y protección para víctimas de estas nuevas modalidades de violencia.
Este episodio refleja la creciente preocupación por el uso inapropiado de la inteligencia artificial en la creación de deepfakes, vídeos manipulados que simulan acciones o declaraciones inexistentes. La circulación de estos materiales puede acarrear graves consecuencias, principalmente para las mujeres, que constituyen el grupo más afectado. Un estudio reciente revela que el 99% de los deepfakes de contenido pornográfico están dirigidos a mujeres.
Ante esta situación, el Gobierno ha impulsado medidas, entre ellas la aprobación de un anteproyecto de ley que incorpora los deepfakes en el ámbito de los delitos contra el honor. Esta normativa busca enfrentar y castigar la presencia creciente de estos contenidos en redes sociales, reconociendo su efecto dañino sobre la reputación, especialmente femenina.
Pese a ello, la aplicación de esta ley conlleva ciertas dificultades. Muchos deepfakes se producen con fines perjudiciales, aunque existen excepciones legales para contenidos artísticos, satíricos o de ficción. No obstante, la frontera entre un uso legítimo y uno abusivo resulta compleja, lo que puede dificultar la puesta en práctica efectiva de la normativa.
El caso de la joven afectada no es único. Existen múltiples testimonios que describen el impacto psicológico provocado por estos ataques. Varias víctimas, como otra joven que también sufrió acoso digital, han señalado que esta situación afectó significativamente su bienestar mental. En casos extremos, algunas han considerado opciones desesperadas, como el suicidio.
Recientemente se destapó también un incidente que involucró a 15 menores que manipularon imágenes de compañeras en un centro escolar, evidenciando cómo el acoso escolar y la violencia digital se combinan con la explotación sexual y la pornografía infantil. Esto demuestra que el problema no se limita a adultos, sino que es cada vez más habitual entre jóvenes.
Además, la regulación de los deepfakes enfrenta otro reto: la responsabilidad de las plataformas digitales. Las compañías que gestionan redes sociales a menudo se aprovechan de la viralidad de estos contenidos, sin importar el perjuicio generado. Los datos indican que, por lo general, los propietarios de estas plataformas obtienen mayores beneficios conforme el contenido se vuelve más polémico y viral.
Desde la Asociación STOP Violencia de Género Digital resaltan la urgencia de aumentar las sanciones para quienes cometen delitos vinculados a deepfakes, subrayando que los daños ocasionados son difíciles de medir. La difusión masiva de este tipo de contenido puede destruir la reputación de una persona en segundos, y su impacto en la salud mental de las víctimas puede ser irreversible.
