09:00 - 20:30

Horario atención al público

691 36 66 73 - 968 20 83 45

Teléfonos de contacto

Lferrer@gestioneslegales.es

Respuesta en menos de 24h

Primera condena en Sevilla por utilizar inteligencia artificial para manipular fotografías de jóvenes y simular que estaban desnudas

El juez condena a tres varones por delitos contra la integridad moral, les impone un total de nueve meses de prisión y les prohíbe acceder a redes sociales durante tres años y nueve meses, apreciando además la agravante de género

Por Luis Ferrer Abogado

La inteligencia artificial permite crear imágenes cada vez más realistas de personas que nunca posaron de esa manera, nunca llevaron determinada ropa y, en ocasiones, nunca estuvieron desnudas aunque la fotografía manipulada haga creer exactamente lo contrario.

Pero que una imagen sea falsa no significa que el daño también lo sea.

Un juez ha dictado en Sevilla la que se presenta como primera sentencia condenatoria en la provincia por la utilización de inteligencia artificial para manipular fotografías de varias jóvenes y aparentar que estaban desnudas.

Los acusados, tres varones, han sido condenados por tres delitos contra la integridad moral, con penas que alcanzan en conjunto los nueve meses de prisión, además de una medida especialmente relacionada con el medio utilizado: la prohibición de acceder a redes sociales durante tres años y nueve meses.

La sentencia aprecia además la agravante de género, al considerar que la conducta proyectaba una concepción de superioridad machista que cosificaba a las mujeres.

El caso resulta especialmente relevante porque demuestra algo que conviene comprender en plena expansión de la inteligencia artificial generativa:

no es necesario que una fotografía íntima sea auténtica para que su creación pueda producir un daño penalmente relevante.

La inteligencia artificial no crea un espacio sin Derecho

La aparición de nuevas tecnologías suele generar inicialmente una impresión equivocada:

“Si la ley no menciona expresamente esta aplicación de inteligencia artificial, entonces no puede existir delito”.

No funciona así.

El Derecho penal protege bienes jurídicos.

La dignidad.

La integridad moral.

La intimidad.

La libertad sexual.

El honor.

El patrimonio.

La libertad.

Que el instrumento utilizado para lesionarlos sea novedoso no significa que esas conductas queden automáticamente fuera de la legislación vigente.

Un programa informático puede ser simplemente el medio mediante el cual se ejecuta una conducta penalmente relevante.

Las fotografías eran falsas, pero representaban a mujeres reales

Este es uno de los aspectos más importantes.

La inteligencia artificial permite modificar una fotografía ordinaria hasta crear la apariencia de que la persona retratada está desnuda.

El cuerpo mostrado puede no corresponder realmente a la víctima.

La fotografía original puede no haber tenido ningún contenido sexual.

Y la persona afectada puede no haberse fotografiado jamás desnuda.

Sin embargo, su rostro o identidad quedan asociados a una representación sexual creada artificialmente.

Desde el punto de vista de quien recibe o contempla la imagen, puede parecer auténtica.

Y desde el punto de vista de la víctima, el menoscabo a su dignidad puede ser absolutamente real.

“No era una foto verdadera” no elimina necesariamente la responsabilidad

Una defensa basada exclusivamente en que la imagen fue generada artificialmente puede resultar insuficiente.

El problema jurídico no consiste únicamente en determinar si el cuerpo representado era verdadero.

También debe analizarse:

qué se hizo con la identidad de la víctima,

qué finalidad perseguía la manipulación,

qué contenido se creó,

qué conocimiento tenían los autores,

qué efectos podía producir

y qué afectación generó sobre la dignidad de las jóvenes.

Una falsificación digital puede crear un daño auténtico.

El juez condena por delitos contra la integridad moral

Según la información conocida, la condena se articula a través de tres delitos contra la integridad moral.

Esta elección jurídica resulta especialmente significativa.

La integridad moral protege a la persona frente a comportamientos gravemente humillantes, degradantes o vejatorios capaces de afectar a su dignidad.

No estamos hablando simplemente de que una fotografía resulte desagradable.

La cuestión es si la conducta alcanza la intensidad suficiente para producir una humillación jurídicamente relevante.

¿Qué es la integridad moral?

La integridad moral no debe confundirse con la integridad física.

Una persona puede no sufrir absolutamente ninguna lesión corporal y, sin embargo, ver gravemente afectada su dignidad.

Determinadas conductas pueden someter a una persona a una experiencia de humillación o degradación incompatible con el respeto debido a su condición personal.

La tecnología ha ampliado enormemente las formas mediante las cuales puede producirse ese daño.

Antes podía consistir en acciones presenciales.

Hoy también puede ejecutarse desde un teléfono móvil.

La desnudez artificial puede convertirse en una forma de humillación

La representación sexual no consentida de una persona puede afectar profundamente a su dignidad.

Especialmente cuando se utiliza su rostro real para crear la apariencia de una desnudez inexistente.

La víctima puede enfrentarse a una situación especialmente difícil:

tener que explicar que la fotografía no es verdadera.

Temer que familiares o compañeros la vean.

Sentir que su imagen ha sido sexualizada sin autorización.

Perder el control sobre su propia representación.

La falsedad técnica de la imagen no impide estas consecuencias.

La inteligencia artificial facilita algo que antes exigía conocimientos especializados

La manipulación fotográfica no nació con la inteligencia artificial.

Desde hace años existen programas capaces de modificar imágenes.

Lo que ha cambiado radicalmente es la facilidad.

Actualmente determinadas aplicaciones pueden generar resultados convincentes en segundos.

Una fotografía tomada de una red social puede convertirse rápidamente en material sexual falso.

Ese cambio tecnológico multiplica el riesgo.

No porque la tecnología sea en sí misma delictiva, sino porque reduce enormemente las barreras para utilizar la imagen de una persona de forma degradante.

No toda manipulación fotográfica constituye un delito

También es importante evitar una generalización.

Editar una imagen no es automáticamente delictivo.

La manipulación digital puede utilizarse para:

arte,

humor,

publicidad,

ficción,

efectos visuales

o multitud de finalidades legítimas.

Lo jurídicamente relevante aparece cuando se utilizan esas herramientas para lesionar derechos de terceros y se cumplen los elementos de una infracción penal concreta.

Por eso siempre debe analizarse el contexto.

El consentimiento continúa siendo fundamental

La existencia o ausencia de consentimiento puede resultar decisiva.

No es lo mismo que una persona participe voluntariamente en una creación artística o autorice determinado uso de su imagen que tomar fotografías reales sin su autorización para convertirlas en falsas representaciones sexuales.

Además, un consentimiento para publicar una fotografía ordinaria no equivale a autorizar que sea transformada en una imagen de desnudo.

Esta distinción resulta esencial en redes sociales.

Publicar una fotografía en Instagram no autoriza a sexualizarla

Cuando una persona sube una fotografía a una red social, puede permitir que otros usuarios la visualicen conforme a las condiciones del servicio.

Eso no significa que renuncie a todos sus derechos sobre su imagen.

Mucho menos que autorice a terceros a utilizarla para fabricar representaciones íntimas o degradantes.

La accesibilidad de una fotografía no equivale a consentimiento universal para cualquier manipulación posterior.

El derecho a la propia imagen continúa existiendo en internet

Existe una percepción social equivocada según la cual todo lo publicado online se convierte automáticamente en material libre.

No es así.

Que una fotografía pueda visualizarse no significa que cualquier tercero pueda hacer con ella lo que desee.

Dependiendo de la utilización pueden entrar en juego diferentes ámbitos:

protección de la imagen,

intimidad,

protección de datos,

responsabilidad civil

y, cuando se alcanzan determinados niveles de gravedad, responsabilidad penal.

¿Qué es un “deepfake”?

Se utiliza habitualmente esta expresión para describir contenidos audiovisuales manipulados mediante técnicas de inteligencia artificial que permiten aparentar que una persona hizo, dijo o protagonizó algo que nunca ocurrió.

Pueden generarse:

vídeos,

audios,

fotografías,

rostros superpuestos

o cuerpos artificiales.

En el ámbito sexual, estas herramientas presentan un riesgo especialmente intenso porque permiten fabricar desnudos o escenas sexuales aparentemente protagonizadas por personas reales.

Que el “deepfake” sea detectable no significa que sea inocuo

Puede ocurrir que un análisis técnico demuestre que una imagen fue manipulada.

Pero para entonces el daño ya puede haberse producido.

La fotografía puede haber circulado.

Puede haber sido almacenada.

Compartida.

Comentada.

O utilizada para humillar a la víctima.

Además, no todos los receptores poseen conocimientos suficientes para distinguir una imagen auténtica de otra generada artificialmente.

La agravante de género resulta especialmente relevante

El juez ha apreciado además una agravante de género.

Este elemento requiere una explicación cuidadosa.

No basta con que la víctima sea una mujer y el autor sea un hombre.

La agravación exige que la conducta presente la motivación discriminatoria o de dominación que jurídicamente permita apreciar esa circunstancia.

En este caso, el órgano judicial considera que existía ese componente.

La resolución afirma que los acusados proyectaron “una pretendida supremacía machista que cosifica a las mujeres”.

Cosificar significa reducir a la persona a un objeto sexual

Desde la perspectiva de la resolución, la manipulación no se limitó a una broma tecnológica.

Transformar fotografías de mujeres reales para mostrarlas artificialmente desnudas supone utilizar su identidad como materia prima para una representación sexual no consentida.

La persona deja de ser tratada como sujeto con capacidad para decidir sobre su intimidad y pasa a ser utilizada como objeto de consumo visual.

Es precisamente ese componente el que permite comprender la referencia judicial a la cosificación.

La agravante de género no puede aplicarse automáticamente a todo delito cometido por un hombre contra una mujer

Esta precisión es indispensable.

El Derecho penal no agrava cualquier conducta por el simple sexo de las personas implicadas.

Debe probarse el fundamento discriminatorio correspondiente.

Por tanto, esta sentencia no significa que cualquier manipulación fotográfica realizada por un hombre sobre una imagen femenina lleve automáticamente aparejada la agravante.

Debe analizarse cada caso.

Tres víctimas, tres delitos

Según la información disponible, los acusados han sido condenados por tres delitos contra la integridad moral.

Esto pone de manifiesto otro principio importante.

Cuando una conducta afecta individualmente a varias personas, puede existir una pluralidad de infracciones en función de cómo se hayan desarrollado los hechos.

Cada víctima es titular de su propia dignidad e integridad moral.

La afectación de varias personas no tiene por qué convertirse jurídicamente en una única lesión indiferenciada.

La responsabilidad de los tres acusados también debe ser individualizada

El hecho de que existan tres acusados tampoco permite atribuir automáticamente a todos las mismas conductas.

En cualquier procedimiento penal debe determinarse:

qué hizo cada uno,

qué conocía,

en qué participó,

qué aportación realizó

y qué intención tenía.

La responsabilidad penal es personal.

No existe responsabilidad simplemente por pertenecer a un grupo de amigos o participar en una conversación.

Nueve meses de prisión: una verdadera condena penal

La sentencia impone un total de nueve meses de prisión conforme a los términos conocidos del fallo.

Aunque pueda parecer una duración reducida en comparación con otros delitos, sigue tratándose de una pena penal.

Genera las consecuencias propias de una sentencia condenatoria.

Otra cuestión diferente será el régimen de ejecución y la eventual concurrencia de los requisitos legalmente previstos para cualquier decisión posterior sobre el cumplimiento.

No debe confundirse la duración de la pena con la inexistencia de gravedad jurídica.

La prohibición de acceder a redes sociales durante tres años y nueve meses

Probablemente una de las consecuencias más llamativas del procedimiento es la prohibición de acceder a redes sociales durante tres años y nueve meses.

La medida conecta directamente con el entorno tecnológico en el que se desarrollaron los hechos.

Esto demuestra cómo el Derecho penal puede utilizar consecuencias que no se limitan a prisión o multa.

Cuando determinadas herramientas o espacios digitales están directamente relacionados con una conducta delictiva, pueden existir restricciones específicamente dirigidas a impedir su reiteración en los términos legalmente establecidos.

Las redes sociales no son jurídicamente un espacio privado sin reglas

Aunque muchas actividades se desarrollen desde un teléfono personal, las consecuencias pueden trascender inmediatamente al ámbito público.

Una fotografía puede alcanzar a cientos de personas en pocos minutos.

Puede descargarse.

Duplicarse.

Circular por grupos privados.

Reaparecer meses después.

Esa capacidad de multiplicación convierte determinadas conductas digitales en especialmente difíciles de reparar.

Borrar la imagen posteriormente no hace desaparecer necesariamente el delito

Una vez realizada una conducta penalmente relevante, eliminar posteriormente el archivo no significa necesariamente que nunca hubiera existido.

Puede tener importancia en determinados aspectos.

Pero no borra retroactivamente lo ocurrido.

Además, en internet eliminar el archivo original no garantiza que hayan desaparecido todas sus copias.

Por eso la prevención adquiere una importancia enorme.

Las capturas y los dispositivos pueden convertirse en pruebas fundamentales

Los procedimientos relacionados con contenidos generados por IA presentan importantes retos probatorios.

Puede ser necesario determinar:

quién creó la imagen,

qué aplicación utilizó,

desde qué dispositivo,

cuándo se generó,

quién tenía acceso a la cuenta,

si se almacenó,

si se compartió,

y qué archivos permanecen.

La prueba pericial informática puede resultar especialmente importante.

Los metadatos pueden aportar información, pero no siempre estarán disponibles

Los archivos digitales pueden contener datos sobre:

fecha,

programa utilizado,

modificaciones,

dispositivo

o formato.

Pero las redes sociales y aplicaciones pueden eliminar o modificar parte de esa información.

Por eso una investigación digital no debería depender exclusivamente de una captura de pantalla.

Siempre que sea legalmente posible, resulta útil preservar la evidencia original.

Una captura de pantalla puede ser prueba, pero debe valorarse

También debe evitarse otro extremo.

Que una captura pueda ser manipulada no significa que todas sean falsas.

Los tribunales pueden valorar:

su coherencia,

el dispositivo original,

otras conversaciones,

testigos,

periciales

y datos complementarios.

La posibilidad técnica de manipulación no equivale a demostrar que una captura concreta fue alterada.

La víctima debería conservar la información antes de solicitar la retirada

Cuando alguien descubre una imagen sexual falsa, la reacción natural puede ser exigir inmediatamente que desaparezca.

Es comprensible.

Pero desde una perspectiva probatoria puede resultar importante conservar antes determinados elementos:

capturas,

enlaces,

nombre de usuario,

fecha,

conversaciones,

perfiles,

personas que la recibieron.

Posteriormente podrá solicitarse la retirada por las vías correspondientes.

La conservación de prueba y la eliminación del contenido deben coordinarse cuidadosamente.

Crear y difundir pueden ser conductas jurídicamente diferentes

No debe presuponerse que toda persona que crea una imagen necesariamente la publica.

Ni que quien la recibe y la reenvía tenga exactamente la misma responsabilidad que quien la produjo.

Cada conducta debe estudiarse.

Puede existir creación.

Almacenamiento.

Envío.

Reenvío.

Publicación pública.

Utilización para intimidar.

Cada escenario puede plantear problemas jurídicos distintos.

El caso no debe reducirse a “usar inteligencia artificial es delito”

Esta conclusión sería completamente incorrecta.

La inteligencia artificial es una herramienta.

Puede utilizarse legítimamente en medicina, educación, diseño, ingeniería, traducción, investigación o entretenimiento.

Lo relevante es el uso concreto.

Un procesador de textos puede utilizarse para redactar un contrato o una amenaza.

Una cámara puede utilizarse para una fotografía familiar o para vulnerar la intimidad.

La herramienta no determina por sí sola la legalidad.

La novedad tecnológica no elimina los principios tradicionales del Derecho penal

Aunque cambien las herramientas, siguen vigentes reglas esenciales.

La conducta debe estar prevista legalmente.

Debe existir prueba suficiente.

La responsabilidad tiene que individualizarse.

La presunción de inocencia continúa operando.

La pena debe imponerse conforme a la ley.

Y los derechos de las víctimas deben ser protegidos.

La tecnología cambia los hechos.

No elimina las garantías.

La primera sentencia no significa que automáticamente todas las posteriores serán iguales

El carácter novedoso del pronunciamiento puede convertirlo en referencia para futuros procedimientos.

Pero no significa que cualquier caso posterior vaya a terminar con idéntica condena.

Pueden cambiar:

el número de víctimas,

la forma de creación,

la difusión,

la edad de las personas afectadas,

la finalidad,

la duración,

la gravedad

y las pruebas disponibles.

Cada procedimiento requiere un análisis propio.

Si las víctimas fueran menores, el análisis podría ser especialmente diferente

La edad de las personas representadas es jurídicamente muy relevante.

El ordenamiento ofrece una protección especialmente intensa a los menores en materia sexual y de imagen.

Por ello, nunca debe trasladarse automáticamente la respuesta de un caso entre adultos a otro en el que las personas afectadas sean menores.

La calificación jurídica puede variar sustancialmente.

La inteligencia artificial aumenta el riesgo de extorsión

Este tipo de imágenes también puede utilizarse para algo todavía más grave:

amenazar a la víctima con publicarlas si no entrega dinero, mantiene relaciones, envía fotografías auténticas o realiza determinada conducta.

En esos escenarios podrían aparecer otros delitos, dependiendo de los hechos.

La creación de una imagen sexual falsa puede convertirse en una herramienta de presión.

No es necesario que la víctima demuestre que todo el mundo creyó que la imagen era auténtica

El daño a la dignidad no depende necesariamente de conseguir engañar a todos los receptores.

La propia utilización de la identidad de una persona en una representación sexual degradante puede ser jurídicamente relevante.

Además, el hecho de que algunos sepan que la imagen es falsa no significa que deje de tener capacidad humillante.

El daño psicológico también puede producir responsabilidad civil

Además de las consecuencias penales, este tipo de conductas puede provocar perjuicios indemnizables.

Ansiedad.

Vergüenza.

Miedo.

Alteraciones en las relaciones sociales.

Necesidad de tratamiento psicológico.

Daño moral.

La existencia y cuantificación de esos perjuicios deberá acreditarse conforme a las circunstancias de cada caso.

Una imagen falsa puede causar un daño reputacional real

Esto resume gran parte del problema.

El contenido es artificial.

La reputación afectada es real.

La vergüenza es real.

La pérdida de control sobre la imagen es real.

Las consecuencias escolares, laborales o personales pueden ser reales.

Por eso el Derecho no puede limitarse a preguntar si el desnudo existió físicamente.

Debe analizar qué se hizo con la identidad de la persona.

Reflexión jurídica

La sentencia dictada en Sevilla representa un ejemplo especialmente claro de cómo los tribunales están empezando a enfrentarse a conductas que hace pocos años eran técnicamente mucho más difíciles de realizar.

La inteligencia artificial permite fabricar una realidad visual inexistente.

Pero fabricar una imagen no significa fabricar también el consentimiento de la persona representada.

Las jóvenes no estaban desnudas.

La imagen podía ser falsa.

Pero su identidad fue utilizada para presentarlas sexualmente de una manera que, según la sentencia, afectó gravemente a su integridad moral.

La resolución ofrece además una reflexión importante sobre el componente de género.

El tribunal no considera la conducta una simple travesura informática, sino que aprecia en ella una forma de cosificación de las mujeres y aplica la agravante correspondiente.

La tecnología cambia.

La obligación de respetar la dignidad ajena no.

Conclusión

Un juez de Sevilla ha dictado una sentencia condenatoria contra tres varones que utilizaron inteligencia artificial para manipular fotografías de varias jóvenes y simular que estaban desnudas, condenándolos por tres delitos contra la integridad moral.

La resolución establece un total de nueve meses de prisión y una prohibición de acceder a redes sociales durante tres años y nueve meses.

Además, aprecia la agravante de género, entendiendo que el comportamiento proyectaba una concepción machista y cosificadora de las mujeres.

El caso deja varias enseñanzas fundamentales.

La primera: una imagen sexual no necesita ser auténtica para causar un daño penalmente relevante.

La segunda: obtener una fotografía legítimamente —por ejemplo, de una red social— no autoriza a transformarla libremente en una representación de desnudez.

La tercera: la inteligencia artificial es solo el instrumento; la responsabilidad depende del uso que se haga de ella y del derecho que resulte lesionado.

La cuarta: la manipulación sexual de la imagen puede afectar gravemente a la dignidad aunque el cuerpo mostrado sea artificial.

Y la quinta: las restricciones vinculadas al uso de redes sociales demuestran que la respuesta penal a los delitos digitales puede dirigirse también contra los medios utilizados para cometerlos.

La inteligencia artificial puede crear una fotografía que nunca existió.

Lo que no puede convertir en ficticios son la dignidad, la intimidad y los derechos de la persona cuya identidad se utiliza sin consentimiento.

Luis Ferrer Abogado
Asesoramiento y defensa jurídica en delitos contra la integridad moral, delitos cometidos mediante inteligencia artificial, manipulación de imágenes íntimas, delitos contra la intimidad y la dignidad, prueba digital, responsabilidad civil y procedimientos penales.