El ayuntamiento deberá analizar de forma individualizada la necesidad y proporcionalidad de cada funcionalidad de inteligencia artificial aplicada a las cámaras de videovigilancia
Por Luis Ferrer Abogado
La incorporación de inteligencia artificial a los sistemas de videovigilancia municipal abre enormes posibilidades técnicas.
Reconocimiento de patrones.
Detección automática de comportamientos.
Clasificación de imágenes.
Alertas en tiempo real.
Seguimiento de personas o vehículos.
Reconocimiento facial.
Pero que una tecnología exista y pueda utilizarse no significa que la Administración tenga libertad para activarla sin más.
Ese es precisamente el eje jurídico de la cuestión: cada funcionalidad de inteligencia artificial incorporada a un sistema de videovigilancia debe superar un examen propio de necesidad, idoneidad y proporcionalidad.
La conclusión es especialmente importante para los ayuntamientos y cuerpos de Policía Local.
La disponibilidad técnica no sustituye a la justificación jurídica.
Tener una cámara no autoriza cualquier tratamiento de imágenes
Una cámara de videovigilancia puede utilizarse con finalidades distintas.
No es lo mismo grabar imágenes para garantizar la seguridad de una zona que emplear software capaz de:
identificar rostros,
compararlos con bases de datos,
detectar conductas,
clasificar personas,
seguir movimientos,
o generar alertas automáticas.
Cada una de estas funciones puede implicar una intensidad diferente de afectación sobre los derechos fundamentales.
Por eso no basta con autorizar genéricamente “videovigilancia con inteligencia artificial”.
Cada funcionalidad debe justificarse por separado
Este es uno de los puntos centrales.
Si un sistema dispone de diez herramientas de análisis, el ayuntamiento no puede presumir que todas son necesarias porque una de ellas lo sea.
Debe analizarse cada función.
¿Qué problema pretende resolver?
¿Es realmente necesaria?
¿Existe una alternativa menos invasiva?
¿A quién afecta?
¿Qué datos trata?
¿Durante cuánto tiempo?
¿Qué margen de error tiene?
¿Qué consecuencias produce una identificación incorrecta?
La respuesta debe ser específica.
El principio de proporcionalidad es esencial
La Administración no puede utilizar medidas intensamente invasivas simplemente porque sean eficaces.
Debe existir una relación razonable entre:
la finalidad perseguida,
la necesidad de la medida,
la intensidad de la intervención
y los derechos afectados.
Por tanto, incluso una tecnología muy útil puede resultar jurídicamente excesiva si existen mecanismos menos intrusivos capaces de alcanzar el mismo objetivo.
Reconocer una matrícula no es igual que reconocer una cara
Las funcionalidades de IA no afectan del mismo modo a la privacidad.
La lectura automatizada de matrículas ya plantea cuestiones de protección de datos.
Pero el reconocimiento facial puede tener una intensidad mucho mayor porque permite identificar directamente a personas concretas.
Puede facilitar:
seguimientos,
perfilado,
cruce con bases de datos,
reconstrucción de movimientos
y vigilancia individualizada.
Por ello, cuanto mayor sea la capacidad identificativa, mayor debe ser la justificación.
La Policía Local no puede usar IA solo porque el sistema la incorpora
Muchas soluciones tecnológicas se comercializan como paquetes cerrados.
La empresa proveedora puede ofrecer múltiples módulos.
Eso no significa que la Administración pueda activar todos por defecto.
La responsabilidad jurídica no desaparece porque la tecnología venga “de fábrica”.
El ayuntamiento debe decidir qué funciones son admisibles y cuáles no.
La finalidad debe estar claramente definida
Toda herramienta de videovigilancia debe tener una finalidad concreta.
No basta con expresiones genéricas como:
“mejorar la seguridad”.
Debe explicarse qué riesgo se pretende afrontar.
Por ejemplo:
controlar accesos,
detectar una conducta concreta,
proteger un espacio especialmente sensible,
o apoyar una función policial determinada.
Cuanto más imprecisa sea la finalidad, más difícil será justificar una tecnología invasiva.
No puede utilizarse IA “por si acaso”
Una de las mayores tentaciones tecnológicas consiste en acumular capacidades para usarlas cuando surja la oportunidad.
Pero en materia de derechos fundamentales ese enfoque es problemático.
La Administración no debería activar funcionalidades simplemente porque quizá puedan resultar útiles en el futuro.
Primero debe existir una necesidad legítima, concreta y suficientemente acreditada.
Después se valora qué herramienta es adecuada para atenderla.
La necesidad debe ser real, no teórica
Para justificar una tecnología intrusiva no basta con afirmar que podría ser útil.
Debe existir una necesidad objetiva.
Por ejemplo:
un problema de seguridad concreto,
una incidencia reiterada,
una necesidad operativa definida.
La mera posibilidad abstracta de que una función pueda ayudar a la Policía Local no es suficiente.
También debe valorarse si existen alternativas menos invasivas
La proporcionalidad exige comparar.
Antes de implantar una función basada en reconocimiento automatizado, la Administración debería preguntarse si puede alcanzar la misma finalidad mediante:
más presencia policial,
mejor iluminación,
grabación ordinaria,
controles limitados,
medidas físicas,
o análisis posterior no automatizado.
Si existe una alternativa razonablemente eficaz y menos intrusiva, la utilización de IA puede resultar difícil de justificar.
La tecnología no es jurídicamente neutral
Los sistemas de inteligencia artificial pueden cometer errores.
Falsos positivos.
Falsos negativos.
Identificaciones incorrectas.
Sesgos.
Clasificaciones inexactas.
En un entorno policial, esos errores pueden tener consecuencias especialmente graves.
Una persona puede ser identificada como sospechosa cuando no lo es.
Por eso la Administración debe evaluar no solo la utilidad del sistema, sino también sus riesgos.
El control humano sigue siendo fundamental
Un sistema de inteligencia artificial no debería convertirse en una autoridad autónoma.
Las decisiones con consecuencias relevantes para las personas necesitan supervisión.
Especialmente en el ámbito policial.
Una alerta automatizada puede ser un indicio.
No necesariamente una certeza.
El agente debe poder revisar, contextualizar y descartar el resultado cuando corresponda.
Reconocimiento facial y presunción de exactitud no son equivalentes
Uno de los errores más peligrosos sería tratar una coincidencia biométrica como una identificación infalible.
No lo es.
Los sistemas trabajan con probabilidades.
Por eso la coincidencia técnica debe ser interpretada con cautela y, cuando proceda, corroborada mediante otros medios.
Los datos biométricos requieren una protección reforzada
El reconocimiento facial puede implicar tratamiento de datos biométricos.
Se trata de una categoría especialmente sensible.
La razón es evidente.
Una contraseña puede cambiarse.
Una cara no.
Por eso el uso de biometría exige una base jurídica especialmente sólida y garantías reforzadas.
La videovigilancia afecta también a personas no investigadas
Esta es una de las diferencias más importantes respecto de otras medidas policiales.
Una cámara situada en un espacio público capta a muchas personas.
La inmensa mayoría no está vinculada con ningún delito.
Si además se incorpora IA, el sistema puede analizar sus movimientos o características aunque nunca hayan sido objeto de una actuación policial.
Por eso la proporcionalidad debe valorarse pensando también en terceros inocentes.
La vigilancia masiva plantea riesgos cualitativamente distintos
No es lo mismo analizar una grabación concreta después de un delito que desplegar una herramienta capaz de identificar o clasificar de manera continua a todos los transeúntes.
La escala cambia.
Y con ella cambia también la intensidad de la afectación a los derechos.
La protección de datos no es el único límite
La cuestión no se reduce a cumplir formalmente la normativa de protección de datos.
También pueden verse afectados:
la intimidad,
el derecho a la propia imagen,
la libertad de circulación,
la libertad de reunión,
la libertad de expresión,
y otros derechos fundamentales.
Una persona puede comportarse de forma distinta si sabe que está siendo identificada automáticamente.
Ese efecto también debe tenerse en cuenta.
El uso de IA puede generar un efecto disuasorio sobre conductas legítimas
La videovigilancia inteligente no solo observa.
También puede influir en el comportamiento.
Por ejemplo, una persona puede sentirse menos libre para asistir a una concentración, entrar en determinados lugares o relacionarse con otras personas si considera que sus movimientos serán analizados automáticamente.
Por eso la evaluación debe ir más allá de la mera utilidad policial.
El ayuntamiento debe documentar su decisión
No basta con llegar internamente a la conclusión de que una función es útil.
La Administración debe poder explicar por qué la utiliza.
La motivación es una garantía.
Permite controlar:
la finalidad,
la necesidad,
la proporcionalidad,
las alternativas,
los riesgos
y las salvaguardas.
Sin documentación, el control posterior resulta mucho más difícil.
La evaluación de impacto puede adquirir una importancia decisiva
Cuando el tratamiento presenta riesgos elevados, puede ser necesaria una evaluación previa específica.
Esta herramienta permite identificar:
qué datos se tratan,
qué riesgos existen,
qué impacto pueden sufrir los ciudadanos,
qué medidas de seguridad se aplican,
y si la operación resulta proporcionada.
En sistemas de videovigilancia avanzada, esta evaluación puede ser especialmente relevante.
No todas las funciones de IA deberían tener el mismo nivel de autorización
Una política jurídicamente prudente debería diferenciar niveles.
Una función que detecta aglomeraciones puede plantear unos riesgos.
Una que identifica matrículas, otros.
Una que reconoce rostros, muchos más.
Por tanto, el ayuntamiento debería establecer controles más estrictos cuanto mayor sea la capacidad de identificación o seguimiento.
La seguridad pública no elimina los derechos fundamentales
La finalidad de seguridad es legítima y relevante.
Pero no funciona como una autorización ilimitada.
El Estado puede adoptar medidas para prevenir delitos y proteger a las personas.
Lo que no puede hacer es prescindir de los principios de legalidad y proporcionalidad.
La seguridad y los derechos fundamentales deben compatibilizarse.
La eficacia no convierte automáticamente una medida en legal
Una tecnología puede ser extraordinariamente eficaz.
Pero si afecta de forma excesiva a los derechos de los ciudadanos, puede resultar jurídicamente inadmisible.
Este principio es esencial en cualquier Estado de Derecho.
El criterio no es:
“¿Funciona?”
La pregunta completa es:
“¿Funciona de manera jurídicamente necesaria y proporcionada?”
Los contratos con proveedores tecnológicos deben incluir garantías
Cuando un ayuntamiento adquiere sistemas de IA, no debería limitarse a negociar precio y prestaciones.
También debe exigir:
seguridad,
trazabilidad,
control de accesos,
registro de operaciones,
limitación de datos,
explicabilidad,
y mecanismos de auditoría.
La dependencia tecnológica del proveedor no puede impedir el control público.
El proveedor no decide qué es legal
La empresa tecnológica puede explicar qué hace el sistema.
Pero corresponde a la Administración determinar si puede utilizarlo.
Una afirmación comercial como:
“cumple con toda la normativa”
no sustituye al análisis jurídico propio.
La precisión declarada por el fabricante debe verificarse
Tampoco basta con aceptar cifras publicitarias.
Si un sistema afirma tener una determinada tasa de precisión, el ayuntamiento debería comprobar:
en qué condiciones se obtuvo,
con qué población,
qué margen de error existe,
y si esos resultados son trasladables al entorno real.
En funciones policiales, esa verificación puede resultar esencial.
La transparencia debe ser compatible con la eficacia policial
La ciudadanía debe conocer, en términos suficientes, que existe un sistema de videovigilancia y qué tipo de tratamiento se realiza, sin perjuicio de la información que legítimamente deba mantenerse reservada por razones operativas.
La transparencia no significa revelar procedimientos policiales sensibles.
Significa permitir un control democrático y jurídico suficiente.
El almacenamiento indefinido sería difícil de justificar
Los datos no deberían conservarse más tiempo del necesario.
La mera utilidad futura no justifica almacenar indefinidamente imágenes o perfiles.
La limitación temporal es una de las garantías básicas frente a usos excesivos.
También debe limitarse quién accede a la información
No todos los empleados municipales deberían poder consultar los datos.
El acceso debe estar restringido.
Debe quedar registrado.
Y debe responder a funciones concretas.
Cuanto más sensible sea la información, mayor debe ser el control.
El uso posterior para una finalidad distinta puede ser problemático
Una base de datos creada para una finalidad concreta no debería reutilizarse libremente para otra distinta.
Por ejemplo, información obtenida con una finalidad de seguridad no puede transformarse automáticamente en una herramienta de análisis general de comportamiento urbano.
La finalidad inicial actúa como límite.
La inteligencia artificial puede ayudar a la Policía Local, pero no sustituir el marco jurídico
No se trata de prohibir la tecnología.
La IA puede aportar herramientas útiles.
Puede acelerar análisis.
Puede ayudar a detectar incidencias.
Puede facilitar la búsqueda de información.
Pero su utilización debe estar subordinada a la ley y a los derechos fundamentales.
Cuanto más invasiva sea la función, mayor debe ser la justificación
Esta es probablemente la regla más sencilla.
Una herramienta poco intrusiva puede necesitar una justificación relativamente limitada.
Una herramienta capaz de identificar, seguir o perfilar personas exige un nivel de control mucho mayor.
La intensidad de la medida debe guardar relación con la intensidad de la necesidad.
No existe un “permiso general” para usar inteligencia artificial
La Administración no debería partir de una autorización global.
La correcta aproximación es funcional.
Función por función.
Finalidad por finalidad.
Riesgo por riesgo.
Solo así puede realizarse un verdadero juicio de proporcionalidad.
Reflexión jurídica
La gran enseñanza de este debate es que la innovación tecnológica no puede convertir la excepción en regla.
Una Policía Local puede disponer de una herramienta técnicamente impresionante.
Pero eso no significa que deba utilizar todas sus capacidades.
El poder tecnológico también necesita límites.
De hecho, cuanto mayor es ese poder, mayor debe ser el control.
La pregunta jurídica correcta no es:
“¿Podemos hacerlo?”
Sino:
“¿Es necesario hacerlo, existe base legal suficiente y resulta proporcionado?”
Conclusión
El ayuntamiento deberá analizar de forma individualizada cada funcionalidad de inteligencia artificial incorporada a sus sistemas de videovigilancia, especialmente cuando implique identificación, seguimiento o análisis automatizado de personas.
La disponibilidad técnica no basta.
La Administración deberá justificar:
la finalidad concreta,
la necesidad,
la idoneidad,
la proporcionalidad,
la ausencia de alternativas menos intrusivas,
y las garantías aplicadas.
El caso deja varias enseñanzas importantes.
La primera: tener la tecnología no autoriza a utilizarla indiscriminadamente.
La segunda: no todas las funciones de IA tienen el mismo nivel de afectación sobre los derechos fundamentales.
La tercera: cuanto mayor sea la capacidad de identificar o seguir personas, mayor debe ser el nivel de justificación.
La cuarta: los sistemas automatizados no son infalibles y deben mantenerse bajo control humano.
Y la quinta: la seguridad pública es una finalidad legítima, pero no elimina la obligación de respetar la privacidad, la protección de datos y el resto de derechos fundamentales.
La inteligencia artificial puede mejorar la capacidad operativa de la Policía Local.
Pero en un Estado de Derecho existe una regla previa a cualquier avance tecnológico:
no todo lo que puede hacerse debe hacerse.
Y cuando la Administración utiliza herramientas capaces de observar, identificar o analizar a los ciudadanos, la necesidad y la proporcionalidad no son simples recomendaciones.
Son límites jurídicos esenciales.
Luis Ferrer Abogado
Asesoramiento y defensa jurídica en protección de datos, videovigilancia, inteligencia artificial aplicada a la Administración, derechos fundamentales, responsabilidad administrativa y recursos frente a actuaciones de los poderes públicos.