De George Orwell a la inteligencia artificial municipal: cuando la seguridad se convierte en argumento para ampliar el control sobre los ciudadanos y las diferencias políticas desaparecen ante las posibilidades de la tecnología.

Por Rafael Henares | Revista Evol

George Orwell publicó 1984 en 1949. Imaginó una sociedad sometida a la vigilancia permanente del poder, donde la intimidad desaparecía, la información era controlada y los ciudadanos terminaban interiorizando que siempre podían estar siendo observados.

Se equivocó en la fecha. No necesariamente en el proceso.

Lo que Orwell describió como una distopía política comienza a adquirir inquietantes semejanzas con determinadas posibilidades tecnológicas del presente. La diferencia es que su Gran Hermano necesitaba una estructura totalitaria para vigilar. Hoy, algunas de aquellas capacidades pueden adquirirse mediante un procedimiento administrativo, incluirse en un presupuesto municipal y presentarse públicamente como una mejora de la seguridad ciudadana.

Y lo más sorprendente es que, cuando se trata de incorporar determinadas tecnologías de vigilancia, las diferencias ideológicas parecen perder buena parte de su importancia.

¿Estamos ante una coincidencia administrativa o ante una tendencia más profunda del poder político, independientemente de quién lo ejerza?

Cuando la derecha y la izquierda descubren que vigilar resulta conveniente

El 6 de octubre de 2026, la Agencia Española de Protección de Datos hizo públicas dos advertencias relacionadas con proyectos municipales de videovigilancia que incorporaban capacidades de inteligencia artificial.

Una investigación publicada por Diario Sabemos, firmada por Josep Jover, relaciona los expedientes con los ayuntamientos de Hellín, en Albacete, y Gandia, en Valencia.

El primero está gobernado por el Partido Popular y Vox. El segundo, por el PSPV-PSOE y Compromís.

Dos gobiernos de orientación política muy diferente, pero dos iniciativas que comparten una característica: la intención de incorporar nuevas capacidades de análisis automatizado a sistemas de vigilancia.

En uno de los expedientes aparecen funcionalidades de detección o reconocimiento facial. En el otro se plantea integrar 38 cámaras nuevas con otras 124 ya existentes, junto con herramientas capaces de buscar personas por características como la vestimenta, el cabello, el sexo aparente o el grupo de edad.

Especialmente preocupante resulta la previsión técnica de analizar continuamente las escenas captadas por las cámaras.

Es necesario precisar que las advertencias de la AEPD no acreditan que estas funciones se estén utilizando ilegalmente. Los documentos conocidos corresponden a proyectos de contratación, y la intervención del organismo es preventiva.

Pero precisamente ahí comienza el verdadero debate.

¿Por qué una Administración considera necesario adquirir capacidades de seguimiento individualizado de personas que simplemente utilizan el espacio público?

Y, sobre todo, ¿por qué ese propósito parece encontrar tan pocas diferencias entre responsables políticos que mantienen posiciones enfrentadas en tantas otras cuestiones?

La coincidencia de estos dos casos no permite afirmar que todos los partidos actúen igual. Pero sí revela algo que merece una reflexión mucho más amplia: existe el riesgo de que la lógica del poder administrativo termine imponiéndose sobre los principios ideológicos que deberían limitarlo.

Para discutir sobre recursos sanitarios, financiación educativa, impuestos o derechos sociales encontramos profundas divisiones. Sin embargo, cuando aparecen herramientas capaces de ampliar la capacidad institucional de observación, el entusiasmo tecnológico puede resultar sorprendentemente transversal.

La seguridad no es un cheque en blanco contra la libertad

La seguridad es una necesidad legítima de cualquier sociedad.

Los ciudadanos tienen derecho a vivir sin miedo, a transitar por sus calles con tranquilidad y a exigir que las instituciones prevengan y persigan los delitos.

Pero ese derecho no elimina los demás.

Una democracia constitucional no funciona permitiendo que un derecho fundamental anule indiscriminadamente a todos los restantes. Su razón de ser consiste, precisamente, en establecer límites al ejercicio del poder.

Por eso, la pregunta no debería ser si una tecnología puede ayudar a mejorar la seguridad.

La pregunta debe ser si su utilización es necesaria, proporcionada, jurídicamente legítima y compatible con las libertades que estamos obligados a preservar.

Hay una diferencia esencial entre instalar una cámara en un lugar concreto para responder a un riesgo acreditado y disponer de un sistema capaz de analizar permanentemente a las personas, clasificarlas por sus características y facilitar su localización.

En el primer caso puede existir una medida legítima de prevención.

En el segundo aparece la posibilidad de construir una infraestructura de vigilancia generalizada.

Y ese salto no puede justificarse simplemente repitiendo una palabra: seguridad.

No se puede convertir a toda la ciudadanía en objeto de vigilancia preventiva por los delitos que eventualmente puedan cometer unos pocos.

La prevención del delito debe dirigirse a riesgos concretos, no transformar la vida cotidiana de millones de personas en una sucesión de comportamientos susceptibles de ser analizados.

El verdadero significado de la presunción de inocencia

Existe una frase que suele aparecer cuando se cuestiona la vigilancia indiscriminada:

«Si no tienes nada que ocultar, no tienes nada que temer».

Pocas expresiones resultan tan cómodas para el poder y tan peligrosas para una sociedad libre.

La intimidad no es el escondite de quien comete delitos. Es un espacio de autonomía personal que pertenece a cualquier ciudadano, precisamente porque es libre.

No necesitamos justificar ante el Estado nuestras conversaciones, relaciones, desplazamientos o costumbres para merecer el respeto a nuestra vida privada.

La presunción de inocencia, en sentido jurídico estricto, protege frente a la atribución de responsabilidad penal sin las garantías correspondientes. Pero su inspiración democrática nos recuerda un principio más amplio: el ciudadano no debe vivir permanentemente obligado a demostrar que es inofensivo.

No es lo mismo recopilar datos que formular una acusación. Sin embargo, una vigilancia indiscriminada puede instalar una lógica social en la que todos somos observados porque cualquiera podría llegar a resultar sospechoso.

Y cuando esa lógica se normaliza, algo fundamental comienza a deteriorarse.

La relación entre Administración y ciudadanía deja de construirse exclusivamente sobre derechos y obligaciones para incorporar un nuevo elemento: la sospecha preventiva generalizada.

Un ciudadano libre no es una persona a la que el poder todavía no ha encontrado motivos para sancionar.

Es alguien cuyos derechos deben ser respetados sin necesidad de superar ningún examen tecnológico de comportamiento.

George Orwell: 1984 no era una predicción del calendario

La grandeza de 1984 no reside en haber anticipado el año exacto en el que aparecería una sociedad sometida a vigilancia total.

Su extraordinaria capacidad de observación consiste en haber comprendido cómo funciona la concentración del poder cuando desaparecen sus límites.

En la novela, las telepantallas permiten observar a los ciudadanos y recordarles que siempre pueden estar siendo vigilados.

El objetivo no es únicamente descubrir conductas prohibidas.

Es conseguir que las personas modifiquen voluntariamente su comportamiento porque saben que están bajo observación.

Ese mecanismo tiene un nombre en el análisis contemporáneo: efecto inhibidor de la vigilancia.

Una persona puede renunciar a participar en una manifestación, visitar determinadas asociaciones, expresar opiniones impopulares o relacionarse con ciertos colectivos si considera que todos esos movimientos pueden quedar registrados y ser interpretados en el futuro.

Y aquí aparece una diferencia tecnológica fundamental.

El Gran Hermano de Orwell dependía de personas, instituciones y dispositivos que debían controlar físicamente a una población.

Los sistemas digitales modernos pueden automatizar buena parte de esas tareas.

Pueden identificar patrones, establecer relaciones, organizar registros, recuperar imágenes y facilitar búsquedas sobre cantidades enormes de información.

No significa que cada cámara municipal disponga de todas esas capacidades ni que las esté utilizando. Significa que la tecnología permite una escala de análisis que habría resultado impensable cuando Orwell escribió su novela.

El peligro ya no reside solamente en que alguien nos observe.

Reside en que una estructura tecnológica pueda hacer posible que se reconstruyan aspectos de nuestra vida sin que necesariamente sepamos cuándo, por qué o quién ha decidido hacerlo.

Rebelión en la granja: cuando el poder termina pareciéndose a aquello que combatía

Existe otra obra de Orwell que merece acompañar esta reflexión: Rebelión en la granja, publicada en 1945.

En ella, los animales se rebelan contra la dominación humana para construir una sociedad basada en la igualdad.

Pero, progresivamente, quienes asumen el gobierno concentran privilegios, modifican las reglas y terminan reproduciendo las conductas de sus antiguos opresores.

La enseñanza es profundamente política.

No basta con defender unos principios cuando se está en la oposición. La verdadera prueba llega cuando se dispone del poder suficiente para vulnerarlos.

Y ese es uno de los mayores riesgos de las democracias contemporáneas.

Los partidos pueden proclamar su compromiso con la libertad, los derechos ciudadanos, la privacidad y la limitación del poder estatal.

Pero ¿qué sucede cuando alcanzan el gobierno y descubren que existen herramientas capaces de proporcionarles mucha más información sobre la población?

¿Qué ocurre cuando una tecnología permite ampliar el control sin necesidad de modificar abiertamente los principios constitucionales?

Aparece la tentación de reinterpretar esos principios hasta hacerlos compatibles con aquello que antes se habría rechazado.

No es necesario atribuir esa intención a los responsables de los dos ayuntamientos mencionados para reconocer el riesgo estructural.

La tecnología no tiene ideología.

Pero quienes deciden implantarla sí tienen responsabilidades políticas.

Y la responsabilidad democrática no consiste en aprovechar todas las capacidades que ofrece el mercado, sino en saber a cuáles debe renunciar el poder público.

El artículo 18.4 de la Constitución: una advertencia escrita antes de la IA

La Constitución española de 1978 incorporó una disposición de enorme trascendencia.

Su artículo 18.4 establece que la ley debe limitar el uso de la informática para garantizar el honor, la intimidad personal y familiar y el pleno ejercicio de los derechos ciudadanos.

Es importante recordar la época en la que se redactó.

No existían las redes sociales actuales, los teléfonos inteligentes, las modernas plataformas de inteligencia artificial ni los sistemas de análisis masivo de imágenes que hoy se comercializan.

Sin embargo, los constituyentes comprendieron algo esencial: la informática podía transformar la relación entre los individuos y el poder.

Y decidieron establecer un límite constitucional.

Posteriormente, el marco europeo de protección de datos y el Reglamento de Inteligencia Artificial desarrollaron obligaciones y restricciones adicionales.

La identificación biométrica remota en tiempo real en espacios públicos para fines policiales está sometida a prohibiciones generales con excepciones muy delimitadas y estrictas garantías.

También deben diferenciarse jurídicamente la simple grabación de imágenes, el análisis automatizado de características y la identificación biométrica de personas.

No son operaciones idénticas ni están sujetas exactamente a las mismas condiciones.

Pero todas plantean una cuestión compartida: disponer de una capacidad tecnológica no otorga automáticamente legitimidad para utilizarla.

La AEPD ha intervenido precisamente para advertir de la necesidad de justificar los tratamientos previstos y establecer las garantías correspondientes.

Aquí está la paradoja política.

Los ciudadanos han necesitado construir durante generaciones un sistema de derechos para limitar al poder. Y ahora nos encontramos ante administraciones que proyectan herramientas capaces de ampliar considerablemente sus posibilidades de vigilancia.

¿No debería ser exactamente al contrario?

¿No tendrían que ser las instituciones las primeras interesadas en demostrar que renuncian a cualquier facultad que pueda comprometer injustificadamente esos derechos?

La inteligencia artificial no es el problema. La ausencia de límites sí lo es

Sería un error convertir este debate en un enfrentamiento entre defensores y enemigos de la tecnología.

La inteligencia artificial puede contribuir a mejorar los servicios públicos, detectar incidencias, optimizar recursos y desarrollar herramientas útiles para la ciudadanía.

El problema no es la capacidad técnica.

El problema es la finalidad, la proporcionalidad, la transparencia y el control de esa capacidad.

Una Administración democrática debería responder públicamente, antes de instalar cualquier sistema de estas características, a cuestiones elementales:

• ¿Qué problema concreto pretende resolver?
• ¿Qué datos demuestran que esa tecnología es necesaria y eficaz?
• ¿Qué alternativas menos invasivas se han estudiado?
• ¿Qué información se recogerá, durante cuánto tiempo y con qué finalidad?
• ¿Quién podrá acceder a ella y bajo qué controles independientes?
• ¿Qué derechos y mecanismos de reclamación tendrá la ciudadanía?
• ¿Cómo se impedirán usos futuros distintos de los inicialmente autorizados?

No son preguntas para obstaculizar la innovación.

Son las preguntas que distinguen la gestión tecnológica responsable del simple deseo de disponer de mayores instrumentos de control.

Además, existe un peligro que suele quedar fuera del debate: las infraestructuras tecnológicas sobreviven a los gobiernos.

Un sistema instalado hoy por responsables municipales con determinadas intenciones puede seguir operativo cuando cambie la corporación, se modifiquen las prioridades políticas o aparezcan nuevas posibilidades de procesamiento de datos.

Por eso, las garantías no pueden depender exclusivamente de la buena voluntad de quienes gobiernan.

Deben estar incorporadas a las propias condiciones técnicas, legales y organizativas del sistema.

La verdadera prueba de una democracia es aquello que se niega a controlar

Durante demasiado tiempo hemos aceptado una interpretación de la eficacia política basada en ampliar las capacidades de intervención de las administraciones.

Más información, más registros, más supervisión, más posibilidades de actuación.

Pero el progreso institucional no puede medirse únicamente por la cantidad de instrumentos disponibles.

También debe medirse por la capacidad de reconocer límites.

Una Administración que dispone de medios para vigilar a toda una población, pero decide no hacerlo porque no existe una justificación suficiente, está demostrando algo mucho más importante que su modernización tecnológica.

Está demostrando respeto por sus ciudadanos.

Y esta debería ser una exigencia transversal, independientemente del partido que gobierne.

No podemos aceptar que la defensa de la libertad dependa de la identidad política de quien pueda vulnerarla.

No sería coherente rechazar un sistema de vigilancia cuando lo impulsa un adversario ideológico y justificarlo cuando la misma iniciativa procede de quienes consideramos próximos a nuestras ideas.

Los principios democráticos no pueden funcionar como argumentos de conveniencia.

O se respetan siempre, o dejan de ser principios y pasan a convertirse en herramientas del discurso político.

El Gran Hermano avanza cuando los ciudadanos dejan de preguntarse por qué

George Orwell no escribió un manual para los gobernantes del futuro.

Escribió una advertencia para las sociedades que pudieran sentirse tentadas a entregar progresivamente sus libertades.

Tal vez lo más inquietante de nuestro tiempo no sea que la tecnología permita desarrollar instrumentos de vigilancia extraordinariamente sofisticados.

Lo verdaderamente inquietante sería que terminásemos considerándolos normales, inevitables e incluso deseables sin exigir una justificación rigurosa de su necesidad.

Porque las libertades no desaparecen únicamente mediante grandes decisiones autoritarias.

También pueden deteriorarse mediante pequeñas concesiones sucesivas, decisiones administrativas aparentemente inocentes y argumentos que siempre prometen protegernos de algún peligro.

Hoy se trata de mejorar la seguridad.

Mañana podría tratarse de prevenir comportamientos considerados inadecuados.

Y pasado mañana podríamos encontrarnos justificando controles que antes habríamos considerado incompatibles con una sociedad libre.

No significa que ese desenlace sea inevitable. Significa que debemos impedir que resulte posible sin controles democráticos efectivos.

Por eso, la respuesta no puede reducirse a votar a unos u otros esperando que su ideología garantice automáticamente el respeto a nuestros derechos.

El poder debe estar limitado precisamente porque no podemos garantizar quién lo ejercerá mañana.

Esta es la cuestión esencial que debería preocuparnos.

La seguridad no puede convertirse en una autorización general para observar, clasificar y seguir a ciudadanos que no han cometido delito alguno.

Y tampoco podemos aceptar que el progreso tecnológico sirva para normalizar aquello que nuestros principios constitucionales se propusieron limitar.

Orwell imaginó un Gran Hermano que todo lo veía.

Nuestra responsabilidad es evitar que algún día tengamos que reconocer que lo construimos nosotros mismos, lo financiamos con nuestros impuestos y hasta aplaudimos su inauguración.

Porque una sociedad verdaderamente libre no es aquella en la que el poder puede vigilarlo todo, sino aquella en la que existen derechos que ni siquiera el poder tiene permiso para invadir.

Rafael Henares

Revista Evol — Octubre de 2026