¿Quién observa a la ciudad de las luces?

Mientras camino hacia una respetada institución artística en el centro de la ciudad de París, me vuelvo para observar mi entorno. Lo que encuentro es una mutación espeluznante. Mal escondida dentro de la carcasa de un poste de lámpara, un remanente del siglo XIX, donde, hasta hace poco, cabría esperar encontrar una bombilla de vapor de sodio de tono amarillo, veo un amasijo de cámaras de vigilancia.

La historia de la iluminación pública en París es larga y fascinante. Los primeros registros de los intentos tempranos (y fallidos) de iluminar las calles se remontan al reinado de Saint Louis en 1258. Cuando la iluminación funcional llegó a París, lo hizo en forma de lámpara de aceite de cardán en el siglo XVII. Doscientos años después, París fue testigo de la introducción de farolas accionadas por gas, seguidas de la llegada de las luces eléctricas a finales del siglo XIX. Más recientemente, se ha hablado mucho de los cambios de esas bombillas parisinas –por excelencia, de color amarillo cálido– a una iluminación LED más blanca. Sin embargo, un cambio aún más reciente, en gran medida ausente de los registros históricos de los sistemas de iluminación de París, es la lenta y creciente infiltración de las cámaras de vigilancia. Hoy en día, una simple búsqueda en línea revelará las diversas formas y tamaños de cámara que se pueden instalar dentro de postes de lámpara preexistentes. Estas soluciones contemporáneas, que traicionan un poco la ingenuidad de antaño, no solo se construyen con la mirada puesta en un futuro con recursos energéticos aún más escasos, como farolas con energía solar y cámaras de CCTV instaladas directamente dentro de la propia luz, sino que también se supervisa, controla y desconfía cada vez más de los ciudadanos.

Mi interés en las lámparas parisinas se remonta tan solo a los últimos meses, durante los cuales mi trabajo se ha centrado en el desarrollo de algoritmos de videovigilancia. Sin embargo, la iluminación pública lleva mucho tiempo vinculada a la vigilancia. Como nos dice Jonathan Crary: «la amplia implementación de farolas urbanas en la década de 1880 […]» no solo «amplió el marco temporal y, por lo tanto, la rentabilidad de muchas actividades económicas», sino que también sirvió para «[reducir] la persistente ansiedad causada por los varios peligros asociados con la oscuridad nocturna» (Crary, 2013). Con luz se daba una jornada laboral cada vez más larga y una percepción de mayor seguridad.

Así pues, el vínculo entre los aparatos de seguridad y la iluminación es fundamental. Escribiendo sobre el infame panóptico de Jeremy Bentham, un diseño de prisión que tiene la forma de una torre central de vigilancia dentro de una rotonda circular, lo que permite una vigilancia constante (un diseño muy discutido por personas como Foucault y Deleuze). Crary destaca el papel crucial que desempeña la «iluminación en el modelo original de Bentham». Simplemente, el panóptico no solo depende del punto de vista físico del o la guardia para crear una vigilancia permanente, sino que «necesitaba inundar el espacio de luz para eliminar las sombras y hacer que una condición de visibilidad completa fuera sinónimo de efectos de control» (ibid.). Evidentemente, para que los guardias puedan ver cualquier cosa en las celdas que rodean su torre, el edificio debe dejar pasar mucha luz.

Esto mismo ocurre tanto en el caso del inspector algorítmico como en el del guardia de Bentham. Tomemos el ejemplo del reconocimiento facial: para que un algoritmo tenga éxito en la identificación de una persona en función de sus rasgos faciales, su rostro debe estar bien iluminado. Cualquier sombra persistente aumenta el riesgo de identificación errónea, y una iluminación insuficiente, en general, es probable que resulte en una incapacidad completa para reconocer una cara como tal. En última instancia, la identificación errónea se considera un error desafortunado, un fallo que se debe corregir. Sin embargo, en una época en la que el imperativo de productividad supera todo lo demás, las fuerzas del orden público operan, cada vez más, bajo cuotas, presionando a los funcionarios para que produzcan un cierto número de arrestos o multas, aunque puedan ser injustificadas (Ossei-Owusu, 2021). En consecuencia, la incapacidad de identificar caras (incluso aunque sea incorrecta) es un defecto realmente fatal.

La implacable acumulación de datos y contenido para la formación de algoritmos cada vez más nuevos y en constante mejora se encuentra en el centro de la burbuja de la inteligencia artificial, que promueve aún más la productividad a toda costa, al tiempo que reduce la calidad de lo que se produce.

Dado que los imperativos de productividad han tenido un impacto en el sector de las fuerzas del orden, ¿cómo podría cambiar esto con la introducción de algoritmos que consumen muchos datos? ¿O la presión por cumplir las cuotas seguirá siendo exactamente la misma? ¿Y quién se verá más afectado por ello?

Mi obra más reciente plantea algunas de las preguntas anteriores. Dasha’s Kitchen: My Magical Grilled Cheese Sandwich Recipe profundiza en el mundo de la vigilancia algorítmica a través de una lente humorística, utilizando vídeos de YouTube basados en reseñas. El vídeo se divide en cuatro partes, con tres personajes distintos. El primero, Dasha, es madre, chef y una celebridad en YouTube, famosa por sus sencillas recetas. En este video, nos muestra cómo hacer un sándwich de queso a la plancha, que dará como resultado un «sándwich de queso mágico».

A mitad de camino, su vídeo se ve interrumpido por una influencer culinaria rusa que empieza a criticar la receta de Dasha, incluyendo sutilmente historias sobre algoritmos. Menciona que su amiga que trabaja en TI le ha dicho recientemente que la IA y los algoritmos son como una receta para un sándwich de queso a la plancha, por la sencilla razón de que ambos requieren que se siga un conjunto de pasos sencillos para alcanzar un objetivo específico.

Después de un anuncio de pago de Thales, el tercer personaje (un youtuber especializado en TI) entra tratando de explicar de dónde proviene la metáfora de la receta para un sándwich de queso a la plancha. Resulta que la metáfora es común y a menudo se puede encontrar en YouTube para explicar el funcionamiento de un algoritmo. El tercer orador ilustra este fenómeno con vídeos preexistentes que había encontrado en línea. A continuación, el ponente explica cómo se puede implementar un algoritmo en la vida real, utilizando el ejemplo de experimentación reciente con la videovigilancia algorítmica por parte del estado francés. Al final de este vídeo, la oradora se despide promocionando su curso sobre YOLO y Mediapipe, dos softwares de aprendizaje automático de código abierto que a menudo se utilizan como la columna vertebral de la tecnología de vigilancia e identificación más reciente.

Por último, vemos a Dasha, la famosa chef, reapareciendo en nuestras pantallas, y podríamos preguntarnos: «¿ya hemos visto un bucle completo del vídeo?», ya que su entorno, atuendo e incluso su cabello parecen casi idénticos al primer clip. Y, sin embargo, no es un bucle. De modo similar a los personajes de dibujos animados y muchos youtubers, tiene un aspecto reconocible, que solo muestra cambios o ajustes menores de un vídeo al siguiente, haciendo imposible discernir el lugar y el momento de la filmación, produciendo así una sensación de déjà-vu, que el fotógrafo e historiador del arte Julian Stallabrass argumenta que es el resultado tanto de los efectos del capitalismo en la producción cultural como de la propagación de varias formas de medios de masa reproducidos mecánicamente (Stallabrass, 2024). Tomando prestados los escritos de Vilém Flusser, Stallabrass cree que la inteligencia artificial está ampliando aún más este sentido de déjà-vu «[reduciendo] la complejidad de los mensajes culturales, de modo que las imágenes siempre mostrarán lo mismo, y un aburrimiento eterno e interminable se extenderá por toda la sociedad» (ibid.).

Entonces, ¿por qué Dasha vuelve a nuestras pantallas? Nos cuenta que ha oído hablar de las recientes controversias y debates sobre la IA y los sándwiches de queso a la plancha. Como ya saben sus fanáticos, es licenciada en Informática por el MIT, por lo que quiere poner los puntos sobre las íes. Sin embargo, resulta que incluso nuestra especialista en TI sigue siendo bastante vaga y, lo que es peor aún, promociona los mismos softwares que están integrados en las herramientas que supuestamente estaba criticando. Pero ¿qué aclara exactamente Dasha con sus comentarios finales? Bueno, es posible que tengas que ver el vídeo para averiguarlo.

Puedes ver Dasha’s Kitchen: My Magical Grilled Cheese Sandwich Recipe aquí.

Referencias

CRARY, Jonathan (2013). 24/7: Late Capitalism and the Ends of Sleep. Verso.

OSSEI -OWUSU, Shaun (2021, 13 mayo). «Police Quotas – NYU Law Review». NYU Law Review, vol. 96, n.º 2 [en línea]. Disponible en: https://nyulawreview.org/issues/volume-96-number-2/police-quotas/

STALLABRASS, Julian (2024). «Memories of the Present. Photography and Artificial Intelligence». New Left Review, n.º 148.

Cita recomendada: ILINA, Dasha. ¿Quién observa a la ciudad de las luces? Mosaic [en línea], junio 2025, no. 204. ISSN: 1696-3296. DOI: https://doi.org/10.7238/m.n204.2507