Qui observa a la ciutat dels llums?

Mentre camino cap a una institució artística respectada situada al centre de la ciutat de París, em giro per observar el meu entorn. El que trobo és una mutació esborronadora. Mal amagada dins la caixa d’un fanal, un romanent del segle XIX, on, fins fa poc, caldria esperar trobar una bombeta de vapor de sodi de to groc, veig un embolic de càmeres de vigilància.

La història de la il·luminació pública a París és llarga i fascinant. Els primers registres dels intents primerencs (i fallits) d’il·luminar els carrers es remunten al regnat de Saint Louis el 1258. Quan la il·luminació funcional va arribar a París, ho va fer en forma de llum d’oli de Cardan en el segle XVII. Dos-cents anys després, París va ser testimoni de la introducció de fanals accionats per gas, seguits de l’arribada dels llums elèctrics a la fi del segle XIX. Més recentment, s’ha parlat molt dels canvis d’aquestes bombetes parisenques —per excel·lència, de color groc càlid— a una il·luminació LED més blanca. No obstant això, un canvi encara més recent, en gran manera absent dels registres històrics dels sistemes d’il·luminació de París, és la infiltració lenta i creixent de les càmeres de vigilància. Avui dia, una simple cerca en línia revelarà les diverses formes i grandàries de càmera que es poden instal·lar dins de fanals preexistents. Aquestes solucions contemporànies, que traeixen una mica la ingenuïtat d’antany, no només es construeixen amb la mirada posada en un futur amb recursos energètics encara més escassos, com fanals amb energia solar i càmeres de CCTV instal·lades directament dins del mateix llum, sinó que també se supervisa, controla i desconfia cada vegada més dels ciutadans.

El meu interès en els llums parisencs es remunta només als últims mesos, durant els quals el meu treball s’ha centrat en el desenvolupament d’algorismes de videovigilància. Tanmateix, la il·luminació pública fa molt temps que està vinculada a la vigilància. Com ens diu Jonathan Crary: «l’àmplia implementació de fanals urbans en la dècada de 1880 […]» no només «va ampliar el marc temporal i, per tant, la rendibilitat de moltes activitats econòmiques», sinó que també va servir per «[reduir] l’ansietat persistent causada pels diversos perills associats amb la foscor nocturna» (Crary, 2013). Amb llum es generava una jornada laboral cada vegada més llarga i una percepció de més seguretat.

Així doncs, el vincle entre els aparells de seguretat i la il·luminació és fonamental. Escrivint sobre l’infame panòptic de Jeremy Bentham, un disseny de presó que té la forma d’una torre central de vigilància dins d’una rotonda circular, la qual cosa permet una vigilància constant (un disseny molt discutit per persones com Foucault i Deleuze). Crary destaca el paper crucial que exerceix la «il·luminació en el model original de Bentham». Simplement, el panòptic no només depèn del punt de vista físic del o la guàrdia per crear una vigilància permanent, sinó que «necessitava inundar l’espai de llum per eliminar les ombres i fer que una condició de visibilitat completa fos sinònim d’efectes de control» (ibíd.). Evidentment, perquè els guàrdies puguin veure qualsevol cosa en les cel·les que envolten la seva torre, l’edifici ha de deixar passar molta llum.

Això mateix ocorre tant en el cas de l’inspector algorísmic com en el del guàrdia de Bentham. Prenguem l’exemple del reconeixement facial: perquè un algorisme sigui reeixit en la identificació d’una persona en funció dels seus trets facials, el rostre ha d’estar ben il·luminat. Qualsevol ombra persistent augmenta el risc d’identificació errònia, i una il·luminació insuficient, en general, és probable que provoqui una incapacitat completa per reconèixer una cara com a tal. En última instància, la identificació errònia es considera un error desafortunat, una fallada que s’ha de corregir. No obstant això, en una època en què l’imperatiu de productivitat supera tota la resta, les forces de l’ordre públic operen cada vegada més sota quotes i pressionen els funcionaris perquè produeixin un cert nombre d’arrestos o multes, encara que puguin ser injustificades (Ossei-Owusu, 2021). En conseqüència, la incapacitat d’identificar cares (fins i tot encara que sigui incorrecta) és un defecte realment fatal.

L’acumulació implacable de dades i contingut per a la formació d’algorismes cada vegada més nous i en constant millora es troba en el centre de la bombolla de la intel·ligència artificial, que promou encara més la productivitat costi el que costi, alhora que redueix la qualitat del que es produeix.

Atès que els imperatius de productivitat han tingut un impacte en el sector de les forces de l’ordre, com podria canviar això amb la introducció d’algorismes que consumeixen moltes dades? O la pressió per complir les quotes continuarà sent exactament la mateixa? I qui es veurà més afectat per això?

La meva obra més recent planteja algunes de les preguntes anteriors. Dasha’s Kitchen: My Magical Grilled Cheese Sandwich Recipe aprofundeix en el món de la vigilància algorítmica a través d’una lent humorística, utilitzant vídeos de YouTube basats en ressenyes. El vídeo es divideix en quatre parts, amb tres personatges diferents. El primer, Dasha, és mare, xef i una celebritat en YouTube, famosa per les seves receptes senzilles. En aquest vídeo, ens mostra com fer un sandvitx de formatge a la planxa, que donarà com a resultat un «sandvitx de formatge màgic».

A mig camí, el seu vídeo es veu interromput per una influencer culinària russa que comença a criticar la recepta de Dasha, incloent-hi subtilment històries sobre algorismes. Esmenta que la seva amiga que treballa en TI li ha dit recentment que la IA i els algorismes són com una recepta per a un sandvitx de formatge a la planxa, per la senzilla raó que tots dos requereixen que se segueixi un conjunt de passos senzills per assolir un objectiu específic.

Després d’un anunci de pagament de Thales, el tercer personatge (un youtuber especialitzat en TI) entra mirant d’explicar d’on prové la metàfora de la recepta per a un sandvitx de formatge a la planxa. Resulta que la metàfora és comuna i sovint es pot trobar en YouTube per explicar el funcionament d’un algorisme. El tercer orador il·lustra aquest fenomen amb vídeos preexistents que havia trobat en línia. A continuació, el ponent explica com es pot implementar un algorisme en la vida real, i utilitza l’exemple d’experimentació recent amb la videovigilància algorísmica per part de l’estat francès. Al final d’aquest vídeo, l’oradora s’acomiada promocionant el seu curs sobre YOLO i Mediapipe, dos programaris d’aprenentatge automàtic de codi obert que sovint s’utilitzen com la columna vertebral de la tecnologia de vigilància i identificació més recent.

Finalment, veiem a Dasha, la famosa xef, reapareixent en les nostres pantalles, i ens podríem preguntar: «ja hem vist un bucle complet del vídeo?», ja que el seu entorn, abillament i fins i tot els seus cabells semblen gairebé idèntics al primer clip. I, tanmateix, no és un bucle. De manera similar als personatges de dibuixos animats i molts youtubers, té un aspecte recognoscible, que només mostra petits canvis o ajustos d’un vídeo al següent, de manera que es fa impossible destriar el lloc i el moment de la filmació i es produeix una sensació de déjà-vu, que el fotògraf i historiador de l’art Julian Stallabrass argumenta que és el resultat tant dels efectes del capitalisme en la producció cultural com de la propagació de diverses formes de mitjans de massa reproduïts mecànicament (Stallabrass, 2024). Manllevant els escrits de Vilém Flusser, Stallabrass creu que la intel·ligència artificial està ampliant encara més aquest sentit de déjà-vu «[reduint] la complexitat dels missatges culturals, de manera que les imatges sempre mostraran el mateix, i un avorriment etern i interminable s’estendrà per tota la societat» (ibíd.).

Llavors, per què Dasha torna a les nostres pantalles? Ens conta que ha sentit parlar de les controvèrsies i debats recents sobre la IA i els sandvitxos de formatge a la planxa. Com ja saben els seus fanàtics, és llicenciada en Informàtica pel MIT, per la qual cosa vol posar els punts sobre les is. No obstant això, resulta que fins i tot la nostra especialista en TI va continuar sent força vaga i, el que encara és pitjor, promociona els mateixos programaris que estan integrats en les eines que suposadament estava criticant. Però, què aclareix exactament Dasha amb els seus comentaris finals? Doncs bé, és possible que hagis de veure el vídeo per esbrinar-ho.

Pots veure Dasha’s Kitchen: My Magical Grilled Cheese Sandwich Recipe aquí.

Referències

CRARY, Jonathan (2013). 24/7: Late Capitalism and the Ends of Sleep. Verso.

OSSEI -OWUSU, Shaun (2021, 13 mayo). «Police Quotas – NYU Law Review». NYU Law Review, vol. 96, núm. 2 [en línia]. Disponible a: https://nyulawreview.org/issues/volume-96-number-2/police-quotas/

STALLABRASS, Julian (2024). «Memories of the Present. Photography and Artificial Intelligence». New Left Review, n. 148.

Cita recomanada: ILINA, Dasha. Qui observa a la ciutat dels llums?. Mosaic [en línia], juny 2025, no. 204. ISSN: 1696-3296. DOI: https://doi.org/10.7238/m.n204.2507