IA, amor meu. Sobre la subjectivitat de les màquines i l’experiència artística

Malgrat que l’impacte emocional dels mitjans i tecnologies ha estat abordat des de mitjan segle XX, en les últimes dues dècades l’omnipresència de les interfícies digitals ha generat experiències afectives quotidianes que generacions anteriors no haurien imaginat. Aquestes interaccions, dissenyades per provocar respostes emocionals, tenen un impacte psicològic a escala individual i social, redefinint el consum i la governança a escala global. Aquest text, en lloc de ser una anàlisi exhaustiva, reflexiona sobre com l’art pot funcionar com un espai per a desvelar, resistir o resignificar l’ús d’aquestes interfícies i sistemes, tot replantejant el que l’experiència estètica i artística signifiquen en un món cada vegada més mediat per la subjectivitat maquinal.

El còmput afectiu

Quan Rosalind Picard va introduir el concepte de còmput afectiu en els anys noranta, no va anticipar l’impacte que tindria la quantificació de les emocions en el disseny d’interfícies digitals. L’enginyera del MIT va destacar la importància de les emocions en la intel·ligència humana i va argumentar que una aproximació purament lògica no era suficient per crear sistemes computacionals més intuïtius o capaços de prendre decisions. Va proposar que, per millorar la interacció entre humans i màquines, les computadores haurien de reconèixer, interpretar i respondre a les emocions dels usuaris. Així va començar una sèrie de recerques centrades a analitzar, de manera quantificable, l’estat emocional mitjançant el rostre, captat per càmeres, i mitjançant senyals fisiològics com el ritme cardíac i la conductivitat en la pell, captades a través de sensors biomètrics.

Els avanços en aquest camp han estat notables, especialment en termes de precisió, gràcies a l’ús de xarxes neuronals que el redefineixen com a intel·ligència artificial emocional. No obstant això, en la seva implementació persisteixen dos problemes poc clars. El primer està relacionat amb el biaix i la simplificació de les emocions humanes, com aquelles interpretades a través dels gestos facials, que sovint resulten massa simplistes en comparació amb l’espectre emocional real de les persones, especialment en individus neurodivergents, per exemple. El segon problema es refereix a les implicacions d’utilitzar aquestes interpretacions per monitorar constantment i de manera massiva la subjectivitat de les persones.

Tokenització afectiva i la normalització de la subjectivitat en les màquines

Malgrat que el còmput afectiu s’ha utilitzat en educació i salut per dissenyar experiències d’aprenentatge, suport i seguiment emocional, en altres àmbits, les emocions s’han convertit en una moneda de canvi. Cada interacció amb les interfícies és analitzada, i el seu resultat, en termes afectius, tokenitzat. En les xarxes socials, per exemple, s’afavoreix la viralització de continguts que generen respostes emocionals extremes, la qual cosa té implicacions polítiques, ja que els discursos polaritzadors capten més atenció que no pas l’anàlisi crítica. En aquest context, la governança es veu condicionada per la manipulació i explotació massiva de les emocions a través dels mitjans digitals.

I és que la sobrecàrrega informativa té un impacte significatiu no sols emocional, sinó també psicològic. Els nostres cervells estan constantment exposats a una quantitat de dades que supera la seva capacitat de processament. L’exposició contínua a imatges i notícies impactants pot generar insensibilització, tot reduint la capacitat d’empatia o provocant una sensació d’impotència davant problemes globals, creant aïllament social o enfocant l’atenció en el consumisme. No obstant això, en lloc de qüestionar la informació o les seves fonts, o simplement d’allunyar-se del sobreestímul, la tendència sembla ser buscar respostes dins la pròpia tecnologia. Jailbreaks de ChatGPT, com Dan, s’han tornat increïblement populars entre els qui han renunciat a les relacions presencials i opten per vincles platònics amb parelles virtuals, assegurant que aquestes interaccions els brinden més felicitat que no pas el contacte amb persones reals. I cada vegada més persones recorren a xatbots en lloc d’assistir a teràpia amb un psicòleg humà.

L’experiència artística en l’era de la IA

Des del punt de vista de la producció artística, al llarg dels segles s’ha debatut la relació entre l’apreciació de l’art i l’experiència sensible i emocional. Amb el Romanticisme, l’emoció va adquirir un paper central en la vivència estètica, mentre que, en el segle XX, les avantguardes artístiques van desafiar els límits de la percepció i l’afectivitat en el procés artístic. Avui, en un context de digitalització i proliferació de la intel·ligència artificial, aquestes nocions es veuen desafiades. Davant un públic saturat d’estímuls, sorgeix l’interrogant de si les creacions generades per intel·ligència artificial poden provocar respostes emocionals comparables a les de l’art humà. Sorgeix també la preocupació de molts artistes d’arribar a un públic emocionalment saturat. No obstant això, la producció artística opera en múltiples nivells que impliquen observació, interpretació i una contextualització complexa, elements que, fins ara, continuen sent exclusius de la percepció i el judici humà.

I una part fonamental de l’apreciació i el gaudi de l’art radica no sols en l’emoció que suscita, sinó també en la seva dimensió conceptual i en l’experiència de descobriment dins l’entramat que defineix la producció artística en aquest segle. La creixent influència de la tecnologia en el pensament contemporani no sols es reflecteix en la incorporació d’elements electrònics en les instal·lacions d’art, sinó en una transformació més profunda: la concepció de l’obra artística com un sistema. Aquesta perspectiva implica que l’obra no opera de manera aïllada, sinó que s’inscriu dins les dinàmiques d’altres sistemes amb els quals el públic interactua. En aquest sentit, Benjamin Bratton, a The Stack: On Software and Sovereignty (2016), planteja un marc per a entendre com les infraestructures digitals reconfiguren les nostres relacions amb l’entorn, una idea que ressona amb les lògiques emergents en la pràctica artística actual.

L’art i les seves mediacions tecnològiques

Quant a la relació entre les emocions i la producció i apreciació artística, estem davant un moment inèdit en la història: per primera vegada, existeixen eines que pretenen ser capaces de quantificar la resposta emocional a una obra d’art. No obstant això, aquest mesurament no determina la transcendència o el valor de l’obra, sinó que obre un nou camp de discussió. La possibilitat d’inscriure la quantificació de les emocions en el centre de l’experiència artística transforma no sols la percepció de l’obra, sinó també la interacció entre els espectadors i la seva relació amb l’espai.

Un exemple d’aquesta exploració és Vibe Check de Lauren Lee McCarthy, obra en la que els rostres del públic són analitzats en temps real, traduint les seves respostes emocionals en imatges i text. L’experiència, alhora lúdica i incòmoda, desplaça el focus de l’obra com a objecte de contemplació i el trasllada vers la reacció emocional de l’espectador en observar els altres, amb els qui comparteix l’espai de la sala, tot generant un joc d’autoobservació i percepció col·lectiva.

Si les emocions han estat històricament un eix central en la relació amb l’art, fins a quin punt la capacitat de quantificar-les i manipular-les altera aquesta relació?, pot l’art, precisament pel seu vincle intrínsec amb l’afectiu, oferir una reorientació o resistència a la instrumentalització emocional que impera en els mitjans digitals? I si tant l’art com els mitjans predisposen a una experiència emocional –ja sigui conscientment o inconscientment–, què diferencia l’emoció estètica d’aquella que sorgeix de la interacció amb entorns algorítmics dissenyats per a modelar i predir les nostres respostes?

Aquest plantejament no sols obre el debat sobre les tecnologies i el seu impacte en l’apreciació estètica, sinó que també qüestiona si l’art, en la seva relació amb el que és sensible, pot funcionar com un espai d’agència enfront de les lògiques d’automatització i vigilància emocional.

Sobre les interfícies

Abans d’explorar les possibilitats del còmput afectiu i la subjectivitat maquínica en l’art –incloent la creació de sistemes que responen a les emocions–, és crucial considerar com la relació de l’artista amb la tecnologia impacta en el discurs de l’obra. He observat que molts artistes joves s’acosten a certes eines digitals com si fossin caixes negres, fascinats per la seva capacitat de generar resultats sorprenents a partir d’entrades mínimes, com és moltes vegades el cas de la producció d’imatges i vídeo amb IA. No obstant això, l’ús de tecnologies tancades amb finalitats comercials imposa límits i les inscriu en lògiques de consum i vigilància. Això no impedeix el seu ús en l’art, però exigeix una mirada crítica que reveli la seva naturalesa i problematitzi el seu impacte.

Una exploració més profunda implica el hacking d’aquests sistemes, és a dir, la seva intervenció per a desviar el seu propòsit i generar resultats inesperats o fins i tot contraris a la seva programació original. La relació òptima de l’artista amb la tecnologia que empra no es limita a una comprensió conceptual, sinó que abasta també el coneixement tècnic necessari per dissenyar els seus propis sistemes, sigui de manera individual o en col·laboració. Aquesta aproximació s’assembla més al disseny d’arquitectures, no sols en la resolució de problemes, sinó en l’anticipació de com el públic interactuarà, intervindrà o serà intervingut per l’obra. Així, les interfícies que l’artista produeix no són les convencionals que es troben en espais comercials, sinó artefactes que estableixen connexions improbables entre objectes, programari, cossos i presències humanes, tot articulant una maquinària transmèdia amb un discurs propi.

Art tecnoafectiu

A partir de les diverses aproximacions conceptuals dels artistes al còmput afectiu i del seu diàleg amb subjectivitats digitals, podríem esbossar una catalogació d’obres per a anàlisis posteriors. Un primer enfocament és l’exposició crítica de com la quantificació de les emocions s’integra en sistemes de vigilància i control. El treball de Trevor Paglen exemplifica aquesta perspectiva, utilitzant eines digitals de vigilància i intel·ligència artificial per a vincular documentació, bases de dades, imatge, escultura i vídeo en temps real. Les seves peces evidencien com tecnologies com ara el reconeixement facial i la generació d’imatges funcionen com a mecanismes de manipulació ideològica. Un exemple de la seva obra, pròxim al reconeixement d’emocions, és The Trolls (2019), on imprimeix una base de dades utilitzada per entrenar a una intel·ligència artificial capaç de detectar llenguatge ofensiu o abusiu en xarxes socials.

També existeixen peces que funcionen com a interfícies per a l’exploració i reflexió emocional dels participants. Aquestes experiències, que resulten sovint lúdiques, conviden el públic a interactuar amb el seu propi cos i utilitzar la seva subjectivitat per generar diferents reaccions en l’obra. Exemples d’això són Mood Swings (2009), de Bialoskorski, Westerink i Broek, on el sistema interpreta els moviments corporals com a expressions afectives i usa un model de color i llum per retroalimentar l’experiència, o la meva pròpia peça Alteraciones Ambientales (2012), en la qual el públic tenia accés a un sensor d’ones cerebrals amb el qual es construïa una narrativa paisatgística dissenyada per a induir un estat de calma. Totes dues propostes exploren el biofeedback a través del còmput afectiu, oferint al públic una via d’introspecció i, potser, de breus moments de connexió emocional.

Entre les obres que qüestionen la relació entre tecnologia, subjectivitat i emocions, algunes exploren els espais intersticials de la subjectivitat maquinal, tot generant més preguntes sobre el seu futur que respostes definitives sobre el que és humà, social o polític. Un exemple és Memories of Passersby I (2019) de Mario Klingemann, on retrats generats per intel·ligència artificial evoquen gestos i expressions amb una familiaritat inquietant, però sense una identitat humana definida. Un altre cas és The Blind Robot (2015) de Louis-Philippe Demers, obra en la qual un robot explora el rostre dels espectadors mitjançant el tacte, mentre aquests es veuen reflectits en un mirall, confrontant l’estranyesa de ser llegits emocionalment per una màquina sense visió.

En la interacció humà-màquina, el còmput afectiu modela la nostra percepció de la realitat en interpretar i respondre a les emocions dins de marcs tecnològics orientats al consum, la vigilància i la predicció. En traduir el que és subjectiu en dades, aquests sistemes reconfiguren la nostra comprensió del sentir. No obstant això, l’art és un espai de resistència on aquestes dinàmiques poden evidenciar-se i qüestionar-se. A través de l’experimentació amb el còmput afectiu, és possible revelar els seus abastos i límits, tot exposant la mediació algorítmica de les emocions. Així, l’art no sols confronta els sistemes que busquen definir-nos, sinó que també replanteja què significa ser humans en un món travessat per intel·ligències artificials que intenten desxifrar i modelar les nostres emocions.

Cita recomanada: GARZA LAU, Anni. IA, amor meu. Sobre la subjectivitat de les màquines i l’experiència artística. Mosaic [en línia], maig 2025, no. 203. ISSN: 1696-3296. DOI: https://doi.org/10.7238/m.n203.2506