Predient la cultura

Les pregaries tecno-optimistes d’alliberar el poder de la innovació en IA i desfer-se de la càrrega de la regulació van rebre un gran suport quan el recentment nomenat vicepresident dels EUA va dir en la Cimera d’Acció sobre IA a París que la regulació només afavoria les velles grans empreses que volien tancar la porta de la innovació darrere d’elles.

No estic d’acord amb els tecno-optimistes sobre la regulació per exactament el mateix motiu pel qual la rebutgen: perquè la nostra forma actual de capitalisme és la força més creativa de l’univers. Combina les extraordinàries adaptacions cognitives biològiques de l’Homo sapiens, coevolucionades amb una rica cultura humana, amb el mètode científic i amb la feroç competència entre els estats nacionals, les corporacions i la meritocràcia dels ciutadans, tot això amb la menor intervenció possible gràcies a la protecció de les llibertats que proporcionen la democràcia i l’estat de dret. El segle XX va veure aquesta acceleració amb l’aparició d’infraestructures altament transformadores: Internet, districtes urbans vibrants, comerç i transport global. Afegim-hi la IA, una tecnologia extraordinàriament fèrtil des del punt de vista creatiu, i entrem de cap al segle XXI.

Aquesta força no requereix més impuls. Igual que un cotxe que accelera, l’acceleració màxima pot ser bona per una carrera o per fantasies adolescents, però no és el millor per un viatge en família al camp. Després d’haver creat un gegant creatiu tan poderós que pot destruir mons, atorgar uns poders econòmics i polítics inimaginables a les elits i, en general, causar el caos als ciutadans del carrer, necessitem configurar radicalment la seva interfície perquè el seu control serveixi a finalitats socialment beneficioses. Això no succeirà amb mercats lliures i sense restriccions. Només cal veure que ha succeït amb la indústria tabaquera.

Depenent de com es vulgui veure, el regne de les arts creatives podria considerar-se el lloc menys important o el més significatiu en el qual això importa. Igual que la majoria dels meus companys que van créixer a Londres en els anys 1980 i 1990, vaig desenvolupar una mentalitat progressista arrelada en el modernisme: semblava que en l’art només importava la innovació. Què estàs fent que sigui nou, diferent o desafiador? Cap on van les coses i com ens hi porta la tecnologia? Fins i tot les formes tradicionals estaven infoses de progressisme, des del desenvolupament de la complexitat transposicional fins a la sorprenent percepció que els ritmes d’Stravinski en La consagració de la primavera eren revolucionaris. L’art aparentment antic de la música folk es va transformar amb la introducció de micròfons en les veus i l’afirmació visionària del jazz de l’excel·lència cultural afroamericana va ressonar de nou en el hip-hop i el tecno de Detroit, combinant sensacions de progrés tecnològic, polític, estètic i cultural.

Amb els múltiples dilemes d’avui dia sobre l’impacte de la IA en les indústries culturals, podríem simplement veure que la història es repeteix i concloure que permetre que la innovació funcioni lliurement és la lliçó que la història de l’art ens ha ensenyat. No obstant això, hi ha algunes raons per veure la IA d’una manera diferent. En primer lloc, no és «només una altra eina més». Estem cada vegada més a prop que siguin sistemes que expressen agències complexes d’actors corporatius dins els sistemes socioculturals, així com que siguin sistemes que operin a tal escala que puguin sobrepassar i predir l’acció humana. En segon lloc, promou una existència plataformitzada. Segons la lògica de l’aprenentatge profund, la potència de la IA es dona a escala, la qual cosa significa que beneficia les grans corporacions. Fins i tot abans de la IA, ja s’estava donant una deriva vers el desenvolupament de pràctiques creatives en plataformes privades que escapen al control per part dels seus usuaris. En tercer lloc, la IA, per la seva naturalesa, és parasitària amb les cultures creatives, succionant cada peça de treball creatiu a la qual pot accedir sense proporcionar recompensa pel valor que extreu. Les recents resolucions judicials sobre drets d’autor i dades d’entrenament d’IA (victòries legals d’Anthropic i Meta) mostren que no existeix una protecció contra això. No crec que sigui forassenyat dir, com va suggerir el jutge en la recent sentència d’Anthropic, que la IA actua una mica com les persones, aprenent i trobant «inspiració» en les seves dades d’entrenament. Malgrat això, una desigualtat tan gran en les regles del joc, el canvi de poder associat i una possible disrupció de les habilitats i la vitalitat de les cultures creatives han de considerar-se un cas especial d’ús excepcionalment injust. La sentència pot ser legalment defensable, però el resultat és greument erroni.

Cadascun d’aquests tres factors no té precedents en la història de la creativitat humana i és un gran tema en sí mateix. Mirat de prop, té sentit considerar la IA creativa com simplement una altra tecnologia creativa: en lloc d’aprendre a dibuixar o editar imatges en Photoshop o Illustrator, algú aprendrà enginyeria d’instruccions per generar imatges, restauració d’imatges (in-painting), i ajust de precisió de models. La tecnologia millorarà la capacitat de l’artista perquè una persona pugui produir més en menys temps, en una gamma més àmplia de disciplines tècniques (tots ens convertirem en directors d’art), però continua tractant-se de creació tal com la coneixem, amb un humà al comandament, usant una sèrie d’eines avançades. La fotografia i els sintetitzadors van representar el mateix. 

En aquest nou món, les vibrants subcultures creatives continuaran prosperant creant i compartint art generat amb IA, potser fins i tot guanyant-se bé la vida amb això. L’art generat amb IA pot ser una forma d’expressió cultural tan vàlida com qualsevol altra. Les velles generacions poden queixar-se que els productors de hip-hop manquen de talent, que prenen dreceres i roben material anterior, mentre que una nova generació reconeix i recompensa el que clarament veuen com a art dins les noves regles d’un nou paradigma. Amb la IA pot ocórrer el mateix.

Aquesta és la visió que es manté, ja que la tecnologia encara està en una etapa incipient. Vist a través d’aquest enfocament d’IA centrat en l’ésser humà, els desenvolupadors de tecnologia estan creant les eines que necessiten les persones, abordant desafiaments d’interfície creativa com ara la precisió generativa, la coherència i l’ajust, així com aspectes tècnics relacionats amb l’eficiència computacional i la gestió de dades, la qual cosa fa que els models d’IA siguin més intel·ligents i ofereixin més llibertat i control a l’usuari. Sovint, això tendeix a la fórmula simple descrita per Ben Shneiderman en el seu llibre Human-Centred AI, que els millors sistemes combinaran una potent autonomia informàtica amb una autonomia humana igualment forta. Els sistemes d’IA actuals proporcionen una autonomia informàtica significativa, però això és fútil fins que es dissenyin millor per a empoderar les persones i mantenir-les en el control. Mentre les empreses innovadores d’IA fan afirmacions ambicioses sobre la «democratització» de l’expressió creativa a través d’un camí optimitzat vers resultats artístics, les seves eines sovint semblen produir un efecte «empobridor», entelant aquestes qualitats que més permeten l’expressió en una interfície creativa: la llibertat i el control. La frontera del progrés de la IA és irregular i impredictible, però és totalment possible que es pugui identificar un punt dolç clau, on la capacitat de control i el poder generatiu de la IA creativa estiguin òptimament equilibrats.

Però tot això és un canvi creatiu-tecnològic sense més història. Quant a la música, la meva generació estava com a boja explorant l’ús del mostrejador (sampler), la tecnologia per excel·lència de la música Jungle dels 1990, en la qual els samples (drum breaks) s’acceleraven i es tallaven en sorprenents mosaics sònics. Un documental sobre aquesta escena va revelar com d’obert estava per a tothom. Si tenies un kit bàsic assequible amb un salari modest, llegies els manuals i dedicaves una mica de temps a imitar els teus companys, ja ho tenies: no necessitaves anys de formació en el conservatori, només talent i imaginació. Amb aquest esperit revolucionari, podeu imaginar que no ens preocupava gens que les caixes de ritmes i els sintetitzadors poguessin haver estat deixant sense treball a músics de directe, i que els samplers, encara més, fossin una manera de robar música. No hi havia una altra manera de produir aquest increïble so. Les noves generacions, sens dubte, aconseguiran coses igualment increïbles amb la IA.

Però seria fàcil cometre l’error d’assumir que, tot i que això pot ser cert, no hi ha res més preocupant sobre la IA creativa. Si bé la visió de prop veu que la IA potència a una nova generació d’artistes, necessitem supervisar com aquestes tecnologies, sorprenentment autònomes, omnipresents, basades en plataformes i culturalment extractives, serveixen altres actors, a saber, a un grup d’empreses i els seus inversors, que poden valorar de cara a la galeria les cultures creatives, però desafortunadament, van acompanyades de l’esperit de disrupció de Silicon Valley, que prioritza els beneficis i el poder dels seus amos.

En aquesta escala macro, la IA creativa presenta amenaces mai vistes. El que potser és més alarmant és el potencial de tancar el mapa del contingut cultural, amb el món de l’expressió artística no sols saturat, sinó en mans d’aquests nous i poderosos agents. Tenen un mapa gegant de l’espai cultural en les seves mans, mentre que els artistes individuals només tenen el coneixement intuïtiu de la seva escena local. Igual que els poders colonials, aquests actors estan aportant amplis recursos de coneixement per a dividir aquest mapa cultural en territoris, tancant-los a una expressió individual més localitzada. El risc és que la nostra llibertat d’expressió, i el valor cultural que comporta, s’apagui a mesura que aquest mapa s’ompli massa d’activitat corporativa, igual que els espais públics reals poden tornar-se innavegables en cas d’ingerència privada. En termes pràctics, imagineu que no es pugui crear una cosa aparentment original sense que sigui «inadmissible» en les plataformes de les quals depenem per a comunicar-nos amb el món, o que sigui immediatament (de manera subtil, indirecta) cooptat pels gegants de l’anàlisi cultural (que sempre semblen anar un pas per davant).

De la mateixa manera, podem anticipar una capacitat creixent per part del poder corporatiu per trucar a favor seu els complexos sistemes d’atribució. El nostre espai cultural està impulsat per fluxos econòmics de drets que tenen potencial transformador per a les vides i mitjans de vida dels creadors, però sovint semblen opacs i fora d’abast. En un món en el qual la IA generativa en teoria juga segons les regles i paga drets als creadors de les dades de formació (cosa ara en dubte donades les notícies dels èxits quant a drets d’autor de Meta i Anthropic), la impossibilitat tècnica d’atribuir de manera justa fonts d’«inspiració» (quelcom que els drets d’autor no tenen en compte) apunta a configuracions de drets que estan encara més lluny que mai de representar de manera justa els esforços creatius, els talents o les identitats.

El següent pas lògic és la capacitat de predir o endevinar els fluxos culturals. El modelatge de la creativitat i la variació cultural, l’organització, l’estabilitat i el canvi poden convergir, amb tota probabilitat, en un punt en el qual una corporació amb capacitat computacional podria generar 20 variacions convincents d’una moda de TikTok, fer estimacions sobre una subcultura urbana emergent i inundar el mercat amb imitacions, o desenvolupar molts altres trucs per a mantenir-se per davant de les tendències culturals. Igual que succeeix amb les hipoteques i amb els contractes de telèfons mòbils i assegurances que contenen termes i condicions complicats que no podem entendre, la qual cosa dona a les grans corporacions un clar avantatge de poder en els acords privats, els petits actors culturals són vulnerables al desempoderament per part de competidors gegants que dominen el coneixement. Això pot ser acceptable si simplement significa que les grans corporacions canalitzen més ingressos vers sí mateixes (com ara les companyies d’assegurances o telefòniques), però la cosa canvia força si estan plenament capacitades per a «dirigir la cultura» o fins i tot si aconsegueixen tenir la capacitat de soscavar la vitalitat cultural natural i saludable i l’expressió comunitària. En última instància, atès que l’expressió cultural és expressió política, això té implicacions per a la democràcia i la ciutadania participativa, que ja estan començant a sorgir.

La sobrepersonalització té el potencial d’agreujar aquest problema. L’augment gradual de la provisió de contingut personalitzat, l’avantguarda de la influència de la IA corporativa en la cultura en forma de recomanació de contingut i programació de llistes o fonts (feed), ja està tenint efectes socials negatius ben documentats, des de bombolles de desinformació fins a l’aparició d’extremismes. Les veus que teníem al cap sempre havien estat les dels nostres amics, familiars, professors, col·legues i un parell d’entitats més sinistres: històricament, les religions grans i organitzades, i, en el segle XX, els estats grans i poderosos. En el segle XXI, les empreses s’han convertit en una nova veu dominant, creant canals directes per a cadascun de nosaltres, adaptats a nosaltres. A mesura que això s’expandeix a través de la plataformització de les nostres vides, s’afermen més i cobreixen més àrees. Amb IA o sense, la plataformització de la producció creativa (no sols la difusió) està en camí, la qual cosa genera una intrusió corporativa cada vegada més pròxima en la nostra interacció cultural.

Finalment, fins i tot quan tots els actors són benintencionats, la IA pot crear efectes infinits de bou als encants. És fàcil construir una narrativa de conflicte entre actors nobles i malintencionats, a mesura que es desenvolupa cadascun dels temes anteriors. No obstant això, a vegades les males accions són simplement més fruit de la negligència que de la malícia. Quant a l’adopció en general de la IA, pensa en el treballador d’oficina que utilitza la IA per a convertir 5 punts clau en un document de 5000 paraules, només perquè un company de treball redueixi novament aquest document a 5 punts: una forma de compressió antidades que és vergonyosament disfuncional i poc eficient, donades les pretensions de productivitat de la IA. Els efectes de la IA creativa que són antisocials només per negligència col·lectiva, no per malícia o cobdícia, inclouen la saturació de la nostra atenció amb publicitat, l’ús excessiu i ineficient de recursos i l’augment del soroll sobre el senyal en la comunicació i connexió humana. Els anomeno «efectes de bou als encants»: no hi ha mala intenció en portar-hi l’animal, però potser no és bona idea i al final el resultat no és l’esperat. Podríem considerar aquests efectes més com una forma de contaminació, com les conseqüències negatives no intencionades d’una activitat positiva.

Tots aquests són riscos profunds, però reals, que es donen alhora que gaudim de les bondats de la IA com una altra revolució més en la producció cultural. Poden ser alarmants; no afirmo que vagin a succeir, però en imaginar-los podríem fer alguna cosa per reduir els efectes socials negatius d’una tecnologia abans que ocorrin, no anys després (com és el cas amb els cotxes, el tabac i les xarxes socials). Sovint se’ns presenta la pregunta: és la IA «només una altra eina» o és un «col·laborador»? Anteriorment, he contemplat això últim com una possibilitat filosòfica, però ara tinc dubtes: els col·laboradors tenen intencions compartides o compatibles, la qual cosa és difícil de determinar a través d’un vel de complexos Termes i Condicions legals. Pot ser que m’emocionin les màquines amb intencions complexes, però m’espanta saber a qui serveixen en realitat.

Ara hi ha una necessitat crucial de persones de diversos camps en els espais de les indústries cultural i creativa, des de tecnòlegs fins a curadors i legisladors culturals, per a considerar i articular com de reals o imaginaris són aquests riscos, quins impactes potencials reals poden produir-se en les cultures creatives i com desenvolupar marcs legals completament nous que redueixin els aspectes negatius i promoguin els positius. Un dels desafiaments més significatius és determinar clarament el que és bo i el que és dolent, una tasca que no ha de deixar-se només en mans dels tecnooptimistes i acceleracionistes, ni tampoc, ho admeto, de les elits acadèmiques o de les elits artístiques liberals amb visions ideològiques del que és la cultura legítima (i un interès financer en el resultat).

Molts, però no tots, els innombrables principis ètics de la IA establerts pels estats i les corporacions nacionals estableixen almenys un precedent per a prendre aquesta acció. En particular, al meu país d’origen, Austràlia, la llista de Principis d’Ètica Nacionals de la IA (National AI Ethics Principles), té com a primer objectiu la protecció del benestar individual, social i mediambiental. És encoratjador que aquesta clara identificació del «benestar social» proporcioni una plataforma per a abordar amb exactitud els problemes esmentats anteriorment. No obstant això, és important reconèixer que molts marcs ètics d’IA no prioritzen les consideracions socials, reduint l’ètica a un àmbit de transaccions individuals, és a dir, situant-lo dins d’un marc neoliberal. 

Però el benestar social continua estant molt obert a la interpretació: la interpretació és aquí perquè qui pugui expressar millor el que importa de la producció i l’expressió creatives. Ara com ara, la narrativa és dirigida per corporacions que enalteixen els efectes beneficiosos democratitzants de la tecnologia d’IA creativa i, lamentablement, la reacció en contra dels artistes preocupats ha caigut en un «parany de drets d’autor de la IA», fiant-ho tot a un principi que també és individualista, que està en el millor dels casos en un fràgil equilibri entre restriccions i llibertats, i en el pitjor és greument injust i està fet per servir els interessos corporatius. La mescla de barems exposada en aquest article, entre una simple revolució tecnològica més a escala d’expressió individual, i una transformació completa de l’esfera creativa a escala econòmica i política global, representa un parany similar: comprenem la continuïtat individual, no la transformació cultural.

Quant a les tres coses que són fonamentalment noves sobre la revolució de la IA creativa; la capacitat d’agència de la IA, la plataformització de l’expressió creativa i l’extracció de la història cultural, és cert dir que cap d’elles és inevitable. Podem dissenyar una IA que deixi la creativitat humana al control, és a dir, sense estar subjecta a una plataforma, o que d’alguna manera estigui entrenada «èticament» (o que s’apliqui de manera ètica, com es fa amb molts altres sistemes). Una part important de la solució resideix en els enfocaments plurals a la IA que mostren com es poden fer les coses de manera diferent. Però tals visions alternatives són més útils si potencien la voluntat cultural o política per a limitar els efectes socialment negatius, com els descrits anteriorment, que sorgeixen en altres llocs, especialment respecte al corrent general. Això és semblant a com moltes ciutats han abraçat el ressorgiment dels desplaçaments caminant i amb bicicleta en detriment del transport motoritzat a través d’un canvi estructurat. El sector cultural i creatiu està lluny de desenvolupar un pla per a canviar la situació i necessita més que mai recerca independent dedicada al diàleg públic per a fer-lo.

Cita recomanada: BOWN, Oliver. Predient la cultura. Mosaic [en línia], juliol 2025, no. 204. ISSN: 1696-3296. DOI: https://doi.org/10.7238/m.n204.2509