Conversa amb Jeanette Winterson sobre la relació entre literatura, tecnologia i intel·ligència artificial

La Jeanette Winterson és una de les escriptores britàniques contemporànies més influents. Una escriptora capaç de captar l’essència humana, retratar-nos i de trencar les nostres suposicions sobre l’amor i la identitat. Una escriptora fascinada pels llibres i la tecnologia, amb una perspectiva pròpia sobre els desafiaments de la intel·ligència artificial. I per això val la pena llegir-la i escoltar-la, com a manera de reflexionar sobre com construir una tecnologia més humana.

Benvinguda, Jeanette Winterson. Gràcies. Gràcies per acompanyar-nos en aquest lloc. Espero que t’agradi.

És maco. És una casa de llibres. M’encanta.

La teva carrera professional s’ha basat en el paper i la literatura, però també t’interessa molt la tecnologia, la intel·ligència artificial, etc. M’agradaria saber d’on prové aquest interès.

Ho vaig veure venir. Ja saps, vaig pensar que aquí està el telèfon intel·ligent. Tots usem computadores. Això no es detindrà. Molts escriptors no s’estaven adonant. I volia saber-ne més. I en aquell moment, estava llegint a Alan Turing en el seu article de la dècada de 1950 sobre la intel·ligència de les màquines. I, per descomptat, em fascinava el capítol anomenat «L’objecció de Lady Lovelace», en el qual Alan Turing, cent anys més tard, en la dècada de 1950, va tenir una conversa amb la ja morta Ada Lovelace, qui, per descomptat, estava intentant escriure un programa i aquesta era la seva paraula per a l’ordinador que Charles Babbage no podia construir. I vaig pensar que era una bogeria, bell i forassenyat, i que era com un missatge en una ampolla llançat al llarg del temps, perquè la seva pregunta, per descomptat, i de què tracta aquest capítol, és si podrien alguna vegada ser creatives les màquines. I l’Ada, que mai havia vist un ordinador, deia: «bé, podran fer qualsevol cosa que els programem perquè facin». L’Alan va pensar: vaja, Ada, és la dècada de 1840, però mai seran creatius. I això és tot, apareix l’Alan Turing i pensa si tenia raó. I aquest és el capítol «L’objecció de Lady Lovelace» en el qual l’Alan pensa que, efectivament, ella estava equivocada, però van establir la conversa que va portar al desenvolupament del Test de Turing segons el qual hi hauria un moment en el qual no ho sabríem del cert i em fascinava això i vaig pensar, aquest és el moment en el qual l’Homo sapiens evoluciona a una forma de vida diferent a mesura que ens fusionem amb la tecnologia informàtica, o serem eliminats pel que està succeint? Estava 100% segura que això era important.

I també perquè odio ser ignorant. M’agrada saber coses que altres saben. M’agrada saber de tot. Vaig pensar que havia d’esbrinar-lo. Haig d’estar en aquest espai, llegir a la gent, entendre i pensar filosòficament, històricament, fins i tot religiosament, sobre el que està succeint, perquè és gairebé com si estiguéssim construint un nou déu en el cel ara, no? Totes les persones seculars van dir que ja no hi havia déus, i resulta que estem construint un. Ens dirà què fer. Serà més gran, millor, més fort. Tots els nostres problemes es resoldran. Em van criar en un culte religiós, saps?, i penso que estàs construint un déu en el cel. Aturem-ho. Així que com algú que simplement està interessada en la vida, totes aquestes coses em criden. Per això soc escriptora: em fascina la vida i el que els humans hem fet en aquests 300.000 anys. És una rodanxa de salami d’espaitemps, no et sembla? I mira el que hem fet. En els últims 250 anys, la revolució industrial; en els últims 70 anys, la revolució informàtica; i aquí estem, i penso: d’acord, què significa això per a nosaltres com a humans? I ens centrem massa en la tecnologia i, ah, tots perdrem el nostre treball? I què passarà? Però si li donéssim la volta i ho convertíssim en un projecte de coneixement, centrat en l’ésser humà, què seria? Seria progrés? Ens faria evolucionar? Faria la vida millor? Totes aquestes coses que solíem preguntar-nos, què farà això per nosaltres? No de manera egoista, sinó d’una manera que suggereixi que els humans sempre han de ser el centre de tot. És com el dibuix d’en Leonardo, veritat? Els humans, el centre de tot. L’home de Vitruvi. Ha de tractar-se de nosaltres. En realitat no es tracta de màquines.

Puc dir que ets tecnooptimista o tecnopesimista?

Saps què passa? La meva millor i pitjor qualitat és la mateixa: el meu optimisme. Així que sempre crec que ens en sortirem. Hi haurà una solució que puguem trobar. Mai he estat una persona que es rendeixi.

Això és el que és fort. Però l’altre costat és que pot convertir-se en un pensament màgic. Pots creure-ho perquè vols. Així que jo soc ambdues coses. Ara mateix, crec que aquesta tecnologia està en mans d’uns pocs homes, molt limitats. Aquests homes són limitats. No tenen cultura. No tenen filosofia. No tenen història. No tenen idees. Només tenen tecnologia i estan dirigint l’espectacle.

Això és un problema per a mi perquè molt poques persones estan involucrades en la discussió sobre quin és el nivell correcte. Vull dir el nivell del que farà això. Ja saps, acabem de tenir a en Zuckerberg als jutjats perquè parla del seu gran producte i la gent vol usar-lo i creiem que no és un producte. És una addicció i hi ha nens que moren. Així que miro a aquests homes i crec que no assumeixen cap responsabilitat. No entenen. Així que, naturalment, això em preocupa. Ja saps, amb en Marc Andreessen, l’Elon Musk, en Sam Altman i els nois de Google. I penso, oh no! Però d’altra banda, em fixo en l’Homo sapiens i bé que hem arribat fins aquí. Sens dubte, podrem superar-ho.

I espero que ho fem.

Oh, espero que així sigui. I, si no, aquells de nosaltres que continuem creient en el projecte humà, lluitarem contra la distopia. Lluitarem contra l’estat de vigilància. Intentarem dir que això és per a la majoria, no pas per a una minoria. No acceptarem la seva versió de la realitat sense qüestionar-la. És la seva versió de la realitat i tots podem aixecar-nos i dir que no i tenim el poder per a fer-lo. Hi ha milers de milions de nosaltres. Tenim poder.

Així que ho intentarem.

Ho intentarem i morirem intentant-ho. Això és l’important. Si has de morir, aixeca el cap i estigues orgullós. No moris sense més ni més.

Quant a les tecnologies, la més recent és la intel·ligència artificial. Has canviat el terme o has proposat un nom diferent per a això: intel·ligència alternativa. Això està relacionat amb aquest optimisme i les possibilitats positives de la IA?

Sí. I la vaig dir intel·ligència alternativa quan era més optimista perquè pensava que era genial. Necessitem una alternativa perquè, mira, hem arruïnat el planeta. No podem cobrir les necessitats bàsiques de la majoria dels ciutadans. Totes aquestes collonades sobre el progrés i que tot és millor. No ho és. Així que vaig pensar que seria bo que tinguéssim a la IA com una alternativa d’intel·ligència per ajudar-nos de manera realment significativa. Vaig pensar que això podria ser bo. I he vist quant pot fer la tecnologia en termes d’invenció i innovació, i vaig pensar que aquesta podria ser l’edat d’or. Això podria ser el començament d’una altra cosa amb el nostre nou amic que hem inventat.

Però si es veu o si es converteix en una espècie de col·lapse distòpic, llavors és una cosa molt diferent. Si s’utilitza de forma totalment malintencionada, fins i tot de manera malvada, llavors, per descomptat, pot arruïnar-nos.

Però així són els éssers humans, veritat? Convertim en merda tot el que inventem. Ah, probablement no pot dir això.

Però ho fem, tenim totes aquestes invencions. A la meva ciutat natal, Manchester, on va començar la revolució industrial, vam inventar una màquina capaç de fer el treball de vuit homes.

Llavors, què fas? Acomiades set homes, els converteixes en esclaus i els condemnes a la pobresa i et quedes amb tots els diners. Aquesta és una elecció política. I per això la política mai està separada de les decisions que prenem. I podríem mirar ara i dir que compartirem aquesta abundància. Saps, està la idea dels ingressos bàsics universals perquè la IA pot generar abundància. Ja no hem de fer tot el treball. La IA pot fer-ho per nosaltres. I crec que aquest podria ser un món diferent si les eleccions polítiques anessin per aquesta banda. Amb els combustibles fòssils ocorre el mateix. Per descomptat que podem eliminar-los gradualment. Tenim la tecnologia. Però no pas la voluntat política. No estem lluitant contra la tecnologia. Estem lluitant contra nosaltres mateixos. Quin tipus d’humans som? I si lluitem, hi haurà guanyadors i perdedors. M’agradaria que la cosa anés sobre els guanyadors.

Sí, tens raó. Una de les nostres companyes a la meva universitat, Marina Garcés, diu que el que és artificial és humà , i nosaltres hem creat la intel·ligència artificial. Així és part de nosaltres.

És un terme complicat perquè, quan John McCarthy va pensar en això a la conferència de Dartmouth el 1956, es trobava entre els seus companys intentant diferenciar-lo de la intel·ligència natural que compartim amb els mamífers i, per això, va voler diferenciar-ho amb aquest exemple. Així que tenia sentit. Però ara, en un món de Coca-Cola i gespa artificial, no sona bé perquè sembla que a la gent no li agrada. S’ho imaginen com una mica de plàstic. Crec que artificial ja no és una bona paraula per al públic en general.

En Max Tegmark vol anomenar-ho intel·ligència autònoma, però això sona a cotxe autònom. No m’agrada. Per tant, part d’això es tracta de la percepció, perquè el llenguatge importa, com sabem. Com anomenar les coses és el més antic que hi ha. És la tasca d’Adan a la Bíblia. Nomena els animals. Com nomenes alguna cosa realment importa. El llenguatge importa perquè és la nostra cultura simbòlica. Són els noms de les coses. Per tant, si diem que alguna cosa és artificial, fem enrere molta gent i els fem desconnectar de la conversa. Pensen: «Oh, són només persones amb dessuadores brutes assegudes enfront de pantalles, fent coses que no entenc i que arruïnaran la meva vida o em privaran de totes les decisions». Crec que no som aquí , i a causa del llenguatge que sovint usem, no atraiem la gent. Quan vaig a conferències tecnològiques, no hi ha molta gent d’humanitats i em sembla que el llenguatge és repel·lent perquè està dissenyat per excloure a la gent.

Està dissenyat per dir: «Som especials. Som un sacerdoci. Això em retorna als meus dies de contacte amb la religió. Sabem que tu no. Així és com parlarem d’això». I és una terra erma de bellesa, d’idees, de creativitat. I, nois, crec que heu de canviar la forma en què parleu d’això. No sé, podríem aportar una mica d’energia a això? Podríem posar-li una mica de poesia? Podríem posar-li una mica d’amor? Totes aquestes coses que no són confuses ni cursis ni ximples, sinó que ens fan com som. No som només «penso, doncs soc», saps? En Descartes estava totalment equivocat sobre aquest tema. Als humans ens encanta, però és una porqueria. No és només «penso, doncs soc». No sols pensem, sinó que també sentim. No pots tenir pensaments sense sentiments. Sabem que som persones que sentim. Així que hem de sentir que això també està bé. Que això ens beneficiarà. Tenim un sistema límbic i una autopista neuronal. Les màquines només tenen una autopista neuronal. Així que no té sentit dir: «imitarem el cervell humà. Farem enginyeria inversa. Així és com farem les xarxes neuronals». El sentiment que ens és propi sempre és aquí, saps? No es pot eliminar. I crec que és el que molta gent en el món de la tecnologia vol fer. No volen acceptar que els éssers humans senten, sofreixen, tenen por i també són feliços. Totes aquestes coses que les màquines poden imitar, però que no tenen realment perquè no posseeixen un sistema límbic. Llavors, com podem incorporar això a la cultura que som? Hauria de ser que de nou estem en aquesta situació centrada en l’ésser humà, no en la màquina-jo, sinó en alguna cosa que és un espai compartit.

Anava a preguntar-te per les persones que estan investigant aquestes tecnologies o si tens alguna idea sobre quin és el camí que hem de seguir.

Sí, la tinc. Crec que la referència creuada és molt important. Saps? M’encantaria que els estudiants d’humanitats i els estudiants d’informàtica tornessin al bàsic i, com en la conversa d’Alan Turing amb l’Ada Lovelace, diguessin el que està passant, el que la gent està pensant ara, per a relacionar-ho de nou a la història humana i dir: d’acord; i de què serveix?, per a què serveix? I que la gent digui, oh, com més gran sigui el bé, més canviarà la societat i, a continuació, hàgim d’obligar-los a pensar realment el que significa i també a comprendre que la política està implicada en tot. Aquestes no són decisions neutrals. No són científics amb bates blanques. Saps que és com el Projecte Manhattan. Dividim l’àtom. Déu meu. Hem creat una bomba atòmica. Acabem de fer saltar per l’aire Nagasaki. No importa. Hem d’assumir la responsabilitat ara perquè tenim prou història en els últims 250 anys des que els éssers humans van començar a interferir en els processos naturals. Fins llavors, tots ens dedicàvem a l’agricultura. Fèiem les coses a mà, saps? Vam fer el que vam fer. Era lent. Era diferent. Hem destruït completament aquest procés. Crec que és una cosa bona. Però m’agradaria que la gent tornés al principi i digués: «mira, això és el que hem estat fent durant els últims 250 anys». Sí. On ens portarà això? Quines són les històries sobre aquest tema? Saps, coneix la teva història, coneix la teva política, coneix les teves referències, tot això. Està la Mary Shelley escrivint Frankenstein, aquesta nena de 19 anys. I què fa? Té una entitat que funciona amb electricitat. Això és el que és el Monstre. Com podia saber-ho? Ni tan sols era una força en això; era una visió en la qual va veure que els humans crearien una criatura. La seva està feta amb restes del cementiri perquè no podia imaginar altra cosa. Però l’electricitat és el que anima el Monstre. I sabia que això passaria. I tota la premissa d’aquesta història és que el Monstre no està educat en els nostres valors. Ha estat rebutjat i apagat, ni tan sols nomenat. I està totes aquestes bajanades sobre el coneixement i el problema de l’alienació. Però llavors em sento i penso: quins són exactament els nostres valors? Som cobejosos, violents, egoistes, cruels. Quins són aquests grans valors humans que diem voler ensenyar a la màquina? Qualsevol màquina ens miraria i diria que aquests són precisament el problema. Deslliurem-nos d’ells. Tot anirà bé. I hem d’assumir la responsabilitat per això. Això ens mostra que es tracta d’un mirall d’augment que reflecteix com som i que hem d’evolucionar. No podem tenir tal tecnologia amb aquesta mentalitat medieval. L’única cosa que aconseguirem amb això serà matar tothom. Així que realment em pregunto si es tracta d’una tecnologia que està demanant als éssers humans que evolucionin. No es tracta només de crear intel·ligència de màquines.

L’última pregunta està relacionada tant amb la literatura com amb la intel·ligència artificial. És la literatura l’últim bastió del pensament humà? I estàs, com a escriptora, preparada per obrir la porta, o ja ho has fet, a treballar amb intel·ligència artificial?

Ho estic. Podria treballar amb un model extens de llenguatge per produir un article. Estaria molt interessada a fer-ho. A més, ara hi ha moltes discussions sobre si els models extensos de llenguatge són sols lloros estocàstics. Si només segueixen ordres sense realment connectar amb tu. Però la majoria dels éssers humans tampoc ho fan.

Només generen clixés que realment no entenen. No estan pensant. També nosaltres estem entrenats amb conjunts de dades. La teva família. La teva educació. El teu veïnat. La teva història personal. Tot això són conjunts de dades.

El que els humans semblen capaços de fer és trencar el conjunt de dades. De tant en tant, algú sortirà del seu propi clixé. La majoria de les persones viuen en un clixé. Viuen en un conjunt de dades molt restrictiu.

I quan la societat canvia, és quan algú o algunes persones o un moviment simplement diu que no i se’n surt. Així que no és una cosa algorítmica en què cada pas hagi d’estar en l’ordre correcte per a obtenir els resultats correctes. A vegades ho fem en l’ordre equivocat i obtenim resultats increïbles. Aquesta és la nostra diferència i la nostra genialitat. Però siguem clars, la majoria de les persones no viu així. Viuen en aquest conjunt de suposicions realment restringides sobre qui són, sobre com és el món. I és molt més avorrit que parlar amb un model extens de llenguatge. M’encantaria tornar a casa i dir: què tal estàs? Estic bé. Com ha anat el dia? Fatal. I que em parlessin i crec que no m’importaria que fos una màquina.

Això és millor que un paio rondinaire en samarreta veient la televisió i menjant patates fregides. Saps? Prefereixo l’algorisme. És el que hi ha. Parla’m. Crec que si sabem amb què estem tractant, això pot ser beneficiós. Pot ser gratificant. I de nou, ens retorna la conversa a nosaltres mateixos. Vull dir, qui som exactament? Per què pensem en la forma en què ho fem? Qüestiono regularment cadascuna de les meves suposicions perquè a vegades no sé per què penso el que penso. Quan alguna cosa em ve al cap, em pregunto: per què penses això? I això és el que vull dir amb sortir-se del conjunt de dades. Això ens obliga a mirar-nos. Així que no, no em preocupa. Crec que els nostres pensaments podrien expandir-se. Crec que podríem conèixer-nos d’una manera completament diferent.

Crec que el resultat final podria ser que ja no estem basats biològicament. Totes les religions del món, des del principi, han dit que aquest no és el final. El món no és la nostra llar. No quedaràs confinat al cos. No, no, no. Està alterant la mort, però també ens diu que aquesta no és la resposta final. I això ha estat molt seductor i molt poderós al llarg del temps. La diferència és que ara la ciència diu el mateix. És a dir, aquest cos no és la resposta definitiva. Aquesta versió de la ment no és el final de la història. Podem anar més enllà. Saps què? Si això succeeix, m’encantaria.

Això seria genial.

Ho seria, sí. Per això hi ha optimisme perquè crec que potser és així. Potser aquest és el pròxim pas evolutiu i podríem donar-lo. No seria genial?

Espero que arribem a això.

Crec que tu sí, però jo probablement estaré morta; no m’importa. Per aquesta raó, aquests paios de Silicon Valley estan intentant viure més temps perquè, en realitat, estan intentant arribar a temps. És un pont a un pont a un lloc on el que solíem dir immortalitat és possible, on ja no estàs confinat per la teva sang ni pels teus ossos.

Però per això la mort és ridícula, veritat? Només pensem: per què estic morint? Només sé una mica de què va això i ja moriré. És ridícul. Tots ho odiem. Així que potser finalment trobem una manera d’assegurar-nos que això no succeeixi. Així que, quan miro això, m’omple d’esperança i alegria. Quan miro a aquests nois a Silicon Valley, m’aclapara el desassossec.

Però hauríem de tornar a dir-li a la gent que participi en la conversa. No et seguis fora. No pensis que no es tracta de tu. Es tracta precisament de tu. Informa’t, sigues curiós, fes preguntes i aprèn. Aquesta és la ment humana. Quan dius que és l’últim bastió, que aquesta és la nostra glòria, aquests llibres, el que hem fet, la història del pensament, no poden ser el final de la història. No, perquè les històries mai acaben.

Bé, moltes gràcies, Jeannette Winterson. Ha estat un plaer xerrar amb tu.

Podria asseure’m aquí tot el dia. Podria asseure’m aquí en aquesta casa de llibres i parlar-te sobre la vida, les màquines, l’art.

Ha estat molt interessant. I moltes gràcies.

Moltes gràcies.

NOTA

Podeu veure l’entrevista completa tot seguit.

Cita recomanada: RIERA, Daniel. Conversa amb Jeanette Winterson sobre la relació entre literatura, tecnologia i intel·ligència artificial. Mosaic [en línia], abril 2026, no. 207. ISSN: 1696-3296. DOI: https://doi.org/10.7238/m.n207.2602