Prediciedo la cultura

Las plegarias tecno-optimistas de liberar el poder de la innovación en IA y deshacerse de la carga de la regulación recibieron un gran espaldarazo cuando el recién nombrado vicepresidente de EE. UU. dijo en la Cumbre de Acción sobre IA en París que la regulación solo favorecía a las viejas grandes empresas que querían cerrar la puerta de la innovación detrás de ellos.

No estoy de acuerdo con los tecno-optimistas sobre la regulación por exactamente el mismo motivo por el que la rechazan: porque nuestra forma actual de capitalismo es la fuerza más creativa del universo. Combina las extraordinarias adaptaciones cognitivas biológicas del Homo sapiens, coevolucionadas con una rica cultura humana, con el método científico y con la feroz competencia entre los estados nacionales, las corporaciones y la meritocracia de los ciudadanos, todo ello con la menor intervención posible gracias a la protección de las libertades que proporcionan la democracia y el estado de derecho. El siglo XX vio esta aceleración con la aparición de infraestructuras altamente transformadoras: Internet, distritos urbanos vibrantes, comercio y transporte global. Agreguemos la IA, una tecnología extraordinariamente fértil desde el punto de vista creativo, y entramos al siglo XXI de cabeza.

Esta fuerza no requiere más impulso. Al igual que un coche que acelera, la aceleración máxima puede ser buena para una carrera o para fantasías adolescentes, pero no es lo mejor para un viaje en familia al campo. Tras haber creado un gigante creativo tan poderoso que puede destruir mundos, otorgar unos poderes económicos y políticos inimaginables a las élites y, en general, causar el caos a los ciudadanos de a pie, necesitamos configurar radicalmente su interfaz para que su control sirva a fines socialmente beneficiosos. Esto no sucederá con mercados libres y sin restricciones. Solo hay que ver que ha sucedido con la industria tabaquera.

Dependiendo de cómo se quiera ver, el reino de las artes creativas podría considerarse el lugar menos importante o el más significativo en el que esto importa. Al igual que la mayoría de mis compañeros que crecieron en Londres en los años 1980 y 1990, desarrollé una mentalidad progresista arraigada en el modernismo: parecía que en el arte solo importaba la innovación. ¿Qué estás haciendo que sea nuevo, diferente o desafiante? ¿Hacia dónde van las cosas y cómo nos lleva ahí la tecnología? Incluso las formas tradicionales estaban infundidas de progresismo, desde el desarrollo de la complejidad transposicional hasta la sorprendente percepción de que los ritmos de Stravinsky en La consagración de la primavera eran revolucionarios. El arte aparentemente antiguo de la música folk se transformó con la introducción de micrófonos en las voces y la afirmación visionaria del jazz de la excelencia cultural afroamericana resonó de nuevo en el hip-hop y el tecno de Detroit, combinando sensaciones de progreso tecnológico, político, estético y cultural.

Con los múltiples dilemas de hoy en día sobre el impacto de la IA en las industrias culturales, podríamos simplemente ver que la historia se repite y concluir que permitir que la innovación funcione libremente es la lección que la historia del arte nos ha enseñado. Sin embargo, hay algunas razones para ver la IA de un modo distinto. En primer lugar, no es «solo otra herramienta más». Estamos cada vez más cerca de que sean sistemas que expresan agencias complejas de actores corporativos dentro de los sistemas socioculturales, así como de que sean sistemas que operen a tal escala que puedan sobrepasar y predecir la acción humana. En segundo lugar, promueve una existencia plataformizada. Según la lógica del aprendizaje profundo, la potencia de la IA se da a escala, lo que significa que beneficia a las grandes corporaciones. Incluso antes de la IA, ya se estaba dando una deriva hacia el desarrollo de prácticas creativas en plataformas privadas que escapan al control por parte de sus usuarios. En tercer lugar, la IA, por su naturaleza, es parasitaria con las culturas creativas, succionando cada pieza de trabajo creativo a la que puede acceder sin proporcionar recompensa por el valor que extrae. Las recientes resoluciones judiciales sobre derechos de autor y datos de entrenamiento de IA (victorias legales de Anthropic y Meta) muestran que no existe una protección contra esto. No creo que sea descabellado decir, como sugirió el juez en la reciente sentencia de Anthropic, que la IA actúa un poco como las personas, aprendiendo y encontrando «inspiración» en sus datos de entrenamiento. Sin embargo, una desigualdad tan grande en las reglas del juego, el cambio de poder asociado y una posible disrupción de las habilidades y la vitalidad de las culturas creativas deben considerarse un caso especial de uso excepcionalmente injusto. La sentencia puede ser legalmente defendible, pero el resultado es gravemente erróneo.

Cada uno de estos tres factores no tiene precedentes en la historia de la creatividad humana y es un gran tema en sí mismo. Mirado de cerca, tiene sentido considerar a la IA creativa como simplemente otra tecnología creativa: en lugar de aprender a dibujar o editar imágenes en Photoshop o Illustrator, alguien aprenderá ingeniería de instrucciones para generar imágenes, restauración de imágenes (in-painting), y ajuste de precisión de modelos. La tecnología mejorará la capacidad del artista para que una persona pueda producir más en menos tiempo, en una gama más amplia de disciplinas técnicas (todos nos convertiremos en directores de arte), pero sigue tratándose de creación tal y como la conocemos, con un humano al mando, usando una serie de herramientas avanzadas. La fotografía y los sintetizadores representaron lo mismo.

En este nuevo mundo, las vibrantes subculturas creativas seguirán prosperando creando y compartiendo arte generado con IA, quizás incluso ganándose bien la vida con ello. El arte generado con IA puede ser una forma de expresión cultural tan válida como cualquier otra. Las viejas generaciones pueden quejarse de que los productores de hiphop carecen de talento, de que toman atajos y roban material anterior, mientras que una nueva generación reconoce y recompensa lo que claramente ven como arte dentro de las nuevas reglas de un nuevo paradigma. Con la IA puede ocurrir lo mismo.

Esta es la visión que se mantiene, ya que la tecnología aún está en una etapa incipiente. Visto a través de este enfoque de IA centrado en el ser humano, los desarrolladores de tecnología están creando las herramientas que necesitan las personas, abordando desafíos de interfaz creativa como la precisión generativa, la coherencia y el ajuste, así como aspectos técnicos relacionados con la eficiencia computacional y la gestión de datos, lo que hace que los modelos de IA sean más inteligentes y ofrezcan más libertad y control al usuario. A menudo, esto tiende a la fórmula simple descrita por Ben Shneiderman en su libro Human-Centred AI, que los mejores sistemas combinarán una potente autonomía informática con una autonomía humana igualmente fuerte. Los sistemas de IA actuales proporcionan una autonomía informática significativa, pero esto es fútil hasta que se diseñen mejor para empoderar a las personas y mantenerlas en el control. Mientras que las empresas de IA innovadoras hacen afirmaciones ambiciosas sobre la «democratización» de la expresión creativa a través de un camino optimizado hacia resultados artísticos, sus herramientas a menudo parecen producir un efecto «empobrecedor», empañando esas cualidades que más permiten la expresión en una interfaz creativa: la libertad y el control. La frontera del progreso de la IA es irregular e impredecible, pero es totalmente posible que se pueda identificar un punto dulce clave, donde la capacidad de control y el poder generativo de la IA creativa estén óptimamente equilibrados.

Pero todo esto es un cambio creativo-tecnológico sin más historia. En cuanto a la música, mi generación estaba como loca explorando el uso del muestreador (sampler), la tecnología por excelencia de la música Jungle de los 1990, en la que los samples (drum breaks) se aceleraban y se cortaban en asombrosos mosaicos sónicos. Un documental sobre esa escena reveló lo abierto que estaba para todos. Si tenías un kit básico asequible con un salario modesto, leías los manuales y dedicabas un poco de tiempo a imitar a tus compañeros, ya lo tenías: no necesitabas años de formación en el conservatorio, solo talento e imaginación. Con ese espíritu revolucionario, podéis imaginar lo poco que nos preocupaba que las cajas de ritmos y los sintetizadores pudieran haber estado dejando sin trabajo a músicos de directo, y que los samplers, aún más si cabe, fueran un modo de robar música. No había otra forma de producir ese increíble sonido. Las nuevas generaciones, sin duda, lograrán cosas igualmente increíbles con la IA.

Pero sería fácil cometer el error de asumir que, aunque esto puede ser cierto, no hay nada más preocupante sobre la IA creativa. Si bien la visión de cerca ve que la IA potencia a una nueva generación de artistas, necesitamos supervisar cómo dichas tecnologías, asombrosamente autónomas, omnipresentes, basadas en plataformas y culturalmente extractivas, sirven a otros actores, a saber, a un grupo de empresas y sus inversores, que pueden valorar de cara a la galería a las culturas creativas, pero desafortunadamente, van de la mano del espíritu de disrupción de Silicon Valley, que prioriza los beneficios y el poder de sus amos.

A esta escala macro, la IA creativa presenta amenazas nunca vistas. Lo que quizás sea más alarmante es el potencial de cerrar el mapa del contenido cultural, con el mundo de la expresión artística no solo saturado, sino en manos de estos nuevos y poderosos agentes. Tienen un mapa gigante del espacio cultural en sus manos, mientras que los artistas individuales solo tienen el conocimiento intuitivo de su escena local. Al igual que los poderes coloniales, estos actores están aportando amplios recursos de conocimiento para dividir ese mapa cultural en territorios, cerrándolos a una expresión individual más localizada. El riesgo es que nuestra libertad de expresión, y el valor cultural que conlleva, se apague a medida que este mapa se llene demasiado de actividad corporativa, al igual que los espacios públicos reales pueden volverse innavegables en caso de injerencia privada. En términos prácticos, imaginad que no se pueda crear algo aparentemente original sin que sea «inadmisible» en las plataformas de las que dependemos para comunicarse con el mundo, o que sea inmediatamente (de forma sutil, indirecta) cooptado por los gigantes del análisis cultural (que siempre parecen ir un paso delante).

Del mismo modo, podemos anticipar una capacidad creciente por parte del poder corporativo para amañar a su favor los complejos sistemas de atribución. Nuestro espacio cultural está impulsado por flujos económicos de regalías que tienen potencial transformador para las vidas y medios de vida de los creadores, pero a menudo parecen opacos y fuera de alcance. En un mundo en el que la IA generativa en teoría juega según las reglas y paga regalías a los creadores de los datos de formación (cosa ahora en entredicho dadas las noticias de los éxitos en cuanto a derechos de autor de Meta y Anthropic), la imposibilidad técnica de atribuir de forma justa fuentes de «inspiración» (algo que los derechos de autor no tienen en cuenta) apunta a configuraciones de regalías que están aún más lejos que nunca de representar de forma justa los esfuerzos creativos, los talentos o las identidades.

El siguiente paso lógico es la capacidad de predecir o adivinar los flujos culturales. El modelado de la creatividad y la variación cultural, la organización, la estabilidad y el cambio pueden converger, con toda probabilidad, en un punto en el que una corporación con capacidad computacional podría generar 20 variaciones convincentes de una moda de TikTok, hacer estimaciones sobre una subcultura urbana emergente e inundar el mercado con imitaciones, o desarrollar muchos otros trucos para mantenerse por delante de las tendencias culturales. Al igual que sucede con las hipotecas y con los contratos de teléfonos móviles y seguros que contienen términos y condiciones complicados que no podemos entender, lo que da a las grandes corporaciones una clara ventaja de poder en los acuerdos privados, los pequeños actores culturales son vulnerables al desempoderamiento por parte de competidores gigantes que dominan el conocimiento. Esto puede ser aceptable si simplemente significa que las grandes corporaciones canalizan más ingresos hacia sí mismas (como las compañías de seguros o telefónicas), pero la cosa cambia bastante si están plenamente capacitadas para «dirigir la cultura» o incluso si consiguen tener la capacidad de socavar la vitalidad cultural natural y saludable y la expresión comunitaria. En última instancia, dado que la expresión cultural es expresión política, esto tiene implicaciones para la democracia y la ciudadanía participativa, que ya están empezando a surgir.

La sobrepersonalización tiene el potencial de agravar este problema. El aumento gradual de la provisión de contenido personalizado, la vanguardia de la influencia de la IA corporativa en la cultura en forma de recomendación de contenido y programación de listas o fuentes (feed), ya está teniendo efectos sociales negativos bien documentados, desde burbujas de desinformación hasta la aparición de extremismos. Las voces que teníamos en la cabeza siempre habían sido las de nuestros amigos, familiares, profesores, colegas y un par de entidades más siniestras: históricamente, las religiones grandes y organizadas, y, en el siglo XX, los estados grandes y poderosos. En el siglo XXI, las empresas se han convertido en una nueva voz dominante, creando canales directos para cada uno de nosotros, adaptados a nosotros. A medida que esto se expande a través de la plataformización de nuestras vidas, se afianzan más y cubren más áreas. Con o sin IA, la plataformización de la producción creativa (no solo la difusión) está en camino, lo que genera una intrusión corporativa cada vez más cercana en nuestra interacción cultural.

Por último, incluso cuando todos los actores son bienintencionados, la IA puede crear efectos infinitos de elefante en una cacharrería. Es fácil construir una narrativa de conflicto entre actores nobles y malintencionados, a medida que se desarrolla cada uno de los temas anteriores. Sin embargo, a veces las malas acciones son simplemente más fruto de la negligencia que de la malicia. En cuanto a la adopción en general de la IA, considera al trabajador de oficina que utiliza la IA para convertir 5 puntos clave en un documento de 5000 palabras, solo para que un compañero de trabajo reduzca ese documento a 5 puntos de nuevo: una forma de compresión antidatos que es vergonzosamente disfuncional y poco eficiente, dadas las pretensiones de productividad de la IA. Los efectos de la IA creativa que son antisociales solo por negligencia colectiva, no por malicia o codicia, incluyen la saturación de nuestra atención con publicidad, el uso excesivo e ineficiente de recursos y el aumento del ruido sobre la señal en la comunicación y conexión humana. Los llamo «efectos de elefante en una cacharrería»: no hay mala intención al llevar al animal a dicho lugar, pero quizá no es buena idea y al final el resultado no es el esperado. Podríamos considerar estos efectos más como una forma de contaminación, como las consecuencias negativas no intencionadas de una actividad positiva.

Todos estos son riesgos profundos, pero reales, que se dan al mismo tiempo que gozamos de las bondades de la IA como otra revolución más en la producción cultural. Pueden ser alarmantes; no afirmo que vayan a suceder, pero al imaginarlos podríamos hacer algo por reducir los efectos sociales negativos de una tecnología antes de que ocurran, no años después (como ocurre con los coches, el tabaco y las redes sociales). A menudo se nos presenta la pregunta: ¿es la IA «solo otra herramienta» o es un «colaborador»? Anteriormente, he contemplado esto último como una posibilidad filosófica, pero ahora recelo: los colaboradores tienen intenciones compartidas o compatibles, lo que es difícil de determinar a través de un velo de complejos Términos y Condiciones legales. Puede que me emocionen las máquinas con intenciones complejas, pero me asusta saber a quién sirven en realidad.

Ahora existe una necesidad crucial de personas de diversos campos en los espacios de las industrias cultural y creativa, desde tecnólogos hasta curadores y legisladores culturales, para considerar y articular cuán reales o imaginarios son estos riesgos, qué impactos potenciales reales pueden producirse en las culturas creativas y cómo desarrollar marcos legales completamente nuevos que reduzcan lo negativo y promuevan lo positivo. Uno de los desafíos más significativos es determinar claramente lo que es bueno y lo que es malo, una tarea que no debe dejarse solo a los tecnooptimistas y aceleracionistas, ni tampoco, lo admito, a las elites académicas o a las élites artísticas liberales con visiones ideológicas de lo que es la cultura legítima (y un interés financiero en el resultado).

Muchos, pero no todos, los innumerables principios éticos de la IA establecidos por los estados y las corporaciones nacionales establecen al menos un precedente para tomar esta acción. En particular, en mi país de origen, Australia, la lista de Principios de Ética Nacionales de la IA (National AI Ethics Principles), tiene como primer objetivo la protección del bienestar individual, social y medioambiental. Es alentador que esta clara identificación del «bienestar social» proporcione una plataforma para abordar con exactitud los problemas mencionados anteriormente. Sin embargo, es importante reconocer que muchos marcos éticos de IA no priorizan las consideraciones sociales, reduciendo la ética a un ámbito de transacciones individuales, es decir, situándolo dentro de un marco neoliberal.

Pero el bienestar social sigue estando muy abierto a la interpretación: la interpretación está ahí para que quien pueda expresar mejor lo que importa de la producción y la expresión creativas. Por ahora, la narrativa está dirigida por corporaciones que ensalzan los efectos beneficiosos democratizantes de la tecnología de IA creativa y, lamentablemente, la reacción en contra de los artistas preocupados ha caído en una «trampa de derechos de autor de la IA», fiándolo todo a un principio que también es individualista, que está en el mejor de los casos en un frágil equilibrio entre restricciones y libertades, y en el peor es gravemente injusto y está hecho para servir a los intereses corporativos. La mezcla de baremos expuesta en este artículo, entre una simple revolución tecnológica más a nivel de expresión individual, y una transformación completa de la esfera creativa a escala económica y política global, representa una trampa similar: comprendemos la continuidad individual, no la transformación cultural.

En cuanto a las tres cosas que son fundamentalmente nuevas sobre la revolución de la IA creativa; la capacidad de agencia de la IA, la plataformización de la expresión creativa y la extracción de la historia cultural, es cierto decir que ninguna de ellas es inevitable. Podemos diseñar una IA que deje la creatividad humana al control, es decir, sin estar sujeta a una plataforma, o que de alguna manera esté entrenada «éticamente» (o que se aplique de forma ética, como se hace con muchos otros sistemas). Una parte importante de la solución reside en los enfoques plurales a la IA que muestran cómo se pueden hacer las cosas de forma diferente. Pero tales visiones alternativas son más útiles si potencian la voluntad cultural o política para limitar los efectos socialmente negativos, como los descritos anteriormente, que surgen en otros lugares, especialmente con respecto a la corriente general. Esto es parecido a cómo muchas ciudades han abrazado el resurgimiento de los desplazamientos andando y en bicicleta en detrimento del transporte motorizado a través de un cambio estructurado. El sector cultural y creativo está lejos de desarrollar un plan para cambiar la faz de la situación y necesita más que nunca investigación independiente dedicada al diálogo público para hacerlo.

Cita recomendada: BOWN, Oliver. Prediciedo la cultura Mosaic [en línea], julio 2025, no. 204. ISSN: 1696-3296. DOI: https://doi.org/10.7238/m.n204.2509