Últimamente he estado muy inmersa en los libros de María Fernanda Ampuero. No suelo leer mucha ficción, pero la forma en que escribe me atraviesa profundamente. Sus palabras me hacen sentir, imaginar, visualizar cada escena como si fuera una película proyectada en mi cabeza. Hace poco terminé Visceral, donde la autora habla sobre el sentido de su escritura, sobre el porqué detrás de su forma de narrar. Me encantó poder saber un poco más de su proceso de creación. Recientemente leí el nuevo fanzine de mi amiga, la ilustradora Casimira: El cactus solitario, me hizo sentir y pensar muchas cosas. Me intriga pensar cómo fue su proceso de creación, no solo conceptual, sino también físico, el trabajo manual de armar cada librito con sus propias manos. Hay una belleza en ese acto, en ese cuidado. Me pregunto: ¿qué tiene que pasar por la mente de alguien para escribir, dibujar, componer música, para crear historias tan potentes que nos desbaratan, nos conmueven y, de alguna manera, nos hacen sentir menos solos?
Douglas Hofstadter, en su exploración sobre la conciencia y la creatividad, dice que esta última es un fenómeno emergente de patrones mentales complejos. En sus libros describe la mente como un sistema que salta entre distintos niveles de abstracción, combinando estructuras familiares en formas nuevas. Es como un juego de espejos entre significados, símbolos y emociones. Para él, un “libro increíble” nace cuando el autor logra “infectar” la mente del lector con sus propios patrones mentales, como si estableciera un puente entre dos conciencias. El proceso de crear arte requiere, entonces, una intensa autorreflexión, dominio del lenguaje, sensibilidad, empatía… y un cúmulo de emociones, situaciones y más.
Menciono todo esto porque, al mismo tiempo, a menudo escucho como en empresas, universidades o medios de comunicación usan la Inteligencia Artificial Generativa para crear imágenes, textos, videos, canciones. Incluso se plantea ya no necesitar más escritores, diseñadores o ilustradores, porque ahora todo “se le puede pedir” a la IA. Y me pregunto: ¿la gente realmente sabe cómo funcionan estos sistemas? ¿saben que para que una IA pueda generar imágenes necesitó millones de imágenes nuestras? Fotografías, ilustraciones, datos personales extraídos de la web y redes sociales, sin consentimiento, sin crédito, sin compensación a quienes crearon esas obras, rompiendo los derechos de autor, y pasando por alto el valor del trabajo y la dedicación de millones de artistas.
Fui a la página de OpenAI, la empresa detrás de DALL·E, ChatGPT, Sora, y leí su misión: “Nuestra misión es garantizar que la inteligencia artificial general -sistemas de inteligencia artificial que suelen ser más inteligentes que los humanos- beneficie a toda la humanidad”. Más inteligentes? ¿cómo? ¿extrayendo datos sin permiso? ¿robando el conocimiento y trabajo artístico? ¿invisibilizando el trabajo humano de miles de personas que etiquetan y clasifican datos para que estos sistemas “funcionen”?
Aproximadamente en el 2018, había escuchado sobre las primeras investigaciones técnicas como transferencias de estilo basadas en IA para empezar a generar canciones, y un par de años después se lanzó una de los primeras canciones generadas completamente por Inteligencia Artificial, fué una canción de pop generada a través de una red neuronal artificial de la leyenda del pop, Michael Jackson, creando una canción como si todavía estuviera vivo, hasta ahora hay un sin número de canciones que recrean las voces y estilos de artistas fallecidos y que han sido grabadas y lanzadas en Spotify . Hace mucho tiempo yo misma pensé que quizá éste no es un ejemplo cualquiera, porque va más allá de estirar los límites de lo que hoy entendemos como creación, autoría y, por qué no, muerte… Quisiera que nos detuvieramos aquí, y pensemos en estas últimas líneas.
¿Quién está detrás de estos desarrollos? ¿quién tiene la autoría de estas nuevas obras? ¿es el artista fallecido o el algoritmo de Inteligencia Artificial?
Estos programas de IA fueron entrenados con música sin consultar a los músicos ni siquiera compensarlos, lo mismo ocurre en otras áreas: plataformas como DALL-E, Sora, Gemini y otras, han utilizado millones de imágenes sin permiso, tomadas de internet, para alimentar sus modelos. Es muy probable que, si tu arte o contenido está en redes sociales como Instagram, Facebook o en cualquier página de internet, ya forme parte de alguna base de datos utilizada por estas herramientas. No solo compartimos imágenes, también cedemos ubicaciones, contactos, listas de seguidores e incluso mensajes privados. Todo esto ha creado un espacio jurídico y ético aún confuso en torno a los derechos de autor. Miles de artistas ya han alzado la voz para exigir parar el uso no autorizado de sus obras. Medios como The New York Times han iniciado demandas multimillonarias contra empresas de IA por la extracción no autorizada de artículos, libros y contenidos periodísticos. Sin embargo, este tipo de litigios sólo están al alcance de grandes corporaciones. ¿Qué ocurre con los artistas independientes? ¿cómo podrían acceder a mecanismos legales tan costosos?
En América Latina, el debate sobre los derechos de autor y la inteligencia artificial aún se encuentra en una etapa incipiente. Solo siete países de la región han desarrollado estrategias nacionales sobre IA, recientemente leí que Brasil podría convertirse en el primer país del mundo en permitir que sus ciudadanos vendan sus datos a empresas privadas. No es casualidad, este mismo país fue pionero en establecer un marco legal para regular el uso de internet y proteger la privacidad de sus ciudadanos.
Sin embargo, esta propuesta nos obliga a hacernos preguntas: ¿Es cobrar por nuestros datos personales una verdadera solución? ¿queremos seguir datificando cada aspecto de nuestras vidas? ¿o estamos simplemente reforzando un sistema en el que el control de nuestros datos y por ende de nuestra autonomía queda en manos de corporaciones y gobiernos?
Pero los riesgos del uso de nuestros datos van más allá aún, es un tiempo ya de este caso en EE.UU. de una madre y su hija, acusadas de aborto ilegal tras acceder la policía a sus chats de Facebook, luego de que Meta entregara sus mensajes privados. Este no es un uso futurista o exagerado, es lo que está pasando. Estas grandes empresas tecnológicas tienen el control de nuestra información, y cada día vemos cómo nacen nuevas startups con el mismo ánimo de seguir capturando y explotando nuestros datos.
Como dice Carissa Véliz, necesitamos recuperar el control de nuestros datos. Porque “la privacidad es poder”. Me cuesta aceptar que, para proteger sus obras, los artistas tengan que dejar de compartirlas en internet o hacerlo en foros privados para que sus obras no sigan alimentando los sistemas de IA. Vivir del arte ya es difícil; invisibilizarlo aún más… lo vuelve insostenible.
Trabajo desde hace varios años, como investigadora, y desarrolladora de Inteligencia Artificial, conozco cómo se diseñan y entrenan estos algoritmos. Yo misma me he maravillado viendo cómo el machine learning se usó en el proceso de animación en películas como Spider-Man:Into the Spider-Verse, En lugar de que los animadores tuvieran que dibujar y ajustar manualmente estas líneas dibujadas a mano que dan estilo en cada cuadro, entrenaron modelos de machine learning que podían reconocer, rastrear y adaptar automáticamente esas líneas según la expresión y el movimiento del personaje. En contraste otra de las aplicaciones es el proyecto que descifra el lenguaje de nudos precolombinos conocidos como Quipus.
No queremos que la IA reemplace el proceso que implica crear arte, ilustrar una historia, escribir una nueva novela. Quiero seguir leyendo más de Ampuero, ver la ira ilustrada de Casimira, perderme en los libros filosóficos ilustrados de Sozapato, o escuchar las nuevas canciones de Mugre Sur. El arte no debe ser automatizado, ni reemplazado, ni datificado, porque lo valioso del arte es justo ese proceso, el contexto, la resistencia que jamás podrá ser reemplazada por un algoritmo.
Pensar en detener el desarrollo de la IA y la tecnología es algo difícil, pero algo que sí debemos hacer es cuestionar cómo se hacen estos sistemas, a quién benefician y a quién dejan fuera. Es posible construir herramientas tecnológicas con IA que respeten los derechos de autor, que no reemplacen sino ayuden a, que estén hechos por y para nosotros, que no perpetúe las desigualdades que ya tenemos en el mundo. Pero al mismo tiempo necesitamos regulaciones fuertes a las grandes empresas tecnológicas.
El debate es largo. Pero para mí, el primer paso es entender las relaciones de poder que atraviesan estas tecnologías, recuperar y reconocernos como dueños de nuestros datos, exigir regulaciones claras sobre el desarrollo de la IA y el uso de los datos, dejar por completo esa visión tecno solucionista, tecno positivista de querer solucionar nuestros problemas con tecnología, eso no va a pasar, la tecnología, la IA, son solamente herramientas, que si, deben construirse bajo otros procesos, con una mirada crítica, más inclusiva, más humana. Y quizás, dejar de preguntarnos qué es lo siguiente que va a automatizarse… para empezar a preguntarnos cómo queremos convivir con estas tecnologías.
por Diana Mosquera
Co-fundadora y Directora de Investigación en Diversa
