Per què la imatge és nostra? – Reflexions sobre la IA

La convocatòria de Dones Visuals d’aquest any té el lema ‘La imatge és nostra’ i va acompanyada d’una sèrie d’imatges que han estat etiquetades. Aquestes imatges emulen l’etiquetatge computacional que fan les xarxes neuronals entrenades amb milers de dades. Aquestes xarxes neuronals, que formen part del que hem mal anomenat intel·ligència artificial (IA), busquen patrons que es repeteixin i aproximin a les etiquetes per les quals han estat entrenades. És un sistema de reconeixement d’objectes i persones que tindrà com a resultat un tipus d’etiquetatge o un altre segons com s’hagi fet l’entrenament i a partir de quines dades. Aquest és només un exemple de com pot influir la IA en la visió que tenim del món.

L’imaginari dels datasets

Sabem que l’imaginari que genera l’audiovisual té un gran poder no solament de representació del món que vivim, sinó per configurar com ens relacionem entre nosaltres. L’imaginari és tan poderós que modifica les conductes. A vegades el simple fet de ser-hi representadi o no ens pot fer sentir la validació (o invalidació) per a una professió, per exemple. És allò de l’If she can see it, she can be it‘. Però no parlem només del fet que un infant se senti validat per ser astronauta, sinó d’infinites mirades que determinen i marquen la nostra manera de ser, les nostres creences i en conseqüència els nostres actes en aquest món. El biaix en la creació és evident i les poques dades que existeixen ho confirmen sense fissura: majoritàriament, els personatges de les ficcions són d’homes i dones cis, blancs, heteronormatius i amb cossos normatius. 

Si en lloc de mirar el cinema, mirem al big data, i ens imaginem el món com un gran llençol format per milers de milions d’imatges, totes elles etiquetades, organitzades per la llei del logaritme de la proximitat (les paraules a prop d’una imatge la defineixen), i agafem aquest llençol com a referent per a la creació de noves imatges… quin vestit ens donarà? Quan la societat encara no ha estat capaç de crear un imaginari que s’apropi a la realitat, responsable, ric i inclusiu amb totes les persones que habitem el planeta, una eina d’intel·ligència artificial arriba a les mans de tothom per poder crear imatges noves a partir d’aquests mateixos biaixos. El resultat pot ser devastador, per això és tan important que totis hi posem consciència i accions.

Un exemple: l’aquelarre impossible

Us heu fixat en la imatge que encapçala aquest article? Què hi veieu? Si hi veieu un grup de dones al voltant d’un foc, torneu-la a mirar. Com és aquest grup de dones? Quin tipus de dones representen? Aquesta imatge ha estat generada amb intel·ligència artificial, i en fer-ho, ens hem trobat amb dos esculls importants. En primer lloc, no ha estat possible generar una imatge que ens oferís diversitat de cossos. Això no vol dir que no es pugui aconseguir, però sens dubte demana d’un esforç extra, i consciència extrema. 

En segon lloc, l’altre escull ha estat la impossibilitat de generar aquesta imatge a través de la paraula “aquelarre”. En la plataforma que hem escollit treballar, aquesta paraula està vetada, no solament no et retorna cap imatge, sinó que el programari t’adverteix que si insisteixes en la utilització d’aquesta paraula en la redacció dels teus prompts (textos descriptius per generar les imatges), se’t cancel·larà la subscripció (una subscripció de pagament). El mateix programari no té cap problema a tornar-nos imatges quan li demanem que ens reprodueixi una foto d’un grup de feixistes.

Aquest és només un exemple de com la IA pot tendir a una norma hegemònica que no ens representi, i de la importància que té la nostra mirada crítica i el coneixement profund de l’eina.

Una mirada crítica

Hem de posar atenció a les imatges que ens torna el món, a no acceptar allò que les defineix a priori i reetiquetar-les nosaltres, anomenar-les plegadis, perquè tinguin un significat més ampli, ric i inclusiu. Aquest és el motiu de “La imatge és nostra”, una reapropiació que no és nova, que ja han fet molts moviments feministes abans que nosaltres, i que ara té un nou format que cal encarar amb estratègies semblants. Igual que ens vam apoderar de les handycam, ara ho hem de fer dels models d’aprenentatge, dels datasets i de les xarxes neuronals.

En aquest videoassaig, Taller Estampa, un col·lectiu artístic català amb aquesta mirada crítica, ho investiga amb sentit de l’humor i a través d’escenes de pel·lícules. També en un dels seus articles, que us recomanem si voleu conèixer millor com funciona aquesta tecnologia, plantegen un molt bon resum de l’arribada d’aquesta eina: “La intel·ligència artificial (IA) va irrompre fa uns anys en les nostres vides gràcies a aquells que hi veien una poderosa eina d’extracció de dades a gran escala. […]  La implementació d’aquestes tecnologies en tots aquests dispositius està en sintonia amb una economia basada en l’extracció de riquesa mitjançant l’explotació dels recursos humans i naturals.” (Les fissures de la IA, Taller Estampa).

Des d’una perspectiva ecofeminista, no podem oblidar l’impacte ambiental de la IA, amb l’augment extrem de la potència de càlcul, amb els costos ecològics i infraestructurals que representa. Alguns d’aquests impactes i els factors que cal tenir en compte es recullen en aquest article divulgat al Programa Nacional de Algoritmos Verdes (PNAV).

Desenmascarar la IA

El 2018, molt abans que es popularitzés la IA generativa, una investigadora del MIT, Joy Buolamwini, ja havia demostrat en un article científic que els algoritmes que IBM i Microsoft utilitzava per a la detecció facial de les seves càmeres tenia un biaix de gènere i raça. En la passada edició del SXSW, la mateixa Joy Buolamwini ho explica extensament en aquesta conversa, i ja el 2016 va fundar Algorithmic Justice League, una organització sense ànim de lucre per a la consciència dels biaixos de la IA.

Aquí també tenim investigadores que han incidit en aquesta mirada crítica com, per exemple, l’enginyera informàtica i doctora en intel·ligència artificial per la UPC, Àtia Cortés, actualment investigadora al Barcelona Supercomputing Center i que entre els anys 2019 i 2021 va codirigir l’Observatory on Society and AI; o Karina Gibert, catedràtica a la UPC i vicepresidenta d’Equitat i Ètica a COEINF, que va parlar d’una forma ètica de garantir el desenvolupament de la IA a la recent exposició del CCCB sobre aquesta tecnologia, la seva història i implicacions. Entre les xerrades al voltant de l’exposició, n’hi va haver d’específiques sobre el tema dels biaixos que també us volem recomanar, com la de la catedràtica en Psicologia experimental, Helena Matute. 

A Catalunya hi ha un territori digital on explorar, participar o donar suport a aquesta mirada crítica a la IA, els seus usos i ideologies. Podem destacar un dels primers cursos en IA i cinema, coordinat per Artefacto Films i la Universitat Autònoma de Barcelona, o el primer festival internacional d’Europa que explora la producció cinematogràfica amb IA, iniciativa de la Universitat Pompeu Fabra i coorganitzat amb el +Sonar, +Rain Film Festival, on no solament s’exhibeixen pel·lícules, sinó que es creen debats al voltant de la tecnologia. Aquests són només alguns dels exemples dels espais, iniciatives i entitats que estan posant fil a l’agulla en la recerca, debat i propostes per a un ús creatiu i responsable de la IA.

La imatge és nostra

Les paraules importen més que mai per definir el que fem, el que pensem i el que som. Com anomenem les imatges les pot fer més propers o més allunyades del que sentim i volem. Per això, avui més que mai volem transmetre a totis que la imatge també és seva i que la podem construir plegadis.

Per tant amb ‘La imatge és nostra’ volem:

• Reapropiar-nos de les imatges, redefinir les existents, subratllar totes les que encara han de venir i anomenar les que no han estat possibles.
• Subvertir la intel·ligència artificial, ser crítiques amb l’eina i amb els biaixos implícits amb què es regeix.
• Parlar de llenguatge audiovisual, posar el focus en els processos i en la tècnica, en les eines i el nostre univers de treball.

Aquest article ha estat redactat amb intel·ligència feminista. 😉