di Teresa Numerico
Kate Crawford è una studiosa di tecnologia, dotata della rara capacità di elaborare anche artisticamente la sua ricerca critica sull’Intelligenza artificiale (IA). È Research Professor alla Scuola per la comunicazione e il giornalismo Annenberg di Los Angeles, e Senior Principal Researcher a Microsoft. Ha vinto di recente il prestigioso premio S+T+ Arts Prize 2024 per un lavoro in collaborazione con Vladan Joler: Calculating Empires. Il riconoscimento è per i lavori artistici che coinvolgano anche scienza e tecnologia. Il progetto sarà esposto in otto nuove destinazioni, dopo essere già stato esibito a Milano (Fondazione Prada), a Berlino e al festival Ars Electronica di Linz in Austria.
Il centro dell’opera è una dark room, che consente di entrare in una black box letterale, un ambiente immersivo fatto di mappe concettuali. Una analizza sistemi di comunicazione e computazione, mentre l’altra affronta i meccanismi di controllo e di classificazione. Gli imperi di cui si descrivono i tentacoli si estendono dall’occidente per più di cinque secoli.
Il processo di potere integra colonialismo, rivoluzione scientifica e industrializzazione, come facce composite di un unico prisma, che include gli strumenti di comunicazione e calcolo delle tecnologie digitali contemporanee, inserendole in un flusso ininterrotto.
Crawford è una delle più importanti voci critiche internazionali sull’IA. Ha studiato l’insieme dei materiali necessari per le infrastrutture tecnologiche, ma anche le strategie nel coniugare ricerca e politica dell’IA. È un’attivista generosa, impegnata a concepire progetti con l’obiettivo di difendere la società e la democrazia dagli attacchi dei sistemi di controllo, sorveglianza e predizione dell’industria dell’IA della Silicon Valley. L’abbiamo incontrata per discutere del rapporto tra ricerca scientifica e artistica.
Ci descriverebbe la genesi di questo particolare progetto?
Ho interagito con Vladan per buona parte del decennio. La nostra ricerca è cominciata con il progetto, Anatomy of an AI system, nel quale abbiamo analizzato le dipendenze di Amazon Echo – un singolo sistema di IA – dai materiali di tutto il pianeta. Un’analisi spaziale delle connessioni concrete dell’IA. Calculating Empires è invece uno studio sul tempo. È stato uno dei progetti più difficili ai quali ho partecipato. È enorme e ci sono voluti quattro anni per gli approfondimenti storici necessari per mappare il modo in cui gli imperi hanno usato la tecnologia per centralizzare il potere negli ultimi cinque secoli.
Da studiosa e artista come sceglie i progetti da realizzare nei diversi ambiti? Ha pesato il desiderio di attivare il pubblico generale attraverso la vostra cartografia critica?
Il lavoro artistico è sempre interconnesso con la ricerca accademica. Scegliamo gli esiti in base all’opportunità. Si tratta di modi diversi per contestualizzare meglio le trasformazioni che stiamo attraversando. Calculating Empires funzionava meglio come progetto visuale, concepito per far partecipare le persone con le proprie storie. In mostra sono presenti dei grandi libri scritti a mano e diamo alle persone le penne per contribuire con la propria visione e la propria prospettiva critica, perché la immaginiamo come una storia aperta e collettiva. Crediamo sia importante che questi dibattiti avvengano in luoghi pubblici e possano permeare la cultura e l’educazione.
Considerato che il vostro lavoro è una critica costante all’oggettività e all’universalismo delle categorie, come avete selezionato quelle della vostra storia degli imperi?
La classificazione è un metodo per introdurre un ordine e una struttura nel mondo, spesso a favore di un sistema di potere. Noi abbiamo scelto delle categorie per riflettere con le persone su quanto i sistemi tecnologici siano interconnessi a quelli sociali. Nella mappa abbiamo rappresentato i sistemi di comunicazione, quelli di calcolo, di classificazione e di controllo. Abbiamo cercato di evidenziare come tecnologia e potere siano interdipendenti in questi quattro domini, per raccontare una storia alternativa.
Cosa vi ha ispirato nel concepire un progetto così complesso, in evoluzione continua?
L’ispirazione è nata dalla frustrazione su come l’intelligenza artificiale venga discussa al momento: la falsa rappresentazione che viviamo una fase unica della storia, che questa tecnologia non somigli a niente di ciò che è stato inventato, ecc. Ma non è così e lo possiamo mostrare attraverso la descrizione dello sforzo materiale necessario per realizzare il sistema tecnologico, le infrastrutture industriali emergenti, e del potere implicato nella sua realizzazione. Lo sguardo più ampio ci ha permesso di uscire dalla spinta presentista nella quale viviamo rispetto alla tecnologia, che inibisce una visione più profonda di storia e società.
Durante la realizzazione di Calculating Empires è esplosa l’eccitazione per l’IA generativa. Come avete vissuto questi annunci che investivano il futuro mentre concepivate la storia dei sistemi tecnologici di calcolo e controllo? È servito a contrastare la distrazione?
Ci ha aiutato a mantenere la calma, invece di correre dietro alle promesse sulla realizzazione a breve dell’intelligenza artificiale generale e ci ha consentito di concentrarci sugli aspetti storici di queste tecnologie. Siamo bombardati negli ultimi due anni dagli annunci di successi, e questo ci fa distrarre. Siamo attratti dai nuovi prodotti, dimenticandoci del quadro generale. Non riflettiamo su quali siano gli effetti a lungo termine di esternalizzare le nostre abilità creative, la scrittura, il discernimento. Come ci stiamo trasformando? Concentrarci sul passato è stato un antidoto per restare immuni alla narrazione di invincibilità promossa dai sostenitori della tecnologia, perché abbiamo studiato come le precedenti trasformazioni abbiano condotto le persone ad attivare una resistenza nel tempo. Non esiste solo la narrazione del potere.
Nel suo libro The Atlas of AI (Né intelligente né artificiale, Il Mulino, 2021) ha indagato gli aspetti materiali delle tecnologie dell’IA, mostrando da un lato che non sono intelligenti, perché richiedono l’intervento nascosto di tantissime persone, e dall’altro che dipendono da un’infrastruttura industriale energeticamente avida. Come si applica questo approccio all’IA generativa?
Nel testo ho descritto l’atlante delle implicazioni materiali, commerciali e geopolitiche dei processi di questa tecnologia. L’IA generativa ha un costo ancora maggiore di pochi anni fa. Fare una ricerca con ChatGPT consuma 15 volte l’energia rispetto all’accesso ai motori di ricerca. E richiede molta più acqua. I data center ne hanno bisogno per il loro raffreddamento e questo fa letteralmente evaporare l’acqua da bere in molte regioni affette da siccità. Ogni interazione con ChatGPT è come buttare mezzo litro d’acqua per terra. Queste esternalità andrebbero considerate attentamente.
Pensa che l’avvento di Trump cambierà qualcosa in termini di pratiche e regolazione dell’IA?
È troppo presto per dirlo. È interessante che in Usa a livello di singoli stati siano state recentemente introdotte più di 200 leggi, che riguardano l’IA a vari livelli. Ritengo che tale orientamento non smetterà nei prossimi anni. Ma siamo molto preoccupati e stiamo monitorando la situazione. È importante trovare un modo più sostenibile di costruire sistemi di IA, rendendoli più ricchi di sfumature. È urgente definire gli ambiti nei quali abbia senso usarla. Questa è la battaglia politica e critica dei prossimi quattro anni. Per farlo abbiamo bisogno degli sforzi di tutti i gruppi di pressione a livello internazionale.
(il manifesto, 1° dicembre 2024)
