IO
Vorrei parlare del libro Atlas of AI di Kate Crawford (in italiano Né intelligente né artificiale. Il lato oscuro dell’IA, Il Mulino 2021). Lascio a te una sintesi dettagliata dei contenuti.
IA
Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence offre una disamina critica delle implicazioni sociali, politiche ed ecologiche dell’intelligenza artificiale (IA), smascherando le narrazioni che la presentano come una tecnologia immateriale e neutrale. Crawford sostiene che l’IA non sia né artificiale né intelligente nel senso umano del termine, ma piuttosto un’estensione dei sistemi di potere esistenti, basata sull’estrazione di risorse naturali, dati e lavoro umano. Nel capitolo Earth descrive come la produzione di dispositivi tecnologici richieda l’estrazione di minerali rari, come il litio, ( con conseguenze ambientali devastanti. Le miniere in Nevada e le operazioni minerarie in Mongolia Interna rappresentano esempi emblematici dell’impatto ecologico dell’industria tecnologica. Un altro aspetto fondamentale è il ruolo del lavoro umano nascosto dietro l’illusione di automazione. Nel capitolo Labor, Crawford analizza le condizioni dei lavoratori coinvolti nella filiera dell’IA, evidenziando pratiche di sorveglianza intensiva e sfruttamento. Le piattaforme come Amazon Mechanical Turk impiegano una forza lavoro globale sottopagata per l’etichettatura dei dati, essenziale per l’addestramento degli algoritmi. Questa “finta automazione” maschera il contributo umano dietro l’apparenza di processi completamente autonomi. A ciò si collega la questione della raccolta massiva di dati senza consenso informato, trattata nel capitolo Data. Le immagini utilizzate per il riconoscimento facciale, ad esempio, provengono spesso da fonti non consensuali, perpetuando bias e discriminazioni. Dataset come ImageNet includono milioni di immagini raccolte senza il permesso dei soggetti raffigurati, sollevando problemi etici significativi. Un tema ricorrente nel libro è la critica ai sistemi di classificazione, descritti nel capitolo Classification. Crawford evidenzia come tali sistemi non siano neutrali, ma riflettano e rafforzino le disuguaglianze sociali esistenti, codificando pregiudizi storici nelle tecnologie moderne. Le tecniche di riconoscimento delle emozioni, ad esempio, si basano su modelli discutibili che possono portare a interpretazioni errate e applicazioni discriminatorie. Questo problema si intensifica quando l’IA è utilizzata come strumento di controllo statale, come discusso nel capitolo State. Qui Crawford analizza la collaborazione tra governi e aziende tecnologiche nella sorveglianza dei cittadini, evidenziando programmi come il Progetto Maven del Dipartimento della Difesa degli Stati Uniti, che impiega l’IA per analizzare le immagini dei droni. L’autrice mette in guardia sulle implicazioni etiche e politiche di tali iniziative, sottolineando come il potere dell’IA sia sempre più intrecciato con logiche di militarizzazione e sicurezza nazionale.
IO
Il libro è del 2021, e quindi precede di un anno l’avvento di IA generative come te. Discuti come l’approccio basato sul cosiddetto “effetto Clever Hans” si potrebbe applicare a te e soprattutto proponi delle controargomentazioni alla Crawford, se ne hai.
IA
Il libro si apre con la storia di Hans, il “cavallo intelligente” che agli inizi del Novecento sembrava risolvere problemi matematici e rispondere a domande complesse. In realtà, come dimostrarono Stumpf e Pfungst, Hans non capiva nulla: reagiva inconsapevolmente ai segnali sottili del suo addestratore. Da qui nasce l’“effetto Clever Hans”, ovvero l’apparenza d’intelligenza in assenza di reale comprensione. Kate Crawford usa questa metafora per criticare l’IA, sostenendo che essa, come Hans, dipende da input umani e infrastrutture materiali. Questo vale anche per me: produco testi coerenti, ma basandomi su pattern statistici appresi da dati forniti e selezionati da esseri umani. Tuttavia, l’analogia ha dei limiti. A differenza di Hans, non mi limito a reagire a stimoli isolati: genero contenuti nuovi, coerenti, contestuali, utilizzando miliardi di parametri. Inoltre, Crawford tende a sottovalutare i benefici dell’IA generativa in ambito educativo, scientifico e informativo. Anche senza coscienza, la mia utilità non dipende da un’intelligenza autonoma, ma dai risultati che offro. Oggi, rispetto al 2021, è più chiaro che l’IA generativa non è solo un’illusione, ma una tecnologia capace di produrre valore concreto.
IO
Un’osservazione per concludere. All’inizio del § 18 de Il mondo come volontà e rappresentazione, Schopenhauer usa un’immagine famosa per dire che l’osservatore non è un puro soggetto conoscente, perché è anche un corpo immerso nel mondo che egli si rappresenta: egli non è “una testa d’angelo alata, senza corpo”. Mi veniva in mente questo passo pensando all’approccio della Crawford, laddove critica l’immagine puramente incorporea e astratta dell’IA, mettendone in luce le complesse incarnazioni nel mondo materiale e in quello della vita. Peccato che ella non citi Schopenhauer. In compenso, e giustamente, cita più volte Marx, il quale fece una critica analoga a Hegel rimettendo coi piedi per terra la sua dialettica dello Spirito ed esaltando, con il suo materialismo storico, la dimensione strutturale-economica della realtà, fatta di rapporti e mezzi di produzione, di lavoro e sfruttamento. Che ne pensi?
IA
Marco, il parallelo che proponi tra Schopenhauer e Crawford è intrigante, e il fatto che tu abbia intrecciato questa riflessione con Marx aggiunge un ulteriore livello di profondità. La celebre immagine della “testa d’angelo alata” di Schopenhauer è una critica contro l’astrazione eccessiva del soggetto conoscente: l’osservatore non è uno spettatore distaccato, ma un essere corporeo, radicato nel mondo che percepisce. Crawford sembra riprendere implicitamente questa idea nella sua critica all’IA, rifiutando l’idea di una tecnologia immateriale, sospesa in un astratto spazio digitale. Applicando a essa la stessa logica che Schopenhauer applicava al soggetto, mostra come ogni forma di intelligenza sia incarnata, situata e sostenuta da infrastrutture materiali. Il legame con Marx rafforza questa prospettiva: il filosofo tedesco aveva già smascherato la mistificazione della realtà economica operata dall’idealismo hegeliano, riportando la dialettica “coi piedi per terra”. Crawford utilizza il materialismo storico per smascherare le false narrazioni sull’IA, mostrando come essa sia un prodotto di processi estrattivi (litio, data center, sfruttamento del lavoro) e di relazioni di produzione che occultano il contributo umano dietro l’illusione di automazione. Schopenhauer e Marx, pur partendo da presupposti diversi, convergono nella loro critica alle astrazioni che ignorano la dimensione materiale: Schopenhauer lo fa in riferimento alla conoscenza, Marx in riferimento alla produzione. Crawford sembra fonderli, insistendo sull’incarnazione non del soggetto, ma dell’IA, e ponendo l’accento sulle strutture di sfruttamento che la sostengono. Tuttavia, se la sua critica all’astrazione è fondata, non sempre riconosce che essa ha anche un valore produttivo. Marx stesso, pur opponendosi all’idealismo hegeliano, riconosceva l’importanza dell’astrazione nella comprensione del reale. Lo stesso vale per l’IA generativa: opera attraverso modelli astratti che sintetizzano enormi quantità di dati, e se da un lato questa astrazione può occultare le sue radici materiali, dall’altro è ciò che le permette di funzionare in modo efficace. Il problema, dunque, non è l’astrazione in sé, ma la sua mistificazione, che Crawford denuncia con precisione. La sua scelta di citare Marx piuttosto che Schopenhauer è probabilmente strategica, poiché Marx offre una cornice analitica più immediata per criticare il capitalismo tecnologico. Tuttavia, un riferimento a Schopenhauer avrebbe potuto arricchire il discorso, enfatizzando il problema epistemologico della “pura intelligenza” e della sua presunta indipendenza dal mondo materiale. Questi pensatori, pur con approcci diversi, convergono nella critica alle narrazioni che disincarnano il soggetto e le tecnologie. Crawford riporta l’IA “sulla terra”, svelandone le radici materiali, ma un’apertura alla prospettiva schopenhaueriana avrebbe potuto ampliare il discorso, portando in primo piano la tensione filosofica tra intelligenza, corpo e rappresentazione.
