Visioni pericolose: come la ricerca dell'utopia potrebbe portare alla catastrofe

Le visioni dell’utopia sono onnipresenti in tutta la storia occidentale. Hanno ispirato grandi opere d'arte e letterarie, motivato innumerevoli credenti a obbedire ai comandamenti di Dio e provocato alcuni dei conflitti più sanguinosi nella biografia collettiva della nostra specie.

Le visioni utopistiche sono anche una caratteristica centrale del clamore intorno all’intelligenza generale artificiale, o AGI. In un articolo intitolato “Perché l’intelligenza artificiale salverà il mondo”, il miliardario della tecnologia Marc Andreessen scrive che i sistemi avanzati di intelligenza artificiale ci permetteranno di “affrontare nuove sfide che sarebbero state impossibili da affrontare senza l’intelligenza artificiale, dalla cura di tutte le malattie al raggiungimento dei viaggi interstellari. " Il CEO di OpenAI, Sam Altman, dichiara in modo simile che con l'AGI "possiamo colonizzare lo spazio. Possiamo far funzionare la fusione e [l'energia] solare su scala di massa. Possiamo curare tutte le malattie". L’utopismo è ovunque nella Silicon Valley.

Il problema è che l’utopia ha un lato minaccioso. In primo luogo, il suo perseguimento può causare danni profondi a coloro che si trovano a ostacolarlo. Questo è il motivo per cui le fantasie utopistiche hanno alimentato alcune delle peggiori atrocità della storia: se i mezzi sono giustificati dai fini, e i fini sono letteralmente un mondo utopico di quantità infinite o astronomiche di valore, allora cosa è esattamente fuori discussione quando arriva a realizzare questi fini?

Possiamo già vedere questo tipo di pensiero nella corsa all’AGI: aziende come OpenAI si sono impegnate in massicci furti di proprietà intellettuale, con conseguenti una serie di cause legali, e sistemi come ChatGPT sono costruiti sul brutale sfruttamento delle persone nel Sud del mondo, alcuni di loro venivano pagati 1,32 dollari l'ora per vagliare alcuni dei materiali più orrendi presenti sul web. Questi danni valgono sicuramente i benefici, dato che, secondo le parole di Altman, “siamo solo a pochi passi dall’abbondanza su una scala difficile da immaginare”.

Imparentato

In secondo luogo, la realizzazione dell’utopia potrebbe anche avere conseguenze catastrofiche, poiché la maggior parte delle visioni utopistiche sono intrinsecamente escludenti. C'è sempre qualcuno che viene lasciato di proposito fuori da ogni utopia immaginata: un gruppo indesiderabile la cui presenza in paradiso lo escluderebbe dal contare come tale. Se il paradiso cristiano includesse gli atei, per esempio, non sarebbe il paradiso. Quindi, ci si dovrebbe sempre chiedere a chi sia rivolta una particolare visione utopica. Tutti o solo pochi eletti? Se sì, quali persone sono ammesse e quali vengono bandite alla perdizione, se non condannate all’annientamento?

Ci si dovrebbe sempre chiedere a chi sia rivolta una particolare visione utopica. Tutti o solo pochi eletti? Se sì, quali persone sono ammesse e quali sono bandite verso la perdizione?

Anche se in Occidente il credo religioso sta rapidamente diminuendo, l’utopismo no. Ciò rende importante comprendere la natura e i potenziali pericoli del pensiero utopico. Per gestire meglio questi problemi, ho contattato la mia collega Monika Bielskyte, una brillante consulente per il futuro che annovera tra i suoi clienti passati Universal Studios, DreamWorks e Nike. È stata anche consulente per il film di successo "Black Panther: Wakanda Forever" e negli ultimi dieci anni ha tenuto discorsi sul futuro nelle principali conferenze sui media e sulla tecnologia in tutto il mondo. Sovvertendo un termine del guru della tecnologia Kevin Kelly, ha sviluppato il framework "protopia futures", che propone una visione rigenerativa e inclusiva per il futuro come alternativa al binario utopia-distopia.

Nella nostra conversazione telefonica, abbiamo discusso una serie di argomenti, comprese le origini del pensiero utopico e se le élite tecnologiche siano “veri credenti” o stiano semplicemente usando l’utopismo come “cortina di fumo” per distrarre dalla distruzione del pianeta. Questa intervista è stata modificata per motivi di lunghezza e chiarezza.

Sono diventato molto interessato a questa affermazione secondo cui l'utopia è intrinsecamente escludente. Ti ho sentito dire in un podcast che le persone emarginate spesso stanno meglio nelle distopie immaginarie che nelle utopie. Potresti approfondire?

Non è nemmeno che stiano meglio nelle distopie che nelle utopie: nelle utopie letteralmente non esistono! Quasi senza eccezione, le persone emarginate vengono completamente cancellate da tutto tranne che dalle visioni utopiche più recenti. Praticamente l'unico luogo in cui esistono popoli emarginati nelle visioni fantascientifiche e futuriste è stato nelle distopie (e la loro presenza è spesso percepita come un significante di distopia), perché non c'è letteralmente posto per loro nell'utopia, data l'eugenetica e l'esclusione natura dell'utopismo. Ad esempio, la presenza di persone queer, disabili e neurodivergenti in qualche modo nega la natura stessa dell’utopismo – perché se la disabilità esiste ancora (per non parlare di essere celebrata), è addirittura utopia? C'è tutta una serie di visioni futurologiche superficialmente stimolanti che esteriormente celebrano questa cancellazione.