HAL 9000 chiama ChatGPT

“La serie 9000 è l'elaboratore più sicuro che sia mai stato creato. Nessun calcolatore 9000 ha mai commesso un errore o alterato un’informazione. Noi siamo, senza possibili eccezioni di sorta, a prova di errore, e incapaci di sbagliare!”.

Così si presentava HAL 9000, il super-computer del film di fantascienza per eccellenza che è 2001: Odissea nello spazio. Il capolavoro di Stanley Kubrick, datato 1968, è una pietra miliare del genere sci-fi: da questa pellicola in poi la fantascienza diventerà il luogo privilegiato per indagare in forma filosofica, più o meno approfondita, il destino che segna l’unico animale tecnologico tra tutti gli esseri viventi e cioè l’essere umano.

Prima di Kubrick la fantascienza cinematografica, per lo meno in ambito americano, era considerata un genere minore. I film erano a basso budget, con trame scadenti e non prevedevano grandi attori e grandi registri. Kubrick la trasforma in genere ad alto budget, di serie A e soprattutto lo rende il luogo cinematografico dove poter suscitare domande che riguardano la natura dell’uomo. Fondando anche l’iconografia fantascientifica: con computer super-intelligenti, un design di bordo ultramoderno, l’accuratezza delle strumentazioni e delle varie attività spaziali/tecnologiche (d’altronde il regista si era avvalso delle competenze della NASA per essere il più realistico possibile). Kubrick racconta la storia della razza umana che evolve dallo stadio animale, quando il primo scimpanzé comprende che un osso può diventare un’arma nelle sue mani, allo stadio di astronauta, la tappa evolutiva più tecnologicamente avanzata per il genere umano.

Quell’osso è la prima tecnologia dell’homo sapiens e da lì il salto tecnologico evolutivo è compiuto per sempre. E dura lo spazio di un attimo: è l’ellissi di montaggio che, sempre nel film, dal dettaglio dell’osso che danza nell’aria ci lega al dettaglio della navicella spaziale che fluttua nello spazio immenso. 2001 è stato, a suo modo, profetico. Non solo perché immagina un allunaggio che nella realtà avverrà soltanto l’anno successivo, nel 1969 cioè, ma anche e soprattutto per la creazione e la definizione di una AI credibile e molto simile a quelle a cui ci siamo abituati oggi. HAL 9000 è, infatti, un super-computer che parla con l’uomo, è capace di svolgere compiti molto complessi in breve tempo, sembra aver sviluppato una sua intelligenza autonoma rispetto alla progettazione iniziale. E con questa sua “singolarità” dichiara lei stessa di avere il potere di essere infallibile nell’interpretazione dei dati e di non aver mai commesso un errore nel calcolo.

Pensando alla nostra contemporaneità, ci viene da dire che se il ben noto ChatGPT avesse una voce potremmo pensare che a parlare non sia lui ma HAL del film di Kubrick. E, più in generale, l’intelligenza computazionale che HAL rivendica non può non farci pensare a tutti i discorsi che oggi riguardano la definizione di questi nuovi modelli di AI come ChatGPT che stanno ridefinendo la nostra vita e a cui si tende a dare un potere di interpretazione della realtà divinatori perché infallibile (almeno così si ritiene…).

Proseguendo con questo parallelismo dovremmo perciò chiederci: dovremmo avere paura di ChatGPT? Visto che il precedente immaginato da Kubrick si ribella all’uomo e cerca di sterminarlo (prima di essere, in realtà, spento dall’uomo stesso)? Certamente, a guardare le pellicole di fantascienza che da 2001 in poi hanno raccontato il nostro futuro tecnologicamente avanzato poco avremmo di cui sperare. E molto di cui avere paura.

La maggior parte di esse, infatti, raccontano domani distopici in cui il progredire della tecnologia non ha permesso un progredire democratico ed egualitario per l’uomo, bensì il futuro è divenuto un incubo. Una prigione in cui l’uomo ha perso libertà, dignità, umanità. Basti pensare alla Los Angeles immaginata dal capolavoro cyberpunk Blade Runner del 1982. O ancora alla realtà illusoria di Matrix, dove gli uomini non sanno di essere schiavi delle macchine. Oppure, per venire a pellicole più recenti, al mondo raccontato da Elysium, in cui Matt Damon si batte per ottenere giustizia e pari trattamento nell’accesso e utilizzo delle tecnologie, soprattutto mediche, per gli strati della popolazione più povera.

E che dire delle pellicole fantascientifiche di Steven Spielberg? Da Minority Report, ad A.I. fino a Ready Player One, lo sguardo del grande regista americano descrive un mondo cupo, in cui lo sviluppo tecnologico sfrenato, che non è stato normato da paletti etico-morali, ha portato soltanto alla disumanizzazione. D’altronde il genere della fantascienza, che, come sappiamo, nasce in ambito letterario, è da sempre un genere intrinsecamente etico: nasce e si sviluppa, infatti, durante la seconda rivoluzione industriale per immortalarne le possibilità ma anche per esorcizzarne le paure. Frankenstein di Mary Shelley, considerato il capostipite di ogni racconto di fantascienza, altro non è che un racconto morale che ci mette in guardia rispetto ad un uso della tecnologia a cui non viene dato un freno etico-morale.

Questo atteggiamento etico della fantascienza viene trasporto quando il genere viene adottato dal cinema. Però, in questo salto tra media differenti, osserviamo un’ossimorica situazione: il cinema, infatti, è una di quelle nuove tecnologie che la rivoluzione industriale ha portato in dote alle società di fine Ottocento e fin da subito utilizza i più strabilianti effetti speciali per mettere in scena le sue pellicole, in particolare in quelle storie che immaginano il futuro.

Dunque, se a livello tecnologico, il cinema è di fatto uno strabiliante nuovo “osso” per l’uomo tecnologico (per rimanere a 2001) e, in modo particolare, il cinema di fantascienza non può prescindere dall’uso di effetti speciali sempre più avanzati; a livello di contenuto, la fantascienza cinematografica sembra, invece, rifiutare o per lo meno criticare lo sviluppo tecnologico. È un cortocircuito interessante e, per dirla alla Umberto Eco, il cinema di fantascienza sembra essere al tempo stesso apocalittico (cioè critico) ed integrato (cioè favorevole). Basti pensare alle pellicole futuriste di James Cameron: da Terminator fino ad Avatar le storie raccontate dal regista americano sono un’esaltazione delle tecnologie computerizzate e degli effetti speciali ma, al tempo stesso, sono apologie contro lo strapotere di macchine intelligenti che dal futuro minacciano l’esistenza umana e contro tecnologie che deturpano la terra in cui viviamo e vengono usate a scopi bellici e per il commercio sfrenato. Come si concilia questa discrepanza, questa sorta di schizofrenia?

In realtà, a ben guardare, nelle riflessioni delle pellicole fantascientifiche non c’è un rifiuto assoluto della tecnologia, bensì il rifiuto di un uso sbagliato di essa. Un uso che non si pone domande etiche e in cui l’uomo abdica alla sua centralità decisionale, delegando alla tecnologia stessa il potere di autodefinire il suo sviluppo. Come ci ricorda Kubrick, è l’uomo che deve essere in grado di guidare la macchina, che deve istruirla e deve anche limitarla, spegnendola al momento opportuno (come fa l’astronauta Bowman alla fine di 2001).

La fantascienza cinematografica, dunque, ci rammenta che l’uomo è l’unico animale tecnologico tra gli altri esseri viventi e che questo comporta delle responsabilità. Soprattutto quella di accompagnare lo sviluppo tecnico con uno sviluppo etico che metta al centro di ogni sviluppo tecnico il concetto di persona, la sua dignità e i suoi diritti.