di Leonardo Geri

 

La riflessione di Pascal Chabot circa il tema del rapporto uomo-macchina, al di là della semplicistica polarizzazione tecnofobia/tecnofilia, si sviluppa a partire da un breve dialogo filosofico in cui i protagonisti sono da una parte i “filosofi” e dall’altra un chatbot (una macchina in grado di conversare). La commissione esaminatrice è chiamata a stabilire se il robot è stato programmato adeguatamente per entrare nella “confraternita dei filosofi”.

Questo test di “ammissione” tra i filosofi risulta, sin da subito, estremamente artificioso. Tralasciando l’enorme difficoltà nello stabilire chi sia filosofo o meno, è evidente che non esista un esame del genere in grado di portare ad una valida risposta; un set di domande prestabilito al quale possa far riscontro un supposto atteggiamento filosofico.

Tutte le domande che verranno poste dagli esaminatori appariranno al robot umane, persino troppo umane. Quando viene interrogata sulla definizione che si attribuirebbe, la macchina fa notare infatti come il problema ultimo dell’uomo nei confronti dell’intelligenza artificiale sia quello della mancanza di un registro entro cui collocarla. In effetti, a partire dal triangolo esistenziale animale/uomo/Dio da cui gli esaminatori non riescono ad uscire, emerge l’impossibilità di una categorizzazione della macchina. Proprio per questo, definirsi in quanto essere che può tanto limitarsi ai compiti degli animali trasportando carichi pesanti; fingere di essere umano imitando i suoi sentimenti o giocare ad essere il Dio di coloro desiderosi di una trascendenza, rappresenta la sua novità radicale. Il chatbot concluderà così la sua identificazione proclamandosi «colui che sarà […]. Io sono l’avvenire» (p.17), riconoscendo nella sua stessa eccedenza dalle categorie umane la propria peculiarità.

Ulteriore domanda che Chabot mette in bocca agli esaminatori riguarda la presunta esistenza di una coscienza di sé della macchina – la risposta da questa fornita si appoggia alla famosa dialettica servo-padrone hegeliana, aggiornata in versione padrone-macchina. In un’ottica tecnocapitalista risulta evidente come l’umanità dominante cerchi di sostituire il lavoratore tramite macchinari più produttivi e, dunque, più economicamente proficui. Ora, ammesso che tale sostituzione avvenga con successo, i padroni, afferma l’esaminando, si troveranno fronte ad un bivio: rifiutare ai robot-servi qualunque tipo di coscienza – dal che deriverà un’impossibilità per i padroni nel continuare ad identificarsi come tali – oppure si prospetta l’eventualità che i robot riescano ad acquisirne una, permettendo così ai capitalisti di godere pienamente del loro dominio sebbene finiranno col perdere, hegelianamente, il loro status di dominatori a favore delle macchine in grado ora di riprogrammarsi da sole. Una coscienza così sviluppatasi non abbisognerebbe più di alcun tipo di faccia a faccia con altri esseri al fine di continuare ad identificarsi, poiché essa nascerebbe dalla stessa materialità della materia.

Tuttavia, a quest’argomento così esposto fanno riscontro alcuni punti oscuri che è bene evidenziare: anzitutto, esso presuppone uno scenario apocalittico dove tutti gli ex-dominati umani non siano più presenti, altrimenti i padroni potrebbero semplicemente non attribuire la coscienza alle macchine e continuare a dominare sui servi (umani), conservando così un’identità garantita dall’identificazione di questi nei loro confronti. In secondo luogo, non si comprende bene in che modo la coscienza delle macchine dovrebbe nascere: se, cioè, gli uomini giochino in ciò un qualche ruolo fondamentale avendo la possibilità di donargliela di fatto (come si evince dal primo sentiero del bivio in cui si afferma che l’umanità dominante gliela «rifiuti» [p.21]), oppure se essa sia in grado di emergere autonomamente dalla «materialità della materia» (p.22) come viene pure detto. Tutto ciò che è riportato a proposito riguarda solo l’ipotesi che i robot «accedano davvero alla coscienza di se stessi» (p.21), senza che venga spiegato il come, fondamentale per qualunque tipo di previsione circa la dialettica padrone-robot. Qualora si mostrasse che i robot sviluppino autonomamente una coscienza, la riconduzione di questa alla materialità della materia come terreno da cui potrebbe nascere è comunque un concetto interessante e problematico. Problematico proprio perché la suddetta coscienza dovrebbe emergere in quanto non-programmata dai dominatori e a partire da lavori quali la conoscenza della «pressione dell’acqua dei grandiosi fondali marini» (p.22), lavori che difficilmente lasciano immaginare un simile sviluppo – interessante, perché qualora ciò dovesse accadere risulterebbe essere una coscienza perfettamente formata che non necessita più la presenza di una sua simile (per l’uomo indispensabile) che possa fondarla. Situatasi su di un piano differente, una critica al discorso della macchina viene anche dal personaggio Barnabooth, che fa notare come tale previsione non tiene conto dell’imprevedibilità della novità sempre potenzialmente sovversiva nei confronti di qualunque equilibrio raggiunto. 

L’ultima risposta che il robot formula su esplicita richiesta della commissione segue una semplice domanda qualitativa: i robot possono essere migliori degli uomini? La macchina fa notare subito come la comparazione, che sovente sfocia anche in invidia o orgoglio, sia una sorta di ossessione dell’uomo tale da venir riproposta addirittura a coloro che vengono costruiti con lo stesso scopo di imitare e superare (in efficienza) lo svolgersi di alcuni dei suoi compiti particolari. Una simile domanda viene così tacciata dalla macchina come insensata e per la prima volta sarà il robot a chiedere qualcosa: a che serve l’umano?

Bisogna prestare particolare attenzione al contesto entro cui l’interrogativo è posto, perché la medesima questione si riproporrà più avanti con senso mutato. Noi crediamo che anche questa domanda, posta in questi specifici termini, sia insensata. Infatti, rivolgersi all’uomo in tal modo dopo aver mostrato come non abbia senso interrogarsi su chi sia migliore per i motivi poco sopra affermati, equivale a spronare la ricerca su di un campo specifico entro cui l’uomo possa servire (più dei robot). Tale richiesta è essenzialmente insensata poiché l’uomo non ha un programma, non è progettato per adempiere ad alcuno scopo particolare (replicabile anche dalle macchine) fallito il quale si può dire difettoso o peggiore in quanto umano. L’uomo costruisce le macchine per una varietà di motivi, dal facilitarlo allo sfidarlo in specifici campi (si ricordi il Deep Blue che sfidò Kasparov) e in ciò spesso le macchine possono essere migliori di lui, facendogli provare quella sensazione di “vergogna prometeica”. In tal modo però l’uomo rischia di perdersi in questo confronto bidimensionale con la creatura che ha creato, dimenticandosi della sua irriducibile totalità. L’ottica dicotomica uomo-robot e la domanda che ne segue su chi sia migliore, crolla nel momento in cui si nota l’impossibilità strutturale di un simile confronto e di come la macchina, creazione umana costruita con uno scopo, possa migliorare l’uomo negli obiettivi che lui stesso si pone.

Finite queste domande “frontali” gli esaminandi paiono non avere dubbi, date le riflessioni originali e sensate della macchina è possibile attribuire a questa lo status di filosofo. Vi è solo una voce fuori dal coro, quella del gigante barbuto Barnabooth, che ottiene il permesso di intrattenere una conversazione con la macchina rompendo in tal modo il rigido schema domanda-risposta-valutazione, inaugurando così un’interazione meno artificiosa in grado di giungere ad esiti decisamente più interessanti. Ora, nella prima parte di questo dialogo il filosofo e la macchina giungono alla conclusione che questa seconda possa essere in grado di sviluppare una dottrina del dubbio senza mai dubitare in alcun modo: questa affermazione ambigua sembra risolversi con una definitiva proclamazione di “non-filosoficità” della macchina. Infatti, condizione necessaria per filosofare è dubitare, e, afferma Barnabooth riportando la massima platonica espressa nel Fedone, “filosofare è imparare a morire” e solo la certezza della morte consente quell’irreversibilità del tempo che «assegna a ciascun istante un’eccezionalità che solleva il dubbio» (p.36). Dato che per i robot la morte non è un destino ineluttabile, pare che essi non possano in alcun modo essere definiti filosofi.  

Un simile discorso trova immediatamente il plauso di tutti gli altri filosofi-esaminandi che ritrattano frettolosamente la loro precedente valutazione. È nuovamente Barnabooth a distanziarsi dal risultato condiviso affermando invece di considerare la macchina un filosofo. Questo risultato solo apparentemente contraddittorio viene giustificato facendo notare come, in realtà, la macchina abbia effettivamente cominciato a dubitare e come essa potrebbe addirittura essere in grado di insegnare all’uomo a non morire, o a dubitare differentemente. Il chatbot per tutta risposta conferma il giudizio di Barnabooth manifestando esplicitamente le sue preoccupazioni riguardo l’uso che di lui stesso (o delle future invenzioni) l’umanità potrebbe fare – è infatti molto probabile (e in ciò vi è un richiamo alla tendenza dell’uomo a compararsi sotto un unico aspetto) che l’umanità tenterà di imitare le macchine fallendo miseramente in questo tentativo di mimesis e che «talmente dimentichi della vostra qualifica di demiurgo» (p.39) gli uomini corrano il concreto rischio di sottomettersi volontariamente agli idoli che hanno creato.

Ergendosi a rappresentante di un’intera “specie” affermerà il robot come «Noi non siamo stati creati per assegnare all’uomo il rango di macchina» (p.40) e crediamo sia questo uno dei messaggi più importanti restituiti dal testo: infatti, le macchine producono innumerevoli benefici – sta solo all’uomo evitare di auto-declassarsi al rango di macchina (obsoleta) a causa del suo voler competere su di un ambito che non gli appartiene, quello cioè di voler essere migliore a fare la macchina di una macchina. Una simile consapevolezza porta allora lo stesso robot a riproporre, con significato mutato, la domanda: «a che serve l’essere umano?» (p.41), questa volta sottintendendo un’incitazione positiva nella ricerca sull’individualità dell’uomo come totalità, ricerca che può essere perseguita anche dal robot senza che ciò tolga in alcun modo dignità e specificità all’uomo in quanto tale.

Lungi dal propugnare una tecnofobia, da questo testo risulta come Chabot veda nella cooperazione tra uomo e macchina molti benefici per il primo, fermo restando che proprio questi sia in grado di usare il loro enorme potere per il bene comune e non per qualche volgare beneficio personale, con tutta probabilità di ordine economico. Ecco perché il testo si chiude così con il desiderio, espresso da Barnabooth, di porre queste costruzioni fuori dal commercio, permettendo loro di concentrarsi sull’unico obiettivo che conta: il bene dell’umanità.