«Il 12 giugno le forze dell’Europa occidentale varcarono il confine russo, e la guerra cominciò, cioè si svolse un avvenimento contrario alla ragione e a tutta la natura umana. Milioni di uomini commisero gli uni contro gli altri una tale e così infinita quantità di misfatti, di inganni, di tradimenti, di ruberie, di falsificazioni di cartamoneta, di saccheggi, incendi e di assassini quale in secoli interi gli annali di tutti i tribunali del mondo non potrebbero raccogliere, e che, in quel periodo di tempo, gli uomini che li compievano non consideravano come delitti. Che cosa produsse questo avvenimento straordinario? […] Se Napoleone non si fosse ritenuto offeso dall’intimazione di ritirarsi oltre la Vistola e non avesse ordinato alle truppe di avanzare la guerra non sarebbe accaduta; ma anche se tutti i sergenti non avessero voluto affrontare una nuova campagna, la guerra non avrebbe potuto accadere»[1]. “Contrario alla ragione” … “se tutti i sergenti” … due passaggi che esprimono un’idea tanto commovente per il suo candore quanto ingenua per la sua inefficacia a spiegare quello che capita nella storia dell’umanità: quante volte l’appello alla ragione ha determinato un comportamento “umano” e “ragionevole”? Si tratta di concetti indeterminati che sono stati volta a volta riempiti di contenuti più diversi: nell’uomo l’esistenza precede l’essenza, diceva Sartre in sostanza riproponendo il nihil humano a me alienum puto di Afro, che è poi lo stesso del sostenere la “banalità del male”: troppo comodo pensare che il male sia eccezionale, di per sé niente fatto dall’uomo è disumano. E nessuna azione che non sia semplicemente motivata da impulsi è irragionevole. Tuttavia l’idea che se gli uomini si comportassero secondo ragione e umanità ne scaturirebbe una società giusta ha avuto e continua ad avere un grande fascino e certamente deve continuare a costituire almeno un ideale regolativo, ma è dubbio che l’ostacolo alla sua realizzazione stia solo in quello che la filosofia morale chiama “debolezza della volontà” e le morali comuni “cattiva volontà”: sappiamo cosa è giusto e ragionevole e non lo facciamo. La carne è debole … ma un essere senza carne e tutta ragione sarebbe ancora un esemplare della specie homo sapiens?
Vediamo un caso concreto che al riguardo è un eccellente caso di studio: la questione ambientale. Nella prefazione all’edizione del 2011 di Modernità liquida, Zygmunt Bauman ci ha consegnato una constatazione amara ma tutt’altro che infondata: «una schiera sempre più nutrita di persone consapevoli non si stanca di ricordarci che la specie umana si avvia all’estinzione trascinando con sé nella rovina, alla maniera del capitano Ahab, la maggior parte degli esseri viventi, eppure finora, nonostante i loro sforzi, questi nostri contemporanei non sono riusciti a trasmetterci tale consapevolezza»[2]. Perché non agiamo? Quali sono le radici dell’inazione? Non solo in ambito ecologico, ma in generale? Perché i sergenti di Napoleone non si sono rifiutati di cominciare la guerra?
C’è un fenomeno apparentemente contraddittorio e caratteristico del mondo democratico contemporaneo: all’aumento del diritto alla partecipazione dei cittadini alla vita politica non sono corrisposti un aumento della giustizia sociale e la diminuzione delle disuguaglianze. Perché la gente non reagisce? Si possono reperire almeno due indirizzi di pensiero che hanno tentato una risposta, uno orientato alla sfera economico-politica, l’altro a quella socio-antropologica: il primo si rifà a Marx, il secondo può essere fatto risalire al Discorso sulla servitù volontaria di de La Boétie e al Cos’è illuminismo di Kant[3]. Strumenti concettuali più recenti come quelli della Scuola di Francoforte, per esempio, pur collocandosi sulla scia dell’eredità marxiana hanno guardato anche alla dimensione psico-antropologica. Fuga dalla libertà di E. Fromm può essere considerato un ossimoro concettuale del Discorso di La Boetie. Nessuna delle due prospettive (che si accuserebbero segnatamente di essere ideologica o grossolana) da sole sembrano però poter render conto della complessità della realtà. All’analisi delle radici economiche dei comportamenti individuali e delle società di massa, e all’elaborazione di concetti come l’interiorizzazione soggettiva delle strutture autoritarie, il controllo delle coscienze e così via vanno aggiunte le teorie sulla razionalità limitata.
La razionalità è da lungo tempo associata all’idea del buon governo. Fin dall’Illuminismo, il pensiero filosofico e politico ha immaginato forme di organizzazione sociale in cui la ragione potesse correggere o addirittura sostituire le passioni, gli istinti e i capricci dell’uomo. L’ideale di una società giusta e razionale animava tanto i progetti riformatori di Kant quanto le utopie di Fourier o di Owen. Ma in nessun momento della storia questo sogno ha assunto un volto tecnologico così concreto come oggi, con l’emergere dell’intelligenza artificiale (IA).
Nel dibattito contemporaneo sulle utopie sociali legate all’IA, diversi autori condividono la convinzione che l’IA possa diventare un agente di trasformazione radicale delle strutture politiche, economiche e istituzionali, portando a società più giuste e razionali. Al centro di queste posizioni c’è l’idea che un’intelligenza puramente razionale, capace di apprendere, pianificare e decidere con maggiore coerenza, imparzialità e efficienza migliori di quelle umane possa porre rimedio alla corruzione e incompetenza dei governi, correggere o superare le distorsioni storiche delle forme di potere e dei meccanismi di distribuzione delle risorse. L’IA diventerebbe così non solo uno strumento al servizio della politica, ma un’alternativa ai suoi difetti. Se allineata ai valori umani, l’IA potrebbe guidare meglio di qualunque essere umano una società giusta e stabile, eliminando guerre, povertà e ingiustizie. Ben Goertzel sostiene che un’IA sviluppata in ambienti cooperativi e addestrata a valori etici umani potrebbe superare i limiti cognitivi individuali, gli interessi di parte e risolvere problemi strutturali come disuguaglianza, inefficienza economica e conflitti, fungendo da motore per un nuovo ordine sociale fondato su criteri razionali. Zoltan Istvan nutre un’analoga fiducia nelle potenzialità dell’IA e propone la sostituzione delle strutture politiche tradizionali con una tecnocrazia illuminata fondata sul merito e sulla valutazione obiettiva dei dati. La democrazia fondata sull’IA sarebbe, secondo Cesar Hidalgo, una “democrazia aumentata” perché assisterebbe i cittadini nel prendere decisioni più informate, limitando l’influenza dei bias cognitivi e favorendo una partecipazione più consapevole e meno emotiva alla vita pubblica. Il processo democratico non sarebbe abolito ma razionalizzato mediante il potenziamento delle sue strutture deliberative. All’IA viene anche assegnato il compito di progettare e realizzare nuove forme di proprietà e di partecipazione politica, come la proprietà comune autoregolata e il quadratic voting, premesse per il superamento dei limiti della democrazia rappresentativa e del mercato capitalistico tradizionale. Per Glen Weyl, il collettivo RadicalxChange e Aaron Bastani l’IA non dovrebbe essere limitata a sostenere scelte già decise ma dovrebbe partecipare attivamente alla progettazione di nuovi assetti istituzionali, prefigurando forme di convivenza radicalmente diverse fino alla liberazione dell’umanità dalla necessità del lavoro così da consentire l’avvento di una società post-capitalistica dell’abbondanza, in cui il benessere non dipendesse più dalla prestazione individuale ma dalla capacità collettiva di produrre senza fatica[4].
Si tratta, come al solito quando si parla di IA, di far passare per nuove idee già viste, il che, di per sé, non significa che non siano più valide, ma almeno nel riproporle non si dovrebbe dimenticare ciò che in passato è stato già osservato in proposito. Le utopie tecnocratiche erano di moda a fine XIX secolo: i socialisti utopisti da Saint-Simon a Fourier e a Comte avevano immaginato un’organizzazione “scientifica” della società, in cui le decisioni fossero prese da esperti illuminati (e si potrebbe risalire fino alla Repubblica platonica). Ci sono ragioni storiche e teoriche che possono spiegare perché tali utopie non si siano realizzate ma sembra che per alcuni queste ragioni non siano più un ostacolo di fronte alla nuova realtà dell’IA: così i vecchi utopisti ottocenteschi risorgono reincarnati negli entusiasti dell’IA. La giustificazione dell’idea che l’IA possa essere usata per finalità di giustizia sociale, efficienza decisionale e redistribuzione delle risorse deriverebbe dal fatto che possiede un tipo di razionalità non limitata come quella degli esseri umani. Così l’IA realizzerebbe l’ideale dell’homo oeconomicus, il decisore ottimale della dottrina neoclassica messa in crisi dalle teorie della razionalità limitata[5].
Tralasciamo, per amore di discussione, due fatti che nella realtà non sono invece per nulla trascurabili. In primo luogo, l’IA non è a disposizione di nessuna collettività democratica ma è proprietà di aziende private che hanno per fine il profitto invece che l’aumento del tasso di equità e giustizia. In secondo luogo, ammesso e non concesso che si sappia come superare in maniera efficace i limiti e i pregiudizi che l’IA eredita in modo costitutivo dall’elaborazione dei documenti prodotti dagli esseri umani, da un’IA che agisse come agente perfettamente razionale per governare la società ne seguirebbe che la società sarebbe equa? Non c’è bisogno di scomodare l’IA per dubitarne. Una società in cui gli esseri umani fossero agenti perfettamente razionali come supposto dal modello dell’homo oeconomicus delle teorie economiche neoclassiche sarebbe forse più razionale ma non necessariamente più equa.
La teoria dei giochi di Von Neumann e di Morgestern e quella della razionalità limitata di Simon[6] hanno dimostrato che non è sempre per irrazionalità che la gente compie scelte sbagliate. Una scelta che determina il proprio vantaggio e che in condizioni di informazioni limitate può in realtà risultare dannosa per la collettività non è necessariamente irrazionale. Inoltre, in molti casi non si tratta di fallimenti cognitivi ma di veri antagonismi strutturali, che derivano da interessi realmente incompatibili. Due soggetti possono desiderare la stessa risorsa scarsa, o avere obiettivi strategici divergenti, e nessun calcolo razionale potrà armonizzarli. In questi casi, l’IA potrebbe agire come mediatrice, ma non potrebbe annullare la contraddizione di fondo. Inoltre, una razionalità perfetta non è necessariamente neutrale rispetto ai valori. Un’IA che avesse il compito di ottimizzare il funzionamento di una società lo farebbe rispetto a quali criteri? Il benessere aggregato? L’uguaglianza? Il vantaggio minimo garantito? Ogni scelta implica una filosofia politica e quindi un potenziale disaccordo. La razionalità limitata non è un incidente della nostra storia evolutiva ma una caratteristica costitutiva. Le facoltà del cervello umano non sono state selezionate per effettuare calcoli perfetti, ma per sopravvivere prendendo rapidamente decisioni in condizioni di incertezza e in ambienti spesso ostili. Le emozioni, i pregiudizi, le scorciatoie cognitive, le euristiche non sono solo limiti, ma sono state le strategie evolutive dell’homo sapiens.
Le difficoltà della cooperazione non derivano solo da ignoranza, disinformazione, razionalità limitata, ma anche da vincoli strutturali ed economici. Anche in condizioni di perfetta razionalità, le risorse potrebbero essere scarse, i desideri potenzialmente divergenti, e le posizioni iniziali (per esempio la distribuzione della ricchezza, del potere, del tempo) disuguali. Se due agenti razionali desiderano entrambi una risorsa indivisibile e preziosa – un territorio, un bene, un’occasione – e se non vi è modo di condividerla senza perdita di utilità, il conflitto può emergere comunque, non per ignoranza o errore, ma per contrasto strutturale di interessi. La razionalità, nella sua accezione classica, è strumentale: serve a realizzare al meglio fini dati. Ma non stabilisce quali fini siano desiderabili, né garantisce che gli scopi degli individui coincidano. Se gli scopi sono in conflitto – e nulla nella razionalità in sé impedisce che lo siano – allora anche agenti razionali possono giungere allo scontro. Intendiamoci: una comunità di agenti razionali è certamente meno conflittuale di una comunità di agenti irrazionali, ma è tutto da dimostrare che una comunità perfettamente razionale sia del tutto priva di conflittualità, come implicitamente o esplicitamente sostengono le utopie tecnocratiche. È essenziale alla democrazia il confronto fra agenti capaci di pensiero critico e capacità di argomentare le proprie ragioni, che è un altro modo per definire la razionalità, ma resta il fatto che, come sottolineava con insistenza Giovanni Sartori, la democrazia è il regno della doxa, dell’opinione e non del sapere, dell’epistème.
La razionalità limitata – per quanto centrale – non esaurisce la spiegazione delle difficoltà della democrazia. Accanto ai limiti cognitivi, informativi ed emotivi degli individui, esistono limiti sistemici più profondi, legati alla struttura economica e alla distribuzione del potere nella società. È verso questi aspetti che era indirizzata l’analisi di Marx, la cui critica alla democrazia borghese non si fondava sull’irrazionalità degli elettori o sulla debolezza dei processi deliberativi, ma sulla separazione strutturale tra sfera politica e sfera economica, tra eguaglianza formale e diseguaglianza reale. La democrazia, nella sua forma moderna, secondo Marx, proclama i diritti universali ma non garantisce le condizioni materiali per esercitarli.
A differenza di quanto accadeva nelle società pre-capitalistiche, in cui il potere politico ed economico si sovrapponevano largamente, la liberazione da un istituto giuridico, come per esempio quello medievale della servitù della gleba, non è stata ostacolo ma condizione dello sviluppo economico. La subordinazione economica dei lavoratori giuridicamente liberi al capitale non necessitava di una subordinazione giuridica o politica. Il capitalismo ovviamente può essere, lo è stato ed è, sostenuto dallo Stato ma – di norma – questa non è più condizione necessaria per il suo sviluppo. La politica e l’economia si sono separate al punto che la politica stessa è subordinata all’economia e soggetta alle sue dinamiche. La liberazione giuridica dell’individuo ha aperto uno spazio inedito per la soggettività, ma ha lasciato intatto, e anzi rafforzato, il dominio del capitale.
Con la fine del feudalesimo «l’emancipazione politica fu contemporaneamente l’emancipazione della società civile dalla politica»[7]. Così le sfere di potere reale sorte con il capitalismo si collocano oltre i confini definiti dalle libertà democratiche e il controllo dell’economia va oltre la giurisdizione del potere politico. Ampi settori della vita sociale e dello Stato spostatisi nella sfera dell’economia e sottratti alla politica – e con ciò anche alla possibilità di scelta dei cittadini – sono soggetti solo alla logica del mercato.
A motivo di questa separazione il mondo borghese capitalistico è dunque quello in cui i diritti politici dei cittadini hanno la minore influenza sull’economia, paradossalmente paragonabile a quella in cui le persone non hanno nessuna influenza sulla sfera economica semplicemente perché non hanno diritti politici. L’impotenza di fatto conseguente alla separazione fra diritti civili e politici, da un lato, e la realtà economica dall’altro, ha dunque – per tornare al caso di studio – anche ricadute sulle possibilità che i cittadini hanno di modificare le politiche energetiche e di imporre l’adozione di provvedimenti per contrastare la crisi climatica.
Lo scarto fra politica ed economia si è aggravato con la finanziarizzazione globale, la privatizzazione dei beni pubblici, la crescente influenza delle multinazionali sulle politiche degli Stati. La democrazia si esercita nei luoghi dove le decisioni sono meno vincolanti – i parlamenti, le elezioni, i dibattiti pubblici – mentre le vere leve del potere, soprattutto economico, si muovono in spazi sottratti alla deliberazione collettiva. Per alcuni[8] la soluzione sta nell’ampliare le sfere d’influenza della democrazia, nel riportare l’economia sotto il controllo della democrazia. Ma, considerato che la democrazia deve fare i conti con la razionalità limitata, con la scarsità delle risorse e gli interessi divergenti, basterebbe?
In questa luce, la pretesa che l’IA, grazie alla sua razionalità superiore, possa dar vita a una democrazia reale risulta quanto meno ingenua. Da un lato, non è sufficiente che una razionalità perfetta sani le disfunzioni di un sistema senza trasformarne le strutture fondamentali; dall’altro, tale razionalità non può essere neutra se è progettata, alimentata e utilizzata all’interno di rapporti sociali determinati. La democrazia reale esige non solo informazione corretta e decisioni razionali, ma anche redistribuzione del potere, accesso alle risorse, partecipazione effettiva.
Tutto ciò detto, e pur riconoscendo le profonde differenze che le separano, le utopie menzionate condividono un’ambizione che va ben oltre il progetto di trasformare l’assetto della società. Il loro obiettivo ultimo non è solo politico o economico, ma antropologico: si propongono di rigenerare l’essere umano stesso. L’utopia tecnologica, per la sua prossimità al postumanesimo, e quella comunista, erede del sogno illuministico di una redenzione laica, convergono nel nutrire la speranza che un’“ingegneria sociale” possa indurre una “mutazione antropologica” ed edificare il paradiso in terra. Non mirano soltanto a riformare le istituzioni o a redistribuire le risorse, ma aspirano a liberare gli esseri umani dai limiti della loro razionalità, dalle fragilità della loro biologia, dalla morsa dei bisogni, dalla scarsità delle risorse e dalla conflittualità. Tuttavia è proprio in questa fiducia illimitata nella capacità umana di dominare il proprio destino che si cela un problema. Gli esseri umani non sono soltanto esseri razionali e sociali: sono anche creature naturali, soggette a limiti che nessuna struttura sociale può cancellare del tutto[9].
[1] L. Tolstoj, Guerra e pace, Milano, Mondadori, 1983, pp. 5-7.
[2] Z. Bauman, Modernità liquida, Roma-Bari, Laterza, 2011, p. XVI.
[3] Non seguo la consuetudine di tradurre Was ist Aufklärung con Cos’è l’illuminismo preferendo non inserire l’articolo determinativo per sottolineare che il tema in oggetto non è legato al fenomeno storico dell’Illuminismo.
[4] B. Goertzel e C. Pennachin, (a cura di), Artificial General Intelligence, Berlin, Springer, 2007; Z. Istvan, The Transhumanist Wager, San Francisco, Futurity Imagine Media, 2013; C Hidalgo et al., How Humans Judge Machines, Cambridge (MA), MIT Press, 2021; E.A. Posner e E.G. Weyl, Radical Markets: Uprooting Capitalism and Democracy for a Just Society, Princeton, Princeton University Press, 2018; A. Bastani Fully Automated Luxury Communism, London, Verso Books, 2019.
[5] H.A. Simon, Models of Man, Social and Rational. Mathematical Essays on Rational Human Behavior in a Socia Sertting, New York, Wiley, 1957; D. Kahneman, P. Slovic e A. Tversky, Judgment under Uncertainty: Heuristics and Biases, Cambridge, Cambridge University Press, 1982, trad. it. parziale Decidere nell’incertezza, Milano Mondadori, 2024; G. Gigerenzer, Gut Feelings: The Intelligence of the Unconscious, New York, Viking, 2007.
[6] J. Von Neumann e O. Morgestern, Theory of Games and Economic Behavior, Princeton, Princeton University Press, 1944; H. Simon, op. cit.
[7] K. Marx, Sulla questione ebraica, in K. Marx e F. Engels, Opere, III, Roma, Editori Riuniti, 1973, p. 180.
[8] E. M. Wood, Democracy Against Capitalism. Renewing Historical Materialism, Cambridge, Cambridge University Press, 1995.
[9] M. Ignatieff, I bisogni degli altri, Bologna, il Mulino, 1986. Ignatieff sottolinea che per la tradizione utopistica «non esistono bisogni umani che non possono essere soddisfatti attraverso un’iniziativa sociale collettiva» (ivi, p. 15). Questa posizione è stata presente anche nel marxismo, nonostante Marx abbia criticato con forza le utopie. Negli anni settanta del secolo scorso, C. Luporini notava come fosse un limite l’aver liquidato «la problematica dell’animale uomo (e, se vogliamo, del suo destino)» (C. Luporini, Introduzione a F. Engels e K. Marx L’ideologia tedesca, Roma, Editori Riuniti, 1972, p. LXXXI). Ma fu soprattutto S. Timpanaro a porre con decisione il tema se il comunismo non implicasse «di per se stesso, una vittoria decisiva sulla fragilità biologica dell’uomo» la quale stabilisce limiti invalicabili al «suo bisogno di felicità» (S. Timpanaro, Sul materialismo, in «Quaderni Piacentini», settembre 1966, p. 34). Si trattava comunque di posizioni isolate: chi non le ritenesse effetti di una “propensione emotiva per il pessimismo” pensava che il male derivante dalla finitezza umana non sarebbe più stato avvertito come tale in una società nella quale l’individualità di ciascuno si sarebbe felicemente risolta nella comunione con la specie.
Immagine: Francisco Goya, Il sonno della ragione genera mostri, particolare
