BIO – Medicina Costruzione Sociale nella Post-Modernità – Educational Papers • Anno VIII • Numero 30 • Giugno 2019
Gli equivoci sulla mente umana
La cosiddetta “mente” umana, stando a Peter Godfrey-Smith, non sarebbe che un mosaico di stratagemmi derivati dallo sfruttamento delle abitudini sottostanti, alcune delle quali sono geneticamente codificate ma la maggior parte delle quali sono, esse stesse, acquisite attraverso un meccanismo sostanzialmente pavloviano nella prima infanzia. Da questa prospettiva evoluzionista, nelle discussioni attuali sulla natura di ciò che convenzionalmente chiamiamo “mente”1, ci sarebbero tanti equivoci.
Tali equivoci pervaderebbero, addirittura, il pensiero dominante della ricerca sulle interazioni tra “mente” e “intelligenze artificiali”. Infatti, in questo campo domina una confusione tale sulla “nozione della mente” che alcuni ricercatori, senza un approfondito discernimento su cosa si possa intendere per consapevolezza, considerano che se si crea un’intelligenza artificiale “sofisticata”, essa sarebbe, inevitabilmente, “consapevole”.
Un altro equivoco, maggiormente popolare, consiste nella presunzione che noi, umani, dovremmo “fonderci con l’intelligenza artificiale” affinché possiamo tenere il passo con gli sviluppi tecnologici e non soccombere alla disoccupazione generata dalla tecnologia dell’intelligenza artificiale.
L’aspetto nascosto nella discussione sulla relazione tra intelligenza artificiale e mente umana
Ma, oltre le congetture relative all’eventuale sviluppo di consapevolezza dell’intelligenza artificiale e quelle relative alla nostra fusione con quest’ultima, vi è un aspetto concernente la tecnologia delle intelligenze artificiali di cui si discute appena e che viene regolarmente offuscato. Si tratta della questione di a chi riguarda la decisione di come modellare la mente umana. Infatti, sarebbe veramente un equivoco pensare che l’utilizzo e lo sviluppo ulteriore dell’intelligenza artificiale non abbia alcun impatto nella successiva evoluzione delle funzioni adattive del cervello e, quindi, in ciò che denominiamo “mente umana”2.
Al momento, la “decisione” sul futuro della mente umana sembra sia stata socialmente e politicamente “delegata” nelle corporation che sviluppano le intelligenze artificiali senza che ci sia stata alcuna scelta condivisa al riguardo. Certamente, molte delle questioni di bio-politica in gioco qui sono relative a problemi “filosofici” che non hanno soluzioni semplici. Si pensi, ad esempio, alla teoria sulla persona nel campo della metafisica che si occupa della questione dell’identità degli individui attraverso il tempo. Immaginiamo che io mi faccia aggiungere un microchip per migliorare la mia memoria lavorativa e, poi, anni dopo aggiunga un altro microchip per integrarmi con Internet e che, successivamente, continui ad aggiungere chip dopo chip. A che punto, allora, sarò io proprio io?
Quando si pensa di migliorare il proprio cervello, l’idea è di migliorare la propria vita, di renderci più intelligenti, o più felici, forse anche per vivere più a lungo, o avere un cervello più acuto mentre invecchiamo – ma cosa succederebbe se questi miglioramenti ci cambiassero in un modo così drastico in cui non siamo più la stessa persona? Questi sono i problemi a cui viene esposta la nostra mente ma non se ne parla. Di recente, la Edge Foundation, pubblicò una conversazione con Susan Schneider3 su come la tecnologia dell’intelligenza artificiale potrebbe rimodellare la mente umana, dandoci l’opportunità di porci la domanda riguardo il futuro di quest’ultima.
Differenza tra coscienza e consapevolezza
Se si pensa alla “natura” fondamentale della “mente” e alla “natura” del “sé” in relazione alle tecnologie emergenti, nello specifico, al modo in cui la mente, cioè l’insieme di attività cognitive svoltesi nel cervello, potrebbe essere rimodellata dalla tecnologia dell’intelligenza artificiale, oppure se si pensa all’eventuale creazione di menti sintetiche, si schiude un panorama incerto. Tanto incerto quanto dubbia la risposta alla domanda se le intelligenze artificiali possano avere “esperienze coscienti”.
L’esperienza cosciente è la qualità sentita della nostra vita mentale. Quando vediamo le tonalità intense di un tramonto o sentiamo l’odore del nostro caffè al mattino, viviamo un’esperienza consapevole. L’esperienza cosciente ci è molto familiare. In realtà, non c’è un momento della nostra vita da svegli in cui non siamo esseri coscienti. Ma tra coscienza e consapevolezza vi è una nota differenza quando queste vengono reinterpretate alla luce delle neuroscienze sociali4.
Un modo di distinguere tra “coscienza” e “consapevolezza” è considerare che la coscienza è “inclusiva” (comprendente) mentre la “consapevolezza” è uno “specifico” significato applicato all’informazione che è processata dal cervello riguardo alla quale si è coscienti. In questa prospettiva della teoria dello schema dell’attenzione sociale5, la consapevolezza sarebbe una ricostruzione percettiva e di senso relativa ad uno stato di attenzione (coscienza)6.
Potrebbe un’intelligenza artificiale essere veramente cosciente?
Tornando alla questione se l’intelligenze artificiali potrebbero sviluppare “esperienze cosciente” e pure “consapevolezza”, supponiamo, che avessimo un’intelligenza artificiale generale, capace di connettere, in modo flessibile, le idee tra domini diversi e, magari, avere qualcosa come esperienza sensoriale. Quello che dovremmo ancora sapere è se fosse “cosciente”, nella modalità umana, o se tutto fosse solo computazione, anche se coinvolge cose come i compiti di riconoscimento visivo da una prospettiva computazionale. Ma, sarebbe, in quel caso, veramente cosciente?
A differenza di molti filosofi, come John Searle, e, specialmente, di molte persone che rappresentano interessi di lobby nei media e dei transumanisti7, vi sono altri studiosi, come Susan Schneider, che tendono ad adottare un approccio “attendista” sulla eventuale “coscienza della macchina”. Infatti, ci saranno molte variabili che determineranno se ci saranno macchine consapevoli.
Stando a Susan Schneider, per un’altra cosa, dobbiamo pure chiederci se sia persino compatibile con ciò che consideriamo “naturale” creare macchine consapevoli. Al riguardo lei osserva che, semplicemente, non sappiamo se la coscienza possa essere qualcosa possibile in altri substrati che non siano il cervello. Inoltre, non sappiamo quali saranno gli ultimi microchip da cui verrà fatta un’intelligenza artificiale vicina alla consapevolezza, quindi non sappiamo di cosa verrà fatta. Di conseguenza, fino a quel momento, è terribilmente difficile per noi dire che qualcosa che sia altamente “intelligente”, in termini computazionali, sarebbe anche consapevole.
Probabilmente è più sicuro fare una distinzione concettuale tra l’idea dell’intelligenza sofisticata, da una parte, e la coscienza, dall’altra. In ogni modo, la considerazione di Schneider è che quello che si può fare è mantenere una mente aperta nonostante che, per quanto ne sappiamo attualmente, le intelligenze più sofisticate non saranno coscienti.
Chi vuole assumersi il problema etico di costruire androidi o ginoidi capaci di consapevolezza?
Ci sono molte questioni, e non solo problemi che coinvolgono substrati, che determineranno se le macchine consapevoli saranno possibili. Supponiamo per un minuto che sia possibile, almeno in linea di principio, costruire un’intelligenza artificiale consapevole. Ma, chi vorrebbe farlo? Per darci una possibile risposta basta pensare ai dibattiti in corso in questo momento riguardanti i diritti di Android, per esempio.
Supponiamo che tutti quegli androidi o ginoidi giapponesi che sono stati progettati per prendersi cura delle case delle persone e prendersi cura degli anziani risultassero capaci di “consapevolezza”. Non sorgerebbero preoccupazioni nel forzare questi androidi a lavorare per gli altri qualora fossero esseri coscienti? Non ci ritroveremmo in una situazione affine alla schiavitù? Infatti, non sono così sicuro che sia vantaggioso per le aziende dell’intelligenza artificiale produrre esseri consapevoli. In realtà, possono decidere di “progettare la coscienza” pur se non sappiamo se la coscienza possa essere costruita dentro o fuori da una macchina. Per quanto ne sappiamo ora, potrebbe non essere compatibile con ciò che consideriamo “naturale” produrla. Viceversa, potrebbe essere un sottoprodotto inevitabile di una computazione sofisticata, e quindi dovremo essere molto preoccupati dei diritti per androidi, ginoidi ed altre intelligenze artificiali.
Se le intelligenze artificiali si rivelassero consapevoli, ciò ci renderebbe umili?
Certamente, se le intelligenze artificiali si rivelassero anche “consapevoli” noi, umani, non solo impareremo a conoscere di più l’intelligenza artificiale stessa, ma potremmo imparare a conoscere meglio la mente umana. Potremmo imparare di più sulla natura dell’esperienza cosciente e ciò potrebbe portarci a riflettere, come cultura, su ciò che significa essere un “essere cosciente”. Noi, umani, a tal punto, non saremmo più speciali nel senso di essere gli unici esseri capaci di pensiero intellettuale ed elaborazione di significato, cioè capaci di consapevolezza ma condivideremo questa posizione con esseri sintetici che non sono nemmeno fatti delle stesse sostanze di cui noi siamo organicamente costituiti. Ciò potrebbe essere un’esperienza che probabilmente ci renderebbe piuttosto umili.
L’ipotesi di Schneider è che man mano che le civiltà diventano più intelligenti, esse possono diventare post-biologiche. Quindi, l’intelligenza sintetica potrebbe rivelarsi una conseguenza naturale di civiltà tecnologiche di successo, originariamente organiche. Si può affermare che in un tempo relativamente breve, siamo riusciti a creare intelligenze artificiali interessanti e sofisticate. Ora stiamo trasformando l’intelligenza artificiale verso l’interno, in termini di costruzione di protesi neurali per migliorare il cervello umano. Infatti, guru della tecnologia, come Ray Kurzweil ed Elon Musk, parlano di migliorare l’intelligenza umana con chip cerebrali, e non solo aiutare le persone con disturbi cerebrali ma, anche, aiutare le persone a vivere più a lungo e ad essere più intelligenti. Sotto l’egida di questa imprenditorialità potrebbe accadere che le civiltà diventino post-biologiche e migliorino la loro intelligenza per diventare esse stesse degli esseri sintetici.
Ma le corporation, che si sono impadronite, in effetti, dalle nostre società, non stanno creando solo robot intelligenti, ci propongono anche di installare l’intelligenza artificiale nelle nostre menti, modificando, così, la forma della mente umana. Ma se si riconosce questo, si rende inevitabile iniziare a preoccuparsi di come questo potrebbe trasformare noi stessi e la nostra società.
Queste sono questioni che filosofi come Hume, Locke, Nietzsche e Parfit hanno pensato per anni nel contesto dei dibattiti sulla natura della persona, del sé e della coscienza. Ora che il Mercato ci offre l’opportunità di modificare le nostre menti, forse si rende utile dialogare con queste classiche posizioni filosofiche sulla natura del sé. Se, veramente, vogliamo vedere la tecnologia usata per migliorare le vite umane, dobbiamo stare attenti con l’accettazione incessante dell’idea di fonderci con le intelligenze artificiali o persino di avere un Internet intorno a noi in ogni momento.
A chi appartiene il controllo della rimodulazione della mente umana?
Certamente, queste sono questioni che riguardano tutti noi se fossimo governati da una bio-politica partecipativa. Quello che si può fare oggi, mentre si stanno sviluppando queste tecnologie o protesi neurali, è di aprire un dialogo pubblico su una questione, così sensibile, come il futuro della mente umana. Tutte le parti interessate devono essere coinvolte: corporation, ricercatori, politici e società civile, in modo da garantire uno spazio, se non decisionale, almeno di rappresentanza dei diversi interessi delle popolazioni i cui cervelli e processi mentali verranno, in effetti, impattati.
I comitati d’etica presso le grandi corporazioni delle intelligenze artificiali sono importanti, ma, realisticamente, e prendendo in considerazione le complessità economiche correlate, in un certo senso, “rimane” la volpe a sorvegliare il pollaio. In ogni modo, l’unica possibilità in cui si può incidere sul futuro dell’uso delle tecnologie di intelligenza artificiale per creare menti sintetiche e per incrementare le prestazioni della mente umana è quella di portare queste problematiche direttamente al pubblico e garantire che tutte le parti interessate siano coinvolte. I guru imprenditori della tecnologia sono troppo impegnati per riflettere a fondo su alcune delle questioni filosofiche sottostanti, solo il pubblico stesso può impegnarsi in questo argomento.
Se nei processi di marketing, che hanno sostituito agguati ed altre modalità tradizionali di imboscate praticate dalla specie umana, siamo trascinati nello sviluppo e consumo della tecnologia dell’intelligenza artificiale, senza riflettere attentamente su questioni che riguardano la natura della coscienza o la natura del sé, potrebbe succederci di realizzare che le tecnologie dell’intelligenza artificiale non possono fare ciò che i gruppi di interesse che le stanno sviluppando intendono che facciano, cioè migliorare le nostre vite e promuovere prosperità umana, miglioramento e prosperità mai discussi nei loro reali termini.
È importante stare attenti a fare in modo di sapere se stiamo, in effetti, creando esseri coscienti e di sapere se, veramente, il nostro cervello è in grado di migliorare, radicalmente, la sopravvivenza della persona, altrimenti queste tecnologie porteranno allo sfruttamento e alla sofferenza di esseri consapevoli piuttosto che migliorare la vita delle persone.
Questo trimestrale ha scelto di vivere in quello spazio di umiltà dove ci imbattiamo con un muro epistemologico che ci insegna lo scopo e i limiti di ciò che noi, esseri umani, possiamo capire. È importante ricordare, in questo giorno ed età in cui le innovazioni tecnologiche sono radicali, che ci saranno sempre problemi a cui non è possibile dare risposte definitive complete. Un buon esempio di questo è la questione se siamo “cervelli in una vasca”, vivendo le nostre vite all’interno di simulazioni al computer. Queste sono questioni epistemologiche, problemi che riguardano la natura della conoscenza che non hanno risposte facili. Ciò che oggi sappiamo è che il nostro accesso alla realtà avviene per i modelli di simulazione, sviluppatisi nell’evoluzione della specie, che il nostro cervello è in grado di escogitare e proporci.
- Peter Godfrey-Smith. Complexity and the Function of the Mind in Nature. Cambridge University Press, 1998
- Da un punto di vista lessicale i termini cervello e mente sono considerati quasi sinonimi. Eppure, se il significato del primo è immediatamente individuabile nell’organo fisico posto nella cavità cranica, la parola mente manca di un correlato oggettivo univoco e si riferisce all’insieme delle attività cognitive di ogni essere vivente che sia dotato di coscienza, pensiero, linguaggio. Ma gli aspetti soggettivi dell’attività psichica mantengono la questione aperta a diverse prospettive scientifiche e filosofiche.
- Susan Schneider. Scrive della natura fondamentale del sé e della mente, specialmente dal punto di vista privilegiato delle questioni filosofiche della mente, metafisica, scienza cognitiva, etica applicata, astrobiologia e intelligenza artificiale. Opere: The Language of Thought: a New Philosophical Direction, MIT Press, 2011 & The Blackwell Companion to Consciousness, (with Max Velmans), eds., Oxford: Blackwell Publishers, 2006 & Science Fiction and Philosophy, Oxford: Wiley-Blackwell, 2009.
- Vargas, R.O. & D’Alterio E. Coscienza e consapevolezza reinterpretate alla luce delle neuroscienze sociali nella post-modernità. BIO Educational Papers. Anno III • Numero 12 • Dicembre 2014
- Michael S. A. Graziano. Consciousness and the social brain. Oxford University Press, New York, 2013
- A. Graziano & Sabine Kastner. Human consciousness and the relationship to social neuroscience: A novel hypothesis. In “Cognitive Neuroscience”, Vol. 2, Issue 2, pages 98-113, 2011
- Il transumanesimo o transumanismo è un movimento culturale che sostiene l’uso delle scoperte scientifiche e tecnologiche per aumentare le capacità fisiche e cognitive e migliorare quegli aspetti della condizione umana che sono considerati indesiderabili, come la malattia e l’invecchiamento, in vista anche di una possibile trasformazione post umana.
