Questa è una domanda antica, già Socrate ammoniva (per mano di Platone) a non imparare a leggere e a scrivere, perché questa tecnologia (l’alfabeto scritto) ci avrebbe resi immemori, cioè “senza memoria”. Aveva sicuramente ragione, al periodo chi studiava riusciva a declamare a mente un intero poema omerico. E’ un problema di cui discutiamo da millenni ma oggi il salto quantico creato dall’intelligenza artificiale in termini di “fare il lavoro al posto nostro” è diventato incredibilmente potente e dunque anche pericoloso? Ne parliamo insieme…
Uomo tecnico
La prima cosa che amo ricordare quando parlo di tecnologia è che noi esseri umani siamo “animali tecnici”. Cioè senza la tecnica non saremo sopravvissuti neanche lontanamente: senza le lance, le asce, le spade ecc. Nessuno di noi avrebbe potuto continuare la propria storia evolutiva, ed è proprio grazie a tale abilità di costruire artefatti che siamo riusciti a farcela. Sì, anche le narrazioni, che secondo lo storico Harari (di cui ti parlo spesso) ci hanno concesso di unirci sotto simboli e bandiere, fanno parte della tecnica. La tecnica non è solo un oggetto fisico ma è anche un progetto, il linguaggio e come sappiamo molto bene oggi, un apparentemente semplice algoritmo.
Quando una tecnica funziona bene, è ben codificata e rodata può essere anche insegnata con estremo profitto. Ad esempio spiego a mio figlio che è inutile pescare in un certo punto di quel fiume perché i pesci non ci sono, ma è più probabile che ci siano in un altro punto e ad un certo orario. E che per pescarli serve una foglia che ricordi un insetto ecc. Tutto questo, che sembra una semplice trasmissione culturale è anche trasmissione di tecnica, non solo di conoscenza del territorio ma è una indicazione che può far risparmiare tempo. In che modo fa risparmiare tempo? Il ragazzo non dovrà nuovamente agire per prove ed errori per scoprire le stesse cose.
Semmai a furia di ripetere le azioni del padre le migliorerà e quando verrà il suo turno insegnerà al proprio figlio tali miglioramenti e così via. In certi ambiti della conoscenza, fino a pochi secoli fa (anche meno) la gente custodiva gelosamente tali metodologie, fino a renderle segrete e quasi esoteriche. Se il mio villaggio sapeva pescare aumentava le probabilità di sopravvivere sul tuo, che magari affacciava sullo stesso bacino di acqua e quindi di pesce disponibile. Sapere o non sapere certe cose poteva determinare l’estinzione o la proliferazione di una famiglia (un clan) rispetto ad un altro.
Quindi la tecnica non è un orpello della razza umana ma è parte della stessa. Senza di essa probabilmente non saremmo qui a scrivere e a leggere delle cose, probabilmente saremo ancora sugli alberi! Ok questa era una iperbole ma mi serviva per farti entrare nella mentalità che tutto ciò che abbiamo costruito fa parte dell’umanità, si purtroppo comprese le armi, anche le più distruttive. Ora tornando a quella trasmissione di conoscenza, a come essa sia una sorta di impalcatura per farci apprendere più velocemente alcuni concetti ecc… insomma torniamo a come conosciamo e soprattutto perché!
Conosciamo per leggere meglio la realtà che ci circonda e di conseguenza sopravvivervi al meglio. Si questa è una spiegazione fredda e poco romantica ma va al centro della questione che stiamo trattando. Per secoli (se non millenni) abbiamo visto la cultura come una sorta di immagazzinamento di strumenti per conoscere, la famosa “cultura generale” che genera “lo spirito critico” nei ragazzi e di cui ci riempiamo la bocca da molto tempo. E’ in effetti ancora molto importante, se riusciamo a tornare all’idea che tale trasmissione culturale non serve più come magazzino di conoscenza ma per dare forma al nostro conoscere!
Dal magazzino alla forma
Nonostante dall’invenzione della stampa in poi abbiamo avuto enormi archivi per conservare le nostre conoscenze (cultura e tecnica che ci siamo trasmessi) abbiamo continuato ad usare per bene la nostra memoria e invitato le persone ad apprendere anche a memoria un sacco di cose. L’idea può sembrare mal sana: “ma a cosa serve imparare a memoria, non serve a niente” e siamo abbastanza tutti d’accordo con tale affermazione. Tuttavia è naturale che se voglio capire un concetto complesso devo essere in grado di tenere a mente concetti complessi per molto tempo, quindi devono finire nella memoria a lungo termine, altrimenti tutte le volte che vedo un “più” in una formula mi dovrei chiedere a cosa serva quel simbolo.
Anche l’operazione che stai facendo in questo momento ha richiesto da parte tua di immagazzinare un sacco di lettere e parole e come metterle assieme. Anche se non hai la sensazione di aver appreso una “poesia a memoria” è qualcosa di molto simile (lasciando da parte l’enorme differenza tra apprendere il linguaggio e una poesia a scuola ovviamente). Se inoltre esaminiamo meglio come funziona la memoria scopriamo che non si tratta affatto di un magazzino ma di una sorta di facilitazione al richiamo di schemi (vedi gli studi di Elizabeth Loftus). Cioè quando richiami un ricordo alla mente lo stai ricreando in un qualche modo.
Questo richiamare certi tipi di ricordi rafforza e inibisce determinate reti neurali nel tuo cervello. A furia di farti tornare alla mente i concetti di fisica la tua mente inizia a collegare anche altri concetti, inizi ad avere un modus operandi del pensiero, dai forma ai tuoi pensieri. Questo lo sappiamo anche dagli studi sul priming semantico e su come semplici parole diano maggiore (o meno) accesso a specifici ambiti semantici dentro di noi. In questo momento, mentre parliamo di memoria, sarà più facile per te ricordare che esiste una distinzione tra memoria semantica ed episodica (se hai studiato questi temi) rispetto alla distinzione tra protozoi e metazoi. (O anche tutto ciò che ha a che fare con il termine “memoria” nella tua vita, magari pensi ai Gb del tuo cellulare ecc.).
Per capire ancora meglio cosa voglio intendere (e capisco che non sia semplice perché il tema non lo è affatto) introduco un altro esempio molto potente: quello delle mnemotecniche (in questo proto-podcast del 2011 ti mostro la più semplice, ti chiedo fin da ora di non ridere perché le tecniche di registrazione sono cambiate molto da allora ;-)) Esistono tecniche che ti aiutano ad apprendere liste enormi di concetti senza davvero capirli. Attraverso giochi di associazione mentale è possibile imparare una lista di nomi, anche senza senso, senza davvero comprenderli, infatti quelli bravi (come Alessandro De Concini e Andrea Muzii) ti invitano ad usarle in modo strategico e non come unico metodo di studio.
Torniamo a noi, immagina di immagazzinare nella tua testa tutti i criteri clinici del DSM (Il manuale diagnostico statistico delle psicopatologie), sapresti fare una diagnosi? La risposta ovviamente e no, ma se tu avessi studiato psicologia clinica o psichiatria e dopo riuscissi ad immagazzinare tutti quei dati ecco che la cosa ti aiuterebbe eccome. Vedi la conoscenza funziona così, ha bisogno di un appiglio per poter essere richiamata facilmente, tale appiglio solitamente è rappresentato dalle tue conoscenze pregresse. Nelle mnemotecniche si creano appigli artificiali e semplici che aiutino a fare questo processo ma se i concetti poi non si collegano tra loro difficilmente lo studente passerà l’esame (a meno che non sia solo richiesto di scrivere liste di nomi).
Memoria e conoscenza
Senza i concetti di parole e dell’Italiano sicuramente non riusciresti a capire questi segni digitali neri davanti ai tuoi occhi. Più usi questi segni in vario modo e più diventi bravo ad interpretarli, mescolarli in modo creativo e a gestirli in generale. Come visto la memoria non è un semplice magazzino ma è come se fosse un recipiente che assume via via la forma di ciò che contiene, anzi è come se diventasse anche più grande e più forte in base a ciò che ci passa dentro. Quando qualcuno mi chiede (e mi chiedeva ancora prima dell’avvento dell’IA in modo così preponderante) perché dovrei continuare a studiare e leggere se poi “non mi ricordo niente”, questa era la mia risposta:
Perché studiare non serve per immagazzinare informazioni e tenerle a mente ma serve per dare forma alla mente. Per renderla più forte, plastica e flessibile, chi non studia non solo rischia di non sapere niente (cioè dare l’impressione di avere un magazzino vuoto) ma diventa gradualmente sempre meno capace di accogliere ed elaborare nuove informazioni. Non studi per avere in testa molte cose ma studi per dare forma alla tua testa! Questa cosa sembra una sorta di sofisma retorico ma non lo è, se non mi credi provaci, in caso tu non sai abituato a studiare inizia la nostra sfida delle 10 pagine al giorno, portala vanti per almeno 2 o 3 mesi e poi torna qui.
In altre parole costringiti ogni giorno a leggere 10 pagine di un libro che ami, meglio se si tratta di un libro con un certo grado di complessità. Leggilo per almeno 2 o 3 mesi e in caso tu non avessi avuto questa abitudine in precedenza ti assicuro che sentirai dei profondi benefici. Avrai più parole a disposizione nel tuo vocabolario, comprenderai meglio non solo (e ovviamente) ciò che leggi ma anche ciò che ascolti. Non solo anche il tuo modo di osservare la complessità del mondo si allargherà e tutto questo non dipenderà direttamente dal contento del libro (il quale è ovviamente molto importante) ma dal tuo allenamento mentale.
Ecco perché anche se abbiamo l’IA dobbiamo continuare a studiare e tenere in forma il nostro cervello. Perché se non lo facciamo rischiamo di rattrappirlo prima del tempo. Ovviamente leggere e studiare sono solo un modo per farlo, anche fare movimento e allenarsi fa bene al cervello (oltre che al corpo), anche avere relazioni interpersonali fa bene. Gli stimoli sociali costringono il nostro cervello ad operazioni molto faticose. Ecco direi che queste 3 cose messe insieme possono aiutare tantissimo: studio, movimento e socialità. Tre cose che danno forma al cervello e lo mantengono in forma…
Vedi il punto è che l’IA non è davvero intelligente o almeno non come immaginiamo il nostro essere intelligenti. E’ una macchina statistica che fa calcoli sulle probabilità, se la vediamo in questo modo capiamo che può essere un validissimo aiutante ma non può sostituirci. In questi ormai anni di utilizzo dell’IA ti assicuro che più conosci una certa materia e più riesci a fare le domande giuste e viceversa. Cioè se non sai certe cose chiederle all’IA è molto pericoloso, non solo perché non sai valutare la risposta ma perché non riesci neanche a capire come potrebbe essere errata.
Un consigliere
Ad oggi l’Intelligenza Artificiale dovrebbe essere vista come un bravo consigliere operativo ma su cui è sempre necessario monitorare. Questo consigliere è in gamba, è velocissimo ma ha la tendenza a rispondere sempre e comunque, anche quando non sa le cose. Si hai capito bene, i LLM fanno esattamente così, gli dai un prompt (dei comandi) e lui esegue ciecamente anche se non sa di cosa sta parlando (anzi, tecnicamente non lo sa mai). Il problema è invece che oggi viene vista come una sorta di oracolo, e dato che ci piace evitare di fare sforzi ci piace pensare che possa fare per bene tutto e al posto nostro.
Non escludo che arrivi a farlo data la enorme velocità con la quale sta avanzando ma di certo l’unico modo per riuscire a dialogarci insieme sarà sempre e ancora quello di avere noi per primi certe conoscenze. Senza lo studio che da forma alla mente non riuscirai a capire se le risposte che ti da questo consigliere sono giuste, se sono formulate in modo coerente, davvero intelligente ecc. Non è proprio come una calcolatrice super deterministica, se fai bene quel calcolo lei ti da un risultato sicuramente più giusto di quello che potresti fare tu a mente. Qui le cose sono leggermente diverse…
E’ una macchina probabilistica non una macchina deterministica come la calcolatrice, il motivo sta nel fatto che i LLA (Large Language Model) funzionano ipotizzando quale parola verrà dopo e non attraverso schemi deterministici prestabiliti (come le regole della matematica). Può sembrare assurdo immaginare che riuscendo a prevedere la parola successiva si abbia come l’impressione di parlare con un essere umano, al punto tale che onestamente mi viene da pensare che noi esseri umani abbiamo leggermente esaltato cosa significhi “essere intelligenti”.
Alla fine anche il mio amico cazzaro fa esattamente così: quando non ha una risposta la inventa e se è molto bravo in tale operazione la sensazione che hai è quella che abbia perfettamente senso ciò che sta dicendo. Anzi in realtà il nostro cervello funziona proprio così, da spiegazioni a tutto anche se non ha i dati a disposizione, anche se tale spiegazione è davvero molto molto campata in aria. Ma come ti ho detto molte volte al nostro cervello non frega niente di essere preciso a lui frega di essere efficace: non importa che quegli esseri nella foresta siano bestie del demonio o semplici predatori, l’importante è evitarli.
Cioè non conta sapere che quell’animale è un grosso felino con le macchie, che potrebbe essere pericoloso più quando non è ancora sazio, ecc. Se lo chiamo “satana” ed invito la gente del mio villaggio a scappare va bene, magari scopro che attacca solo di notte e mi spiego questa cosa proprio con il fatto che sia demoniaco, va benissimo la cosa importante è che tale informazione mi salvi la pelle non che sia precisa. Ecco le IA fanno esattamente la stessa cosa… eh no, non lo fanno perché sono maggicccche ma funzionano come noi perché sono state fatte da noi.
Per essere mistici: a nostra immagine e somiglianza!
Concludendo: come ti ho raccontato diverse volte in passato (cerca su Psinel) io sono convito che, così come ogni buon artefatto della storia ha migliorato le nostre condizioni e fatto crescere le nostre possibilità, anche l’intelligenza artificiale farà la stessa cosa. Nelle nostre ultime live ti ho parlato di come interagendo con chat-gpt riesca a fare dei discorsi su temi psicologici ultra complessi in un modo assurdo, facendole mescolare assieme teorie diverse, lanciandoci in ipotesi ardite. E’ davvero uno spettacolo, ma solo se hai le competenze per capire cosa dire e cosa ti è stato detto!
A presto
Genna
