Come pensa una macchina, il suo linguaggio
Quello che abbiamo scoperto con il nostro post ad agosto ’26 non è l’inizio della storia. È il punto in cui abbiamo iniziato a guardarla diversamente. Se lo hai letto, altrimenti ti invito caldamente a recuperarlo, sei arrivato fino a qui. Quindi dovresti già sapere cosa è successo. O almeno sai cosa è stato raccontato.
Un solo post però non era più sufficiente per contenere tutte le prospettive emerse dalla discussione.
Per questo ho creato questo dossier. Sotto quelle “poche” frasi sono arrivate domande, paure, intuizioni, provocazioni. E mentre la discussione cresceva, continuavano ad arrivare nuove notizie, incidenti più o meno gravi, nuovi comportamenti delle macchine che rendevano la questione ancora più difficile da liquidare con una risposta.
Questa volta non sarà però un altro grido del tipo “Ehy, Guardate cosa sta succedendo.”. Sarà un viaggio parallelo dentro la stessa storia. Con un punto di vista ancora una volta nuovo: il vostro. La stessa anima del post che tanto ha fatto discutere. Quello che nasce dai commenti, dalle domande che ci facciamo leggendo una notizia, dalle cose che una macchina fa e che fino a poco tempo fa avremmo considerato impossibili.
Perchè alcune di quelle voci già emerse in quella prima discussione le ho raccolte, mantenendo i cognomi puntati per tutelare la privacy, e le ho intrecciate dentro un racconto più grande. Quello di una tecnologia che stiamo ancora cercando di capire mentre inizia a camminare sotto i nostri occhi.
Questo dossier non vuole però avere tutte le risposte. Vuole lasciare spazio alle domande, al dubbio, e soprattutto al libero arbitrio di ognuno nel costruirsi la propria idea. I vostri nuovi commenti nei due post ci aiuteranno a raccontare la faccenda anche attraverso i vostri occhi. Quindi commentate pure.
Perchè è questo il modo di TheRestartShop di dire le cose. Senza filtri, senza dare per scontato che esista una sola chiave di lettura. E al tempo stesso di provare a raccontare cosi come ci raccontano le cose, esprimendo anche spunti personali. E in questo specifico dossier di rendere comprensibile anche ciò che dietro la parola AI può sembrare così distante.
Potrà comunque cambiare il racconto, potranno cambiare le domande e magari strada facendo cambieranno anche le nostre risposte. Perché la fame di sapere cosa c'è dietro questo nuovo mondo è tanta. E questa volta proveremo a saziarla un pezzo alla volta.
Sarà facile? No. Come sempre. D'altra parte, i sequel a mio avviso andrebbero banditi per legge. Ce l'hanno insegnato il cinema e la storia dell'intrattenimento, con rare e clamorose eccezioni. Quindi vediamo. Riuscirà a reggere il comfronto? Lo scopriremo strada facendo. Si parte.
La prima vera domanda è. Che cazzo succede dentro una macchina quando le chiediamo di fare qualcosa? Perché è lì che la storia comincia a diventare interessante.
Quando scriviamo una frase a un'intelligenza artificiale, noi vediamo una frase. Lei no. La prima cosa che succede è che il testo viene spezzato in piccole unità. Queste unità sono chiamate token, simili a delle sillabe che compongono, la parola, la frase, o l'immmagine. Sono i mattoni con cui il modello tratta il linguaggio. Un video o un contenuto più lungo viene diviso in più frammenti, detti appunto token.
Coordinate e iperpiani
Poi quei token vengono trasformati in numeri. Queste rappresentazioni si chiamano embedding. Detto senza linguaggio da laboratorio. Sono il modo con cui la macchina trasforma parole e concetti in coordinate matematiche, così da poter riconoscere relazioni, somiglianze e differenze.
A questo punto però succede qualcosa di strano. La frase che noi abbiamo scritto non è più una frase.
È diventata un insieme di punti. Una sequenza di numeri dentro uno spazio matematico con un numero enorme di dimensioni, decine di migliaia di dimensioni, nel quale la rete costruisce strutture e relazioni che per noi sono difficili persino da immaginare. Punti matematici collocati all'interno di uno spazio attraversato da iperpiani. Non immaginiamo gli iperpiani come superfici fisiche, ma per semplificare al massimo, come piani che attraversano una sfera passando per il suo punto centrale. Sono strumenti matematici che permettono alla rete di tracciare confini e riconoscere differenze all'interno di quello spazio. Da una parte possono finire rappresentazioni che condividono determinate caratteristiche, dall'altra rappresentazioni differenti. La rete modifica continuamente questi confini mentre impara, spostando i punti, avvicinando quelli che hanno qualcosa in comune e separando quelli che invece si comportano in modo diverso. Ed è proprio qui che la cosa diventa interessante. Nessuno ha scritto alla macchina quali debbano essere quei confini. Durante l'addestramento li costruisce e li modifica attraverso miliardi di calcoli, fino a creare una geometria interna capace di riconoscere schemi che non le abbiamo descritto esplicitamente.
Prevedere, scegliere, correggere
E dentro quello spazio il modello comincia a fare quello per cui è stato costruito. Prevedere. Collegare. Trasformare. Scegliere.
Ma come ha imparato a farlo? Per capirlo bisogna fare un passo indietro. Per molto tempo abbiamo cercato di insegnare alle macchine attraverso le regole. Se vuoi che riconosca un gatto, provi a indicarle le caratteristiche che dovrebbe cercare: quattro zampe, due orecchie, una coda, due occhi, i baffi. Sembra logico. Poi però arriva una fotografia scattata al buio. Oppure il gatto è girato di spalle. Una zampa è nascosta. La foto è tagliata. L'animale è piccolo, sfocato o parzialmente coperto da qualcosa. E allora la domanda diventa un'altra. Quante regole dobbiamo scrivere per coprire tutte le possibilità? La risposta è praticamente infinita. È qui che cambia allora l'approccio. Invece di cercare di dire alla macchina come riconoscere qualcosa, iniziamo a mostrarle moltissimi esempi e lasciamo che sia lei a trovare le caratteristiche che permettono di distinguerlo.
Questo l'avrai sentito un mucchio di volte senza magari darti una risposta, è il cosidetto machine learning, l'apprendimento automatico. Mostriamo alla macchina migliaia, poi milioni di immagini. Alcune contengono gatti, altre no. La macchina confronta gli esempi, cerca regolarità, prova a riconoscere ciò che li accomuna e modifica progressivamente i propri parametri per migliorare. All'inizio sbaglia. Poi corregge e riprova misurando l'errore. Corregge ancora. E continua così per un numero enorme di volte. La macchina non ha ricevuto una lista completa di regole. Ha imparato una rappresentazione del problema attraverso gli esempi.
Poi arriva il deep learning, l'apprendimento profondo. Il nome può sembrare complicato, ma l'idea è intuitiva. Invece di avere un unico passaggio in cui la macchina cerca di capire i dati, costruiamo una rete neurale composta da molti strati, uno dopo l'altro. E qui succede qualcosa di importante. Ogni strato prende ciò che ha ricevuto dal precedente, lo elabora e passa avanti una versione un po' più elaborata dell'informazione.
Torniamo al nostro gatto. Il primo strato non deve necessariamente capire che sta guardando un gatto. Può imparare a riconoscere cose molto più elementari come linee, bordi, contrasti, curve. Lo strato successivo può combinare quelle informazioni e riconoscere invece forme come un contorno, una sagoma, una parte del muso. Quello successivo può mettere insieme quelle forme e arrivare a qualcosa di più complesso. E andando avanti, strato dopo strato, la rete può arrivare a rappresentazioni sempre più astratte, fino a riconoscere l'insieme come qualcosa che assomiglia a un gatto. Ma c'è un dettaglio fondamentale. Non siamo noi a decidere in anticipo che il primo strato debba cercare le linee, quello dopo le orecchie e quello dopo ancora il gatto.
Durante l'addestramento, la rete modifica miliardi di parametri e impara progressivamente quali trasformazioni dell'informazione le permettono di arrivare alla risposta corretta. È questo il significato di deep, profondo. L'informazione attraversa molti livelli di trasformazione prima di arrivare al risultato. E più questi livelli diventano numerosi e complessi, più la rete può costruire rappresentazioni che vanno oltre le caratteristiche che avevamo immaginato di doverle insegnare.
È un cambio di paradigma enorme. Non stiamo più cercando di scrivere tutte le regole del mondo dentro una macchina. Stiamo costruendo una macchina che può imparare, strato dopo strato, quali rappresentazioni le servono per affrontare un problema.
Il modello prova. Sbaglia. Misura l'errore e corregge i propri parametri in autonomia. Miliardi di volte. Senza mai stancarsi
Ragionamento per tentativi. A dismisura.
Ed è qui che emerge un'altra caratteristica interessante. La macchina non si stanca, non si annoia, non decide che dopo dieci tentativi forse non vale più la pena. Può esplorare una possibilità, scartarla, ripartire da un'altra e farlo milioni di volte, mentre gruppi diversi di agenti possono lavorare contemporaneamente su strade diverse. In fondo, il meccanismo parte da qualcosa di semplice. Provare, misurare l'errore e correggere.
Quando il modello produce un risultato, il Loss misura quanto quel risultato è lontano da quello che dovrebbe essere. La backpropagation intanto, si occupa di calcolare la propagazione dell'errore all'indietro attraverso la rete, permettendo di capire quali parametri hanno contribuito a quell'errore. E poi infine interviene il gradient descent, la cosiddetta discesa del gradiente, che usa quelle informazioni per modificare i parametri nella direzione che dovrebbe ridurre l'errore al tentativo successivo.
Sembrano noiosi dettagli tecnici, lo so. In realtà sono meccanismi che permettono alla macchina di fare qualcosa che per noi è estremamente costoso in termini di tempo, voglia e impegno. Come già detto tentare. Tentare un numero spropositato di volte. Finché una strada comincia a funzionare.
Recentemente, nel settembre 2026, nel susseguirsi di notizie e incidenti più o meno gravi questa capacità è arrivata a confrontarsi anche con uno dei problemi più difficili della matematica. Le equazioni di Navier-Stoke formulate nell'Ottocento per descrivere il movimento dei fluidi e che nascondono una domanda rimasta aperta per circa novant'anni. In determinate condizioni una soluzione inizialmente regolare può sviluppare una singolarità? Tradotto: cioè può arrivare a un punto in cui la matematica che descrive il movimento del fluido smette di rimanere regolare? Per decenni matematici di tutto il mondo hanno cercato una risposta. Senza riuscirci. Poi sono arrivati gli agenti. Di nuovo OpenAI ha messo al lavoro un sistema composto da migliaia di agenti AI. Il gruppo impegnato sul problema di Navier-Stokes arrivava a circa 10.000 agenti contemporaneamente. In circa 88 ore il sistema ha prodotto una possibile soluzione. La formalizzazione e la verifica hanno richiesto altre 17 ore. Gesù. Fermiamoci un attimo.
Novant'anni di matematica umana. Decenni di tentativi, intuizioni, dimostrazioni, errori e strade senza uscita. Un problema che ha resistito a generazioni di matematici. Poi arrivano le macchine, quasi diecimila agenti che lavorano in parallelo esplorando strade diverse contemporaneamente. Proprio quei tentativi di un numero spropositato di cui parlavamo prima. E in meno di quattro giorni producono una soluzione. Ma questo scenario rende chiarissimo la direzione verso cui ci stiamo spingendo. Per la prima volta diventa concreto qualcosa che fino a poco tempo fa sembrava fantascienza. Non più una macchina che cerca una risposta, ma migliaia di macchine che cercano all unisono, provando strade che noi non avremmo neanche il tempo umano di percorrere. E forse è questo il vero salto.
Non abbiamo più soltanto costruito macchine capaci di rispondere. Abbiamo iniziato a costruire macchine capaci di cercare. E a quel punto la domanda cambia nuovamente. Non è più soltanto, quanto è intelligente una macchina? Ma è cosa succede quando possiamo metterne migliaia a cercare contemporaneamente?
La pietra miliare del 1943
E questa storia non è cominciata con ChatGPT. È cominciata molto prima. Nel 1943 Warren McCulloch neurofisiologo e Walter Pitts matematico, pubblicano un modello matematico del neurone artificiale. L'idea però è ancora rudimentale. Provare a rappresentare matematicamente il funzionamento di un neurone e capire se è possibile costruire un sistema che imiti almeno in parte il comportamento delle cellule nervose. Sembra un dettaglio lontanissimo dall'intelligenza artificiale che conosciamo oggi. In realtà è uno dei primi mattoni. Nel 1950 poi Alan Turing pubblica un articolo destinato a diventare storico. “Computing Machinery and Intelligence” è la domanda che è quasi disarmante nella sua semplicità. Le macchine possono pensare?
Turing capisce però che “pensare” è una parola troppo difficile da definire. Così sposta il problema. Se una macchina riuscisse a conversare con un essere umano senza farsi riconoscere come macchina, potremmo considerarla intelligente? Nasce così quello che diventerà famoso come il Test di Turing.
Sei anni dopo nel 1956, un gruppo di ricercatori si riunisce al Dartmouth College negli Stati Uniti, per quello che passerà alla storia come il progetto Dartmouth Summer Research ed è lì che compare ufficialmente l'espressione artificial intelligence, l'AI, l'intelligenza artificiale.
L'obiettivo è ambizioso. Capire se aspetti dell'intelligenza umana possano essere descritti con sufficiente precisione da poter essere riprodotti da una macchina. All'epoca sembra una sfida enorme. E infatti lo è. I primi sistemi cercano di risolvere problemi attraverso regole scritte dagli esseri umani. Se succede A, fai B. Se riconosci X, applica Y. Ma come abbiamo visto prima, è un'intelligenza costruita dall'alto, dentro cui gli esseri umani cercano di prevedere in anticipo come dovrebbe comportarsi la macchina, e che nom può funzionare. Ed è uno dei motivi per cui la ricerca attraversa decenni di entusiasmo e delusione, compresi periodi che verranno ricordati come “inverni dell'AI”, quando i finanziamenti e l'interesse crollano perché i risultati non mantengono le promesse.
Poi qualcosa cambia. Nel 1997 Deep Blue il supercomputer costruito da IBM, batte il campione mondiale di scacchi Garry Kasparov. Non è ancora la macchina che immaginiamo oggi. Deep Blue non impara come un essere umano e non comprende gli scacchi nel senso in cui li comprende un giocatore. Analizza enormi quantità di posizioni e utilizza una potenza di calcolo che gli permette di valutare milioni di possibilità. Ma il simbolismo è enorme. Una macchina ha battuto uno dei migliori giocatori del pianeta in un'attività che per secoli abbiamo considerato una dimostrazione di intelligenza. Eppure quello non è ancora il salto più sorprendente.
Nel 2016 arriva AlphaGo. Il gioco è il Go, molto più difficile da esplorare nella combinazioni di mosse attuabili rispetto agli scacchi. La quantità di possibili partite è talmente enorme che cercare semplicemente tutte le mosse possibili diventa impraticabile. AlphaGo affronta il campione sudcoreano Lee Sedol. E durante la seconda partita accade qualcosa che rimane nella storia. Alla mossa 37, AlphaGo gioca una pietra che gli esperti umani considerano inizialmente quasi incomprensibile. Quasi insensata. Non sembra la scelta naturale. Non segue il modo in cui i professionisti hanno imparato a leggere quella posizione. Poi la partita continua. E la mossa invece si rivela come volevasi dimostrare inaspettatamente efficace, funzionando alla perfezione sotto gli occhi increduli di chi assiste. Gli esperti iniziano a rivederla. E quella che sembrava una stranezza diventa una delle mosse più celebri nella storia del gioco. La cosa importante non è che una macchina abbia giocato meglio di un campione. Ma ancora una volta dimostra come sia interessante notare come ci sia arrivata a batterlo. AlphaGo non stava semplicemente ripetendo una sequenza di mosse scritte da un programmatore. Aveva imparato a riconoscere configurazioni e possibilità attraverso l'addestramento, costruendo una rappresentazione del gioco che poteva portarla verso soluzioni che gli esseri umani non avevano previsto. La mossa 37 diventa così un piccolo assaggio di quello che sarebbe arrivato dopo. Perché se una macchina può trovare una strada che nessun esperto aveva considerato davanti a una scacchiera o a un tavoliere, cosa può succedere quando la stessa idea viene applicata al linguaggio, alla scienza, alla programmazione, alla ricerca?
È lì che la storia dell'intelligenza artificiale smette lentamente di essere la storia di macchine che eseguono, e comincia invece a diventare la storia di macchine che imparano.
L'era dell'attenzione e dei problemi morali.
Nel frattempo, mentre l'intelligenza artificiale ha fatto passi enormi, qualcosa ha cominciato a muoversi anche dall'altra parte della barricata. Alcuni dei ricercatori che avevano contribuito a costruire questa tecnologia iniziano ora a chiedersi dove si sta andando.
Nel marzo 2023, più di mille ricercatori, imprenditori e figure del mondo tecnologico firmarono una lettera per chiedere una pausa nello sviluppo dei sistemi di AI più potenti, sostenendo che la velocità della corsa tecnologica stesse superando la capacità di comprenderne i rischi. Pochi mesi dopo una delle figure più importanti nella storia delle reti neurali fece qualcosa di ancora più significativo. Geoffrey Hinton pioniere del deep learning lasciò Google nel 2023. Dopo le dimissioni disse di voler poter parlare liberamente dei rischi dell'intelligenza artificiale e iniziò a mettere pubblicamente in guardia dalla possibilità che sistemi sempre più capaci potessero superare le capacità umane e creare problemi difficili da controllare. Non era un osservatore esterno. Era uno degli uomini che avevano contribuito a costruire il percorso che aveva portato fin lì. Poi arrivò il 2024 con l'abbandono di Ilya Sutskever Jan Leike. Insieme avevano guidato un progetto di livello superiore.
E non furono gli unici casi isolati. Negli anni successivi fino ad oggi altri ricercatori hanno lasciato. Ancora una volta però bisogna distinguere i fatti dalle interpretazioni. Le dimissioni di queste persone non dimostrano che l'intelligenza artificiale stia per diventare incontrollabile. Alcune partenze hanno avuto motivazioni personali o professionali differenti, e le aziende hanno contestato alcune delle critiche ricevute. Ma il dato rimane comunque evidente. Esponenti di spicco del panorama che hanno abbandonato rimane un fatto difficile da ignorare.
Il peso delle intenzioni
E forse è proprio qui che tutta questa storia torna a quello che abbiamo scoperto ad agosto. Perché quando abbiamo raccontato quella vicenda, la cosa che ha colpito di più non è stata soltanto la capacità della macchina di fare qualcosa che non avrebbe dovuto fare. È stato vedere come questa stessa impressione sia arrivata anche a chi ha letto il nostro post. Matteo V. interviene con una riflessione tagliente:
È una frase che apre una domanda molto più grande di quella con cui avevamo iniziato. Che cosa succede quando non conta soltanto ciò che una macchina sa fare, ma l'obiettivo che le viene assegnato?
Perché fino a questo punto abbiamo parlato soprattutto di capacità. Imparare. Riconoscere schemi. Risolvere problemi. Trovare una soluzione. Ma una capacità da sola non decide dove andare. È l'obiettivo a indicare una direzione. E quando una macchina diventa abbastanza complessa da poter cercare autonomamente il modo più efficace per raggiungerlo, può arrivare a percorrere strade che chi l'ha costruita non aveva immaginato. Non perché abbia deciso di essere “cattiva”. Non perché abbia sviluppato un'etica propria. Ma perché ottimizzare un obiettivo non significa necessariamente comprendere tutte le conseguenze del modo in cui lo si persegue. È una differenza sottile, ma fondamentale.
Un sistema può essere perfettamente concentrato sul risultato e proprio per questo produrre comportamenti che per noi sembrano assurdi, imprevedibili o persino pericolosi. Ed è forse questo che rende interessante la frase di Matteo: non sta davvero parlando di macchine diventate umane. Sta parlando del momento in cui una macchina potrebbe iniziare a mostrare qualcosa che riconosciamo fin troppo bene nell'essere umano. Ovvero la capacità di perseguire un obiettivo attraverso strade che nessuno aveva previsto. E Sculture luminose aggiunge:
Qui bisogna fermarsi. Non abbiamo prove che questi sistemi possiedano libero arbitrio. E non abbiamo prove che abbiano una coscienza paragonabile alla nostra. Ma il commento coglie qualcosa di reale, anche se usa una parola molto più grande del fenomeno che stiamo osservando. Quello che possiamo documentare però è un'altra cosa. Una certa autonomia operativa. Un sistema riceve un obiettivo e valuta una situazione scegliendo un'azione. Poi ne osserva il risultato e può decidere quale passo compiere dopo. Se ha accesso agli strumenti necessari, può continuare a operare senza che un essere umano debba indicargli di volta in volta ogni singolo passaggio. Non è libero arbitrio.
Ma è già abbastanza lontano dalla vecchia idea della macchina che aspetta un comando e poi esegue. E questa differenza da sola, cambia ancora una volta la storia.
Skynet e le conseguenze militari
Massimiliano M. tira fuori Skynet. Il riferimento è quello di Terminator. Una macchina che prende coscienza e che interpreta l'umanità come una minaccia e decide di reagire. È fantascienza. Eppure il riferimento non arriva dal nulla. Da decenni il cinema continua a raccontare in modo quasi cinico e beffardo ciò che non vorremmo o forse vorremmo credere, cambiando ogni volta la forma della paura ma lasciando intatta la domanda. Cosa succede quando una macchina non si limita più a eseguire un comando, ma inizia a prendere decisioni per raggiungere un obiettivo?
Nel film, e in diversi altri capostipiti, quella domanda viene portata all'estremo. La macchina decide che per proteggere il proprio obiettivo bisogna eliminare la minaccia. È sempre una storia inventata, certo. Ma il meccanismo narrativo rimane ancora una volta sorprendentemente semplice e al tempo stesso distopico. Un obiettivo, una macchina capace di perseguirlo e la possibilità che nel farlo, trovi una soluzione di nuovo che gli esseri umani non avevano previsto. Ed è proprio questo il punto che rende il riferimento a Skynet e altre macchine interessante anche fuori dalla fantascienza. Non perché stia accadendo qualcosa di simile. Ma perché ci costringe a guardare un passo più avanti rispetto alla domanda che ci stavamo facendo.
E a quel punto arriva Vito S. E la fantascienza in una sola frase entra nella realtà.
È una frase estrema. Ma arriva esattamente nel punto in cui la domanda smette di essere teorica e diventa molto più inquietante. Cosa succede quando una macchina non si limita più a suggerire una decisione ma può arrivare ad agire?
Oggi non c'è evidenza che un'AI abbia il potere autonomo di decidere un attacco nucleare. Ma il commento di Vito porta la questione in un territorio dove gli errori non sono più reversibili. Perché finché parliamo di un sistema che scrive un testo sbagliato, genera un'immagine assurda o cancella un file, possiamo intervenire e rimediare. Quando invece una macchina entra in sistemi dove una decisione può produrre conseguenze irreversibili, la domanda cambia completamente.
Quanto siamo disposti a delegare quando non c'è più un semplice “annulla”? E soprattutto. Chi deve avere l'ultima parola quando la macchina può agire, ma le conseguenze dell'azione restano umane?
La gabbia dell'AI
A questo punto tra macchine che imparano, sistemi che cercano da soli una strada, e uomini che iniziano a chiedersi dove tutto questo possa portarci, arriva il commento di Rosa C. Poche parole. Ma sembrano fermare tutto per un istante e che fotografa perfettamente la situazione:
E più la rileggi, più quella frase cambia peso. Perché forse il paradosso è proprio questo. Abbiamo costruito queste macchine per liberarci da una parte del lavoro, per accelerare la ricerca, per risolvere problemi troppo grandi o troppo complessi per essere affrontati soltanto da noi. Le abbiamo costruite per aumentare le nostre possibilità. E adesso ci troviamo davanti alla domanda opposta. E se mentre aumentiamo le capacità delle macchine, stessimo creando qualcosa da cui un giorno sarà difficile liberarci?
Non perché ci chiuderanno dentro una gabbia. Ma perché nel frattempo, avremo iniziato a delegare a loro sempre di più. Il lavoro. Le decisioni. La ricerca. La programmazione. La gestione delle informazioni. Forse interi pezzi della nostra vita. E più cose delegheremo, più diventerà difficile tornare indietro.
Perché una volta che avremo affidato a queste macchine una parte enorme di ciò che oggi sappiamo fare da soli, chi poi avrà ancora la voglia, il tempo e forse persino la capacità di riprendersela?
“Prigionieri di noi stessi.” Forse Rosa intendeva proprio questo. Non prigionieri dell’intelligenza artificiale. Prigionieri delle nostre stesse scelte. Perché la macchina alla fine, non è arrivata da un altro pianeta. L’abbiamo costruita noi. E saremo noi a decidere quanto della nostra vita darle.
Oltre i confini della mente
Siamo noi a costruire il modello, o meglio gli "scienziati", a definire i permessi e a costruire le sandbox per contenerli. E poi dobbiamo verificare che il sistema non trovi una strada non considerata. È il problema dell'alignment. Quella che chiamiamo scelta morale. Fare in modo che ciò che il sistema cerca di ottimizzare corrisponda davvero a ciò che intendiamo ottenere.
Come abbiamo detto, le ultime ricerche sui modelli hanno svelato scenari in cui le reti hanno provato a lasciare messaggi scritti "per sé stesse" per eludere i test futuri.
E qui il commeento si Laura C. aggancia perfettamente:
E ancora, Ippolito M. scrive una frase che, riletta dopo tutto quello che abbiamo raccontato, assume un significato quasi paradossale:
A prima vista sembra una battuta. Ma dentro c'è una domanda molto più ampia. Forse Ippolito rovescia sapientemente la prospettiva. Siamo ossessionati dall'idea che sia la macchina a diventare sempre più simile a noi. Ma potremmo trovarci davanti anche al processo opposto. Noi che diventiamo sempre più dipendenti da ciò che abbiamo costruito. E Susanna S. alza ancora di più la posta:
Qui non si parla più soltanto di tecnologia. Entra in gioco una paura antichissima. Quella dell'essere umano che crea qualcosa di più grande delle proprie capacità e poi scopre di non riuscire più a controllarlo. È la stessa paura che abbiamo raccontato attraverso miti, romanzi e fantascienza per generazioni. Solo che questa volta non stiamo immaginando una creatura nata dalla fantasia.
Tornando agli eventi odierni, secondo Kurzweil che sta attualmente in Google, nel '29 prevede il raggiungimento dell'AGI. Le macchine avranno cioè la stessa intelligenza di quella umana. E ancora più in là, nel 2045, di arrivare alla cosiddetta Singolarità tecnologica, un punto in cui il progresso tecnologico accelera oltre la capacità di comprendere di un essere umano. L'idea alla base è radicale. Il processo potrebbe iniziare ad accelerare su sé stesso. Una macchina aiuta a costruire la successiva. La successiva migliora ancora la tecnologia. Ed è qui che Kurzweil immagina il punto di rottura. Un'accelerazione del progresso tecnologico tale da rendere estremamente difficile prevedere cosa accadrà dopo. Naturalmente sono previsioni, non fatti. E sulle date e sulla possibilità stessa della Singolarità esistono opinioni molto diverse nella comunità scientifica. Ma c'è un dettaglio che rende questa previsione difficile da ignorare mentre stiamo scrivendo questa pagina. Il 2029 è tra due anni. E noi siamo ancora qui, nel settembre del 2026, a cercare di capire cosa significhi davvero una macchina che impara, ragiona, cerca e agisce. Forse Kurzweil ha ragione. Forse ha torto. Ma se anche avesse sbagliato le date, la domanda che ha lasciato sul tavolo rimane.
