E’ possibile che una parola sia pericolosa “di per sé”, come la formula magica di un sortilegio? Il termine “Intelligenza Artificiale” lo è, e Cassandra ve ne spiega le ragioni.
“Apriti Sesamo”!
Il potere della parola, il potere magico che apre porte che sarebbe meglio restassero chiuse, è ben radicato in tutte le culture di tutti i tempi. Come pure i significati di alcune parole, potenti perché di significato mutevole.
“Abracadabra”, la formula magica per eccellenza, ormai familiare ai bambini ed al mago Zurlì.
“Ph’nglui mglw’nafh Cthulhu R’lyeh wgah’nagl fhtagn”, una formula magica meno nota (no, non è klingon con accento stretto!), ma potenzialmente capace di inguaiare sia chi la pronuncia che l’intera umanità, precipitando tutti in abissi di dolore e follia.
Ecco, “Intelligenza Artificiale” è ancora peggio, è una parola magica che ha invece già inguaiato l’intera umanità, anche se solo pochi se ne sono accorti.
Di quei pochi che se ne sono accorti, parecchi si sono riempiti le tasche di soldi ed i cv di paper pubblicate.
“Ma cosa ha di tanto diabolico una semplice definizione scientifica?” diranno quasi in coro i 24 increduli lettori.
Il problema della ”Intelligenza Artificiale” è la trasformazione semantica che la parola ha subito in una trentina d’anni.
Trenta anni fa non ci sarebbero stati problemi.
“Intelligenza artificiale” era il nome di un settore della ricerca scientifica volta a costruire strumenti che riproducessero alcuni aspetti dell’intelligenza, malgrado il fatto che non esistesse una definizione condivisa di cosa fosse l’intelligenza.
Ma si sa, gli scienziati prima creano le bombe e poi cominciano a porsi i problemi.
Infatti qualunque ricercatore dell’epoca avrebbe convenuto che l’unica vera intelligenza artificiale sarebbe stata quella che ancor oggi viene denominata “Intelligenza Artificiale Generale”, in grado di “ragionare” e risolvere “problemi generali”, incluso magari quello di “scrivere” una versione più intelligente di sé stessa.
Cassandra lo sa, avete appena pensato a Skynet. Ok, però oggi mettiamola da parte, che in questo “ragionamento” non è pertinente.
Poi sono passati 30 anni, sono state sviluppate pochissime tecnologie efficaci nel settore della ”Intelligenza Artificiale”, praticamente solo i motori di inferenza e le reti neurali. Roba stupida come una addizionatrice meccanica, che talvolta riusciva a risolvere bene alcuni problemi specifici.
Magia! Ma allora queste tecnologie erano vere “Intelligenze Artificiali”. Come se fossero pezzi di codice sorgente dotati del soffio che diede vita ad Adamo.
Invece, come Eliza, sono solo software banali, in grado di mimare alcuni aspetti che le intelligenze naturali possiedono.
Poi i computer sono diventati dei mostri di potenza di calcolo, e qualcuno si è accorto che si potevano costruire reti neurali relativamente semplici, ed addestrarle con enormi set di domande e risposte fino a quando, interrogate con un’ulteriore domanda, avrebbero molto probabilmente dato la risposta giusta.
E sarebbero state dotate di tutti i preconcetti di chi aveva prodotto i dati, ma anche questo qui, per quanto vero, non è pertinente,
Avrebbero battuto i campioni mondiali di go e scacchi.
Ma avrebbero fatto questo senza avere nessuna conoscenza, senza aver capito nulla del mondo, senza poter ragionare su quello che sapevano, perché in realtà non sapevano nulla, erano solo enormi mostri di statistica cancerosa.
Avrebbero avuto lo stesso merito di un escavatore che battesse il campione mondiale a braccio di ferro, e per questo venisse dichiarato migliore di lui.
Ed i maghi malefici della comunicazione hanno trovato un nome per questa nuova tecnica, anche questo fondamentalmente e profondamente ingannatore; “Deep Learning” Apprendimento Profondo.
Ripetiamolo “ad nauseam”; i programmi di questo tipo non imparano niente perché non sanno niente, sono solo statistica elevata alla potenza di calcolo di un delirio informatico.
Da quel momento, poiché le tecniche di Deep Learning funzionano bene per molti tipi di problemi, chi possedeva le enormi capacità di calcolo e gli enormi set di dati necessari, ha cominciato ad accumulare soldi, nonché ricevere cori di “osanna” da folle impazzite, composte da manager di startup e coder flippati.
Riuscite a vedere l’errore in cui tutti, incluso voi e Cassandra, almeno all’inizio siete caduti?
Nessuna tecnologia di “Intelligenza Artificiale” fin qui sviluppata ha la minima comprensione dei problemi, dei ragionamenti e delle loro risposte.
Nessuna tecnologia di “Deep Learning” ha mai imparato qualcosa, per quanto “profondamente” sia stata nutrita di Terabyte e Teraflops.
Eppure, spesso, ce ne dimentichiamo.
Ripetere la formula magica “Intelligenza Artificiale” ha stregato la cultura non scientifica, ed anche buona parte di quella scientifica.
Tanto per ripetere la Storia, la propaganda (stavolta tecnologica) viene utilizzata per illudere le folle che un’era nuova e migliore sia alle porte.
Cazzate! (Scusate la vostra profetessa, ma quando ce vò, ce vò)
Certamente la formula magica fornisce ai potenti ed ai ricchi di Internet nuove occasioni di accumulare ulteriore potenza e ricchezza.
Certamente fornisce armi potenti e temibili a chi vuole realizzare un tecnocontrollo sociale totale, sciami di robot assassini ed altre future delizie di questo tipo.
E tutto questo grazie ad una breve e semplice formula magica, inventata quasi per sbaglio tanti anni fa, che affascina tutti e non rivela, se non saltuariamente, il male che ha provocato.
Era iniziato tutto come un classico sogno degli scienziati divenuti informatici, ed oggi è diventato un incubo, che oltretutto la maggior parte delle persone non riesce nemmeno a percepire.
Potenza della parola e del linguaggio.
Gli sciamani l’hanno sempre saputo, Orwell l’aveva capito e spiegato molto bene, e malgrado questo oggi noi, informatici e no, ne stiamo venendo travolti.
Vedremo presto se stavolta Cassandra sarà stata abbastanza paranoica da non scoprire, tra dieci anni, di essere stata la solita ottimista.
Un abbraccio a Julian, e buon Natale a tutti voi.
Scrivere a Cassandra — Twitter — Mastodon
Videorubrica “Quattro chiacchiere con Cassandra”
Lo Slog (Static Blog) di Cassandra
L’archivio di Cassandra: scuola, formazione e pensiero
Licenza d’utilizzo: i contenuti di questo articolo, dove non diversamente indicato, sono sotto licenza Creative Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.
Si ha proprio ragione caro Marco. Mi soffermo brevemente sul linguaggio burocratese usato in banca e nella PA. Sono nostre controparti per le attività quotidiane di milioni di persone. L’uso diffuso di programmi di IA o di tecniche similari lungi dal semplificare ha incrementato a dismisura la quantità semantica di parole per illustrare operazioni semplici e poco complesse. Tempo fa agli albori di Economia&FinanzaVerde molti di noi sperimentammo con piacere gli standard per scrivere in modo leggibile per tutti. Frasi brevi, parole non molto lunghe, articoli contenuti in un massimo di 1000 parole, e cose simili. A livello di mero esperimento e curiosità, inserimmo in questi algoritmi relazioni e discorsi delle nostre autorità monetarie. Nessuno superava i test di comprensibilità minima. Sono sproloqui che impongono ai lettori di ricercare quei due tre passaggi più o meno importanti per capirci qualcosa. Altro che IA e trasparenza. E come nei linguaggi esoterici, la frequenza di certe parole indica quel che si vuole comunicare e, a contrario, quel che si vuole tacere o addirittura nascondere.
Grazie dell’apprezzamento. Purtroppo credo che non sia difficile far generare ad un modello linguistico come GPT3 frasi che superino tranquillamente qualunque test classico di “comprensibilità” definito da regole linguistiche. L’inquinamento dell’infosfera avanza implacabilmente, e speriamo che gli strumenti di analisi linguistica per rivelare testi generati dai modelli linguistici autoregressivi riescano a stare al passo!