Amazon che consiglia un DVD appena comprato permette di vaticinare di IA, di falsi positivi e falsi negativi, del mercato del software e di un cupo futuro.
Pochi giorni fa Cassandra, ripensando ai bei tempi andati, è stata colpita dal desiderio di rivedere un vecchio film che le era rimasto molto impresso “Base Luna chiama Terra”, un film del 1964, titolo originale “First Men in the Moon”, tratto dal capolavoro di H. G. Wells.
Una parata di grossi calibri dell’epoca; regia Nathan Juran e sceneggiatura Nigel Kneale. Se siete sf-dipendenti e/o appassionati di teratologia filmica, vivamente consigliato!
Già qualcuno dei 24 inquieti lettori penserà “Ma che c’azzecca con l’Intelligenza Artificiale?”. Ci azzecca, ci azzecca, perché quello che subito dopo è successo a Cassandra è un caso, banale ma esemplare, di fallimento degli algoritmi e dell’IA.
Ma torniamo alla nostra storiella.
Nessun servizio di streaming (legale e pagato) permetteva di accedere a questo vecchio capolavoro, e quindi Cassandra, che conserva gelosamente un lettore combinato VHS-DVD sopra la TV, se lo è comprato in formato DVD, ovviamente su Amazon.
Solita fulminea interazione commerciale, il 7 ordinato, l’8 arrivato e subito guardato e riapprezzato tantissimo ed il 9 … il 9 arriva una mail da Amazon che gentilmente suggerisce, visti gli interessi dimostrati da Cassandra, indovinate cosa?
Si, comprare lo stesso film appena comprato.
Ora finché è, ad esempio, TIM a mandare via email l’avviso della bolletta quando la bolletta sul sito non c’è ancora, nessuno si meraviglia, ma solo perché ormai familiari con gli storici problemi “di base” del colosso delle comunicazioni.
Ma da Amazon, una delle regine di Internet?
Non possiede gli algoritmi per suggerirci gli acquisti? Non possiede l’Intelligenza Artificiale? L’azienda (che fu) di Bezos non ne è certo priva, visto che queste tecnologie le vende anche.
Ma, tutto sommato, non si tratta solo un banale errore?
Forse, ma Cassandra lo ritiene anche l’indice del fallimento di un modello economico. Un modello guidato da algoritmi fallati, popolato da intelligenze artificiali che tirano i loro infiniti dati nel loro enorme bussolotto, ed oracolano una risposta, che tuttavia è enormemente e stupidamente sbagliata.
Qualunque impiegato mezzemaniche del secolo scorso non avrebbe infastidito i clienti in maniera così triviale ed invece … beh, avete capito.
Ora Cassandra, per liquidare una “collega profetessa”, evidentemente disonore della sua categoria, vi predice che questo non è solo un errore di una intelligenza artificiale, ma il fallimento di un modello e della sua narrazione (ciao Matteo!).
Primo, perché le intelligenze artificiali non esistono, il nome è solo un eccezionalmente ben riuscito esempio di marketing.
Esiste il Deep Learning, un mostro di statistica cancerosa che, alimentato dalla conoscenza e dall’ignoranza dei naviganti e di altri ignari esseri umani, porta in giro i suoi utenti come un cane guida con la cataratta, tanto i rischi delle risposte errate sono, in un modo o nell’altro, esternalizzati.
Esistono gli “algoritmi”, di cui l’IA è un figlio degenere, che poi sono semplicemente dei programmi.
Ed i programmi li scrive l’industria del software che, come chiunque ci abbia lavorato per qualche decennio sa perfettamente, fa mediamente schifo, ed è l’unica industria al mondo che vende i suoi prodotti con condizioni del tipo “senza nessuna garanzia di funzionalità, espressa od implicita”.
C’è da meravigliarsi che tutto questo ambaradan proponga ad un cliente di acquistare quello che ha appena acquistato?
Certamente no, c’è invece da preoccuparsi, e preoccuparsi moltissimo, di vivere in un mondo dove l’Intelligenza Artificiale vende, dove i prodotti che sostengono di usarla vendono, dove chi ne parla come “tecnologia miracolosa risolvi-problemi” in pubblico viene creduto, e non sbeffeggiato e coperto di pece e di piume come.
Credere all’IA ed alla sua narrazione, anzi agli algoritmi, anzi al software in generale come ad una tecnologia che risolve i problemi, persino quelli sociali, è una cosa che si trova tra il menefreghismo e la totale follia.
E questo, cari i miei social-tecnofili, preoccupa molto le persone della generazione di Cassandra perché, egoisticamente, noi non saremo con voi a vedere i disastri del cambiamento climatico, ma vivremo i nostri ultimi anni insieme a voi, in una società che non avremmo immaginato neanche nei nostri incubi peggiori.
Scrivere a Cassandra — Twitter — Mastodon
Videorubrica “Quattro chiacchiere con Cassandra”
Lo Slog (Static Blog) di Cassandra
L’archivio di Cassandra: scuola, formazione e pensiero
Licenza d’utilizzo: i contenuti di questo articolo, dove non diversamente indicato, sono sotto licenza Creative Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.
