Gli automatismi ed il tecnocontrollo che portiamo anche in tasca sono pericolosi? In che modo? E cosa vuol dire in pratica “essere un falso positivo”?
Ci sono storie che appaiono e scompaiono tra le notizie, e che invece restano indelebilmente stampate nella mente di Cassandra, come suoi peccati; profezie che ha enunciato, ma non con abbastanza forza.
Ci sono storie che per fortuna hanno un lieto fine, che tuttavia, a volerlo ben esaminare, tanto lieto non è, e che proprio per questo hanno una morale evidente.
Ci sono storie che alla fine contengono anche una seconda morale, ben nascosta e ancora più importante, importante per tutti noi.
E’ il caso di questa notizia, apparsa per la prima volta il 21 agosto sul New York Times e immediatamente ripresa da Slashdot, e che i distrattissimi media nazionali non hanno per ora mai considerato.
I fatti risalgono a febbraio, e riguardano la storia di due genitori americani il cui figlio piccolo un giorno si è ammalato, ma invece della solito mal di gola o dolore di pancia ha manifestato una preoccupante irritazione ai genitali.
Cosa avreste fatto nei loro panni? Avreste telefonato al medico.
Il medico non c’era, e la segretaria, molto opportunamente, dopo essersi fatto spiegare il problema, ha suggerito di mandare una foto al dottore in modo che potesse anticipare la diagnosi.
Così hanno fatto, il dottore ha prescritto un antibiotico e tutto si è risolto nel migliore dei modi. Solo dal punto di vista medico, però.
Si perché le foto dell’inguine ed annessi del bambino sono state scattate con uno smartphone Android. Lo smartphone Android utilizzava il backup nel cloud, che Google cerca in tutti i modi di far abilitare ai propri utenti, chissà perché.
Le foto sono quindi finite nel cloud dove, nel caso non lo sapeste, sono state scansionate da un sistema di verifica di contenuti pedopornografici. I famosi “filtri dei contenuti”. Chissà, forse una Intelligenza Artificiale.
Le foto in questione apparivano tali, e quindi sono state passate ad una verifica manuale. Probabilmente ad un “consulente” stressatissimo in un paese remoto dove la manodopera costa poco, un poveraccio con la testa piena (per motivi “professionali”) di schifezze. Il poveretto non si è accorto della irritazione cutanea, ha padellato la valutazione, ed ha fatto partire le procedure di Google del caso.
L’account è stato sospeso con una mail di comunicazione minacciosa ma generica, ed una copia di tutti i dati dell’account è stata inviata alla polizia, che ha cominciato un’indagine criminale. Nel frattempo i genitori, che avevano affidato tutte le loro informazioni digitali a Google e solo a Google (madornale errore!), si sono trovati improvvisamente privati di tutta la loro vita digitale.
Dopo un mese, diciamo “per fortuna”, è arrivata la comunicazione delle indagini in corso con relativa convocazione, cosa che ha finalmente permesso ai genitori di presentare le loro ragioni senza continuare a rimbalzare su muri di gomma.
Si erano fatti preparare una dichiarazione del medico che ha subito convinto l’investigatore; quindi, con i tempi dovuti, supersonici rispetto a quelli italiani, è stato comunicato il non luogo a procedere.
Lieto fine? Certamente, considerando il fatto che se l’investigatore fosse stato distratto come l’impiegato di Google, i genitori potevano vedersi sottratto il figlio dai servizi sociali, ed anche finire in galera, in isolamento, perché non è sano essere in mezzo ad altri detenuti con la reputazione di molestatori di bambini.
No, nessun lieto fine, solo il meno peggiore, per due buoni motivi.
Il primo motivo è quello che Matteo Flora chiamerebbe in maniera asettica “danno reputazionale”, cioè il fatto che la notizia è comunque trapelata, e quella successiva del non luogo a procedere non si diffonderà mai con la stessa ampiezza.
Il secondo motivo, e questa è la “morale nascosta”, è che Google si è rifiutata ufficialmente e recisamente di riattivare l’account, malgrado la prova incontrovertibile che la loro segnalazione era totalmente errata.
Lo scarno messaggio informava che l’account era stato permanentemente cancellato, e che il giudizio di Google è inappellabile.
Interrogati nuovamente su questo punto, l’inappellabilità e la cancellazione totale dell’account sono state confermate.
Questo è tutto per quanto riguarda la cronaca.
Vediamo ora la lezione da apprendere e la morale “nascosta” sottostante.
Si tratta di un ottimo e purtroppo normale esempio di cosa gli utenti sono per le multinazionali dell’informatica.
Merce da vendere, ed in casi come questi “falsi positivi” dei loro filtri automatici. Mai esseri umani, men che mai clienti, figuriamoci vittime innocenti di errori.
Quindi indegni di protezione, privi di diritti, “ammanettati” da decine di migliaia di parole delle condizioni d’uso sempre in continuo mutamento.
L’unica possibilità per gli incauti genitori (incauti dal punto di vista informatico, per la mancanza di backup, e per la scarsa tutela della privacy loro e del figliuolo) di riavere la propria vita digitale è stata quella di chiederlo alla polizia, che è l’unica detentrice di una copia integrale dei dati del loro account.
E sapete la buona notizia? Molto più umanamente di Google, la polizia ha assicurato che faranno tutto il possibile per aiutarli.
Forse loro si sentono leggermente in colpa per aver perseguito degli innocenti. Google invece evidentemente no, malgrado un antico “Don’t be evil”.
Ma questo è del tutto naturale, perché le multinazionali ovviamente non hanno una coscienza.
Sono esseri non umani, il cui unico scopo è pagare i dividendi agli azionisti. Fanno tanta pubblicità sui temi politically correct del momento, ma solo come investimento per le public relations; sotto sotto restano schiacciasassi, macinatori di profitti e, quando capita, di persone.
L’unica possibilità di cambiare qualcosa è in mano ai consumatori/elettori. Devono usare la stessa cura nella scelta dei cellulari e dei servizi internet che usano per fare la spesa al supermercato o per scegliere l’automobile.
E pretendere di essere rispettati come cittadini, e non massacrati da un crescente tecnocontrollo, risibilmente mascherato da buone intenzioni.
L’Unione Europea sta per farlo con Chatcontrol 2, bisognerebbe cominciare da li.
Scrivere a Cassandra — Twitter — Mastodon
Videorubrica “Quattro chiacchiere con Cassandra”
Lo Slog (Static Blog) di Cassandra
L’archivio di Cassandra: scuola, formazione e pensiero
Licenza d’utilizzo: i contenuti di questo articolo, dove non diversamente indicato, sono sotto licenza Creativee Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.
