RSI

Questo è il testo della puntata del 14 settembre 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

---

Il mito del telefonino che ascolta ogni conversazione e la manda a qualche servizio globale di sorveglianza sta per essere sostituito. Al posto di questa falsa credenza rischia di arrivare una realtà concreta e documentata di ascolto e registrazione costante, non attraverso lo smartphone ma tramite altri dispositivi meno visibili. Dopo gli occhiali con telecamera di Meta arrivano infatti gli orologi con microfono di Apple. E il Grande Fratello centralizzato immaginato da George Orwell viene sostituito, o meglio affiancato, da una folla di Piccoli Fratelli: le persone che ci stanno intorno e che comprano e indossano questi oggetti.

Questa è la storia della cosiddetta “normalizzazione dell‘ascolto costante”: la tendenza sempre più diffusa di dotare gli oggetti digitali, soprattutto quelli indossabili, di sensori, telecamere e microfoni sempre attivi, che rilevano, guardano, ascoltano e analizzano tutto quello che avviene nelle loro vicinanze, perché in questo modo possono rendersi utili ai loro proprietari.

I creatori e venditori di questi oggetti ci chiedono di abituarci a questo stato di cose, di rassegnarsi a essere costantemente monitorati, come se si trattasse di un progresso inevitabile e necessario. Ma non è così, perché il rischio di abusi di questa “normalizzazione” è estremamente alto e concreto, e va capito per decidere come agire.

Benvenuti alla puntata del 14 settembre 2026 del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

---

Nella puntata di marzo 2026 di questo podcast ho raccontato i problemi di privacy degli occhiali “smart“ di Meta, o AI glasses come li chiama la pubblicità: quelli, per capirci, dotati di telecamere miniaturizzate, integrate nel frontale. Problemi per chi li indossa, perché spesso non sa che quello che le telecamere vedono quando sono in funzione viene trasmesso a Meta e alle aziende che lavorano per Meta e viene visto, analizzato e classificato da qualcuno. Ma problemi anche per chi non li indossa, però ha a che fare con chi li sfrutta per effettuare riprese nascoste in luoghi e in situazioni in cui in teoria il buon senso e la decenza, e in alcuni casi la legge, lo proibirebbero.

C’è un aggiornamento in proposito: molte persone credono che questi occhiali non possano acquisire immagini di nascosto perché Meta li ha dotati di una spia luminosa bianca, un cosiddetto “LED di cattura” [capture LED in inglese], che si illumina in maniera piuttosto vistosa durante le riprese o le foto.

Inizialmente era possibile coprire o rendere inservibile questo indicatore luminoso e quindi realizzare video e foto a insaputa dei presenti, ma a luglio scorso Meta ha dichiarato che da quel momento in poi gli occhiali avrebbero interrotto le registrazioni istantaneamente in caso di copertura della spia, e pochi giorni dopo ha annunciato di aver diffuso un aggiornamento del software che avrebbe disabilitato permanentemente le telecamere negli esemplari di AI glasses che erano stati modificati dai proprietari per disattivare questa spia luminosa. Secondo i dati presentati da Meta, i proprietari in questione erano circa 7000 su un totale di 7 milioni di esemplari venduti nel 2025. In altre parole, grosso modo una persona su mille comprava questi dispositivi con l’intento ben preciso di effettuare riprese abusive [CBS News; Business Insider; Ars Technica].

Stando al tono rassicurante di questi annunci, il problema degli abusi che stavano già circolando sui social, con tanto di monetizzazione a incentivarli, sembrerebbe risolto in maniera efficace, ma non è così. Infatti la telecamera di questi occhiali ha due funzioni: una è scattare foto e video e l’altra è analizzare quello che vede usando l’intelligenza artificiale. La spia luminosa lampeggia solo durante le riprese di foto e video. Non si accende quando la telecamera osserva tutto quello che ha davanti a sé.

Questo vuol dire che la spia bianca non indica che la telecamera è in funzione, come verrebbe spontaneo pensare, ma segnala solo quando le immagini vengono registrate e salvate dall’utente. Quando la telecamera acquisisce immagini per passarle a Meta e farle analizzare dall’intelligenza artificiale, per esempio per tradurre un menu in un ristorante o identificare un oggetto, la spia è spenta. Questa non è una dimenticanza da parte dei progettisti: è una scelta intenzionale, dichiarata nella documentazione tecnica pubblica di Meta.

Secondo l’azienda, infatti, “se il LED lampeggiasse per periodi di tempo prolungati (per esempio ogni volta che si verifica un’interazione con l’IA), la gente potrebbe smettere di notarlo, riducendo così la consapevolezza di quando foto o video vengono catturati dagli utenti per disporne in seguito” [Bystander privacy: Evolving with the AI Glasses Landscape, Meta, luglio 2025].

Quindi non è vero che la spia spenta significa che gli occhiali di Meta non sono attivi e non stanno riprendendo nulla.

---

Eppure la pubblicità di Meta, quella per esempio negli Stati Uniti, dice che “la telecamera ti permette di catturare l’istante. La luce permette a tutti quelli che hai intorno a te di sapere quando lo fai.”

Formalmente è corretto, perché parla solo della cattura di immagini da parte dell’utente, ma omette di dire una parte importante della realtà, ossia che la telecamera è appunto attiva anche durante le funzioni basate sull’intelligenza artificiale che mandano suoni e immagini a Meta. Uno slogan più completo potrebbe essere questo: “la luce permette a tutti quelli che hai intorno a te di sapere quando lo fai TU. Quando lo facciamo noi di Meta, beh, arrangiatevi”.

La comunicazione pubblicitaria di Meta non è una semplice informazione, sia pure parziale, al pubblico: è un tentativo di costruire un consenso sociale. Il messaggio di fondo è “tranquilli, gli occhiali con microtelecamera incorporata non sono invadenti, perché tutti possono sapere quando sono in funzione”. Ma la documentazione tecnica di Meta rivela appunto che questo messaggio è, di fatto, falso e ingannevole. Chi sta nelle vicinanze di una persona che indossa occhiali di quest’azienda non ha alcun modo di essere certo che non stiano acquisendo suoni e immagini.

Diverse associazioni di difesa dei consumatori hanno chiesto la messa al bando di questi dispositivi. Lo ha fatto quella dei Paesi Bassi, dichiarando che questi occhiali sono “un pericolo per la privacy” e che anche dopo le correzioni apportate da Meta rimane il problema che in molti casi la spia luminosa non è visibile, per esempio quando ci si trova in pieno sole o a una certa distanza [NLTimes.nl]. Alcuni locali del Paese stanno vietando l’ingresso a chi indossa questi occhiali dopo che ad agosto scorso un uomo è stato colto a riprendere le donne alla toilette; la perquisizione dell’uomo effettuata dalla polizia gli ha trovato addosso numerosi video di donne che si recavano alla toilette e video ripresi da sotto le loro gonne [NlTimes.nl].

A Brisbane, in Australia, le autorità municipali hanno vietato l’uso degli smart glasses nelle piscine pubbliche [Abc.net.au]. Iniziative analoghe sono in discussione in Germania: Thomas Fuchs, responsabile della privacy e delle normative digitali per la città di Amburgo, ha dichiarato che i test effettuati dimostrano che la spia che dovrebbe avvisare i passanti che è in corso una ripresa è decisamente troppo fioca per essere vista alla luce del giorno. L’associazione di difesa dei diritti digitali HateAid ha detto esplicitamente che “questa tecnologia sta alimentando la violenza digitale, perché chi la commette ora non ha più bisogno di conoscenze tecniche” [DW.com].

Su un altro versante, lo stato di New York ha vietato qualunque tipo di occhiali “smart” nei suoi tribunali da luglio scorso [Forbes.com], mentre a gennaio l’unità antiterrorismo della polizia di New York ha diffuso un avviso ai membri delle forze dell’ordine sul rischio che gli occhiali di Meta vengano usati per effettuare riprese nascoste all’interno degli uffici di polizia e dei locali di detenzione, come è già accaduto, comportando “rischi di sicurezza se vengono diffuse informazioni proprietarie sulla disposizione delle celle, l’ubicazione delle telecamere o le abitudini degli addetti al pattugliamento o alla sorveglianza”.

Le autorità di immigrazione statunitensi hanno dichiarato che questi occhiali sono classificati come telecamere indossabili e quindi non possono essere indossati “negli spazi lavorativi federali” [The Guardian]. In altre parole, se state pensando di andare negli Stati Uniti e avete occhiali di questo genere, ricordatevi di toglierli durante i controlli all’ingresso nel Paese.

In Norvegia, gli occhiali “smart” sono stati vietati in tutte le scuole comunali di Oslo. La vicesindaca della città con delega all’istruzione ha detto senza giri di parole quanto segue: “Noi politici dobbiamo avere il coraggio di essere sinceri su quale sia la vera questione: una delle aziende più ricche del mondo ha lanciato un prodotto la cui intera logica commerciale consiste nel rendere impossibile sapere quando si viene ripresi” [Pollar.news].

E a proposito di scuole, va ricordato che da noi le direttive del DECS sui dispositivi mobili personali [Ti.ch] già includono questo tipo di occhiali tra i dispositivi che sono vietati “sulla totalità del perimetro dell’istituto scolastico” e devono “essere sempre spenti […] e non visibili”. Quindi se qualche genitore all’ascolto ha regalato ai figli questi accessori così trendy, si ricordi che non potrà portarli a scuola. Inoltre i docenti dovranno imparare a riconoscere questi eventuali trasgressori, cosa non facile perché appunto questi dispositivi sembrano occhiali del tutto normali.

---

Sembra proprio che le rogne causate da questi occhiali e da chi ne abusa siano superiori ai benefici che, va ricordato, possono indubbiamente avere in alcune situazioni. Una persona con difficoltà visive potrebbe usarli per leggere testi o cartelli, per esempio, e un turista potrebbe usarli per tradurre un segnale stradale scritto in una lingua che non conosce. E c’è indubbiamente una certa comodità nell’avere un dispositivo che permette di fare foto e video senza la perdita di tempo di tirar fuori e sbloccare lo smartphone, cosa che magari fa perdere quel momento magico che si voleva immortalare. Ma il rischio di abusi, già avvenuti e documentati un po’ ovunque nel mondo, è probabilmente troppo alto per essere compensato da queste applicazioni positive.

Il problema sta proprio nella mancanza del gesto riconoscibile che informa che è in corso una ripresa. Nel caso dello smartphone, il fatto che qualcuno lo stia usando per fare foto o video è annunciato dal gesto molto visibile di estrarlo e puntarlo verso il soggetto che si vuole riprendere. Ma se la telecamera è negli occhiali e per attivarla basta un comando vocale o un tocco discreto su una delle stanghette, questo gesto viene a mancare e quindi chi non li indossa diventa più vulnerabile. E mentre è ormai diffusa la consapevolezza che un telefono contiene quasi sempre una telecamera, non è affatto intuitivo pensare che ci sia una telecamera in un paio di occhiali, e sembra assurdo e ingiusto che ci si debba abituare a chiedersi “mi sta registrando?” ogni volta che incrociamo qualcuno che indossa qualunque tipo di occhiale.

In questo scenario complesso e controverso è arrivato ora un nuovo dispositivo che include funzioni di registrazione nascosta: il nuovo Apple Watch, presentato ufficialmente la settimana scorsa. Questo smartwatch, abbinato a un smartphone della stessa marca, ascolta in continuazione tutto quello che il suo microfono riesce a captare. La sua funzione Live Rewind permette di vedere, trascritti sullo schermo dell’orologio, gli ultimi 15 secondi di una conversazione. La funzione Siri Recap, invece, permette di riassumere intere discussioni.

L’idea alla base di questi servizi è che permettono per esempio di annotare facilmente una ricetta o delle istruzioni stradali oppure di riassumere una riunione. Rispetto agli occhiali di Meta, l’Apple Watch non conserva le registrazioni, non le manda all’azienda per elaborarle ma le lavora direttamente sul telefono associato all’orologio [Apple; Audio Intelligence Privacy Overview, Apple]. Apple dichiara inoltre di non avere accesso all’audio captato [TechCrunch].

Ma ancora una volta resta il fatto che è ora possibile prendere nota dettagliatamente di una conversazione senza che gli interlocutori se ne accorgano, anche perché non si aspettano che un orologio possa registrare. Manca anche qui il gesto riconoscibile di attivare un registratore, che avvisa i presenti che quello che dicono verrà captato e trascritto. L’unico gesto richiesto, infatti, è un tocco sulla corona dell’orologio, che una persona non esperta non ha motivo di sospettare che sia l’equivalente di toccare un grosso tasto rosso con scritto REC.

Al momento queste due funzioni dell’Apple Watch non sono disponibili nell’Unione Europea, stando alla documentazione dell’azienda [Apple].

Anche con tutte queste salvaguardie, l’introduzione di questi nuovi servizi è un altro tassello di quella “normalizzazione dell‘ascolto costante” che si sta diffondendo [This.weekinsecurity.com; TechCrunch]. Abbiamo acquistato in massa gli altoparlanti smart Alexa di Amazon o quelli di Google, e ci siamo abituati all’idea di avere in casa un microfono che ascolta tutto quello che diciamo in cambio della comodità dei comandi vocali. Abbiamo acquistato televisori smart, e ci siamo assuefatti all’idea che anche la TV ci ascolti. Ora ci viene chiesto di accettare che gli occhiali e gli orologi di qualunque persona che incrociamo possano registrarci.

Gli studi scientifici [Pubmed] hanno dimostrato che la consapevolezza di poter essere registrati in qualunque momento ha un effetto fortemente inibitorio sul modo in cui interagiamo con gli altri ed esprimiamo le nostre idee. Sta a noi decidere se questo effetto, insieme ai prevedibilissimi abusi che sono già stati documentati, sia un prezzo adeguato da pagare per poter fare a meno di ascoltare attentamente delle istruzioni, di usare una tastiera o semplicemente di adoperare un taccuino per prendere appunti.

Questo è il testo della puntata del 10 agosto 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

---

[CLIP: audio “fus ro dah” da The Elder Scrolls V: Skyrim]

Un uomo innocente è stato condannato e incarcerato per un anno e mezzo con l’accusa terribile di pedofilia online. La sua odissea giudiziaria, lunga sei anni, è nata da un singolo carattere tipografico letto male ed è proseguita per colpa di una catena di errori incredibile ma purtroppo vera.

Questa è la storia di Brandon Klayme, un ventottenne che è finito nelle maglie della giustizia in Canada, ma gli eventi che sto per raccontarvi potrebbero accadere in qualunque parte del mondo. Per questo il suo caso ha avuto una risonanza internazionale ed è un monito che vale a ogni latitudine.

Benvenuti alla puntata del 10 agosto 2026 del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. E questa è davvero una delle storie più strane e kafkiane che mi sia mai capitato di segnalare. Io sono Paolo Attivissimo.

[SIGLA di apertura]

---

Il celebre film distopico Brazil di Terry Gilliam, uscito nel 1985, racconta la vicenda di un uomo innocente che viene arrestato e processato a causa di un errore assurdo: durante la stampa del mandato di arresto di un terrorista, un insetto si è incastrato nella stampante e le ha fatto stampare una singola lettera sbagliata, alterando il cognome del terrorista e scrivendo invece quello di una persona che non c’entra nulla. E così la burocrazia e le forze di polizia si accaniscono ciecamente e implacabilmente contro quella persona innocente fino a farla morire.

Ma Brazil è un film; in un iter giudiziario reale ci sono invece controlli incrociati, riscontri, verifiche, e si procede con grande attenzione e diligenza, visto che c’è di mezzo la sorte di una o più persone incriminate. O almeno così verrebbe da pensare. Dal Canada, però, arriva una storia che va decisamente in senso contrario.

La storia inizia in realtà altrove, nello stato americano del Wisconsin. Da agosto a dicembre del 2018, una dodicenne che vive nella capitale Madison comunica con un uomo attraverso l’app di messaggistica Kik e con lui scambia messaggi e immagini di atti sessuali. A un certo punto la madre della dodicenne scopre sul telefono della figlia una foto dell’uomo, una foto che gli atti definiscono eufemisticamente “inopportuna” [“inappropriate”], e avvisa la polizia locale.

La polizia del Wisconsin effettua una perizia tecnica sul telefono e vi trova 125 messaggi fra la ragazzina e l’adulto, confermando la natura intima e quindi illegale dei loro contenuti. L’uomo usa su Kik il nome “fus__ro_dah”, che è una citazione del videogioco The Elder Scrolls V: Skyrim. È quello strano grido che avete sentito all’inizio di questo podcast.

[CLIP: audio “fus ro dah” da The Elder Scrolls V: Skyrim]

Le tre sillabe sono separate da caratteri di sottolineatura (o underscore).

La polizia statunitense contatta Kik per farsi dare le generalità dell’utente “fus_ro_dah” e Kik fornisce in risposta l’indirizzo di mail di quell’utente. È un indirizzo Gmail, per cui le autorità chiedono a Google di fornire informazioni sul titolare di quell’indirizzo. Google risponde dando alla polizia un indirizzo IP usato per accedere a quella casella di mail: si tratta di un IP canadese, e quindi il caso passa nelle mani delle autorità di quel Paese, e specificamente della polizia regionale di Halifax, nella provincia della Nuova Scozia, che chiede al fornitore Internet locale, Bell Aliant, di rivelare l’indirizzo fisico dell’abbonato che corrisponde a quell’indirizzo IP.

La procedura è insomma quella solita, che si usa universalmente in casi come questi: il nome online della persona da identificare viene usato per risalire al suo indirizzo di mail; l’indirizzo di mail permette di risalire al suo indirizzo IP; e l’indirizzo IP consente di identificare il suo domicilio fisico e quindi di determinare il nome anagrafico della persona ricercata.

In questo caso, la persona si chiama Brandon Klayme.

A metà febbraio 2020 questo ventiduenne viene arrestato e incriminato con tre accuse pesantissime: adescamento di una persona di meno di 14 anni usando dispositivi per telecomunicazioni, invio di materiale sessualmente esplicito a un minore e possesso di immagini pedopornografiche. Il sito Crimestoppers della provincia della Nuova Scozia annuncia l’incriminazione di Klayme per pedopornografia citandone nome e cognome direttamente nel titolo del suo comunicato pubblico e usando l’etichetta Crime of the week: il reato della settimana.

La polizia canadese ottiene un mandato di perquisizione dell’abitazione di Klayme, che è a Dartmouth, a pochi chilometri da Halifax e a duemila dal Wisconsin dove sta la ragazzina. Stando agli atti è solo a febbraio 2021, oltre due anni dopo lo scambio di messaggi illegali, che le autorità sequestrano e periziano i telefonini e i laptop di Klayme.

Su questi dispositivi, però, non vengono trovate tracce legate al caso sotto indagine. Nessun messaggio scambiato fra Klayme e la dodicenne. Nessuna immagine intima. Klayme ha sì un account su Kik, aperto anni prima [il 20 gennaio 2012, stando a questo screenshot tratto dagli atti] e a suo dire in disuso da tempo, ma la polizia non riesce nemmeno a dimostrare che l’uomo l’abbia usato in qualunque modo nei mesi in questione, men che meno per scambiare immagini illegali con una dodicenne.

Nonostante tutto questo, al processo, ad aprile 2023, tre anni dopo l’arresto, Klayme viene dichiarato colpevole; la sentenza arriva otto mesi più tardi e lo condanna a un anno e mezzo di carcere e diciotto mesi di libertà vigilata, per dei reati terribili che l’uomo sa di non aver commesso.

[Klayme viene inoltre iscritto nel registro nazionale degli autori di reati sessuali per 20 anni e gli viene imposto un divieto di usare Internet e di avere contatti con bambini per cinque anni]

---

Brandon Klayme ricorre in appello, e durante le fasi preparatorie di questo ricorso il suo avvocato difensore, diverso da quello del primo processo, nota un dettaglio cruciale che fino a quel punto era sfuggito a tutti: la richiesta iniziale della polizia del Wisconsin a Kik riguardava informazioni sull’utente Kik di nome “fus_ro_dah”, scritto con un singolo carattere di sottolineatura fra le sillabe, che è il nome utente di Klayme; ma l’utente Kik trovato dalla perizia tecnica della polizia statunitense sul telefono della ragazzina, quello che ha scambiato i messaggi illegali con lei, è “fus__ro_dah” con due caratteri di sottolineatura fra la prima e la seconda sillaba [ho rispettato questa differenza anche in questo articolo: ve ne eravate accorti?].

In altre parole, la polizia del Wisconsin ha chiesto a Kik informazioni sull’utente sbagliato, Kik ha diligentemente fornito le informazioni di quell’utente, e la polizia canadese ha usato quelle informazioni per rintracciare e identificare con estrema precisione l’uomo sbagliato. E la giustizia canadese ha condannato al carcere un innocente esclusivamente sulla base di un nome utente, senza alcuna altra prova a supporto, e senza sapere che quel nome utente era stato trascritto male.

In appello, a luglio 2026, sei anni dopo l’incriminazione, la corte scagiona completamente Brandon Klayme e riconosce che se le indagini fossero state svolte correttamente avrebbero portato all’identificazione del vero colpevole, che ha un indirizzo IP californiano e che per quanto ne sappiamo è ancora a piede libero. Ma sul sito Crimestoppers il nome di Klayme è ancora additato oggi come incriminato di reati contro minori, senza alcuna rettifica o nota di aggiornamento.

È importante sottolineare, come fa la stampa locale canadese [Tim Bousquet, Halifax Examiner], che questa vicenda non è scaturita solo da un errore della polizia del Wisconsin nel trascrivere un nome che è indubbiamente facile da equivocare. La polizia canadese non ha trovato prove concrete, eppure ha deciso di incriminare Klayme; il pubblico ministero, nonostante questa assenza di prove, ha deciso di portare il caso in tribunale; l’avvocato difensore del processo iniziale non ha esaminato adeguatamente le presunte prove contro il suo cliente; e il giudice ha accettato la tesi dell’accusa senza metterla in dubbio. Inoltre nessuno ha chiesto alla vittima minorenne se l’accusato somigliasse o meno al suo molestatore.

Qui ha fallito tutta la parte umana della filiera della giustizia, ed è questo che è preoccupante, perché gli errori commessi in questa vicenda possono ripresentarsi in qualunque altro tribunale di qualunque altro paese.

Consideriamo per esempio la questione del nome utente, che alla fine risulta essere stato l’unico elemento concreto sul quale si è basata l’accusa: per chi non è un gamer accanito o non ha familiarità con il lessico e la cultura dei videogiochi, un nome utente come “fus__ro_dah” non ha alcun significato e quindi viene percepito come una sequenza di caratteri scelti a caso. Pertanto è normale pensare che sia assai improbabile che venga selezionata da altri utenti, ma invece è un riferimento culturale ben preciso e diffuso, tanto che ha una voce apposita nell’enciclopedia online dei memi Know Your Meme.

È insomma comprensibile che agli inquirenti non sia venuto in mente che due diversi utenti di Kik potessero aver scelto quella stessa specifica sequenza di caratteri, cambiando soltanto il numero di trattini, e la differenza visiva fra un trattino e due è in effetti difficile da notare, anche perché nei font comunemente usati due di questi caratteri scritti consecutivamente si fondono tra loro, senza spazio che li divida. Ma tutto il resto è molto meno perdonabile.

---

Ora il governo canadese sta valutando [CBC.ca] un possibile risarcimento per il calvario subìto da Klayme, ma nessun compenso potrà mai restituire all’uomo quei sei anni di vita trascorsi con l’etichetta infamante di molestatore di bambini, con il suo nome esposto alla gogna mediatica e con la reputazione personale distrutta. Nessun risarcimento potrà ridargli quell’anno e mezzo speso in carcere.

Il suo caso ha avuto una risonanza mondiale, per cui oggi chi cerca online il suo nome e cognome trova facilmente anche la notizia del suo completo scagionamento per non aver commesso il fatto e per essere del tutto estraneo alla vicenda. Ma cosa succederà ai prossimi Brandon Klayme, in Canada o altrove, che non avranno altrettanta eco mediatica?

Chiaramente servono procedure di verifica dei fatti tecnici più rigorose. Allo stesso tempo, episodi come questo sono un monito per i tanti che pensano che si possa migliorare la giustizia e renderla meno assurdamente lenta affidando la lettura dei documenti processuali alle intelligenze artificiali. Un errore di questo genere, basato sull’omissione di un singolo carattere in un unico documento, probabilmente verrebbe ignorato dalle IA attuali, che fanno analisi dei testi su base statistica e quindi rischierebbero di considerare uguali i due nomi utente, quello di Brandon Klayme e quello del vero autore dei reati contro minori attribuiti al canadese innocente, senza evidenziare quella piccola ma cruciale discrepanza.

Storie di malagiustizia come questa lasciano spesso un retrogusto amaro, un senso di impotenza, in chi le legge o le ascolta (e anche in chi, come me, le racconta). In effetti c’è poco che noi utenti comuni possiamo fare per ridurre il rischio di essere travolti da un errore giudiziario come questo. Tutto quello che posso consigliare è evitare di aprire account social solo per prova per poi abbandonarli, e chiudere ed eliminare gli account che non si usano più, togliendo anche la relativa app dal telefono.

Se cogliete l’occasione di questo mio racconto per fare un po’ di pulizia digitale, allora almeno qualcosa di buono da questa brutta, assurda storia di Brandon Klayme sarà venuto fuori.

Cronologia della vicenda in sintesi

• 29 agosto-14 dicembre 2018: scambio di messaggi illeciti su Kik.
• 12 febbraio 2020: Annuncio su Crimestoppers di arresto, incriminazione e sequestro di dispositivi.
• 5 febbraio 2021 (secondo atti): mandato di perquisizione e sequestro di telefoni e laptop.
• 17 aprile 2023: processo di primo grado.
• 5 gennaio 2024: condanna a 18 mesi di carcere più 18 di libertà vigilata.
• 23 luglio 2026: decisione della Corte d’Appello.

Fonti

A missing underscore sent innocent man to prison for 18 months, Ars Technica, luglio 2026

R. v. Klayme, 2026 NSCA 59 (PDF), Nova Scotia Courts’ Decision Database, luglio 2026

N.S. attorney general wants answers after innocent man serves 18 months in prison, Global News, agosto 2026

Province to investigate Brandon Klayme’s wrongful conviction, CBC.ca, agosto 2026

‘Should never have been charged’: Innocent man thrown behind bars over an underscore mark, News.com.au, agosto 2026

Here’s one reason for Brandon Klayme’s wrongful conviction. There are more (con screenshot di chat e atti), Halifax Examiner, agosto 2026

Brandon Klayme’s wrongful conviction is the second for Crown prosecutor Melanie Perry, Halifax Examiner, luglio 2026

Un underscore sbagliato manda in carcere un innocente, Zeus News, luglio 2026

Confused username: Innocent person sentenced to 18 months in prison, Heise.de, luglio 2026

How a Typo in Child-Luring Investigation Led Police to Wrong Man, Who Spent 18 Months in Prison, People.com, luglio 2026

NS attorney general looks into wrongful conviction of man who spent 18 months behind bars (la cronista pronuncia “Klay-ME”), Global News, agosto 2026

Appeal Court quashes man’s lur­ing con­vic­tions, The Chronicle Herald (Metro), luglio 2026

Seven of Skyrim’s best Fus Ro Dah videos, Videogamer.com, gennaio 2012 (copia archiviata su Archive.org)

Fus Ro Dah, KnowYourMeme.com, 2025

Questo è il testo della puntata del 13 luglio 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

---

Uno studio dell’MIT indica che le intelligenze artificiali progettate per svolgere attività paragonabili a quelle di un lavoratore umano costano più di quel lavoratore in tre casi su quattro. Secondo i sondaggi degli esperti di ricerca e consulenza aziendale, tra le aziende che hanno tagliato il personale per sostituirlo con le IA, una su tre sta riassumendo persone per quelle stesse mansioni, e lo sta facendo con stipendi più alti. Un dirigente su due dichiara di rimpiangere di aver scelto di fare quei tagli.

Il vento sta cambiando intorno alle intelligenze artificiali, proprio nel momento in cui una bozza di rapporto redatta dal Dipartimento del Tesoro statunitense mette in guardia contro i rischi legati al mercato delle IA, paragonando l’attuale frenesia di spesa dei grandi nomi del settore alla bolla speculativa delle aziende legate a Internet, il cui scoppio sconvolse l’economia del Paese nei primi anni 2000.

Questa è la storia di quello che molti analisti chiamano l’“AI boomerang”, ossia il rapido e violento contraccolpo di realismo subìto dalle aziende che hanno adottato le IA pensando di risparmiare e ora si trovano a spendere più di prima, ed è anche la storia di come evitarne o almeno contenerne gli effetti.

Benvenuti alla puntata del 13 luglio 2026 del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

---

Se chiedete in giro alle persone comuni, l’ansia principale legata all’intelligenza artificiale è la perdita del posto di lavoro. È un’ansia comprensibile, soprattutto quando si vedono certe dimostrazioni spettacolari orchestrate dalle grandi aziende del settore, che danno l’impressione che queste intelligenze artificiali siano ormai in grado di fare tutto e rimpiazzare chiunque a costi più bassi.

Ma le demo sono una cosa e la realtà è un’altra. Secondo le indagini della rivista economica Fortune, mancano tuttora prove chiare che l’IA aumenti realmente la produttività aziendale generale: ci sono contesti specifici nei quali l’IA indubbiamente funziona, ma è raro che dia risultati se viene fornita a tutti in azienda. Però spessissimo i dirigenti spingono lo stesso per introdurla pervasivamente, non perché hanno accertato che funziona nel loro settore, ma perché hanno paura di essere lasciati indietro e superati dalla concorrenza che magari riesce a farla funzionare. E i dirigenti della concorrenza fanno esattamente lo stesso ragionamento.

Il risultato è una situazione che il noto autore di fantascienza e attivista tecnologico Cory Doctorow riassume con una battuta amara: “L’intelligenza artificiale non è in grado di fare il tuo lavoro, ma un venditore di IA è in grado di convincere il tuo capo a licenziarti e rimpiazzarti con una IA che non è capace di fare il tuo lavoro” [Yahoo; Medium].

Certo, è una tentazione comprensibile. Infatti all’inizio la riduzione del personale sostituito dall’IA fa indubbiamente scendere i costi. Ci sono meno stipendi da pagare, mentre i ricavi per qualche tempo restano stabili per inerzia, e questo produce un bilancio trimestrale invidiabilmente positivo.

Ma poi i nodi arrivano al pettine: per usare l’intelligenza artificiale c’è da pagare una licenza alle aziende che la forniscono, e questi costi di licenza sono saliti mediamente fra il 20 e il 37% nell’ultimo anno [Fortune/Tropic]. In molti casi la spesa per l’IA è largamente superiore a quella per gli stipendi dei licenziati. E a volte eccede anche le previsioni più generose.

Per fare qualche nome, Uber ha esaurito ad aprile scorso l’intero budget annuale dedicato allo sviluppo di software con strumenti di intelligenza artificiale [Fortune]. Microsoft sta cancellando la maggior parte delle proprie licenze dirette di Claude Code [Fortune]. Bryan Catanzaro, vicepresidente del deep learning applicato presso Nvidia, ha dichiarato di recente che per il suo team “il costo della potenza di calcolo supera di gran lunga i costi del personale”.

Questo eccesso di spesa ha tre cause fondamentali. La prima è che nella foga di spingere i dipendenti a usare l’IA, i dirigenti l’hanno fornita a tutti, dimenticandosi di considerare che nella realtà aziendale i power user, ossia quelli che sanno usare efficacemente ed efficientemente un software, sono sempre una manciata.

È lo stesso fenomeno che si osserva da decenni per il software d’ufficio come Word, Excel e PowerPoint: la maggior parte dei dipendenti ne usa solo le funzioni di base, perché non conosce quelle avanzate o non ha motivo di usarle. Per queste persone, una licenza full optional è uno spreco di denaro. Anzi, potrebbero benissimo usare software libero e gratuito come per esempio LibreOffice. Il problema è che nel caso delle IA, i costi di licenza sono altissimi e sono a consumo, per cui più le si usa, più si spende.

La seconda causa è legata a un fenomeno che si manifesta ogni volta che viene introdotta una nuova tecnologia. All’inizio si pensa che verrà usata semplicemente per fare meglio o più efficientemente le attività correnti, ma poi ci si rende conto che la si può usare per fare cose prima impossibili o troppo onerose o semplicemente non indispensabili. Per esempio, la presentazione PowerPoint è più bella e fa più colpo sui colleghi se è abbellita con grafica e immagini generate dall’intelligenza artificiale. E così la spesa aumenta.

La terza causa è la pigrizia inevitabile. Le attività che prima si facevano a mano, mettendoci la testa, vengono delegate alla IA. Per tornare all’esempio del PowerPoint, perché fermarsi alla grafica carina quando puoi dire all’IA di creare l’intera presentazione? O una bella mail prolissa e dettagliata, oppure un intero documento stupendamente impaginato? E così, ancora una volta, la spesa aumenta.

---

A tutto questo si è aggiunta la scelta di molte grandi aziende del settore informatico di premiare chi usava di più questa IA, creando delle gare interne con tanto di classifiche dei maggiori consumatori, come è successo presso Meta e Amazon [Wired.it]. Ma in queste classifiche non si valutava come veniva usata l’IA, se generava qualcosa di utile oppure no, e quindi i dipendenti si sono messi a usarla per qualunque cosa pur di arrivare alti in classifica e dimostrare ai propri capi di essere ”produttivi”.

È stata una scelta dirigenziale incredibilmente stupida: l’equivalente di misurare la produttività di un lavoratore semplicemente in base a quanti fogli di carta consuma, senza pensare che quel lavoratore, pur di non essere visto come “improduttivo” e rischiare il licenziamento, stamperà qualunque cosa gli capiti a tiro, magari in duplice o triplice copia. O meglio ancora, prenderà le risme di carta e le alimenterà direttamente al distruggidocumenti. Questa la cosiddetta legge di Goodhart [Wikipedia]: quando una misura diventa l’obiettivo di un lavoro, cessa di essere un buon modo di misurare quel lavoro, perché gli individui imparano a manipolarla a proprio vantaggio. Il risultato di questa diffusa scelta aziendale è stato un aumento vertiginoso dei costi aziendali per l’uso dell’intelligenza artificiale.

Questo aumento è ovviamente piaciuto moltissimo alle aziende che producono le intelligenze artificiali commerciali. Ma ora che è arrivata la doccia gelata dell’impatto con la realtà, i clienti di queste aziende stanno riducendo fortemente le spese. E questo è un problema per chi vende IA e sta investendo quantità immense di denaro (si parla di 750 miliardi di dollari [Notus] solo nel corso dell’anno corrente) per costruire i datacenter colossali ed energivori necessari per creare e aggiornare questi software, sperando di cominciare prima o poi a guadagnare qualcosa. Se il mercato frena, la bolla speculativa che attualmente regge gran parte delle aziende legate alle intelligenze artificiali rischia di scoppiare.

Un monito forte in questo senso arriva da una bozza di rapporto del Dipartimento del Tesoro statunitense, che avvisa [Notus] che le aziende del settore IA sono radicate nell’economia del Paese molto più profondamente rispetto ai loro predecessori del settore dot-com e rappresentano un rischio significativo per l’intero sistema qualora le condizioni finanziarie dovessero cambiare, gli obiettivi di produttività non venissero raggiunti o vari colli di bottiglia ostacolassero la crescita. Una flessione nel mercato dell’IA provocherebbe onde d’urto in tutto l’ecosistema economico, hanno scritto gli analisti, notando che gli investitori in questo settore stanno assumendo rischi così significativi che gran parte del sistema finanziario ora dipende dal fatto che l’IA soddisfi le aspettative in termini di aumenti di produttività e redditività.

Anche altri economisti e altre istituzioni di spicco, tra cui la Banca d’Inghilterra e il direttore del Fondo Monetario Internazionale, si sono dichiarati preoccupati per la sopravvalutazione delle aziende di IA e per i rischi che questo comporta per il sistema economico in generale [Notus].

Bloomberg ha illustrato bene l’enormità e la fragilità di questa bolla economica in un recente articolo [Bloomberg; Medium] che ne mostra la cosiddetta circolarità: aziende come OpenAI, Nvidia, Microsoft, Intel, Oracle, Anthropic e Google investono centinaia di miliardi di dollari l’una nell’altra, tenendosi in piedi a vicenda. Per esempio, a fine 2025 Nvidia ha annunciato un investimento di circa 100 miliardi di dollari in OpenAI per finanziare dei nuovi datacenter. Allo stesso tempo, OpenAI si è impegnata a comprare milioni di processori Nvidia per quei datacenter. In sintesi, Nvidia dà a OpenaAI i soldi per comperare i prodotti di Nvidia. Cosa mai potrebbe andare storto?

---

È importante chiarire che qui non è sotto accusa l’intelligenza artificiale, ma il modello economico speculativo che la sostiene attualmente. Esistono IA specializzate che consumano pochissima energia, sono efficaci nei loro compiti molto selettivi, rispettano la riservatezza dei dati e la sovranità digitale e non creano dipendenze da aziende Big Tech che possono fare il bello e il cattivo tempo; ne ho parlato in altre puntate di questo podcast. Non sono quelle che vengono promosse fragorosamente dai colossi del settore.

Grazie a queste avvisaglie e a queste esperienze fatte da altri, ci si può organizzare meglio portando a casa alcune lezioni fondamentali.

Per esempio, è chiaro che l’IA attuale è uno strumento adatto solo per alcuni compiti aziendali di basso livello. Un chatbot può gestire l’assistenza clienti nei casi più semplici, ma non ha la capacità di capire le sfumature delle situazioni più complesse: per quelle ci vuole ancora un essere umano, e la clientela esige di poter parlare con una persona in carne e ossa che la capisca.

Per esempio, uno studio del MIT del 2024 [Beyond AI Exposure: Which Tasks are Cost-Effective to Automate with Computer Vision?] ha analizzato i requisiti tecnici dei modelli di IA necessari per svolgere mansioni a livello umano, scoprendo che l’automazione tramite intelligenza artificiale è economicamente sostenibile solo nel 23% dei ruoli in cui la visione è una parte fondamentale del lavoro. Nel restante 77% dei casi, è più economico che gli esseri umani continuino a svolgere il proprio lavoro.

Questo concetto è stato dimostrato molto vistosamente da Klarna, un gigante svedese del settore fintech, che nel 2024 fece scalpore annunciando che avrebbe rimpiazzato 700 addetti all’assistenza clienti con una singola IA che, a detta del CEO, lavorava bene tanto quanto un essere umano. Sembrava il segnale della maturità delle IA e dell’inizio della sostituzione dei lavoratori, ma ai primi del 2026 l’azienda ha fatto discretamente dietrofront [DigitalApplied], di fronte al crollo della soddisfazione della clientela, perché l’IA era incapace di gestire i casi marginali o insoliti o che richiedevano soluzioni articolate in varie fasi successive.

Funziona invece molto bene, stando ai dati, il cosiddetto modello ibrido: una IA che gestisce i casi semplici e passa a un umano esperto quelli più complessi, che richiedono sensibilità nei rapporti interpersonali o conoscenza approfondita del mondo reale o delle procedure aziendali.

Un’altra lezione utile è che l’IA non va data a tutti indiscriminatamente e non va assolutamente imposta. Conviene affidarla a un gruppo ristretto di utenti esperti, che sappiano usarla in modo approfondito ed efficiente, giustificando il costo del suo utilizzo.

Un’ulteriore lezione è trovare un criterio realistico di misura dei risultati di quell’utilizzo: qualcosa di tangibile, non un semplice conteggio dei token di IA utilizzati.

Se le aziende rivalutano l’IA non come un chiaro sostituto del lavoro umano, finalizzato al risparmio sui costi, ma come uno strumento complementare, allora quell’ansia di perdere il lavoro può essere messa da parte. E magari sostituita da una riqualificazione e, perché no, da un sommesso e soddisfatto “ve l’avevamo detto.”

Fonti

Klarna Reverses AI Layoffs: Why Replacing 700 Failed, DigitalApplied (2026)

Thousands of CEOs admit AI had no impact on employment or productivity—and it has economists resurrecting a paradox from 40 years ago, Fortune (2026)

A Guide to the Circular Deals Underpinning the AI Boom, Bloomberg (2026)

Treasury Has an Internal Report Warning About the Dangers of an AI Bubble, Notus.org (2026)

KPMG Allegedly Published AI Report Filled With Hallucinations, Pcmag.com (2026)

KPMG pulls report on AI usage due to apparent hallucinations, TechCrunch (2026)

KPMG report contained AI hallucinations on benefits of . . . AI, Swissinfo (2026)

KPMG report contained AI hallucinations on benefits of . . . AI, Fortune (2026)

E se gli agenti AI costassero più del personale umano?, Wired.it (2026)

‘The cost of compute is far beyond the costs of the employee’: Nvidia executive says right now AI is more expensive than paying human workers, Fortune (2026)

The Great AI Boomerang: Google, Meta, Klarna & More Are Quietly Rehiring the Workers They Fired, Emeraldbook.org (2026)

Questo è il testo della puntata dell’8 giugno 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

---

Da alcuni anni circola un aneddoto secondo il quale un gruppo di soldati, durante un’esercitazione, avrebbe sconfitto un’intelligenza artificiale militare ricorrendo a metodi non convenzionali ma sorprendentemente semplici.

Secondo questo racconto, un robot dotato dei più sofisticati sistemi di riconoscimento basati su intelligenza artificiale sarebbe stato collocato in uno spiazzo completamente privo di ostacoli o nascondigli. I soldati avevano il compito di avvicinarsi a quel robot, fino a toccarlo, senza essere visti e riconosciuti dalla sua IA.

Una sfida in apparenza impossibile, eppure i soldati sarebbero riusciti a beffare quest’intelligenza artificiale usando trucchi come per esempio avvicinarsi facendo capriole, mettersi addosso qualche ramo di un albero, o avanzare coperti da una banale scatola di cartone.

Questa storia, ripetuta in mille versioni, è diventata quasi un mito nel settore dell’intelligenza artificiale, ma non è leggenda: ha una fonte ben precisa e offre lezioni importanti non solo per le applicazioni militari ma anche per quelle civili, dalla guida autonoma ai sistemi antifurto. Ve la ricostruisco e ve la racconto in questa puntata, datata 8 giugno 2026, del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

---

In campo tecnologico ci sono tanti aneddoti che gli addetti ai lavori e gli appassionati si scambiano, di solito per trasmettere una morale di fondo o un concetto importante. Spesso il tema ricorrente è la rivincita dell’essere umano e della sua creatività sulla forza bruta della macchina o sulla visione miope dei tecnici. Un esempio tipico è la diceria secondo la quale la NASA avrebbe speso milioni di dollari per sviluppare una biro capace di scrivere in assenza di peso, mentre i cosmonauti russi avrebbero semplicemente usato delle comuni matite: in realtà sia i russi sia gli statunitensi adoperarono matite all’interno dei rispettivi programmi spaziali [Wikipedia]. Fu un imprenditore privato a sviluppare di tasca propria una biro speciale per lo spazio, contenente un serbatoio pressurizzato per l’inchiostro, e questa biro fu poi acquistata a un prezzo normalissimo e usata sia dalla NASA sia dall’ente spaziale russo.

La storia dei soldati che beffano la costosa e complessa intelligenza artificiale ricorrendo a stratagemmi come avanzare facendo solo capriole o nascondendosi dentro una scatola sembra a prima vista una di queste narrazioni fantastiche e moraleggianti. Ma non è così: questa vicenda ha un’origine molto specifica e documentata.

L’origine è un libro pubblicato a marzo del 2023, che si intitola Four Battlegrounds (“quattro campi di battaglia”) ed è stato scritto da Paul Scharre, un esperto di intelligenza artificiale ed ex funzionario del Dipartimento della Difesa degli Stati Uniti [Paulscharre.com; Congress.gov]. La celebre rivista Time ha citato Sharre fra le 100 persone più influenti nell’intelligenza artificiale proprio nell’anno in cui è uscito il libro in questione [Time.com], che esamina lucidamente e criticamente le applicazioni attuali e future dell’intelligenza artificiale in campo militare.

In questo libro, l’autore racconta di aver incontrato Phil Root, vicedirettore dell’Ufficio di Scienze della Difesa della DARPA, che è un’agenzia governativa del Dipartimento della difesa degli Stati Uniti che ha il compito di sviluppare nuove tecnologie per uso militare. La DARPA è una delle organizzazioni di punta del settore tecnologico bellico, spesso con ricadute civili: robot quadrupedi, guida autonoma, protesi attive comandabili con il pensiero, aerei invisibili ai radar, e Internet stessa provengono dalle sue ricerche avanzate.

È questo Phil Root, che è un militare, che descrive all’autore del libro la vicenda reale dalla quale nasce l’aneddoto. La DARPA aveva creato un programma, denominato Squad X, di cui Root era direttore. L’obiettivo di questo programma era creare tecnologie che consentissero a piccole unità militari di dominare gli spazi di combattimento locali. A questo scopo la DARPA aveva sviluppato un software di riconoscimento degli oggetti basato su un’intelligenza artificiale per identificare le persone in ambienti complessi, come quelli urbani.

Come spiega Root, riconoscere una persona è un problema molto difficile per le intelligenze artificiali, perché gli esseri umani sono estremamente variabili. Un carro armato ha sempre l’aspetto di un carro armato, anche quando è in movimento. Una persona, invece, cambia completamente aspetto quando cammina rispetto a quando sta ferma in piedi. Una persona che imbraccia un’arma ha un altro aspetto ancora diverso. E così gli esperti della DARPA trascorsero un’intera settimana ad affinare il loro software di riconoscimento insieme a un gruppo di marines in un sito dedicato alle sperimentazioni e alle esercitazioni.

Per sei giorni, i marines camminarono nei paraggi di un robot dotato di sensori e gestito dal software di IA di questi esperti, e il robot diventò bravissimo nel rilevarli e riconoscerli. A quel punto Phil Root decise che il software era sufficientemente maturo per affrontare una sfida: chiese ai marines di tentare di battere l’intelligenza artificiale.

Il robot fu collocato al centro di una rotatoria stradale nel sito sperimentale e Root diede ai soldati l’incarico di avvicinarglisi da grande distanza. Se fossero riusciti a farlo fino a toccarlo senza essere riconosciuti, avrebbero vinto i marines, altrimenti avrebbe vinto l’intelligenza artificiale.

---

Phil Root non era affatto certo che il test sarebbe stato vinto dalla IA: voleva semplicemente vedere cosa sarebbe successo. Degli otto marines che si cimentarono nella sfida, nemmeno uno fu rilevato dal software.

I soldati riuscirono in quest’impresa lasciando perdere i sistemi di mimetizzazione tradizionali e ricorrendo a trucchi che erano al di fuori delle capacità di quell’intelligenza artificiale. Phil Root racconta che “due di loro avanzarono facendo capriole per trecento metri e non furono rilevati. Due si nascosero sotto una scatola di cartone. Li sentivi ridacchiare per tutto il tempo”.

Se siete gamer e in particolare conoscete Metal Gear Solid, il trucco di nascondersi dentro una scatola di cartone vi farà sorridere parecchio, perché è un espediente ricorrente all’interno di questo gioco nelle situazioni più assurde e improbabili, e funziona.

[CLIP da Metal Gear Solid]

Il racconto di Phil Root della sconfitta dell’IA da parte dei marines prosegue inesorabile. Root spiega che il suo soldato preferito è stato quello che ha preso dei pezzi di un abete e si è messo a “camminare come un abete”. L’esperto militare dice proprio così, anche se non è chiaro come cammini di preciso un abete, e precisa che di quel marine si vedeva soltanto il sorriso mentre avanzava verso il suo obiettivo.

Queste tecniche, che non avrebbero tratto in inganno nemmeno il più sprovveduto degli esseri umani, hanno gabbato in pieno l’intelligenza artificiale per una ragione molto semplice ma spesso dimenticata: quella IA era stata addestrata a riconoscere immagini di esseri umani che camminano, non di persone che fanno le capriole, si nascondono dentro una scatola o si travestono da alberi.

Non aveva acquisito il concetto generale di “essere umano”, ma solo la capacità di valutare se le immagini che riceveva in diretta corrispondevano almeno approssimativamente a quelle usate per addestrarla. Non aveva acquisito una conoscenza del mondo reale che le permettesse di sapere che le scatole di cartone e gli alberi non si possono muovere da soli.

Questa non è intelligenza nel senso umano del termine: è riconoscimento automatizzato e probabilistico di immagini, senza la minima comprensione del contesto. In gergo tecnico, le IA hanno un world model, un modello del mondo, estremamente tenue e fragile. Eppure hanno un atteggiamento sicuro di sé, e lo hanno perché non sanno di non sapere quello che non sanno.

---

L’aneddoto dei soldati che beffano l’intelligenza artificiale con trucchetti elementari è insomma basato su una vicenda reale ed è tuttora valido, anche se sono passati alcuni anni. Da allora la IA ha compiuto progressi notevoli, ma resta ancora priva di un vero world model, cioè di una comprensione effettiva della realtà che le permetta di fare previsioni e gestire situazioni anomale in maniera simile a quella umana.

L’autore del libro che ha reso popolare questo aneddoto, Paul Scharre, spiega che “il problema non è che i sistemi di IA non funzionano: il problema è che funzionano, e spesso funzionano bene, ma quando escono dai confini dei propri criteri di progettazione possono fallire improvvisamente e inaspettatamente”. Cosa peggiore, dice Scharre, persino gli ingegneri che sviluppano queste IA rischiano di non saper prevedere quali siano questi confini.

Questo rischio viene esacerbato da un altro fattore, non tecnico ma psicologico: la tendenza di noi esseri umani a presupporre che una IA che si dimostra competente nello svolgere un dato compito lo sia anche in altri compiti affini. Per dirla con il professore di robotica all’MIT Rodney Brooks, citato nel libro di Scharre, “crediamo che prestazioni equivalgano a competenza”.

Tendiamo inoltre ad attribuire alle IA un tipo di intelligenza simile al nostro. Scrive Scharre che “Non ci aspettiamo che una persona capace di guidare in tutta sicurezza nel traffico sterzi di colpo verso una barriera di cemento”. Invece le IA, aggiunge, “possono passare in un istante dall’essere superintelligenti all’essere superstupide”. È vero che i sistemi di guida assistita o autonoma delle automobili guidano spesso meglio di un conducente normale nei contesti comuni, ma questi stessi sistemi possono fallire in maniera disastrosa se si imbattono in un contesto che per loro è anomalo ma è invece assolutamente normale per il conducente, che quindi non si aspetta un malfunzionamento e si fida, diventando così incapace di reagire in tempo all’errore, come tragicamente dimostrato da numerosi incidenti automobilistici anche mortali.

In questa situazione sembra impossibile, per noi comuni cittadini, capire se le intelligenze artificiali che usiamo siano realmente affidabili, specialmente quando controllano cose importanti come un drone o un caccia o un’automobile. Ma in realtà c’è una tecnica semplice per capire come stanno davvero le cose: guardare se la casa produttrice si assume la responsabilità in caso di malfunzionamento o incidente. Non lo fa praticamente nessuno.* Nonostante il baccano pubblicitario intorno ai sistemi di guida automatizzata, ancora oggi sostanzialmente tutte le case automobilistiche scaricano ogni responsabilità sul conducente.** Vuol dire che sanno che questi sistemi non sono ancora sufficientemente affidabili per operare da soli.

* BYD lo fa, ma solo parzialmente: si assume tutti gli oneri economici di un eventuale malfunzionamento o incidente causato dal proprio sistema di guida, incluso il malus assicurativo, ma non quelli giuridici. Inoltre lo fa solo per il primo anno di possesso dell’auto, solo nella guida urbana e solo in Cina. Il suo sistema di guida assistita è in ogni caso un Livello 2 (il conducente è tenuto a vigilare) (Electrek, giugno 2026; BYD).

** Fanno eccezione i taxi a guida autonoma (con teleguida umana di supporto) di Waymo e Tesla, che non sono veicoli acquistabili da privati e possono circolare senza conducente solo grazie a una licenza particolare. Formalmente la responsabilità legale derivante da eventuali malfunzionamenti ricade sulle aziende in questione, ma ci sono ancora zone grigie giuridiche perché un veicolo a guida autonoma non viene considerato come un veicolo gestito da un conducente (che di solito viene considerato responsabile) ma viene visto come un prodotto e quindi ricade in una classificazione legale differente [Vaziri Law; Chris Cain Law; “When Waymo's technology causes an accident, the company should be held responsible for your injuries. This includes medical costs, lost wages, pain and suffering, and property damage. But getting them to pay requires proving their system made a mistake. This is something that takes technical knowledge and legal experience”, InlandEmpireLawyers; HeplerBroom; MH Education].

Ed è per questo che io possiedo un’auto dotata di un assistente di guida basato sull’intelligenza artificiale, ma lo tengo rigorosamente spento.

Fonti

Four Battlegrounds: Power in the Age of Artificial Intelligence, Paul Scharre, W W Norton & Co Inc (2023), ISBN-13 ‏ 978-0393866865

Book Review: Four Battlegrounds: Power in the Age of Artificial Intelligence, Strategic Studies Institute, US Army War College

Marines outwitted an AI security camera by hiding in a cardboard box and pretending to be trees, Taskandpurpose.com, 2023