Podcast RSI – IA militare sconfitta con una scatola di cartone: storia leggendaria con conseguenze universali

Questo è il testo della puntata dell’8 giugno 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

Da alcuni anni circola un aneddoto secondo il quale un gruppo di soldati, durante un’esercitazione, avrebbe sconfitto un’intelligenza artificiale militare ricorrendo a metodi non convenzionali ma sorprendentemente semplici.

Secondo questo racconto, un robot dotato dei più sofisticati sistemi di riconoscimento basati su intelligenza artificiale sarebbe stato collocato in uno spiazzo completamente privo di ostacoli o nascondigli. I soldati avevano il compito di avvicinarsi a quel robot, fino a toccarlo, senza essere visti e riconosciuti dalla sua IA.

Una sfida in apparenza impossibile, eppure i soldati sarebbero riusciti a beffare quest’intelligenza artificiale usando trucchi come per esempio avvicinarsi facendo capriole, mettersi addosso qualche ramo di un albero, o avanzare coperti da una banale scatola di cartone.

Questa storia, ripetuta in mille versioni, è diventata quasi un mito nel settore dell’intelligenza artificiale, ma non è leggenda: ha una fonte ben precisa e offre lezioni importanti non solo per le applicazioni militari ma anche per quelle civili, dalla guida autonoma ai sistemi antifurto. Ve la ricostruisco e ve la racconto in questa puntata, datata 8 giugno 2026, del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

In campo tecnologico ci sono tanti aneddoti che gli addetti ai lavori e gli appassionati si scambiano, di solito per trasmettere una morale di fondo o un concetto importante. Spesso il tema ricorrente è la rivincita dell’essere umano e della sua creatività sulla forza bruta della macchina o sulla visione miope dei tecnici. Un esempio tipico è la diceria secondo la quale la NASA avrebbe speso milioni di dollari per sviluppare una biro capace di scrivere in assenza di peso, mentre i cosmonauti russi avrebbero semplicemente usato delle comuni matite: in realtà sia i russi sia gli statunitensi adoperarono matite all’interno dei rispettivi programmi spaziali [Wikipedia]. Fu un imprenditore privato a sviluppare di tasca propria una biro speciale per lo spazio, contenente un serbatoio pressurizzato per l’inchiostro, e questa biro fu poi acquistata a un prezzo normalissimo e usata sia dalla NASA sia dall’ente spaziale russo.

La storia dei soldati che beffano la costosa e complessa intelligenza artificiale ricorrendo a stratagemmi come avanzare facendo solo capriole o nascondendosi dentro una scatola sembra a prima vista una di queste narrazioni fantastiche e moraleggianti. Ma non è così: questa vicenda ha un’origine molto specifica e documentata.

L’origine è un libro pubblicato a marzo del 2023, che si intitola Four Battlegrounds (“quattro campi di battaglia”) ed è stato scritto da Paul Scharre, un esperto di intelligenza artificiale ed ex funzionario del Dipartimento della Difesa degli Stati Uniti [Paulscharre.com; Congress.gov]. La celebre rivista Time ha citato Sharre fra le 100 persone più influenti nell’intelligenza artificiale proprio nell’anno in cui è uscito il libro in questione [Time.com], che esamina lucidamente e criticamente le applicazioni attuali e future dell’intelligenza artificiale in campo militare.

In questo libro, l’autore racconta di aver incontrato Phil Root, vicedirettore dell’Ufficio di Scienze della Difesa della DARPA, che è un’agenzia governativa del Dipartimento della difesa degli Stati Uniti che ha il compito di sviluppare nuove tecnologie per uso militare. La DARPA è una delle organizzazioni di punta del settore tecnologico bellico, spesso con ricadute civili: robot quadrupedi, guida autonoma, protesi attive comandabili con il pensiero, aerei invisibili ai radar, e Internet stessa provengono dalle sue ricerche avanzate.

È questo Phil Root, che è un militare, che descrive all’autore del libro la vicenda reale dalla quale nasce l’aneddoto. La DARPA aveva creato un programma, denominato Squad X, di cui Root era direttore. L’obiettivo di questo programma era creare tecnologie che consentissero a piccole unità militari di dominare gli spazi di combattimento locali. A questo scopo la DARPA aveva sviluppato un software di riconoscimento degli oggetti basato su un’intelligenza artificiale per identificare le persone in ambienti complessi, come quelli urbani.

Come spiega Root, riconoscere una persona è un problema molto difficile per le intelligenze artificiali, perché gli esseri umani sono estremamente variabili. Un carro armato ha sempre l’aspetto di un carro armato, anche quando è in movimento. Una persona, invece, cambia completamente aspetto quando cammina rispetto a quando sta ferma in piedi. Una persona che imbraccia un’arma ha un altro aspetto ancora diverso. E così gli esperti della DARPA trascorsero un’intera settimana ad affinare il loro software di riconoscimento insieme a un gruppo di marines in un sito dedicato alle sperimentazioni e alle esercitazioni.

Per sei giorni, i marines camminarono nei paraggi di un robot dotato di sensori e gestito dal software di IA di questi esperti, e il robot diventò bravissimo nel rilevarli e riconoscerli. A quel punto Phil Root decise che il software era sufficientemente maturo per affrontare una sfida: chiese ai marines di tentare di battere l’intelligenza artificiale.

Il robot fu collocato al centro di una rotatoria stradale nel sito sperimentale e Root diede ai soldati l’incarico di avvicinarglisi da grande distanza. Se fossero riusciti a farlo fino a toccarlo senza essere riconosciuti, avrebbero vinto i marines, altrimenti avrebbe vinto l’intelligenza artificiale.

Phil Root non era affatto certo che il test sarebbe stato vinto dalla IA: voleva semplicemente vedere cosa sarebbe successo. Degli otto marines che si cimentarono nella sfida, nemmeno uno fu rilevato dal software.

I soldati riuscirono in quest’impresa lasciando perdere i sistemi di mimetizzazione tradizionali e ricorrendo a trucchi che erano al di fuori delle capacità di quell’intelligenza artificiale. Phil Root racconta che “due di loro avanzarono facendo capriole per trecento metri e non furono rilevati. Due si nascosero sotto una scatola di cartone. Li sentivi ridacchiare per tutto il tempo”.

Se siete gamer e in particolare conoscete Metal Gear Solid, il trucco di nascondersi dentro una scatola di cartone vi farà sorridere parecchio, perché è un espediente ricorrente all’interno di questo gioco nelle situazioni più assurde e improbabili, e funziona.

[CLIP da Metal Gear Solid]

Il racconto di Phil Root della sconfitta dell’IA da parte dei marines prosegue inesorabile. Root spiega che il suo soldato preferito è stato quello che ha preso dei pezzi di un abete e si è messo a “camminare come un abete”. L’esperto militare dice proprio così, anche se non è chiaro come cammini di preciso un abete, e precisa che di quel marine si vedeva soltanto il sorriso mentre avanzava verso il suo obiettivo.

Queste tecniche, che non avrebbero tratto in inganno nemmeno il più sprovveduto degli esseri umani, hanno gabbato in pieno l’intelligenza artificiale per una ragione molto semplice ma spesso dimenticata: quella IA era stata addestrata a riconoscere immagini di esseri umani che camminano, non di persone che fanno le capriole, si nascondono dentro una scatola o si travestono da alberi.

Non aveva acquisito il concetto generale di “essere umano”, ma solo la capacità di valutare se le immagini che riceveva in diretta corrispondevano almeno approssimativamente a quelle usate per addestrarla. Non aveva acquisito una conoscenza del mondo reale che le permettesse di sapere che le scatole di cartone e gli alberi non si possono muovere da soli.

Questa non è intelligenza nel senso umano del termine: è riconoscimento automatizzato e probabilistico di immagini, senza la minima comprensione del contesto. In gergo tecnico, le IA hanno un world model, un modello del mondo, estremamente tenue e fragile. Eppure hanno un atteggiamento sicuro di sé, e lo hanno perché non sanno di non sapere quello che non sanno.

L’aneddoto dei soldati che beffano l’intelligenza artificiale con trucchetti elementari è insomma basato su una vicenda reale ed è tuttora valido, anche se sono passati alcuni anni. Da allora la IA ha compiuto progressi notevoli, ma resta ancora priva di un vero world model, cioè di una comprensione effettiva della realtà che le permetta di fare previsioni e gestire situazioni anomale in maniera simile a quella umana.

L’autore del libro che ha reso popolare questo aneddoto, Paul Scharre, spiega che “il problema non è che i sistemi di IA non funzionano: il problema è che funzionano, e spesso funzionano bene, ma quando escono dai confini dei propri criteri di progettazione possono fallire improvvisamente e inaspettatamente”. Cosa peggiore, dice Scharre, persino gli ingegneri che sviluppano queste IA rischiano di non saper prevedere quali siano questi confini.

Questo rischio viene esacerbato da un altro fattore, non tecnico ma psicologico: la tendenza di noi esseri umani a presupporre che una IA che si dimostra competente nello svolgere un dato compito lo sia anche in altri compiti affini. Per dirla con il professore di robotica all’MIT Rodney Brooks, citato nel libro di Scharre, “crediamo che prestazioni equivalgano a competenza”.

Tendiamo inoltre ad attribuire alle IA un tipo di intelligenza simile al nostro. Scrive Scharre che “Non ci aspettiamo che una persona capace di guidare in tutta sicurezza nel traffico sterzi di colpo verso una barriera di cemento”. Invece le IA, aggiunge, “possono passare in un istante dall’essere superintelligenti all’essere superstupide”. È vero che i sistemi di guida assistita o autonoma delle automobili guidano spesso meglio di un conducente normale nei contesti comuni, ma questi stessi sistemi possono fallire in maniera disastrosa se si imbattono in un contesto che per loro è anomalo ma è invece assolutamente normale per il conducente, che quindi non si aspetta un malfunzionamento e si fida, diventando così incapace di reagire in tempo all’errore, come tragicamente dimostrato da numerosi incidenti automobilistici anche mortali.

In questa situazione sembra impossibile, per noi comuni cittadini, capire se le intelligenze artificiali che usiamo siano realmente affidabili, specialmente quando controllano cose importanti come un drone o un caccia o un’automobile. Ma in realtà c’è una tecnica semplice per capire come stanno davvero le cose: guardare se la casa produttrice si assume la responsabilità in caso di malfunzionamento o incidente. Non lo fa praticamente nessuno.* Nonostante il baccano pubblicitario intorno ai sistemi di guida automatizzata, ancora oggi sostanzialmente tutte le case automobilistiche scaricano ogni responsabilità sul conducente. Vuol dire che sanno che questi sistemi non sono ancora sufficientemente affidabili per operare da soli.

* BYD lo fa, ma solo parzialmente: si assume tutti gli oneri economici di un eventuale malfunzionamento o incidente causato dal proprio sistema di guida, incluso il malus assicurativo, ma non quelli giuridici. Inoltre lo fa solo per il primo anno di possesso dell’auto, solo nella guida urbana e solo in Cina. Il suo sistema di guida assistita è in ogni caso un Livello 2 (il conducente è tenuto a vigilare) (Electrek, giugno 2026; BYD).

Ed è per questo che io possiedo un’auto dotata di un assistente di guida basato sull’intelligenza artificiale, ma lo tengo rigorosamente spento.

Fonti

Four Battlegrounds: Power in the Age of Artificial Intelligence, Paul Scharre, W W Norton & Co Inc (2023), ISBN-13 ‏ 978-0393866865

Book Review: Four Battlegrounds: Power in the Age of Artificial Intelligence, Strategic Studies Institute, US Army War College

Marines outwitted an AI security camera by hiding in a cardboard box and pretending to be trees, Taskandpurpose.com, 2023