Questo è il testo della puntata dell’8 giugno 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.
Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.
Da alcuni anni circola un aneddoto secondo il quale un gruppo di soldati, durante un’esercitazione, avrebbe sconfitto un’intelligenza artificiale militare ricorrendo a metodi non convenzionali ma sorprendentemente semplici.
Secondo questo racconto, un robot dotato dei più sofisticati sistemi di riconoscimento basati su intelligenza artificiale sarebbe stato collocato in uno spiazzo completamente privo di ostacoli o nascondigli. I soldati avevano il compito di avvicinarsi a quel robot, fino a toccarlo, senza essere visti e riconosciuti dalla sua IA.
Una sfida in apparenza impossibile, eppure i soldati sarebbero riusciti a beffare quest’intelligenza artificiale usando trucchi come per esempio avvicinarsi facendo capriole, mettersi addosso qualche ramo di un albero, o avanzare coperti da una banale scatola di cartone.
Questa storia, ripetuta in mille versioni, è diventata quasi un mito nel settore dell’intelligenza artificiale, ma non è leggenda: ha una fonte ben precisa e offre lezioni importanti non solo per le applicazioni militari ma anche per quelle civili, dalla guida autonoma ai sistemi antifurto. Ve la ricostruisco e ve la racconto in questa puntata, datata 8 giugno 2026, del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.
[SIGLA di apertura]
In campo tecnologico ci sono tanti aneddoti che gli addetti ai lavori e gli appassionati si scambiano, di solito per trasmettere una morale di fondo o un concetto importante. Spesso il tema ricorrente è la rivincita dell’essere umano e della sua creatività sulla forza bruta della macchina o sulla visione miope dei tecnici. Un esempio tipico è la diceria secondo la quale la NASA avrebbe speso milioni di dollari per sviluppare una biro capace di scrivere in assenza di peso, mentre i cosmonauti russi avrebbero semplicemente usato delle comuni matite: in realtà sia i russi sia gli statunitensi adoperarono matite all’interno dei rispettivi programmi spaziali [Wikipedia]. Fu un imprenditore privato a sviluppare di tasca propria una biro speciale per lo spazio, contenente un serbatoio pressurizzato per l’inchiostro, e questa biro fu poi acquistata a un prezzo normalissimo e usata sia dalla NASA sia dall’ente spaziale russo.
La storia dei soldati che beffano la costosa e complessa intelligenza artificiale ricorrendo a stratagemmi come avanzare facendo solo capriole o nascondendosi dentro una scatola sembra a prima vista una di queste narrazioni fantastiche e moraleggianti. Ma non è così: questa vicenda ha un’origine molto specifica e documentata.
L’origine è un libro pubblicato a marzo del 2023, che si intitola Four Battlegrounds (“quattro campi di battaglia”) ed è stato scritto da Paul Scharre, un esperto di intelligenza artificiale ed ex funzionario del Dipartimento della Difesa degli Stati Uniti [Paulscharre.com; Congress.gov]. La celebre rivista Time ha citato Sharre fra le 100 persone più influenti nell’intelligenza artificiale proprio nell’anno in cui è uscito il libro in questione [Time.com], che esamina lucidamente e criticamente le applicazioni attuali e future dell’intelligenza artificiale in campo militare.
In questo libro, l’autore racconta di aver incontrato Phil Root, vicedirettore dell’Ufficio di Scienze della Difesa della DARPA, che è un’agenzia governativa del Dipartimento della difesa degli Stati Uniti che ha il compito di sviluppare nuove tecnologie per uso militare. La DARPA è una delle organizzazioni di punta del settore tecnologico bellico, spesso con ricadute civili: robot quadrupedi, guida autonoma, protesi attive comandabili con il pensiero, aerei invisibili ai radar, e Internet stessa provengono dalle sue ricerche avanzate.
È questo Phil Root, che è un militare, che descrive all’autore del libro la vicenda reale dalla quale nasce l’aneddoto. La DARPA aveva creato un programma, denominato Squad X, di cui Root era direttore. L’obiettivo di questo programma era creare tecnologie che consentissero a piccole unità militari di dominare gli spazi di combattimento locali. A questo scopo la DARPA aveva sviluppato un software di riconoscimento degli oggetti basato su un’intelligenza artificiale per identificare le persone in ambienti complessi, come quelli urbani.
Come spiega Root, riconoscere una persona è un problema molto difficile per le intelligenze artificiali, perché gli esseri umani sono estremamente variabili. Un carro armato ha sempre l’aspetto di un carro armato, anche quando è in movimento. Una persona, invece, cambia completamente aspetto quando cammina rispetto a quando sta ferma in piedi. Una persona che imbraccia un’arma ha un altro aspetto ancora diverso. E così gli esperti della DARPA trascorsero un’intera settimana ad affinare il loro software di riconoscimento insieme a un gruppo di marines in un sito dedicato alle sperimentazioni e alle esercitazioni.
Per sei giorni, i marines camminarono nei paraggi di un robot dotato di sensori e gestito dal software di IA di questi esperti, e il robot diventò bravissimo nel rilevarli e riconoscerli. A quel punto Phil Root decise che il software era sufficientemente maturo per affrontare una sfida: chiese ai marines di tentare di battere l’intelligenza artificiale.
Il robot fu collocato al centro di una rotatoria stradale nel sito sperimentale e Root diede ai soldati l’incarico di avvicinarglisi da grande distanza. Se fossero riusciti a farlo fino a toccarlo senza essere riconosciuti, avrebbero vinto i marines, altrimenti avrebbe vinto l’intelligenza artificiale.
Phil Root non era affatto certo che il test sarebbe stato vinto dalla IA: voleva semplicemente vedere cosa sarebbe successo. Degli otto marines che si cimentarono nella sfida, nemmeno uno fu rilevato dal software.
I soldati riuscirono in quest’impresa lasciando perdere i sistemi di mimetizzazione tradizionali e ricorrendo a trucchi che erano al di fuori delle capacità di quell’intelligenza artificiale. Phil Root racconta che “due di loro avanzarono facendo capriole per trecento metri e non furono rilevati. Due si nascosero sotto una scatola di cartone. Li sentivi ridacchiare per tutto il tempo”.
Se siete gamer e in particolare conoscete Metal Gear Solid, il trucco di nascondersi dentro una scatola di cartone vi farà sorridere parecchio, perché è un espediente ricorrente all’interno di questo gioco nelle situazioni più assurde e improbabili, e funziona.
[CLIP da Metal Gear Solid]
Il racconto di Phil Root della sconfitta dell’IA da parte dei marines prosegue inesorabile. Root spiega che il suo soldato preferito è stato quello che ha preso dei pezzi di un abete e si è messo a “camminare come un abete”. L’esperto militare dice proprio così, anche se non è chiaro come cammini di preciso un abete, e precisa che di quel marine si vedeva soltanto il sorriso mentre avanzava verso il suo obiettivo.
Queste tecniche, che non avrebbero tratto in inganno nemmeno il più sprovveduto degli esseri umani, hanno gabbato in pieno l’intelligenza artificiale per una ragione molto semplice ma spesso dimenticata: quella IA era stata addestrata a riconoscere immagini di esseri umani che camminano, non di persone che fanno le capriole, si nascondono dentro una scatola o si travestono da alberi.
Non aveva acquisito il concetto generale di “essere umano”, ma solo la capacità di valutare se le immagini che riceveva in diretta corrispondevano almeno approssimativamente a quelle usate per addestrarla. Non aveva acquisito una conoscenza del mondo reale che le permettesse di sapere che le scatole di cartone e gli alberi non si possono muovere da soli.
Questa non è intelligenza nel senso umano del termine: è riconoscimento automatizzato e probabilistico di immagini, senza la minima comprensione del contesto. In gergo tecnico, le IA hanno un world model, un modello del mondo, estremamente tenue e fragile. Eppure hanno un atteggiamento sicuro di sé, e lo hanno perché non sanno di non sapere quello che non sanno.
L’aneddoto dei soldati che beffano l’intelligenza artificiale con trucchetti elementari è insomma basato su una vicenda reale ed è tuttora valido, anche se sono passati alcuni anni. Da allora la IA ha compiuto progressi notevoli, ma resta ancora priva di un vero world model, cioè di una comprensione effettiva della realtà che le permetta di fare previsioni e gestire situazioni anomale in maniera simile a quella umana.
L’autore del libro che ha reso popolare questo aneddoto, Paul Scharre, spiega che “il problema non è che i sistemi di IA non funzionano: il problema è che funzionano, e spesso funzionano bene, ma quando escono dai confini dei propri criteri di progettazione possono fallire improvvisamente e inaspettatamente”. Cosa peggiore, dice Scharre, persino gli ingegneri che sviluppano queste IA rischiano di non saper prevedere quali siano questi confini.
Questo rischio viene esacerbato da un altro fattore, non tecnico ma psicologico: la tendenza di noi esseri umani a presupporre che una IA che si dimostra competente nello svolgere un dato compito lo sia anche in altri compiti affini. Per dirla con il professore di robotica all’MIT Rodney Brooks, citato nel libro di Scharre, “crediamo che prestazioni equivalgano a competenza”.
Tendiamo inoltre ad attribuire alle IA un tipo di intelligenza simile al nostro. Scrive Scharre che “Non ci aspettiamo che una persona capace di guidare in tutta sicurezza nel traffico sterzi di colpo verso una barriera di cemento”. Invece le IA, aggiunge, “possono passare in un istante dall’essere superintelligenti all’essere superstupide”. È vero che i sistemi di guida assistita o autonoma delle automobili guidano spesso meglio di un conducente normale nei contesti comuni, ma questi stessi sistemi possono fallire in maniera disastrosa se si imbattono in un contesto che per loro è anomalo ma è invece assolutamente normale per il conducente, che quindi non si aspetta un malfunzionamento e si fida, diventando così incapace di reagire in tempo all’errore, come tragicamente dimostrato da numerosi incidenti automobilistici anche mortali.
In questa situazione sembra impossibile, per noi comuni cittadini, capire se le intelligenze artificiali che usiamo siano realmente affidabili, specialmente quando controllano cose importanti come un drone o un caccia o un’automobile. Ma in realtà c’è una tecnica semplice per capire come stanno davvero le cose: guardare se la casa produttrice si assume la responsabilità in caso di malfunzionamento o incidente. Non lo fa praticamente nessuno.* Nonostante il baccano pubblicitario intorno ai sistemi di guida automatizzata, ancora oggi sostanzialmente tutte le case automobilistiche scaricano ogni responsabilità sul conducente.** Vuol dire che sanno che questi sistemi non sono ancora sufficientemente affidabili per operare da soli.
* BYD lo fa, ma solo parzialmente: si assume tutti gli oneri economici di un eventuale malfunzionamento o incidente causato dal proprio sistema di guida, incluso il malus assicurativo, ma non quelli giuridici. Inoltre lo fa solo per il primo anno di possesso dell’auto, solo nella guida urbana e solo in Cina. Il suo sistema di guida assistita è in ogni caso un Livello 2 (il conducente è tenuto a vigilare) (Electrek, giugno 2026; BYD).
** Fanno eccezione i taxi a guida autonoma (con teleguida umana di supporto) di Waymo e Tesla, che non sono veicoli acquistabili da privati e possono circolare senza conducente solo grazie a una licenza particolare. Formalmente la responsabilità legale derivante da eventuali malfunzionamenti ricade sulle aziende in questione, ma ci sono ancora zone grigie giuridiche perché un veicolo a guida autonoma non viene considerato come un veicolo gestito da un conducente (che di solito viene considerato responsabile) ma viene visto come un prodotto e quindi ricade in una classificazione legale differente [Vaziri Law; Chris Cain Law; “When Waymo's technology causes an accident, the company should be held responsible for your injuries. This includes medical costs, lost wages, pain and suffering, and property damage. But getting them to pay requires proving their system made a mistake. This is something that takes technical knowledge and legal experience”, InlandEmpireLawyers; HeplerBroom; MH Education].
Ed è per questo che io possiedo un’auto dotata di un assistente di guida basato sull’intelligenza artificiale, ma lo tengo rigorosamente spento.
Fonti
Four Battlegrounds: Power in the Age of Artificial Intelligence, Paul Scharre, W W Norton & Co Inc (2023), ISBN-13 978-0393866865
Book Review: Four Battlegrounds: Power in the Age of Artificial Intelligence, Strategic Studies Institute, US Army War College
Marines outwitted an AI security camera by hiding in a cardboard box and pretending to be trees, Taskandpurpose.com, 2023
Ancora per poco, sembrerebbe:
https://youtu.be/s9hts2KM1UM
Qualcosa comunque si sta muovendo: https://www.byd.com/us/news-list/BYD-Becomes-World’s-First-Automaker-to-Pledge-Full-Damage-Coverage-for-Both-Intelligent-Parking-and-Urban-NOA
Ho aggiunto adesso una nota, grazie.
alcune osservazioni:
1) il link a “dimostrato”, almeno a me, dà pagina inesistente
2) il link a “incidenti” porta ad un singolo caso, non ad una statistica
3) il link a “mortali” anche
4) “Nonostante il baccano pubblicitario intorno ai sistemi di guida automatizzata, ancora oggi sostanzialmente tutte le case automobilistiche scaricano ogni responsabilità sul conducente. Vuol dire che sanno che questi sistemi non sono ancora sufficientemente affidabili per operare da soli.” – In realtà BYD, il più grande produttore di EV cinese, lo fa: https://electrek.co/2026/06/01/byd-gods-eye-accepts-liability-tesla-never-has/, e senza “cap”. E’ una notizia molto recente che mi aveva stupito. Il grave problema di Tesla è il suo rimanere ancorata, nonostante tutte le evidenze dicano il contrario, ad un sistema di riconoscimento ottico che ha esattamente gli stessi limiti di quello umano (tra l’altro: viaggiando spesso in autostrada in Italia ho notato la presenza di quei lunghi pali con led tricolori in cima: la sai la storia? Sono parte del progetto EU Smart Road… interessante).
Ma al di là di questo, in generale, ho un’opinione più dubbiosa della tua su tutta la questione dell’AI. Ed ho l’impressione che da una parte e dall’altra si tenda un pochino al cherry-picking quando si parla di queste cose, ma la realtà è molto più complessa e molto più in rapida evoluzione.
Sul fatto in particolare che queste AI non abbiano un “world model”, ho l’impressione che l’errore sia la tendenza, tipicamente umana, a considerare la sua esistenza una sorta di “on-off”, o “1-0”. Il problema potrebbe essere più complesso, cioè che l’emergenza di un world model sia progressiva. L’errore è lo stesso di quello degli zoologi che, fino a qualche tempo fa, consideravano l’essere umano una sorta di unicum nel panorama degli animali, mentre oggi molto ritengono che questa concezione sia antiscientifica e che l’autocoscienza, ovvero la capacità di rendere la
Anche la storia del fallimento delle tecnologie militari di riconoscimento sono solo una faccia della questione. L’altra, che andrebbe evidenziata alla pari, è il fatto che i devdroid usati dagli ucraini sul campo stanno cambiando parecchio la situazione. Vedi per es. https://www.ilpost.it/2026/06/03/ucraina-robot-soldati/. E mentre i marines USA nella scatola sghignazzano, altri, quelli russi, vengono falcidiati da un sistema che ha un’elevata probabilità di successo.
Con questo non metto in discussione i MOLTI, ENORMI rischi di tutto questo, che sono a mio modesto parere, però, altri. Dico semplicemente che dal punto di vista tecnico si rischia di rimanere ancorati ad una percezione delle AI datata quando le cose sono invece in perenne, velocissimo mutamento, ed è molto difficile percepire esattamente cosa stia avvenendo in materia, data la complessità, per definizione, dell’argomento. E l’opinione del singolo esperto, come in tutte le cose complesse, non basta a superare questo gap di comprensione.
La tua quindi mi sembra quindi un po’ una “crociata” contro l’AI, che però rischia, come tutte le crociate, di renderti incapace di vedere con chiarezza tutte le facce della medaglia e di percepire dove stiamo andando.
Scusa la franchezza, spero che tu non te la prenda. Sono mie personali opinioni.
1. Ho corretto il link, grazie.
2 e 3. Sì, è giusto così. Sono singoli casi citati da Scharre stesso nel libro.
Leggendo in dettaglio l’articolo che citi su BYD emergono molte limitazioni all’assunzione di responsabilità. Ho comunque aggiunto una nota all’articolo che cita la notizia e ne chiarisce la reale portata.
“ho notato la presenza di quei lunghi pali con led tricolori in cima: la sai la storia? Sono parte del progetto EU Smart Road”. Li ho notati anch’io e sono incuriosito, racconta, racconta!
World model: “ho l’impressione che l’errore sia la tendenza, tipicamente umana, a considerare la sua esistenza una sorta di “on-off”, o “1-0”.” Ho scritto nell’articolo che hanno un WM “tenue e fragile”. Non ho detto che non ce l’hanno o che sia un 1/0.
DevDroid: Ho letto l’articolo che citi. Senza nulla togliere ai progressi dell’IA dai tempi dell’aneddoto che cito (collocabile forse intorno al 2019), per definizione un sistema di IA come quello ucraino non può sapere quanti falsi negativi ha. Se un soldato russo non viene visto, l’IA non sa di non averlo visto. Questo falsa la percezione dell’efficienza di questi sistemi. Indubbiamente il sistema funziona quanto basta per tenere in scacco i russi con perdite umane altissime, ma non sappiamo se i russi hanno metodi (usati raramente per non “bruciarli”) per eludere il riconoscimento da parte delle IA ucraine.
“l’opinione del singolo esperto, come in tutte le cose complesse, non basta a superare questo gap di comprensione.” Purtroppo non è il singolo esperto a essere così negativo e cauto. Praticamente tutti sono così. Gli unici che sono ottimisti sono i venditori (Altman e soci).
Ovviamente non me la prendo!
Noi, come azienda, siamo bombardati da proposte per l’adozione dell’IA.
Un commerciale è arrivato all’assurdo di dire che non sarebbe stato più necessario leggersi i lunghissimi documenti legati alle gare d’appalto ma che avrebbe fatto tutto la loro IA (che, poi, non so nemmeno se è “la loro”).
Il mio capo ha chiesto se si sarebbero assunti anche la responsabilità di un eventuale errore dell’IA che avrebbe portato all’esclusione del consorzio da una eventuale gara.
Risposta del venditore:” lo strumento è orientato alla massima accuratezza e progettato per facilitare la verifica umana…” e altri bla bla bla.
Devo aggiungere altro?
“per definizione un sistema di IA come quello ucraino non può sapere quanti falsi negativi ha. Se un soldato russo non viene visto, l’IA non sa di non averlo visto. ”
Bè, non consideri che la prima cosa che farebbe un soldato in questi casi è di disabilitare il robot tirandogli una bomba a mano o cose del genere. Io non so se sia successo che qualche soldato russo sia passato indisturbato, ma non sono nemmeno certo del contrario. Tu invece si, e questo non mi sembra in linea con le informazioni che abbiamo a disposizione.
Sul resto, alcune delle cose che dici aggiustano il tiro: Sono d’accordo che la “coresponsabilità” di BYD sia molto parziale e che va precisato, almeno per adesso, ma è un cambiamento netto di rotta rispetto all’atteggiamento di Tesla, per esempio.
Per quanto riguarda i punti 2 e 3, il problema è la parola “numerosi” che tu anteponi a incidenti. Per correttezza, si potrebbe parlare di numerosi se si ha una statistica, non se si cita un singolo caso. Conoscendoti se in un commento fosse stata fatta la stessa cosa lo avresti fatto notare… o no? Il problema reale è se i sistemi di autopilota sono più o meno sicuri della semplice guida manuale, e in che condizioni. Il discorso non è affatto banale e chiarito una volta per tutte, ma per come lo descrivi sembra che sia più sicuro escluderli che usarli nel modo corretto, che non è corretto.
No, non ne sono certo: sto solo suggerendo cautela nell’accettare le dichiarazioni di efficacia di entrambi i belligeranti. Sono totalmente a favore dell’Ucraina, ma questo non mi impedisce di considerare che è nel suo interesse magnificare i successi e nascondere i fallimenti, sia per propaganda, sia per morale, sia per affari (vendita di queste tecnologie a paesi terzi), quindi i dati che presenta sono probabilmente censurati o indorati.
Dall’immobilità del fronte possiamo dedurre che il sistema ucraino funziona quanto basta per tenere in scacco il nemico ma non sappiamo se è davvero infallibile o quale sia il suo tasso di fallimenti.
D’accordissimo sul cambiamento di rotta rispetto a Tesla, ma il gesto di BYD per ora è talmente limitato che sembra più che altro una mossa di marketing (“il sistema fallirà ogni tanto, ma è un costo sostenibile in cambio di un’immagine migliore sul mercato”), un po’ come la storia della Ford Pinto negli anni 70 https://www.tortmuseum.org/ford-pinto/
“Numerosi”: quando ci sono di mezzo dei morti, anche un numero piccolo è importante. Il Concorde fu messo a terra per anni e poi tolto dal servizio per via di UN solo incidente fatale di cui non aveva nemmeno colpa.
Soprattutto è importante anche un numero “piccolo” quando l’errore fatale è dovuto a negligenza o a banali difetti di progettazione.
Qui l’emozione gioca un ruolo cruciale: tu saliresti su un’auto autonoma che ha un tasso di errore bassissimo ma che in maniera totalmente imprevedibile potrebbe uscire di strada o schiantarsi frontalmente contro uno spartitraffico? Saliresti su un ascensore che in maniera random può decidere di precipitare? Razionalmente contano le probabilità, ma l’idea di essere in balia di una roulette russa è difficile da accettare emotivamente.
Per questo chiedersi se l’autopilota sia più o meno sicuro di una guida manuale è secondo me fuorviante e anche un numero di incidenti “piccolo” è significativo: perché si tratta di incidenti assurdi, che un conducente umano eviterebbe e dimostrano l’immaturità del sistema. Un software di guida che centra un visibilissimo camion dei pompieri fermo sul bordo della strada non è affatto maturo o accettabile sotto nessun punto di vista.
Riguardo i robot ucraini vorrei far riflettere su alcune punti:
1) non viene specificato se nell’articolo se riconosce gli uomini o, più in generale, i movimenti (molto più semplice), essendo poi pilotato da persone vere è tutta un’altra questione rispetto al robot dell’articolo di questo blog PS: dice che “riconosce i movimenti dei soldati russi” lo so, ma secondo me è da prendere abbastanza in senso largo
2) nel caso del robot di questo articolo, i soldati potevano provare pure ridacchiando a non farsi scoprire in quanto, immagino, il robot non fosse pronto a sparargli 😉 Ma se davanti hai un’arma mortale io ci penserei due volte prima di avvicinarmi dentro una scatola o con degli rami di pino in mano. Non c’è quindi un solo uso come minaccia ma sono anche un ottimo deterrente
Questo mio commento non mira a difendere l’IA, al contrario, il robot ucraino come l’altro articolo sulla difesa dai droni fatti con droni prodotti anche con la stampante 3d (https://www.ilpost.it/2026/06/04/droni-sting-ucraina/) mostrano come l’uomo, di fronte a nuove sfide, sia in grado di inventarsi sempre risposte estramamente creative che risolvono anche problemi di costi ed altri di ingegnerizzazione. IA si ma come aiuto, non come sostituto. Poi vedremo i prossimi anni cosa accadrà.
E specifico anche che per quanto ammiri il lavoro degli ingegneri ucraini preferirei che l’uomo utilizzasse queste risorse per altro 🙁
Smart road: a che punto siamo?In Italia da ormai diversi anni si parla di Smart Road, termine con il quale si indicano le cosiddette strade intelligenti, dotate di una tecnologia in grado di aumentare la sicurezza, diminuire il traffico e migliorare gli interventi di programmazione e gestione. Ma a che punto siamo rispetto agli obiettivi posti?
Autori: Lorenzo Merendi 9 Aprile 2024
Smart road: a che punto siamo? – Strade & Autostrade Online
ma anche
Si è cercato Smart road – Strade & Autostrade Online
anche se c’è poco, mi sembra
Grazie!
ma MENO MALE che ci sono quelli (pochi, ma spero che aumenteranno) come Paolo che non cadono nella trappola dell’hype e dell’assoluto tecno-ottimismo.
Se poi ti sembra che quella di Paolo sia una “crociata”, forse non hai mai ascoltato altri podcaster, come Walter Vannini, che criticava il pompaggio dell’intelligenza artificiale molti anni prima di ChatGPT, e come puoi facilmente immaginare adesso lancia strali contro gli AI-bro una puntata sì e l’altra pure 😉
Non sono assolutamente d’accordo con quello che dici.
Mi spiego: sono d’accordo sul fatto che ci sia spesso troppo hype sulle AI (ma neanche tanto, i critici, coloro che sottolineano rischi e mostrano ANCHE l’impatto tremendamente negativo dell’AI sulla società, già in atto o potenziale, sono tanti). Ma non è che siccome si esagera da una parte si debba esagerare dall’altra. Non è un atteggiamento scientifico e razionale, o “scettico” se vogliamo. E’ questo che critico.
Non ho mai sostenuto che si debba “esagerare” nel senso opposto, anzi il mio commento voleva mostrare che Paolo non è così “esagerato” come altri, ma forse sono caduto nel relativismo.
Invece, su
“sono d’accordo sul fatto che ci sia spesso troppo hype sulle AI (ma neanche tanto, i critici, coloro che sottolineano rischi e mostrano ANCHE l’impatto tremendamente negativo dell’AI sulla società, già in atto o potenziale, sono tanti”
mi domando se sono vittima del bias cognitivo per cui chi sostiene A si convince che B sia il “mainstream” e viceversa. E’ un fenomeno che ho osservato molte volte negli altri – ad es quand’ero gggiovane e avevo amici politicamente impegnati, ma con idee diametralmente opposte – ma che è ovviamente difficile da ammettere in me stesso 😅.
Mi domando se abbia un nome. Ho trovato il “False consensus effect” ma è l’esatto contrario di quello che cerco io, il “False consensus effect” infatti è quando sono convinto che la maggior parte delle persone la pensi come me🤷♂️ .
(Non sapendo come chiamare il bias opposto, lo chiamerò sindrome di E.M.F., e chi deve capire capisce 😉 )
Diciamo che l’IA, se sai come funziona e come va usata, è una grande innovazione e un grande aiuto.
Il problema è che c’è gente che usa l’IA come consigliere, life coach. C’è chi si fa consigliare integratori, quando vendere l’auto (tutte cose dette a me da innamorati dell’IA) e tante altre “amenità”.
Non ne conoscono i limiti. Ad esempio non sanno che l’affidabilità dell’IA crolla quando tocchi argomenti su cui è stata poco addestrata perchè sono di nicchia (quindi c’è poco materiale) o sono troppo complessi.
E proprio qui c’è stato un esempio che considero emblematico, quando tutte le IA consultate, all’unisono, hanno detto sciocchezze galattiche e si sono inventate una matematica tutta loro nella quale i punti geometrici all’interno di un ipervolume avevano una densità.
Sono state messe in relazione parole che provenivano da articoli che contenevano parti di geometria insieme a elementi di fisica matematica. Molti articoli di fisica teorica sono fatti così: prima hanno le basi matematiche e, poi, descrivono le teorie fisiche. Un IA, almeno per ora, non riesce a cogliere la differenza e commette degli errori colossali.
Chissà quanti campi della conoscenza umana sono così.e troppa gente questo non lo sa.
Per me un’IA, per come è oggi, dovrebbe avere un addestramento specifico che ricopre un campo o campi di studio correlati da terminologie coerenti in modo da non “disorientare” gli algoritmi. Penso che si limiterebbero i danni.
Comunque so perfettamente che quello che penso, ammesso che sia giusto, non verrà mai messo in pratica
Concordo… in parte. Anche quando “sai come funziona e come va usata” resta una macchina probabilistica e per definizione imprevedibile. Anche con i modelli più “blasonati” mi capita ancora che lo stesso identico prompt (nelle stesse identiche condizioni, quindi ad es ripulendo ogni volta il contesto) produca una volta la risposta corretta e un’altra volta un pastrocchio colossale. Certo, posso sempre ritentare, ma 1) solo se mi rendo conto del pastrocchio, visto che sono macchine molto brave a generare risposte plausibili, e 2) solo finché è il mio datore di lavoro a pagare il conto.
Mai dire mai. Ricorda che gli LLM, proprio per quel “Large” nel nome, hanno costi (sia di training che “di esercizio”) esorbitanti, e i nodi stanno finalmente venendo al pettine…
Ma se conosci il campo e l’argomento ti accorgi dell’erroe.
Il problema si ha se non sei un medico, segui le diagnosi dell’IA e ti rovini la salute; se non sei un programmatore, ti fai scrivere un programma dall’IA, non hai idea di come sia scritto e fatto, non ne conosci la logica, lo esponi in rete e “bucano” in millisecondi la tua rete.
Molti pensano che IA sia sinonimo di “Infallibilità Assoluta”.
Ci sono miei colleghi disperati perché i loro superiori analizzano il loro lavoro con l’IA. Devono rifare e correggere decine di volte lavori che sono corretti ma che l’IA vuole “migliorare”
a volte quando la uso mi sembra di avere una equipe di assistenti impreparati (e un po’ paraculi) ma volenterosi. Eccetto che gli assistenti ci metterebbero 3 giorni a fare quello che certe AI fanno in 3 secondi…
Qualsiasi paragone comunque regge fino ad un certo punto. In realtà queste AI, soprattutto i modelli nuovi e più evoluti, sono un fenomeno nuovo. Qualsiasi paragone regge solo in parte.
“3 secondi” … se dietro c’è hardware potente. E se la azzeccano alla prima e non devi ripromptare e ri-promptare 😉
Il paragone non regge anche per altri motivi. Gli assistenti in quei 3 giorni imparano facendo, un LLM impara solo durante la fase di training, se lo vuoi più aggiornato devi aspettare che venga rilasciata una nuova versione del modello.
“Eh, ma Van, non hai tenuto conto del RAG!” … sì certo come no… una volta ho suggerito ai miei figli di chiedere (ognuno sul proprio cellulare) a ChatGPT chi fosse il presidente USA. Era tipo luglio 2025, poco prima del rilascio di GPT5, quindi il modello sottostante era GPT4.x, con knowledge cutoff a metà 2024.
In uno dei due casi ha correttamente detto che il potus era Agente Arancio (ha usato il RAG), nell’altro caso ha detto che era Sleepy Joe (non ha usato il RAG).
E non farmi cominciare con i vari casi di “RAG poisoning”, culminanti con il presentare dati falsi come veri anche quando gli si dice che sono falsi : la natura statistica degli LLM fa prevalere le affermazioni sulle negazioni (come sa chiunque abbia ribadito nei prompt o nei vari “qualcosa punto md” di “NON fare una certa cosa” e poi ogni tanto la fa lo stesso) e il training del modello ha comunque un peso maggiore rispetto a quanto può recuperare col RAG.
“Eh, ma Van, tu non usi Claude Code che si automodifica il claude punto md e pure il soul punto md, mi conosce, mi legge nel pensiero!!!“, eh sì non sono uno dei Prescelti Aziendali che beneficiano del ricco abbonamento extra, mi devo accontentare di Copilot… coi token contati, ovviamente…
ci sono ormai tonnellate di esempi di esperti che sono riusciti ad ottenere per esempio dimostrazioni matematiche di teoremi di cui non si conosceva la soluzione guidando Claude, o altre AI, nella maniera corretta. https://www.dongascience.com/en/news/78721 è solo un esempio di pochi giorni fa. Ripromptando e ripromtando…
Accettiamo i fatti.
Probabilmente perchè se chiedi alla IA come è possibile migliorare il lavoro X, la IA ti darà una risposta coerente con la richiesta, cercando, con alterne fortune, di migliorarlo.
Una Intelligenza Umana valuterebbe se il lavoro è di qualità accettabile e ti direbbe che va bene.
Ti è rimasto un pezzo dentro la tastiera, verso metà testo, alla frase: “che l’autocoscienza, ovvero la capacità di rendere la “
Hai ragione, volevo dire che la discussione sullo sviluppo di autocoscienza nelle AI è molto aperta. Ora non ho tempo per andare a cercare tutte le fonti che avevo trovato e che, purtroppo, ho dimenticato di aggiungere nel mio primo commento, ma la cosa è altamente controversa e argomento di vari articoli pubblicati. Non essendo un esperto non mi perito di dire chi di loro ha ragione e chi ha torto. Mi pare che la maggioranza degli esperti dica che non ci siano per adesso segni di sviluppo di un’autocoscienza nelle AI, ma che altresì non ci sono evidenze che questa non possa svilupparsi in futuro.
Ecco, io quello che critico di questo articolo non è la critica all’hype, ci mancherebbe! ma il fatto che mostra la metà delle cose, dimenticando l’altra metà. Preferirei un atteggiamento in cui si fa meno “cherry-picking” e si dice “A mostra che C è sbagliato, ma B mostra che in realtà ci sono evidenze che potrebbe essere giusto”.
Il caso degli incidenti “numerosi” è esemplificativo: se, e sottolineo se, gli incidenti calano drammaticamente quando alla guida c’è un autopilot (autonomamente come nelle Waymo, o sotto la supervisione di un umano), tenerlo spento resta una strategia errata. Punto. Semmai si può obiettare che le statistiche siano valide, visto che umani e Waymo operano in condizioni drammaticamente diverse. Ma fare la guerra agli autopilot sulla base di “istinti” resta una strategia errata, esattamente come la paura di volare basata sulla sensazione che “l’essere umano non è fatto per volare, altrimenti avrebbe le ali”. Anche in quel caso a volte l’aereo si comporta in maniera imprevedibile per i piloti (vedi il recente caso di certi modelli di Boeing) ma questo non implica che l’aereo non resti uno dei mezzi di trasporto più sicuri (e la gente muoia più spesso nel percorso in auto da casa all’aeroporto che in volo..).
In conclusione, ripeto, io sono perfettamente cosciente dei rischi e dell’hype legati all’AI. E credo che ci vorranno anni prima di comprendere la sua reale portata e i rischi connessi. Ma fare la guerra alle nuove tecnologie basandosi soltanto sui rischi e “dimenticando” tutto il resto non mi pare corretto. L’autopilot ha dei problemi? Benissimo, chiediamo a gran voce che vengano corretti, ma non dimentichiamoci che un mondo in cui le auto si guidano da sole sarebbe infinitamente più sicuro di uno in cui il coatto col BMW ti sfanala ogni 3 km stando a mezzo metro dal tuo paraurti perché lui deve viaggiare a 180 – cosa che sperimento da qualche tempo molto spesso facendo spesso Bologna-Roma con la mia piccola Kia Picanto. Io non so come siete abituati voi, ma da quando sono tornato in Italia, dopo tanti anni in paesi “civili”, sono totalmente SCIOCCATO dalla totale noncuranza delle regole della circolazione e della convivenza civile sulle strade.
Per questo invito Paolo ad avere un atteggiamento più distaccato e razionale, più scientifico, con questi argomenti. Atteggiamento che da un po’ di tempo mi pare sia in calo, almeno quando si tratta di certi argomenti controversi.
E’ la “Fisher space pen“, commercializzata anche in italia.
Massimo
Esatto; non volevo fare pubblicità nel testo del podcast.
Più che la penna, il problema è la matita. Luca Perri raccontando la medesima storia fu categorico: la grafite è pericolosa nel ristretto ambiente di una capsula spaziale e quindi nello spazio si usarono normali biro, non matite. Ti risulta?
Confermo.
Da possessore di Tesla, nemmeno io con l’HW che ho (e il tuo è persino peggiore) mi affiderei con leggerezza alla guida autonoma.
Ma già con una Model 3HL o Model Y Juniper (gli attuali Robotaxi in servizio), le cose cambiano parecchio: perchè i Robotaxi in servizio sono IDENTICI a qualche milionata di Tesla in circolazione e lì la responsabilità giuridica è 100% Tesla, quindi non è esattamente come scrivi, già oggi c’è chi lo fa con auto che non sono sperimentali o con HW costosissimi (flotte di Taxi Waymo, Uber etc.) ma normali auto commerciali vendute a meno del prezzo di una segmento C.
Poi sono certo che l’FSD (o come diavolo Tesla vorrà chiamarlo) non verrà omologato a livello 4 e aspetteranno probabilmente l’HW 5 per farlo, cioè 3/4 anni, e sarà a pagamento, piuttosto costoso, proprio perchè includerà, necessariamente, l’assicurazione RCA.
Per il resto direi che si può riassumere tutto con la tua, non è adulazione, meravigliosa frase: “hanno un atteggiamento sicuro di sé, e lo hanno perché non sanno di non sapere quello che non sanno.”, cosa che le rende molto umane (Dunning-Kruger).
Grazie! Aggiungo una nota a proposito dei robotaxi.
Se possibile, una informazione: il libro di Scharre (Four Battlegrounds) è disponibile anche in italiano (o sarà disponibile a breve, per quel che si può sapere)? Grazie
Non che io sappia, per entrambe le cose.
Credo che il “fallimento” dipenda da molti fattori, gli stessi che si applicano poi alla guida autonoma: come e con cosa è stata addestrata l’AI e le possibili varianti. Per assurdo se l’AI impara che un essere umano 2 gambe e due braccia, se mi mostro con due braccia finte non mi riconosce come umano.
Provo a mettermi nei panni dell’AI dell’esperimento. I soldati che si avvicinano con le capriole li avrei riconosciuti. Perchè? Perchè so cos’è una capriola, so che un essere umano può farlo e che “forma” assume nel farla. Lo stesso con la scatola di cartone. Le scatole di cartone non si muovono da sole, quindi c’è dentro qualcuno. Ma per l’IA una scatola di cartone non era un essere umano.
È indubbio che AI e relativi computer abbiano una velocità di calcolo superiore alla nostra, ma, per il momento, il cervello umano ha 3 vantaggi: ha raccolto molti più dati ed è in continuo aggiornamento del proprio “database”, può fare associazioni anche in astratto bypassando processi logici immediati (il pensiero alterale, la fantasia), possiamo pensare e ragionare da soli senza necessità di input iniziale.
Come l’altra volta innumerevoli soldati rassomigliano al bosco di Birnam che avanza verso Dunsinane
Scusatemi la leggerezza del mio intervento, ma questo pezzo di Paolo mi ha riportato alla mente una storia disneyana italiana, disegnata da De Vita jr se non ricordo male, a tema fantascientifico, dove, chissà per quali motivi, Topolino e Pippo si ritrovano su un pianeta alieno i cui abitanti sono crucciati da una guerra contro un altro pianeta, che dura da tempo inenarrabile senza né vinti né vincitori. Il motivo? Nei combattimenti, che si svolgono nello spazio, sono impiegate solo “astronavi-robot” (niente impiego di esseri viventi da ambo le parti, giusto a evitare la presenza di morti in combattimento), ovviamente precisissime, a non poter sbagliare un colpo, che rispondono alle strategie di battaglia dettate dai computer dell’alto comando, anch’essi programmati talmente bene da controbattere a ogni mossa, possibile, reale o immaginabile, del nemico. Il risultato è, per l’appunto, uno stallo infinito, perché qualsiasi azione che si vuole intentare è già ampiamento nota, e quindi anticipata, dalla controparte. E come si risolve la situazione? Semplicemente mettendo Pippo al posto dei computer, il quale inizia a muovere le astronavi seguendo la sua logica particolare, sbaragliando gli avversari.
E, a proposito dei soldati che si avvicinano facendo le capriole per 300 metri, a nessuno è venuta in mente la seguente barzelletta:
Cosa fanno le cerbiatte per non farsi notare? Le capriole… per l’appunto!
Bellissima! è “Topolino e l’elemento casuale“, classe 1996: https://inducks.org/story.php?c=I+TL+2140-1
Urca! Sono passati 30 anni dalla pubblicazione! E ho pure cannato il disegnatore 🙂
eh sì certe cose fanno l’effetto “feel old”, una fissa di zio Randall: https://www.explainxkcd.com/wiki/index.php/Category:Comics_to_make_one_feel_old
Vorrei raccontarvi una storia per far capire la catastrofe dell’IA: un mio collega preferisce crearsi un database interattivo di pezzi di ricambio in un unico file .html scritto dall’IA piuttosto che usare Access o quant’altro… della serie auto-sabotaggio… possibile che l’IA ti aiuti a creare una cosa del genere senza dirti che stai sbagliando tutto?
possibile, anzi visto l’argomento direi probabile: anche se i venditori sostengono di aver cercato di mitigare il fenomeno (ogni parola sottolineata è da prendere con grosse pinze), tendono ad assecondare l’utente per dimostrarsi “amichevoli” e “utili”. La cosa è in parte intenzionale, o almeno così sostiene il diavoletto in me (ne veniamo da vent’anni di “engagement ad ogni costo” nei social), in parte è possibile che sia involontario a causa dell’ apprendimento rinforzato tramite feedback umano (l’uso di appositi schiavetti umani non dissimili da quelli dell’articolo di Paolo sul riconoscimento di immagini)
Questo conferma quello che penso: se non è il tuo campo non chiedere nulla all’IA.
Io pure ho notato che le IA tendono ad assecondare le richieste.
Prova a far fare all’IA una cosa che sai che è non è del tutto vera (è importante che sia valida in un certo ambito e a certe condizioni come il DB in un file HTML). Vedrai che l’IA la eseguirà.
Poi obietta dicendo che, ad esempio, un elenco in un file .html non può essere un database perché si può “rompere facilmente” e, come d’incanto, l’IA ti risponderà “HAI RAGIONE!”
Ora pensa a chi si fa consignliare dall’IA qualcosa, la si segue perché sembra giustissima e ragionevole e, dopo che “scoppia la bomba”, l’IA ti risponda “HAI RAGIONE! Questo passaggio è sbagliato perché, come hai scritto, la tua non è una srl ma un consorzio!”
Nel frattempo la GdF è partita con le verifiche fiscali e i verbali…
Sì, è uno dei test che ho fatto e, per fortuna, ho solo simulato perché sapevo bene che l’operazione suggerita era illegale nel mio ambito anche se non lo era in generale.
Si tratta di uno dei punti deboli più subdoli ma molti, pare, lo ignorino
Io quando per diletto dibatto con la IA di solito a metà discussione, quando l’ho convinta, inizio a sostenere la tesi opposta.
Non avevo ancora ascoltato il podcast, ma proprio qualche giorno fa, in risposta all’ennesimo che paragonava l’essere umano all’IA, citavo Socrate e il suo “so di non sapere”. Le IA non sanno di non sapere, e non sanno neanche di sapere.
Ciò non toglie che anche così possano essere molto utili, ma sono stanco di sentire che “in fondo anche noi esseri umani ragioniamo così”…
Da allenatori su Pokémon Go ad addestratori (involontari) di droni: come i dati di Niantic sono finiti nella filiera della guerra
Le scansioni dei luoghi reali fatte dai giocatori hanno addestrato i modelli di Niantic Spatial, oggi partner di Vantor, intelligence geospaziale americana che ha un contratto da 217 milioni di dollari con l’esercito Usa. La stessa società collabora anche con l’israeliana Windward sul monitoraggio marittimo
https://lespresso.it/c/innovazione/2026/6/12/pokemon-go-niantic-droni-guerra-intelligenza-artificiale-vantor-windward/62752
Adesso il gioco è in mano alla società saudita Scopely.
L’articolo di dronexl dovrebbe essere questo
Pokémon Go Scans Quietly Trained the Navigation Tech Now Headed Into Military Drones
https://dronexl.co/2026/06/09/pokemon-go-scans-niantic-vantor-military-drone-navigation/