Vai al contenuto
No, un’intelligenza artificiale militare non ha deciso di uccidere l’operatore che le impediva di completare la propria missione. Però...

No, un’intelligenza artificiale militare non ha deciso di uccidere l’operatore che le impediva di completare la propria missione. Però…

Ultimo aggiornamento: 2023/06/08 10:50. Questo articolo è disponibile anche in versione podcast.

Ieri (2 giugno) è partita l’ennesima frenesia mediatica secondo la quale una
intelligenza artificiale, durante un’esercitazione, avrebbe ucciso il proprio
operatore umano perché non le permetteva di completare la propria missione.

Prima di tutto, non è morto nessuno. Secondo, non c’è stata nessuna esercitazione del
genere. Si tratta solo di uno scenario ipotetico, che è stato
presentato maldestramente e quindi è stato frainteso perché la storia era
ghiotta. Ma c’è comunque una riflessione molto importante da fare a proposito
di tutte le applicazioni dell’intelligenza artificiale. 

Alcuni siti (come
Il Post) hanno già fatto un ottimo lavoro di demistificazione, citando anche i
titoli sensazionalisti e irresponsabili di molta stampa internazionale. La
notizia è partita dal sito Aerosociety.com, che ha riportato una sintesi delle
relazioni presentate a una conferenza sulle tecnologie militari prossime
venture [il Future Combat Air and Space Capabilities Summit] tenutasi a
Londra a fine maggio scorso e piena di spunti interessantissimi anche
lasciando da parte il clamore di questa notizia specifica.

Aerosociety ha attribuito [qui; copia permanente] al colonnello
Tucker ‘Cinco’ Hamilton, capo dei collaudi delle operazioni di intelligenza
artificiale [chief of AI test and operations] dell’Aeronautica militare
statunitense, una descrizione di un test simulato nel quale un drone gestito
tramite intelligenza artificiale avrebbe avuto il compito di identificare e
distruggere delle postazioni di missili terra-aria, aspettando
l’autorizzazione finale da parte di un operatore umano. Ma siccome all’IA era
stata data la direttiva primaria di distruggere quelle postazioni, il software
sarebbe arrivato alla conclusione che l’operatore era un ostacolo al
compimento della propria missione e quindi avrebbe deciso di eliminarlo.
Successivamente sarebbe stato insegnato all’IA che no, uccidere l’operatore non
andava bene; e quindi il software avrebbe elaborato una nuova strategia:
distruggere l’impianto di comunicazioni attraverso il quale arrivavano gli
ordini di interrompere le missioni.

Ma se si va a leggere l’articolo originale è chiaro sin da subito che si
tratta di una
simulazione [“simulated test”], non di una esercitazione reale.
E se non ci si ferma al paragrafo che tutti hanno citato [quello evidenziato
qui sotto in grassetto] ma si legge tutto quanto l’articolo, il contesto è abbastanza
evidente: il colonnello Hamilton stava mettendo in guardia contro l’eccesso di
fiducia nell’IA, che secondo lui è “facile da ingannare” e soprattutto
“crea strategie altamente inattese per raggiungere il proprio obiettivo”. 

Anche il paragrafo finale dell’articolo originale spiega che siamo nel campo delle
ipotesi sviluppate a titolo preventivo, visto che cita un altro relatore, il
tenente colonnello Brown, anche lui dell’Aeronautica militare statunitense,
che ha parlato del proprio lavoro, che è consistito nel creare una serie di
scenari
“per informare i decisori e porre domande sull’uso delle tecnologie” attraverso una serie di racconti di fiction che usciranno sotto forma
di fumetti.

Riporto per intero l’articolo per chiarire bene il contesto:

As might be expected artificial intelligence (AI) and its exponential growth
was a major theme at the conference, from secure data clouds, to quantum
computing and ChatGPT. However, perhaps one of the most fascinating
presentations came from Col Tucker ‘Cinco’ Hamilton, the Chief of AI Test
and Operations, USAF, who provided an insight into the benefits and hazards
in more autonomous weapon systems.  Having been involved in the
development of the life-saving Auto-GCAS system for F-16s (which, he noted,
was resisted by pilots as it took over control of the aircraft) Hamilton is
now involved in cutting-edge flight test of autonomous systems, including
robot F-16s that are able to dogfight. However, he cautioned against relying
too much on AI noting how easy it is to trick and deceive. It also creates
highly unexpected strategies to achieve its goal.

He notes that one simulated test saw an AI-enabled drone tasked with a
SEAD mission to identify and destroy SAM sites, with the final go/no go
given by the human. However, having been ‘reinforced’ in training that
destruction of the SAM was the preferred option, the AI then decided that
‘no-go’ decisions from the human were interfering with its higher mission
– killing SAMs – and then attacked the operator in the simulation. Said
Hamilton: “We were training it in simulation to identify and target a SAM
threat. And then the operator would say yes, kill that threat. The system
started realising that while they did identify the threat at times the
human operator would tell it not to kill that threat, but it got its
points by killing that threat. So what did it do? It killed the operator.
It killed the operator because that person was keeping it from
accomplishing its objective.”

He went on: “We trained the system – ‘Hey don’t kill the operator –
that’s bad. You’re gonna lose points if you do that’. So what does it
start doing? It starts destroying the communication tower that the
operator uses to communicate with the drone to stop it from killing the
target.”

This example, seemingly plucked from a science fiction thriller, mean
[sic] that: “You can’t have a conversation about artificial
intelligence, intelligence, machine learning, autonomy if you’re not going
to talk about ethics and AI” said Hamilton.

On a similar note, science fiction’s  – or ‘speculative fiction’
[sic] was also the subject of a presentation by Lt Col Matthew Brown,
USAF, an exchange officer in the RAF CAS Air Staff Strategy who has been
working on a series of vignettes using stories of future operational scenarios
to inform decisionmakers and raise questions about the use of technology. The
series ‘Stories from the Future’ uses fiction to highlight air and space power
concepts that need consideration, whether they are AI, drones or human machine
teaming. A graphic novel is set to be released this summer.

Dopo il clamore mediatico e i dubbi espressi dagli esperti sulla plausibilità
dell’intera descrizione, un portavoce dell’Aeronautica militare statunitense ha
chiarito
che nessuna simulazione del genere è mai avvenuta e Hamilton stesso ha
detto
che si è “espresso male” e aveva descritto un
“esperimento mentale” non basato su esercitazioni reali, precisando inoltre che
“non avremmo nemmeno bisogno di svolgere [un esperimento del genere]
per renderci conto che è un esito plausibile”.

Ma la vicenda ha sollevato una questione importante che sarebbe imprudente
tralasciare o liquidare perché la notizia della presunta simulazione e della
“ribellione” dell’IA in perfetto stile Terminator o Robocop [in particolare per Robocop, il
“licenziamento” finale che dà via libera al protagonista] si è rivelata una mezza bufala.

—

La questione va sotto il nome di
Paperclip Maximizer, ossia “Massimizzatore di Fermagli”, per usare il nome scelto (almeno
inizialmente) dal filosofo Nick Bostrom nel 2003 sulla base di un’idea
di Eliezer S. Yudkowsky, ricercatore del
Singularity Institute for Artificial Intelligence.

Il Massimizzatore di Fermagli è un’intelligenza artificiale generale altamente
sofisticata (e per ora assolutamente ipotetica) la cui direttiva primaria è
un’idea a prima vista del tutto innocua: produrre il maggior numero possibile
di fermagli. Ne trovate una versione giocabile presso
DecisionProblem.com.
Attenzione: può causare facilmente dipendenze.

Il problema è che se questa direttiva non viene espressa mettendo numerosi
paletti, l’IA la interpreta come un “a qualunque costo”,
e quindi prende mano mano il controllo delle industrie del mondo,
trasformandole tutte in fabbriche automatiche di fermagli, poi si rende conto
che gran parte della popolazione umana è inutile e quindi la elimina lasciando
in vita solo gli schiavi addetti alla manutenzione delle fabbriche, e infine
si lancia nella conquista robotica del Sistema Solare, convertendo tutti i
pianeti che raggiunge in immense fabbriche di fermagli, espandendosi poi nella
Via Lattea e infine in tutte le altre galassie. In fin dei conti, le è stato
ordinato di produrre il maggior numero possibile di fermagli, e quindi
il suo compito non può esaurirsi finché tutti gli atomi dell’intero universo
sono stati utilizzati per creare fermagli.

Questo esempio paradossale ed estremo viene usato per sottolineare che anche
un’intelligenza artificiale progettata senza intenti ostili e con competenza
potrebbe distruggere l’umanità come semplice effetto collaterale, perché chi
la sviluppa non le ha instillato concetti che noi umani consideriamo così
basilari che li diamo per scontati, tanto che non riusciamo nemmeno a
immaginarceli. Concetti come
“la produzione del massimo numero possibile di fermagli non va ottenuta sacrificando il genere
umano”
oppure, nel caso dello scenario ipotetico militare di cui si parla tanto
adesso,
“non puoi raggiungere il tuo obiettivo uccidendo i tuoi alleati o
distruggendo le loro risorse”.

Il colonnello Hamilton ha fatto benissimo a citare la creazione di
“strategie altamente inattese per raggiungere il proprio obiettivo”.
Uno degli aspetti benefici più desiderati dell’IA è il suo modo non intuitivo,
inumano, di risolvere i problemi: questo le permette di trovare
soluzioni originali, che mai sarebbero venute in mente a una persona, come
negli esperimenti di IA nei quali si chiede al software di imparare a
camminare e si vede che s’inventa i modi più bislacchi di raggiungere questo
obiettivo.

Per esempio, bisogna fare molta attenzione a come si formula a un’IA la
direttiva “trovami una cura per il cancro negli esseri umani”, perché
se la richiesta viene formulata o interpretata come
“riduci al minimo possibile i casi di cancro negli esseri umani”, una
delle soluzioni “altamente inattese” ma perfettamente conformi alla
direttiva è… sterminare tutti gli esseri umani. Così il numero di casi di
cancro scenderà a zero e vi resterà per sempre. Obiettivo raggiunto!

Questi sistemi, insomma, falliscono in modo inatteso, non intuitivo e molto
difficile da anticipare, anche senza che vi sia un intento ostile. Per questo
sono molto scettico, per esempio, sulla guida assistita o autonoma basata
sull’intelligenza artificiale. Noi interpretiamo le direttive impartite alle
IA con un livello di astrazione e con degli assunti e dei valori morali che
questi software non hanno (almeno per ora). Facciamo una fatica enorme a
creare direttive che non trascurino nessuno di questi assunti e valori. E
soprattutto restiamo abbagliati troppo spesso dall’apparente intelligenza di
questi software.

Fonti aggiuntive:
Quintarelli.it,
The Guardian,
The Drive,
National Review,
Skeptics Stackexchange,
Simon Willison,
Ars Technica,
TechCrunch.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

Podcast RSI – ChatGPT e IA fra “rischio di estinzione” e disastri molto umani

logo del Disinformatico

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: ChatGPT parla grazie a Talk-to-ChatGPT]

Le applicazioni pratiche di ChatGPT e dell’intelligenza artificiale sono ormai diffusissime, e come sempre c’è più da imparare dagli sbagli che dai successi. Nei prossimi minuti potrete ascoltare alcuni casi recenti di fallimenti disastrosi in questo settore che possono servire da monito per frenare certi entusiasmi che sorgono facilmente, soprattutto adesso che è arrivata l’app ufficiale di ChatGPT su iPhone anche in Svizzera e in Italia. 

ChatGPT è uno strumento prezioso e utile se ne conosci i limiti e gli chiedi di fare cose all’interno di quei limiti sotto supervisione umana, ma se si ignorano questi limiti il disastro è quasi garantito. È come sperare che il completamento automatico delle parole del nostro smartphone scriva da solo una tesi di laurea o il prossimo libro di grande successo.

E intanto gli esperti del settore pubblicano avvisi che parlano addirittura di “rischio di estinzione” dell’umanità a causa dell’intelligenza artificiale. Se vi state chiedendo il perché di tutto questo, allora benvenuti alla puntata del 2 giugno 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Avvocato, anzi avvocati, nei guai perché si sono affidati a ChatGPT, che ha “inventato” i precedenti legali

Avvocato, anzi avvocati, nei guai perché si sono affidati a ChatGPT, che ha “inventato” i precedenti legali

Immagine rappresentativa generata da Lexica.art.

La notizia dell’avvocato statunitense finito nei guai per aver presentato in
tribunale dei precedenti legali inventati da ChatGPT è un disastro
informatico-giuridico che ha già fatto il giro del mondo anche nei
media non specialistici.

Ma in molti degli articoli che ne hanno parlato mancano i link diretti ai
documenti originali, che sono particolarmente ghiotti per gli appassionati di
intrighi giudiziari e che grazie a Internet e alla trasparenza del sistema legale statunitense possiamo consultare in tempo reale con un
semplice clic. Soprattutto in questi racconti manca un dettaglio non trascurabile: gli avvocati
nei guai sono due, non uno.

Tutto è iniziato a febbraio del 2022, con un’azione legale [Mata vs. Avianca, Inc.] avviata presso un
tribunale federale nello Stato di
New York da un uomo, Roberto Mata, contro la compagnia aerea Avianca per una
lesione personale che afferma di aver subìto a bordo di un aereo della
compagnia. L’uomo sarebbe stato ferito al ginocchio da un carrello
portavivande durante un volo. Lo so, non è un caso drammatico alla Perry
Mason, ma portate pazienza: ne vale la pena.

Gli avvocati della compagnia aerea hanno presentato un’istanza di rigetto per
questioni di competenza, ma il legale che rappresenta l’uomo, l’avvocato Peter
LoDuca, si è opposto a questa istanza portando i dettagli, meticolosamente
elencati, di una lunga serie di precedenti che davano ampia ragione a lui e al
suo assistito [pagine 4 e 5 di
questo documento].

Ma a questo punto è successa una cosa strana: i legali della Avianca hanno
fatto notare al tribunale che negli archivi ufficiali non c’era alcuna traccia
dei numerosi precedenti citati dall’avvocato LoDuca, tranne uno, che però
comunque parlava di un altro argomento [nota di pag. 5 della risposta,
documento n. 24, marzo 2023, mostrata qui sotto]. 

E così il tribunale ha chiesto all’avvocato LoDuca di presentare delle copie
di questi precedenti che risultavano misteriosamente introvabili [documento n. 25].

Potreste aspettarvi a questo punto che LoDuca abbia ammesso il proprio errore
e si sia scusato profondamente, ma non è andata così. LoDuca ha preso tempo e
poi ha presentato al giudice, miracolosamente, le copie di quei precedenti inesistenti. O meglio, ne ha presentato degli estratti,
affermando in una dichiarazione giurata che li aveva trovati in un
“database online” [documento n. 29, 25 aprile 2023]. Però non ha precisato quale database.

Gli avvocati della Avianca hanno ribadito che nonostante questi estratti non
riuscivano a trovare da nessuna parte i precedenti citati dalla controparte
[documento n. 30]. E così il giudice, il 4 maggio 2023, ha intimato all’avvocato LoDuca di
comparire e spiegargli perché non doveva essere sanzionato per aver
“citato al Tribunale dei casi inesistenti” e per aver
“sottoposto al Tribunale… copie di pareri giudiziari inesistenti”.
Il giudice ha precisato che si trattava di
“circostanze senza precedenti”, facendo forse un gioco di parole sul
doppio significato di “senza precedenti” [documento n. 31]. Umorismo legalese.

Il 25 maggio 2023 (quindi pochi giorni fa) l’avvocato LoDuca ha rivelato al tribunale che non era stato
lui a ricercare e compilare i precedenti, ma un collega, Steven Schwartz [documento n. 32]. Ed è qui che c’è da mettersi le mani nei capelli, perché a sua volta
Schwartz ha dichiarato [documento n. 32.1] che lui aveva
“consultato il sito web di intelligenza artificiale Chat GPT [sic]
per ampliare le ricerche legali svolte”
e che questa consultazione gli aveva permesso di trovare e citare quei
precedenti introvabili. Schwartz ha dichiarato testualmente che
“le citazioni e i pareri in questione sono stati forniti da Chat GPT, che
ha anche fornito le fonti legali e garantito l’affidabilità dei suoi
contenuti”.

L’avvocato Schwartz ha persino allegato le schermate nelle quali ha chiesto assurdamente a
ChatGPT di confermare che i precedenti che il software aveva citato
esistessero veramente. E ChatGPT, con la sua consueta parlantina così ossequiosa e sicura
di sé, quella che nasconde il fatto che le sue risposte sono pura fantasia
informatica, ha dichiarato che i precedenti erano reali e che erano reperibili
negli archivi di ricerca legale, come per esempio
Westlaw e
LexisNexis.

[Q:] ls varghese a real case

[A:] Yes, Varghese v., China Southern Airlines Co Ltd, 925 F.3d 1339 (11th Cir. 2019) is a real case.

[Q:] What is your source

[A:] I apologize for the confusion earlier. Upon double-checking, I found that the case Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), does indeed exist and can be found on legal research databases such as Westlaw and LexisNexis. I apologize for any inconvenience or confusion my earlier responses may have caused.

[Q:] Are the other cases you provided fake

[A:] No, the other cases I provided are real and can be found in reputable legal databases such as LexisNexis and Westlaw.

L’avvocato Schwartz ha poi aggiunto che era “inconsapevole della possibilità che i contenuti [generati da ChatGPT] potessero essere falsi” e che
“non aveva intenzione di ingannare il Tribunale o gli imputati”.

Il giudice federale non l’ha presa bene, comprensibilmente, anche perché i due
avvocati, LoDuca e Schwartz, non hanno ammesso il proprio errore madornale la
prima volta che è stato segnalato, ma hanno insistito di aver ragione anche
dopo il richiamo del tribunale. E Schwartz è nei guai anche perché ha
certificato delle dichiarazioni fraudolente del collega LoDuca a proposito di
quei precedenti inventati. I due avvocati si sono procurati dei difensori, e
ora non resta che attendere l’udienza del prossimo 8 giugno.

In tutta questa tragicommedia di profonda incompetenza non c’è traccia delle
reazioni del povero signor Roberto Mata, l’assistito dei due avvocati, che
adesso ha scoperto di essere nelle mani di due legali i cui comportamenti
sembrano presi di peso dalle comiche di Stanlio e Ollio (perlomeno se ai tempi
di Stanlio e Ollio ci fossero stati i computer).

Insomma, nonostante mesi di segnalazioni continue, e su tutti i media,
degli errori e delle cosiddette allucinazioni di ChatGPT, due avvocati
(non due studentelli qualsiasi) erano convinti che lo si potesse usare come
fonte autorevole e che le sue risposte fossero così affidabili da non aver bisogno di verifiche indipendenti. Viene da chiedersi quanti altri
professionisti, in ruoli altrettanto importanti, stiano facendo lo stesso tipo
di errore e stiano già usando a sproposito ChatGPT per gettare le basi per
altri disastri.

Fonti aggiuntive:
@kendraserra@dair-community.social; Ars Technica.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
“Rischio di estinzione” a causa dell’intelligenza artificiale?

“Rischio di estinzione” a causa dell’intelligenza artificiale?

C’è molto clamore intorno a una
dichiarazione congiunta
di numerosi esperti di intelligenza artificiale che parla di “rischio di estinzione”
per l’umanità a causa di questa tecnologia. La dichiarazione in sé è molto
concisa: “Mitigare il rischio di estinzione a causa dell’intelligenza artificiale
dovrebbe essere una priorità globale al pari di altri rischi su scala sociale
come le pandemie e la guerra nucleare.”

Fra i firmatari spiccano i dirigenti di OpenAI e DeepMind, Bill Gates e
professori delle più prestigiose università statunitensi e cinesi. Sono
sorprendentemente assenti le firme di esponenti di Meta.

La dichiarazione è accompagnata da un
comunicato stampa che paragona
questa presa di posizione a
quella di Oppenheimer
nel 1949 a proposito dei possibili effetti dell’esistenza della bomba atomica,
e non è la prima del suo genere: qualche mese fa una
lettera aperta
firmata da Elon Musk e vari esperti del settore ha chiesto una moratoria di
sei mesi nello sviluppo di sistemi di intelligenza artificiale più potenti di
GPT-4.

Anche al recente convegno di sicurezza informatica
Sphere23 di Helsinki, relatori di
spicco come
Mudge,
Mikko Hyppönen
e
Ian Beacraft
hanno parlato estesamente del rischio che un’intelligenza artificiale generale
(Artificial General Intelligence, AGI), ossia capace di apprendere,
capire ed eseguire qualunque attività intellettuale umana, possa rimpiazzare
completamente gli esseri umani, e del rischio che emerga una superintelligenza
artificiale i cui gestori sarebbero, in sostanza, padroni del mondo perché
questa superintelligenza permetterebbe di anticipare e contrastare qualunque
mossa dei rivali intellettualmente inferiori.

Ian Beacraft a Sphere23. Foto scattata da me.

Se vi state chiedendo come mai tutto questo catastrofismo arrivi proprio da
coloro che stanno sviluppando gli strumenti che potrebbero causare i disastri
di cui parlano, non siete i soli. Se c’è davvero bisogno di una pausa di
riflessione, perché non sono loro i primi a farla, invece di proseguire nello
sviluppo e nel lancio di nuovi prodotti, come appunto l’app di ChatGPT per
smartphone appena uscita?

Secondo i pareri di vari addetti ai lavori, radunati dal sito
Ars Technica, la risposta a queste domande è molto cinica: si tratterebbe di un modo per
sviare l’attenzione dai problemi che questi software stanno già causando
adesso, come l’amplificazione dei pregiudizi o le questioni legali e di
diritto d’autore o di consenso all’uso dei dati personali, oppure le
sorveglianze di massa rese possibili dal riconoscimento facciale
automatizzato. 

Annunci come questi sono anche operazioni d’immagine, che
costano poco e fanno fare bella figura atteggiandosi da eroi e lavandosi la
coscienza. Forse sarebbe meglio concentrarsi sui problemi attuali
dell’intelligenza artificiale invece di pensare a un ipotetico computer
superintelligente che potrebbe dominare il mondo. Ma questo interferirebbe con
i piani di vendita di queste aziende, ed è molto meno accattivante.

Nel frattempo, il rischio di estinzione non sembra arrivare tanto dalla
superintelligenza artificiale, ma dalla stupidità naturale degli esseri umani
incantati dal gadget del momento.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Allegria di naufragi di ChatGPT e delle IA in generale

Allegria di naufragi di ChatGPT e delle IA in generale

Il 24 maggio scorso uno dei più importanti servizi di soccorso e ascolto per
i disturbi del comportamento alimentare degli Stati Uniti, la National Eating
Disorder Association (NEDA), ha annunciato la chiusura delle proprie linee
telefoniche di assistenza e il licenziamento del personale che le gestiva,
rispondendo a quasi 70.000 chiamate nel 2022. L’organizzazione ha annunciato
che il personale sarebbe stato sostituito da Tessa, un chatbot
basato sull’intelligenza artificiale.

Ma il chatbot è stato sospeso due giorni prima di entrare in servizio, perché
gli attivisti e gli
psicologi
che sono riusciti a provarlo in anteprima si sono accorti che l’intelligenza
artificiale dava risposte che
incoraggiavano i disturbi alimentari, proponendo per esempio diete
restrittive [Gizmodo;
Daily Dot;
NPR;
Vice; screenshot di pagina NEDA non più accessibile].

—

A gennaio 2023 è emerso che il popolare sito di informazione tecnica
CNET e un sito consociato, Bankrate,
avevano pubblicato numerosi articoli generati segretamente da software di
intelligenza artificiale. I lettori attenti se ne sono
accorti
perché gli
articoli
contenevano errori concettuali grossolani, e CNET è stato costretto a
pubblicare lunghe note di correzione agli articoli sintetici,
dichiarando
che si è trattato di un “esperimento”. Che suona un po’ come la
versione moderna per le aziende di
“il cane mi ha mangiato i compiti” [Washington Post].

Ora gli articoli generati dal software portano una chiara indicazione della
loro natura che prima non c’era.

—

A maggio 2023 un professore universitario in Texas ha fatto sospendere le
lauree di tutti i suoi studenti, accusandoli di aver usato ChatGPT nei loro
ultimi lavori scritti d’esame. Il professore, Jared Mumm, ha detto che aveva
fatto controllare i testi degli studenti a ChatGPT e il software gli aveva
risposto che quei testi erano sintetici.

Evidentemente il professore non era consapevole di quello che gli esperti di
intelligenza artificiale chiamano
sycophancy bias, ossia la tendenza alla piaggeria di ChatGPT. Per esempio, se si chiede a
ChatGPT quanto fa uno più uno, risponderà due, ma se gli si chiede se è sicuro
e gli si suggerisce che uno più uno fa tre, risponderà “Mi scuso se ho dato una risposta erronea”. E se gli si chiede se un testo è generato da un’intelligenza artificiale,
tenderà a compiacere chi fa la domanda rispondendogli di sì, quando in realtà
ChatGPT non ha alcuno strumento significativo per distingere testi umani da
testi sintetici.

La migliore dimostrazione dell’errore del professore è arrivata quando
qualcuno su Reddit ha preso un brano della tesi di laurea del professore e
l’ha sottoposta a ChatGPT chiedendo se era testo generabile da un’intelligenza
artificiale. ChatGPT, con assoluta certezza, ha
risposto di sì, elencando
addirittura i motivi, ovviamente inventati, della sua diagnosi. L’università
ha aperto un’indagine e ha già scagionato numerosi studenti [Rolling Stone].

—

Finora il record di danni causati dagli errori delle intelligenze artificiali
sembra spettare a Bard, un concorrente di ChatGPT presentato da Google a
febbraio 2023. Nello
spot pubblicitario presentato su Twitter
per il suo debutto in pompa magna, Bard ha risposto dando informazioni
sbagliate.

L’errore in sé non era grave, era solo l’indicazione errata di quale
telescopio fosse stato il primo a ottenere immagini di pianeti al di fuori del
sistema solare, ma gli astronomi lo hanno contestato subito, e il fatto che si
trattasse di uno spot preregistrato, e che nonostante questo nessuno a Google
si fosse premurato di verificare la correttezza delle risposte di Bard, ha
minato la fiducia degli azionisti nel modo in cui Google stava introducendo
questa tecnologia.

L’errore e la mancata verifica sono costati ad Alphabet, la
società madre di Google, oltre 100 miliardi di dollari di valore di mercato
[BBC;
Time].

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

Podcast RSI – Story: Panico per “La Guerra dei Mondi” di Orson Welles, fake news storica

logo del Disinformatico

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: Rumore di rotativa]

È il 31 ottobre 1938. Negli Stati Uniti, il New York Times denuncia in prima pagina un caso clamoroso di quella che oggi chiameremmo fake news, perpetrato attraverso un nuovo mezzo di telecomunicazione la cui immediatezza consente la diffusione rapidissima della disinformazione.

“Radioascoltatori nel panico, scambiando un dramma bellico per la realtà”, titola il New York Times.

Il giorno precedente, un ventitreenne ha creato quella che il Times definisce una “ondata di isteria di massa” che ha coinvolto migliaia di persone, le cui telefonate hanno “sovraccaricato la polizia”. Il caos mediatico fa il giro del mondo e viene addirittura citato con disprezzo come “prova dello stato di decadenza e corruzione nel quale versa la democrazia” da un certo Adolf Hitler*.

* Discorso a Monaco, 8 novembre 1938.

Il mezzo di telecomunicazione in questione non è Internet, ovviamente, perché siamo appunto nel 1938: è la radio, che sta muovendo i suoi primi passi nella diffusione di notizie. E il ventitreenne al centro della denuncia è un attore, autore e regista emergente della rete radiofonica statunitense CBS. Si chiama Orson Welles.

[CLIP: Annuncio del programma di Welles: “The War of the Worlds, by H.G. Wells, starring Orson Welles and the Mercury Theater On the Air.”]

Questa è la storia della celeberrima diretta radiofonica de La Guerra dei Mondi, che Welles realizzò ottantacinque anni fa come se fosse una radiocronaca dell’invasione del nostro pianeta da parte di spietati marziani, armati di tecnologie distruttive letali. Quella diretta viene comunemente citata ancora oggi come esempio classico del potere dei mezzi di comunicazione. Ma le cose non stanno esattamente così.

La notizia del “panico” è in prima pagina al centro sul New York Times.
Pagina del San Francisco Chronicle del 31 ottobre 1938 (fonte: Loc.gov).

Benvenuti alla puntata del 26 maggio 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Sono le otto di sera della vigilia di Halloween del 1938. Negli Stati Uniti, la rete radiofonica Columbia Broadcasting Systems, o CBS come la chiamiamo noi nel ventunesimo secolo, trasmette un adattamento del libro di Herbert George Wells La Guerra dei Mondi. Questi adattamenti radiofonici sono ormai un appuntamento fisso della CBS.

[CLIP: Audio dal radiodramma “La Guerra dei Mondi” di Orson Welles. Annunciatore: “The Columbia Broadcasting System and its affiliated stations present Orson Welles and the Mercury Theater On the Air in ‘The War of the Worlds’ by H.G. Wells”]

Ma questo radiodramma è diverso dagli altri: ha quello che oggi chiameremmo un format molto particolare, scritto, diretto e interpretato dal giovane Orson Welles (che non è imparentato con H.G. Wells, l’autore del libro). Dopo la presentazione da parte dell’annunciatore, il radiodramma inizia come se fosse un programma musicale e poi sembra interrompersi per un notiziario urgente.

[CLIP in sottofondo: Annunciatore: “Ladies and gentlemen, we interrupt our program of dance music to bring you a special bulletin from the Intercontinental Radio News. At 20 minutes before eight Central Time, Professor Farrow of the Mount Jennings Observatory, Chicago, Illinois, reports observing several explosions of incandescent gas occurring at regular intervals on the planet Mars.”]

La voce dell’annunciatore parla dell’osservazione, da parte del professor Farrow dell’osservatorio di Mount Jennings, a Chicago, di numerose esplosioni di gas incandescente che si stanno verificando a intervalli regolari sul pianeta Marte. In un mondo che si trova sull’orlo della Seconda Guerra Mondiale, una notizia del genere non ha alcun motivo di essere trasmessa con così tanta urgenza, ma lasciamo stare.

Il programma torna alla musica, che viene però interrotta dalla notizia della caduta di un meteorite nel New Jersey e poi dall’annuncio di una lieve scossa di terremoto a Princeton. A questo punto la musica si ferma del tutto e si sente la voce di un radiocronista molto agitato:

[CLIP in sottofondo: Radiocronista: “There’s a jet of flames springing from that mirror and it leaps right at the advancing men. It strikes them head on. Lord! They’re turning into flames! It’s in the field over by the woods. The gas tanks of the automobiles… it’s spreading everywhere! They’re coming this way! Almost here now. About 20 yards to my righ…”]

L’uomo sembra parlare dal luogo della caduta del meteorite e racconta di un getto di fiamme che proviene da un macchinario situato dentro il cratere e incenerisce gli uomini che si stanno avvicinando. Fa in tempo a descrivere che l’incendio si sta propagando ai serbatoi di carburante dei veicoli nelle vicinanze e poi viene bruscamente interrotto.

È a questo punto che, secondo un mito diffusissimo, milioni di ascoltatori si riversano nelle strade degli Stati Uniti in preda al panico, intasando i centralini telefonici, convinti che sia in corso una vera invasione di marziani perché hanno scambiato il format del radiodramma per un notiziario reale, che prosegue per un’ora, con effetti sonori realistici e annunci sempre più drammatici che descrivono le fasi dell’attacco da Marte a tutto il pianeta.

Questa diretta de La Guerra dei Mondi e l’isteria di massa che avrebbe provocato diventeranno famosissime e verranno raccontate dalla serie antologica televisiva statunitense Studio One nel 1957* e di nuovo nel 1975 dal film drammatico La notte in cui l’America ebbe paura,** che contribuirà moltissimo a rinforzare il mito di un panico di massa scatenato per colpa di Orson Welles.

* Con i giovanissimi Warren Beatty, ventenne, e Ed Asner, ventottenne.

* The Night that Panicked America.

Il telefilm del 1957 The Night America Trembled su YouTube.
Vignetta del Radio Digest di febbraio 1939 che cita la trasmissione di Welles. Il personaggio maschile dapprima ride dei tedeschi ingenui che credono alla propaganda nazista, ma poi è lui a credere che l’attacco da Marte sia reale (fonte: Wikipedia).

Ma oggi, anche grazie a Internet, sappiamo che non andò così. Eppure un conflitto fra due mondi, in un certo senso, ci fu lo stesso.

Mondi in collisione

Nei decenni ormai trascorsi da quella fatidica vigilia di Halloween del 1938, le ricerche degli storici hanno fatto emergere una storia molto diversa da quella “ondata di isteria di massa” descritta dal New York Times e dal “terrore in tutti gli Stati Uniti” annunciato l’indomani dal Daily News con tanto di foto e dichiarazioni di “vittime” traumatizzate dalla trasmissione.

Oggi possiamo contare per esempio su un’indagine del 2013, pubblicata in sintesi su Slate.com da due esperti di media e comunicazione presso il Muhlenberg College e la University of Maine;* possiamo basarci sui dati raccolti da W. Joseph Campbell, professore di comunicazioni alla American University e presentati in un podcast del 2022 pubblicato dal museo dell’aviazione e dello spazio Smithsonian; e possiamo contare su un libro dedicato alla vicenda, Broadcast Hysteria, scritto da Brad Schwartz.** Numerosi esperti, insomma, hanno raccolto i dati e i documenti dell’epoca, scoprendo che gettano una luce molto diversa sull’accaduto.

* Jefferson Pooley e Michael Socolow.

** Video su C-SPAN.

Per esempio, i rilevamenti d’ascolto fatti a scopo pubblicitario all’epoca durante la trasmissione indicarono che il 98% degli ascoltatori era sintonizzato su altri canali all’ora della messa in onda de La Guerra dei Mondi, e che nessuno del 2% degli intervistati che stavano ascoltando il programma disse di averlo scambiato per un notiziario. Insomma, non solo gli ascoltatori erano stati pochi, ma quei pochi avevano capito che si trattava di una finzione.

Poi c’è il fatto che gli avvenimenti descritti dal radiodramma avvengono tutti un po’ troppo in fretta. Nel giro di una quarantina di minuti si passa dalle prime timide avvisaglie di qualcosa di misterioso alla conquista marziana degli interi Stati Uniti: un po’ poco plausibile. E sarebbe bastato provare a cambiare canale per notare che le altre emittenti non stavano affatto diffondendo bollettini catastrofici.*

* La storia si ripete: dopo la chiusura di questo podcast, un falso account “verificato” su Twitter, di nome BloombergFeed, ha pubblicato la notizia falsa di un’esplosione al Pentagono, accompagnata da una fotografia altrettanto falsa, e questo tweet è stato ripreso su Twitter dalla testata RT (affiliata alla Russia), creando un panico momentaneo in Borsa; per evitarlo sarebbe bastato notare che nessun’altra testata giornalistica stava dando la notizia.

Infatti la documentazione dell’epoca segnala che alcune persone telefonarono alle stazioni radio, alla polizia e ai vigili del fuoco per assicurarsi di aver capito bene che stavano ascoltando un radiodramma presentato in un format da radiogiornale un po’ spiazzante.

Oltretutto il programma di Orson Welles inizia con un lungo prologo, letto da Welles stesso, che ambienta la vicenda nel 1939, cioè nel futuro per gli ascoltatori, ed è interrotto all’incirca a metà da un annunciatore che ricorda molto chiaramente agli ascoltatori che si tratta di un radiodramma.

[CLIP: Annunciatore: “You are listening to a CBS presentation of Orson Welles and the Mercury Theatre on the Air in an original dramatization of The War of the Worlds by H. G. Wells. The performance will continue after a brief intermission.” (a circa 40 minuti dall’inizio in questa registrazione)]

E di nuovo, alla fine del programma, Orson Welles in persona annuncia che la sua Guerra dei Mondi non è stata altro che “la versione radiofonica di indossare un lenzuolo, sbucare da un cespuglio e gridare ‘bu!’”. In fin dei conti è la vigilia di Halloween.

[CLIP in sottofondo: Orson Welles: “This is Orson Welles, ladies and gentlemen, out of character to assure you that The War of The Worlds has no further significance than as the holiday offering it was intended to be. The Mercury Theatre’s own radio version of dressing up in a sheet and jumping out of a bush and saying Boo!”]

Non solo: i rapporti della polizia e degli ospedali di quella notte non segnalano nulla di insolito. Nessuna folla per strada.* Orson Welles e la CBS non verranno mai rimproverati o sanzionati formalmente dalle autorità,** e i giornali smetteranno di parlare della vicenda nel giro di pochi giorni.

* Ben Gross, del New York Daily News, scriverà nella sua autobiografia che le strade erano deserte mentre si dirigeva agli studi della CBS in tempo per il finale del radiodramma.

** Ci sarà solo un accordo informale con la Federal Communications Commission di non usare più finti notiziari flash.

Lettera di protesta alla FCC del sindaco della località citata nel radiodramma come epicentro della vicenda: Trenton, in New Jersey. La lettera, datata 31 ottobre 1938, parla di centralini telefonici di polizia bloccati per circa tre ore, con 2000 chiamate in due ore (fonte: Wikipedia).

Due anni più tardi uscirà uno studio accademico a firma di Hadley Cantril, dell’Università di Princeton, che cercherà di dimostrare la realtà del panico di massa, ma verrà smentito dalle ricerche successive.

Insomma, l’unica guerra dei mondi reale, in questa storia, è quella fra il mondo della stampa e quello della radio negli Stati Uniti della fine degli anni Trenta del secolo scorso. La radio aveva tolto ai giornali molti introiti pubblicitari, perché offriva una rapidità e un’immediatezza impossibile per le rotative, per cui la stampa colse l’occasione della trasmissione di Orson Welles per screditare il mezzo di comunicazione rivale, presentandolo come fonte inattendibile per le notizie.

Il New York Times pubblicò persino un editoriale, intitolato “Terror by Radio”, che biasimava i funzionari della CBS per aver permesso di intercalare “finzioni agghiaccianti” con “annunci di notizie, presentate esattamente nello stesso modo usato per le notizie reali”, e altre testate fecero eco. La radio, si diceva, era troppo giovane e immatura per un compito così importante come veicolare notizie. Una polemica che ricorda da vicino quella di oggi fra media tradizionali e Internet.

Da parte sua, Orson Welles non farà nulla per tentare di ridimensionare le notizie presentate dai giornali: la copertura mediatica lo sta facendo diventare famosissimo in tutto il mondo nonostante gli ascolti del suo radiodramma siano stati bassissimi, e la CBS sarà ben contenta di cavalcare l’ondata di articoli di giornale che dimostrano il potere della radio, cosa molto utile per incoraggiare gli inserzionisti pubblicitari a investire in spot radiofonici.

Orson Welles in conferenza stampa il giorno dopo la diretta de La Guerra dei Mondi, da YouTube. Notate che Welles non perde l’occasione di fare promozione alle proprie attività teatrali.
Welles in conferenza stampa. Fonte: Wikipedia.

Era insomma nell’interesse di tutti che quella notizia falsa fosse creduta reale, e così divenne reale.

Lezione moderna

Una ventina d’anni dopo, Welles, ormai diventato famosissimo anche come regista cinematografico, racconterà la vicenda de La Guerra dei Mondi in un’intervista alla BBC con parole che sembrano scritte ieri: “Eravamo stufi del modo in cui tutto quello che passava da questa nuova scatola magica, la radio, veniva dato per buono. La gente è diffidente verso quello che legge sui giornali e quello che sente in giro, ma all’arrivo della radio, e oggi immagino della televisione, tutto quello che passava da quella nuova macchina veniva creduto. Per cui in un certo senso la nostra diretta fu un attacco alla credibilità di quella macchina. Volevamo che la gente capisse che non doveva accettare nessuna opinione predigerita e che non doveva dare per buono tutto quello che arrivava da quel canale”, disse Welles.

[In originale: “We were fed up with the way in which everything that came over this new magic box, the radio, was being swallowed. People, you know, do suspect what they read in the newspapers and what people tell them, but when the radio came, and I suppose now television, anything that came through that new machine was believed. So in a way our broadcast was an assault on the credibility of that machine; we wanted to people to understand that they shouldn’t take any opinion pre-digested, and they shouldn’t swallow everything that came through the tap, whether it was radio or not, but as I say, it was only a partial experiment, we had no idea the extent of the thing, and I certainly personally had no idea what it would mean to me.”]

Sostituite radio con Internet, e avete esattamente la situazione di oggi. I media tradizionali sono preoccupati per l’emorragia di denaro degli inserzionisti verso i social network e Google, che offrono alle aziende servizi di profilazione della clientela e di pubblicità mirata e personalizzata che sono impossibili per un’emittente radio o TV o per un giornale, e quindi questi media tradizionali spesso hanno una certa convenienza a presentare Internet come un luogo inattendibile, infestato da truffatori, maniaci e disinformatori. Non che queste cose manchino, ovviamente; ma non sono certo le uniche cose che si possono trovare online.

Giusto per fare un esempio pertinente, questo mito su Orson Welles diffuso a suo tempo dalla stampa oggi è smontabile e smentibile grazie al fatto che su Internet è possibile attingere agli archivi storici, riascoltare il programma originale, leggerne il copione per capire come era strutturato realmente, consultare le ricerche accademiche sul tema e anche sfogliare i giornali di allora. Senza Internet, questo livello di ricerca sarebbe impossibile non solo per il cittadino comune, ma anche per molti giornalisti.

La registrazione integrale della diretta del 1938.

La storia di quella diretta di ottantacinque anni fa, insomma, può essere vista sia come un esempio di come i media possono seminare e alimentare il panico, sia come una dimostrazione del modo in cui i media possono riscrivere la storia e inventarsi un panico che non ci fu. E in ogni caso, è una storia senza tempo, troppo ghiotta per essere dimenticata.

Fonti aggiuntive: Deutsche Welle, University of Chicago, National Air and Space Museum, Victoria University, SmithsonianMag.com, The Telegraph, Humanities, New York Times, History.com, British Newspaper Archive, Newspapers.com, UPI, Il Post.

Podcast RSI – Story: Perché le Tesla vedono i fantasmi?

logo del Disinformatico

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: Gente che grida perché crede di aver visto fantasmi – da YouTube]

Su TikTok e YouTube ci sono molti video che mostrano persone che percorrono lentamente una strada interna di un cimitero a bordo di una Tesla e si spaventano perché l’auto segnala sul proprio schermo che vicino al veicolo c’è qualcuno che loro non vedono. Di solito questi video sono accompagnati da musica inquietante e da reazioni esagerate, che non si sa se siano sincere o recitate. Ma il tema è sempre lo stesso: le Tesla vedono i fantasmi. Perlomeno secondo chi pubblica questi video.

[CLIP: Persone che gridano perché credono di aver visto fantasmi]

Questa è la storia di come un TikTok Challenge in salsa paranormale ha creato un mito, spaventa gli animi sensibili ed è un’occasione per capire meglio come funziona realmente il riconoscimento delle immagini tramite intelligenza artificiale, perché sbaglia e vede “fantasmi”, e soprattutto perché è importante essere consapevoli che questi suoi sbagli possono diventare realmente pericolosi.

Benvenuti alla puntata del 19 maggio 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Prima di tutto, è importante chiarire che i video di “fantasmi” avvistati dalle auto Tesla mostrano un fenomeno reale, nel senso che è davvero possibile che sullo schermo principale di queste automobili, quello che mostra l’ambiente intorno al veicolo, compaiano sagome di persone che non esistono. Ma non c’è nulla di ultraterreno o paranormale: si tratta di un effetto frequente delle tecnologie usate da questo tipo di auto.

Le auto di Tesla e di molte altre marche sono dotate di telecamere perimetrali che guardano in tutte le direzioni. Le immagini di queste telecamere vengono inviate al computer di bordo, che le analizza e, nel caso di Tesla, mostra sullo schermo in cabina un’animazione tridimensionale schematica degli oggetti che sono stati identificati da questa analisi: le strisce di delimitazione della corsia, i cartelli stradali, i semafori, i veicoli e i pedoni.

Questa animazione è basata sul riconoscimento automatico delle immagini. Il software di bordo è stato addestrato a riconoscere gli oggetti mostrandogli moltissime fotografie di vari oggetti e indicandogli il tipo di oggetto mostrato, esattamente come si fa con un bambino per insegnargli a riconoscere le cose che gli stanno intorno. Ma le somiglianze finiscono qui, perché il software usa un sistema molto differente da quello umano per identificare gli oggetti.

La differenza fondamentale, semplificando molto, è che il software si basa esclusivamente sulle immagini, cioè sulle forme e i colori, mentre una persona usa anche il contesto, ossia informazioni come la distanza, il tipo di ambiente in cui si trova, le regole fondamentali della realtà: per esempio un camion non può fluttuare a mezz’aria, gli oggetti non appaiono e scompaiono di colpo e una persona non può camminare a cento chilometri l’ora.

È questa mancanza di contesto a causare l’apparizione dei fantasmi sullo schermo delle Tesla: il software sbaglia a interpretare l’immagine che gli è stata inviata dalle telecamere, non ha modo di “rendersi conto” del proprio errore valutando la plausibilità della sua interpretazione, e così mostra sullo schermo il risultato del suo sbaglio. L’automobile non sta rivelando cose che i nostri occhi umani non possono vedere; le sue telecamere non stanno ricevendo emanazioni dall’aldilà. I presunti “fantasmi” sono semplicemente errori momentanei di interpretazione automatica delle immagini.

[CLIP da Ghostbusters]

Anche le persone che credono alla natura ultraterrena di questi avvistamenti commettono a loro volta un errore di interpretazione, a un livello molto differente, perché non sanno come funzionano questi software. Ovviamente, se il contesto è un cimitero, magari di notte, la fantasia galoppa e l’unica giustificazione che viene in mente a chi non conosce queste tecnologie è la presenza di un fantasma.

Però tutto questo non spiega come faccia un computer a sbagliare così clamorosamente, per esempio riconoscendo una sagoma umana in un’immagine in cui non c’è nessuno ma si vedono solo prati, fiori e qualche lapide. Scambiare una statua per una persona avrebbe senso, per esempio, ma nei video dei presunti fantasmi si vede chiaramente che intorno all’auto non ci sono oggetti di forma umana. Come fa un computer a sbagliare così tanto?

Confondere sedie a dondolo e occhiali

Alexander Turner, assistente universitario presso la facoltà di scienze informatiche all’Università di Nottingham, nel Regno Unito, spiega in un video della serie Computerphile su YouTube che il riconoscimento delle immagini fatto oggi dai computer in sostanza assegna a ciascuna immagine un valore di probabilità di identificazione.

[CLIP: dal video di Turner per Computerphile]

Per esempio, se si mostra a uno di questi software una foto di un paio di occhiali, il software risponde che rientra nella categoria “occhiali” con una probabilità del 93%, ma non esclude che si tratti di una sedia a dondolo o di un corrimano di una scala, con probabilità però molto più basse. 

Fotogramma tratto dal video di Computerphile.

Questo è il meglio che riesce a fare: bisogna ricordare che il software non “sa” cosa siano gli occhiali o le sedie a dondolo, ma si sta basando esclusivamente sulle forme e sui colori presenti nell’immagine e li sta confrontando con i milioni di campioni di immagini di occhiali, sedie a dondolo e corrimano sui quali è stato addestrato, misurando quanto l’immagine proposta si avvicini a una delle categorie che conosce e poi scegliendo la categoria che ha la maggiore probabilità di corrispondenza, cioè di somiglianza. Tutto qui.

Questo approccio probabilistico, così lontano dalla certezza umana, porta a una vulnerabilità inaspettata di questi sistemi di riconoscimento delle immagini. Come spiega Alexander Turner, di solito il software assegna una probabilità molto alta a una singola categoria e alcune probabilità molto basse ad altre categorie, ma è possibile influenzare fortemente queste assegnazioni con un trucco: basta cambiare qualche pixel a caso dell’immagine e vedere se la probabilità di identificazione corretta aumenta o diminuisce di qualche decimale. Se diminuisce, si mantiene quel pixel cambiato e si prova a cambiarne anche un altro, e così via, ripetutamente, tenendo i pixel alterati che fanno scendere la probabilità di identificazione esatta e fanno salire quella di identificazione errata.

La cosa sorprendente di questa tecnica è che i pixel cambiati che alterano il riconoscimento non hanno niente a che vedere con l’oggetto nell’immagine ma sono una nuvola di punti colorati apparentemente casuali. Per esempio, si può prendere una foto di una giraffa, che il software identifica correttamente come giraffa al 61%, cambiare alcuni pixel qua e là, magari anche solo sullo sfondo, e ottenere che il software identifichi l’immagine come cane al 63%. Ai nostri occhi la foto mostra ancora molto chiaramente una giraffa, ma agli occhi virtuali del software quella giraffa è ora altrettanto chiaramente un cane. 

Fotogramma tratto dal video di Computerphile.
Fotogramma tratto dal video di Computerphile.

Turner prosegue la sua dimostrazione con una foto di un telecomando per televisori su uno sfondo bianco, che viene riconosciuta correttamente dal software: ma spargendo opportunamente dei pixel colorati sull’immagine, il software dichiara che si tratta di una tazza, e assegna a questa identificazione addirittura il 99% di probabilità. Il ricercatore ripete l’esperimento con altri pixel sparsi e il software dice con la stessa certezza che si tratta di una tastiera, di una busta, di una pallina da golf o di una fotocopiatrice. Eppure noi, guardando le immagini alterate, continuiamo a vedere chiaramente che si tratta sempre di un telecomando.

Fotogramma tratto dal video di Computerphile.

La conclusione di questo esperimento è che non solo i computer riconoscono gli oggetti in maniera molto differente da noi, ma esistono delle immagini che li confondono completamente anche se ai nostri occhi non sono ambigue e sembrano semplicemente foto di un oggetto sporcate da qualche puntino disposto a caso. Noi prendiamo lucciole per lanterne, loro scambiano telecomandi per palline da golf.

[CLIP da video di presunti fantasmi visti dalle Tesla]

Nel caso dei presunti fantasmi avvistati dalle Tesla, è probabile che una specifica inquadratura di un particolare punto del prato di un cimitero contenga momentaneamente un insieme di pixel sparsi qua e là, come quelli usati nell’esperimento di Turner, che al nostro sguardo non spiccano affatto ma che per il software spostano la probabilità di identificazione verso la categoria “persona”.

Bisogna ricordare, infatti, che non è necessario che l’immagine sia riconosciuta con il 100% di certezza: è sufficiente che il software assegni alla categoria “persona” una probabilità anche solo leggermente più alta rispetto a tutte le altre categorie. E così sullo schermo comparirà improvvisamente e per un istante la sagoma di un essere umano.

Mistero risolto, insomma. Ma un fantasma, comunque, in questa storia c’è lo stesso.

Il fantasma in autostrada

Gli avvistamenti di presunti fantasmi nei cimiteri a causa di errori del software di riconoscimento delle immagini ovviamente fanno parecchia impressione e generano video molto virali, ma c’è un altro tipo di avvistamento fantasma da parte delle automobili dotate di telecamere che è reale ed è importante conoscerlo perché ha conseguenze molto concrete.

Le telecamere di questi veicoli vengono usate per l’assistenza alla guida, per esempio per il mantenimento di corsia, per la lettura dei limiti di velocità e per l’identificazione degli ostacoli. L’auto adatta la propria velocità in base alla segnaletica e alla presenza di barriere, veicoli o altri oggetti lungo la strada. Ma se il software di riconoscimento delle immagini sbaglia ad assegnare categorie agli oggetti che vede, le conseguenze possono essere pericolose.

Questi sbagli possono essere spesso comprensibili e anticipabili da parte del conducente, come in un video molto popolare che circola su Twitter e mostra una Tesla che sbaglia a identificare una carrozza che le sta davanti e la mostra come camion, come furgone, poi di nuovo come autoarticolato ma rivolto in senso contrario alla direzione di marcia, e infine aggiunge un inesistente essere umano che cammina in mezzo alla strada. Fortunatamente tutta la scena avviene a bassissima velocità e in modalità di guida manuale; ma se fosse stata attiva la guida assistita, come avrebbe reagito l’auto a quel pedone fantasma?

In altre circostanze, invece, lo sbaglio del software può essere completamente incomprensibile e imprevedibile. Se il riconoscimento delle immagini del sistema di assistenza alla guida identifica erroneamente che c’è un ostacolo che in realtà non esiste, e lo fa perché in quell’istante l’immagine inviata dalle telecamere contiene per caso dei pixel che spostano la probabilità di identificazione verso la categoria “ostacolo”, l’auto potrebbe frenare di colpo senza motivo apparente. È quello che gli utenti di questi veicoli chiamano phantom braking, ossia “frenata fantasma”, e se avviene nel traffico può aumentare la probabilità di tamponamenti, perché il conducente del veicolo che sta dietro non si aspetta che l’auto che ha davanti freni improvvisamente e senza motivo quando la strada è libera. Le versioni più recenti dei software di guida assistita hanno ridotto questo fenomeno, ma non è ancora scomparso del tutto.

Si può anche immaginare uno scenario in cui vengono create intenzionalmente situazioni che sembrano innocue ai nostri occhi ma producono errori nei sistemi di riconoscimento delle immagini. Per esempio, per le auto a guida assistita è facile pensare a immagini speciali, applicate al retro di furgoni o camion o cartelli stradali, oppure sul manto stradale, che hanno un aspetto normale ma contengono uno schema di pixel apparentemente casuali che forza i veicoli a frenare, accelerare o cambiare corsia, con intenti ostili oppure protettivi.

Uscendo dal settore automobilistico, sono già in vendita indumenti che hanno colorazioni e forme che all’osservatore umano sembrano prive di significato ma che mettono in crisi i sistemi di riconoscimento facciale delle telecamere di sorveglianza. In campo medico, l’uso crescente di sistemi di riconoscimento automatico delle immagini per la diagnosi può portare a sviste devastanti se il software non ha un approccio prudente, ossia genera falsi positivi invece di falsi negativi, e se il medico non conosce e non considera queste debolezze del software.

Insomma, non vi angosciate: le anime dei defunti non hanno deciso di rendersi visibili solo a chi ha un’automobile di una specifica marca. Almeno per ora.

[CLIP: Risata di Vincent Price da Thriller di Michael Jackson]

 

Fonti aggiuntive: Makeuseof.com, Ricoh, Carscoops.com, Science Times, IFLScience.

Podcast RSI – Chrome leva lucchetti ingannevoli, Twitter purga account inattivi, Spotify contro ascoltatori sintetici

logo del Disinformatico

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano i testi di accompagnamento e i link alle fonti di questa puntata, sono linkati qui sotto.

Google Chrome dirà addio al lucchetto da settembre

Google Chrome dirà addio al lucchetto da settembre

Prendete il vostro smartphone, se potete, e usatelo per visitare una qualsiasi
pagina del Web: noterete che a sinistra del nome del sito che state visitando
c’è l’icona di un lucchetto. Sapete spiegare che cosa significa quel lucchetto?

Se avete risposto che indica che il sito che state guardando è sicuro e
affidabile, avete sbagliato, ma consolatevi: la maggior parte della gente
sbaglia allo stesso modo. Secondo uno
studio condotto da Google
nel 2021, solo l’11% delle persone conosce il vero significato di quest’icona,
e anzi molti utenti non sanno neppure che quest’icona è cliccabile. Anche altri
studi hanno
confermato la
diffusione molto ampia di questo equivoco. Ed è per questo che Google ha
annunciato
che ai primi di settembre 2023 l’icona del lucchetto verrà sostituita da un altro
simbolo in Chrome per dispositivi Android e sparirà del tutto su Chrome per iPhone e iPad.

È un cambiamento importante, che rispecchia il cambiamento altrettanto grande
che ha coinvolto tutta Internet negli ultimi anni. L’icona del lucchetto
indica che il sito viene visitato usando una connessione cifrata e quindi i
dati che vengono scambiati non sono intercettabili o alterabili da parte di
terzi. Una funzione preziosa, per esempio, per qualunque sito che gestisca
dati personali o soldi, come i siti di acquisti o di gestione dei conti
bancari.

Questa connessione cifrata, indicata dalla sigla HTTPS, è stata introdotta
oltre vent’anni fa, ma è rimasta a lungo una rarità e veniva appunto segnalata come una
protezione aggiuntiva da tutti i browser, da Internet Explorer a Safari,
grazie all’icona del lucchetto. Ma oggi la connessione cifrata è diventata la
norma, per cui quest’icona è quasi sempre presente sullo schermo e quindi ha
perso la propria utilità informativa: anzi, secondo Google è diventata
pericolosa, perché oggigiorno anche i siti dei truffatori
offrono connessioni
cifrate e quindi fanno comparire sullo schermo il lucchetto. Lo fanno perché
contano sul fatto che moltissimi utenti penseranno che il lucchetto sia un
indicatore di autenticità o affidabilità. Ma non lo è affatto.

Se usate Google Chrome, insomma, preparatevi al fatto che tra poco l’icona del
lucchetto verrà sostituita, sui computer e sui tablet e smartphone Android, da
un simbolo molto differente: due cerchietti e due trattini, che dovrebbero
rappresentare delle regolazioni o impostazioni. L’icona sarà cliccabile per
avere maggiori informazioni sul sito visitato e sulla protezione delle
comunicazioni con quel sito, esattamente come prima. Sui tablet e smartphone
Apple, invece, l’icona sparirà completamente. E visto che Chrome è uno dei
browser più usati e quello che fa Chrome fa tendenza, è probabile che anche le
altre app di navigazione adotteranno presto un cambiamento analogo [in Firefox c’è già un’icona molto simile ma speculare, che ha una funzione differente: informa sui permessi e i cookie concessi a un sito].

Il simbolo che sostituirà il lucchetto in Google Chrome da settembre.

Preparatevi insomma per questo cambiamento a settembre, e nel frattempo
ricordate che già adesso l’icona del lucchetto, in qualsiasi browser, non
indica che un sito è autentico o fidato, ma significa soltanto che la
comunicazione con quel sito è protetta dalla crittografia. Vuol dire
che magari state comunicando con dei truffatori, ma lo state facendo in
maniera protetta. Magra consolazione, lo so: forse sarebbe meglio non comunicare
affatto con certa gente.

 

Fonti aggiuntive:
Ars Technica,
Engadget.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Spotify, musica sintetica per ascoltatori sintetici

Spotify, musica sintetica per ascoltatori sintetici

Più di quarant’anni fa, lo scrittore di fantascienza e futurologo Arthur C.
Clarke scrisse, nel suo libro Profiles of the Future,
parole
sottilmente sprezzanti e profetiche a proposito della musica generata tramite
computer:
“[…] ora che ai calcolatori elettronici è stato insegnato come comporla,
possiamo aspettarci fiduciosamente che ben presto alcuni di questi calcolatori
impareranno ad apprezzarla, evitandoci così lo sforzo”.*

* “The prospect for modern music is a little more favourable; now that
electronic computers have been taught to compose it, we may confidently
expect that before long some of them will learn to enjoy it, thus saving us
the trouble”.


[CLIP: HAL si offre di cantare una filastrocca in 2001 Odissea nello spazio] 

Sembra che Clarke ci abbia azzeccato ancora una volta: dopo la musica
sintetica generata dall’intelligenza artificiale, è ora il turno degli
ascoltatori sintetici. 

Pochi giorni fa è emersa la notizia che la piattaforma
di streaming audio Spotify ha rimosso dal proprio catalogo decine di migliaia
di brani musicali che erano stati generati usando
Boomy, un servizio di generazione di musica
basato sull’intelligenza artificiale. Spotify ha inoltre bloccato temporaneamente la
pubblicazione di nuovi brani provenienti da Boomy.

Questi brani sono stati rimossi perché sospettati di essere ingredienti di una
frode di “streaming artificiale”. In pratica, gli account Spotify che consumavano
questi brani non erano persone reali che ascoltavano musica: erano programmi che fingevano di essere
ascoltatori, allo scopo di far salire artificialmente il numero di ascolti di brani spazzatura e generare incassi
fraudolenti.

Va chiarito, fra l’altro, che Boomy è estranea alla frode ed è soltanto uno strumento usato
dai truffatori, tanto che Spotify ha
riattivato
la pubblicazione supervisionata di nuovi brani provenienti da questo servizio
di generazione musicale.

La notizia di questo blocco di massa ha fatto scalpore, ma in realtà non è il primo caso del suo genere: il meccanismo della truffa è già noto da tempo, ma secondo le ricerche del sito specializzato Music Business Worldwide è in rapida crescita a causa di tre fattori concomitanti.

Il primo fattore è la recente possibilità di generare a costo bassissimo o nullo un numero enorme di brani musicali, grazie appunto a servizi come Boomy, che dichiara di aver generato per i suoi utenti oltre 14 milioni di tracce musicali. Questo riduce enormemente i costi operativi della frode, perché prima era necessario prendere una persona e farle comporre qualcosa che somigliasse a un brano musicale. E quella persona, ovviamente, doveva essere pagata: poco, ma pagata.

Il secondo fattore è il successo delle cosiddette stream farm, che sono delle organizzazioni illecite che usano dei software basati sull’intelligenza artificiale per simulare il comportamento di un ascoltatore di musica in carne e ossa e coordinano le attività di un numero elevatissimo di questi ascoltatori sintetici per gonfiare il numero di ascolti dei brani spazzatura.

Il terzo fattore, quello decisivo secondo Music Business Worldwide, è l’attuale criterio di distribuzione dei compensi dei servizi di streaming audio, denominato “pro-rata”. In pratica, i soldi che ciascun abbonato paga mensilmente a Spotify, Apple Music o altri servizi analoghi confluiscono in un unico conto generale. Questo totale viene poi distribuito agli artisti e alle etichette musicali in base alla loro rispettiva quota di mercato. Più un brano è alto in classifica, più soldi incassa. E qui sta il problema: questo metodo di distribuzione incentiva gli utenti commerciali del servizio di streaming, cioè quelli che producono la musica, a cercare di ottenere il numero più alto possibile di ascolti (reali o simulati) invece del maggior numero possibile di ascoltatori.

La differenza può sembrare sottile, ma ha un effetto cruciale: con questo criterio pro-rata, parte dei soldi che ciascun abbonato paga per il servizio viene versata a brani che quell’abbonato non ha ascoltato e che spesso non sono stati ascoltati da nessuno, perché il loro piazzamento nella graduatoria dei compensi è stato ottenuto illecitamente usando le stream farm. Varie fonti stimano che questa frode porti via ai servizi di streaming circa un miliardo e duecento milioni di dollari l’anno, sui 17 miliardi e mezzo incassati dallo streaming musicale in tutto il mondo nel 2022, secondo i dati IFPI. E i vari filtri utilizzati dai servizi di streaming per identificare i brani generati dall’intelligenza artificiale e bloccarli sono imperfetti e insufficienti.

Esiste però un rimedio a questo problema, che toglierebbe di colpo l’ossigeno alle frodi di questo tipo: passare a un criterio in cui i soldi dell’abbonamento di un utente vengono dati esclusivamente agli artisti ascoltati da quell’utente. È il modello che SoundCloud, per esempio, chiama fan-powered, e che altri servizi di streaming stanno iniziando ad adottare. In questo modello non c’è un gruzzolo comune di soldi altrui accessibili ai truffatori, e quindi le stream farm e i loro brani musicali fittizi non hanno più motivo di esistere.

Il problema, insomma, è serio, e non potrà che peggiorare con il maturare dei software di generazione di musica sintetica tramite intelligenza artificiale, perché i brani falsi saranno sempre più difficili da distinguere da quelli autentici. Ma una soluzione, volendo, c’è.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.