Vai al contenuto
Le parole di Internet: adversarial attack

Le parole di Internet: adversarial attack

Fonte: Wired.

Noi abbiamo le illusioni ottiche, i computer hanno gli adversarial attack: è questa l’espressione che indica in informatica un contenuto (un’immagine, un video, un suono o un malware) che noi riconosciamo senza problemi ma confonde i sistemi di riconoscimento automatico. 

L’immagine qui accanto, per esempio, viene riconosciuta dalle persone senza alcun problema: sono due uomini in piedi, su una distesa innevata, in posa mentre sciano. Ma il sistema di riconoscimento delle immagini Google Cloud Vision, spiega Wired, lo ha identificato con il 91% di certezza come un cane.

Trovate altri esempi qui: è particolarmente notevole il gatto scambiato per del guacamole. E se volete quelli acustici, divertitevi qui.

È insomma chiaro che i sistemi di riconoscimento automatico per ora “pensano“ in maniera molto diversa dagli esseri umani: non avendo conoscenza del mondo fisico, ragionano soltanto sui pixel e non possono valutare cose come il contesto o la plausibilità di un’immagine o di un suono.

Le foto dei gattini sono utili: sviluppano l’intelligenza artificiale

Le foto dei gattini sono utili: sviluppano l’intelligenza artificiale

Finalmente avete una giustificazione tecnica per pubblicare foto di gattini (ammesso che sentiate il bisogno di averne una): Facebook ha annunciato di aver utilizzato ben 3,5 miliardi di foto pubbliche di Instagram, corredate da 17.000 hashtag digitati dagli utenti per etichettarle, allo scopo di addestrare sistemi di riconoscimento delle immagini.

È la più vasta serie di foto mai usata in un progetto del genere: dieci volte più grande di quella usata da Google di recente.

Questo ha permesso al sistema di Facebook di ottenere un risultato record nell’identificazione e nell’etichettatura automatica delle immagini di circa 1000 categorie, comprese le ruote di auto, le calze di Natale e naturalmente i gatti, arrivando a riconoscere correttamente nell’85.4% dei casi, contro il risultato precedente di Google, che era arrivato all’83.1% (comunque un valore più che rispettabile).

Questi sistemi di riconoscimento sono utili ai non vedenti, per esempio, perché descrivono automaticamente il contenuto grafico di un post, ma servono anche per fare una preselezione delle immagini inaccettabili (pornografia, violenza) e, secondo i piani di Facebook, della propaganda criminale e terroristica. Ma questo è niente rispetto alla possibilità di dire che postiamo gattini per la scienza.

Fonte: Wired.

Facebook tenta di far passare il riconoscimento facciale anche in Europa

Facebook tenta di far passare il riconoscimento facciale anche in Europa

Credit: Lorenzo Vianini.

Facebook sta iniziando a chiedere agli utenti europei e canadesi di attivare il riconoscimento facciale per identificarli nelle foto e anche nei video, come già avviene in molte altre regioni del mondo.

Nell’UE questo riconoscimento era stato interrotto nel 2012 in seguito alle obiezioni dei legislatori e delle associazioni di tutela della privacy.

Stavolta Facebook ci prova, in occasione dell’imminente entrata in vigore delle nuove norme GDPR, aggiungendo al riconoscimento facciale nuove funzioni per renderlo apparentemente più utile e appetibile per gli utenti, come nota Graham Cluley. Il comunicato stampa di Facebook parla della possibilità di sapere se qualcuno carica una vostra foto come immagine del proprio profilo e quindi evitare che qualcuno si spacci per voi, oppure di sapere quando qualcuno vi include in una foto senza taggarvi.

Il riconoscimento facciale sarebbe utile, dice Facebook, anche per gli ipovedenti, perché consentirebbe al social network di descrivere a parole il contenuto di un’immagine, come già avviene in parte già ora.

È piuttosto evidente che questa raccolta di massa di immagini catalogate comporta un rischio di privacy, molestia, stalking e abuso generale molto elevato, e Facebook non ha un passato particolarmente brillante in questo senso, per cui è consigliabile disattivare quest’opzione.

Il guaio è che nonostante tutte le promesse di redenzione fatte da Facebook, le prime segnalazioni indicano che l’opzione di riconoscimento facciale è attivata per impostazione predefinita, almeno in questa fase introduttiva, e spetta all’utente accorgersi che c’è e disabilitarla.

Sull’app, toccate l’hamburger (le tre linee orizzontali), andate in Impostazioni – Privacy e cercate Riconoscimento facciale.

Se invece usate il sito Web di Facebook, provate questo link:

https://www.facebook.com/settings?tab=facerec

Non tutti trovano quest’opzione. Ho chiesto ad alcuni lettori, che l’hanno trovata attivata e mi hanno mandato le schermate che vedete qui sopra. Conviene quindi restare vigili.

Riconoscimento facciale: Windows 10 beffato da una foto

Riconoscimento facciale: Windows 10 beffato da una foto

È ancora decisamente troppo facile ingannare i sistemi di riconoscimento facciale, anche se vengono proposti sempre più spesso come alternative alle password o ai rilevatori di impronte digitali.

Una dimostrazione molto efficace di questa facilità arriva da Windows 10, che ha un’opzione, denominata Hello, che consente di sostituire la password di login con un riconoscimento del volto dell’utente.

Un gruppo di ricercatori tedeschi, SySS, ha scoperto che è possibile sbloccare un computer Windows 10 protetto da Hello mostrando alla sua telecamera una foto dell’utente autorizzato. Il trucco consiste nell’usare una foto scattata con una telecamera all’infrarosso (una webcam con funzione di visione notturna va benissimo) e stamparla dopo averla tinta leggermente. Hello usa infatti una telecamera all’infrarosso, proprio per evitare che basti una foto a colori per ingannare il sistema, ma la stampa di una foto all’infrarosso somiglia a quello che la telecamera di Hello si aspetta di vedere e quindi la inganna.

È sufficiente una foto a bassa risoluzione (480 x 480 pixel) per beffare anche la versione enhanced anti-spoofing di Windows Hello (non disponibile su tutti i sistemi).

Morale della storia: non siate pigri e usate una buona password alla maniera tradizionale.

Fonte aggiuntiva: Ars Technica.

iPhone X, Apple spiega i limiti del riconoscimento facciale

iPhone X, Apple spiega i limiti del riconoscimento facciale

Apple ha pubblicato un documento che spiega in dettaglio il funzionamento di Face ID, il sistema di riconoscimento facciale incorporato nel suo nuovo smartphone di punta, l’iPhone X.

Secondo Apple, il sistema funziona benissimo nelle situazioni normali, in cui un malintenzionato o ficcanaso generico tenta di sbloccare abusivamente lo smartphone, ma va in crisi con i gemelli, con i fratelli o le sorelle che si somigliano, con i sosia e con i volti dei bambini fino a circa 13 anni, perché crescono e cambiano continuamente.

Va detto che lo smartphone di Apple chiede comunque in molte occasioni un PIN per sbloccarlo e che il suo riconoscimento facciale può essere disabilitato.

Più in generale, ogni sistema di riconoscimento dei volti deve gestire una sfida davvero impegnativa: mentre un lettore d’impronte digitali ha a che fare soltanto con polpastrelli, che non cambiano forma in continuazione, il riconoscimento facciale deve tenere conto di tantissime variabili (per esempio acconciature, cappelli, sciarpe, occhiali da vista e da sole, trucco e lenti a contatto) e deve funzionare al chiuso e all’aperto e anche nell’oscurità. Apple precisa che ha aggiunto una rete neurale apposita per riconoscere i tentativi di raggiro basati su fotografie o maschere.

Infine, secondo il documento di Apple, i dati raccolti da Face ID non lasciano mai il telefonino e non vengono salvati su iCloud o altrove.

Fonte: Naked Security.

iPhoneX: una buona occasione per parlare di riconoscimento facciale

iPhoneX: una buona occasione per parlare di riconoscimento facciale

Ultimo aggiornamento: 2017/09/16 00:15.

Apple ha annunciato pochi giorni fa l’iPhone X (si pronuncia “dieci”, a quanto pare). Ci sarebbe molto da dire sull’idea di spendere mille dollari per un telefonino, e soprattutto di spenderli per poter creare delle emoji animate personalizzate, ma credo che sia più importante cogliere l’occasione per parlare del riconoscimento facciale come sistema di accesso e di sicurezza, perché ha dei limiti precisi che è importante conoscere.

Prima di tutto, FaceID, il riconoscimento facciale proposto da Apple, è piuttosto furbo: fa una scansione tridimensionale del volto, per cui non dovrebbe essere ingannabile da una fotografia come alcuni concorrenti (ehm, Samsung). E in caso di emergenza, se non funziona il riconoscimento si può digitare un PIN di sblocco. Inoltre la scansione del volto resta sul telefonino, secondo quanto dichiarato da Apple, per cui non ci sarebbe da temere una schedatura di massa dei nostri volti.

Ma è il concetto stesso di usare come codice di sblocco proprio il volto, che per definizione è una delle cose più pubbliche che esistano, che si scontra con la sicurezza: come dice l’esperto di sicurezza Dan Tentler (@Viss), “È come impostare come password la parola ‘password’ e poi tatuarsela sulla fronte”.

C’è chi obietta che le stesse critiche furono mosse ai sensori d’impronta: vero, ma qui c’è la complicazione che le dita sono dieci ma la faccia è una sola e non ne puoi scegliere un’altra o cambiarla come fai con una password, salvo interventi drastici di chirurgia plastica. E se hai un gemello identico, sei fregato (i gemelli hanno impronte digitali differenti).

Con un sensore d’impronta, un intruso deve prenderti il dito giusto e puoi anche definire un “dito d’emergenza” (duress finger) da appoggiare sul sensore al posto di quello normale per disabilitarlo e bloccare il telefono contro un’aggressione. Con un riconoscimento facciale, invece, un ladro o un ficcanaso può entrare nel telefonino e farlo suo semplicemente così:

“Mi scusi, questo telefono è suo?”

“Mi faccia vedere…”

“TA-DA! Fregato!” (e scappa con il telefono sbloccato)

Va detto che Apple ha previsto una funzione di blocco d’emergenza sia per il sensore d’impronta, sia per il riconoscimento facciale: premere cinque volte di seguito il tasto Home (nel caso del sensore d’impronta) o cinque volte il tasto di accensione o a lungo i due laterali (nel caso del riconoscimento facciale). Ma le perplessità degli esperti abbondano: ammesso che funzioni bene, nota per esempio Edward Snowden, abitua la gente a un’operazione invasiva come la scansione del volto. Su Motherboard trovate i pareri di altri esperti del settore.

E tutto questo, in fondo, avviene in gran parte per una questione di design: così, infatti, l’iPhone X si distingue perché non ha più tasti frontali ed è tutto schermo. Altri telefonini, invece, hanno trovato una soluzione che consente la stessa cosa, costa meno di mille dollari e non compromette la sicurezza così tanto: nel mio Nexus di LG/Google il sensore d’impronta è sul retro.

Facebook guarda e riconosce automaticamente tutte le foto che postate e le descrive

Facebook guarda e riconosce automaticamente tutte le foto che postate e le descrive

L’articolo è stato aggiornato dopo la pubblicazione iniziale. Ultimo aggiornamento: 2017/01/14 13:45.

Gli esperti di sicurezza e privacy di Labnol segnalano una particolarità poco conosciuta di Facebook: ogni foto che caricate viene analizzata da un sistema automatico di riconoscimento delle immagini. Lo potete vedere all’opera prendendo una qualsiasi foto di Facebook, vostra o di qualcun altro, cliccandovi sopra per mostrarla in modalità galleria fotografica e usando gli strumenti avanzati del browser (meglio su computer, non su smartphone) per vedere il codice che compone la pagina contenente la foto. Nel codice troverete un img class=”spotlight” seguito da una descrizione della foto, che viene generata automaticamente.

Per esempio, secondo Facebook questa foto “può contenere: 2 persone”, riconosciute nonostante i vestiti ampi ne coprano e confondano le forme.

Facebook riconosce una persona anche se è mascherata dentro l’involucro informe di uno scafandro spaziale ed è vista di lato: dice che questa foto “può contenere: una o più persone”.

Ho provato a caricare la foto di un gatto che è visibile solo per metà ed è a cavalcioni di un monitor di computer, e Facebook l’ha descritta immediatamente come “gatto e schermo”:

Nelle demo di Labnol ci sono esempi nei quali Facebook riconosce “una o più persone in bicicletta all’aperto”, “tre persone sedute”, “un paio di occhiali”, e addirittura conta le persone presenti, come nel caso mostrato qui sotto, dove dichiara “26 persone, persone che sorridono, persone sedute, persone in piedi e al chiuso”:

Se già questo è un risultato notevole (qualcosa di simile esiste anche in Google Foto) concepito per aiutare i non vedenti, Facebook sta sperimentando un sistema chiamato DeepFace, che è in grado di riconoscere l’identità precisa delle persone nelle foto con la stessa affidabilità di un essere umano e meglio del sistema di riconoscimento usato dall’FBI, secondo Computerworld. Non solo: riesce spesso a identificare anche persone il cui volto non è visibile, guardando l’acconciatura, la corporatura, la posizione e l’abbigliamento.

Il potere di schedatura di massa di queste tecnologie è impressionante: significa che uno sconosciuto può fotografarvi per strada e scoprire chi siete e qual è il vostro account sui social network, come avviene già in Russia con Findface.ru, con risultati inquietanti documentati in molti video.

A proposito di riconoscimento facciale, se siete utenti di Facebook e volete evitare che il social network vi riconosca in ogni foto e suggerisca automaticamente a tutti il vostro nome come tag, potete andare (da computer) nelle Impostazioni del diario e dei tag del vostro account e scegliere la voce Come faccio a gestire i tag aggiunti dalle persone e i suggerimenti di tag? e la sottosezione Chi può vedere i suggerimenti dei tag quando vengono caricate foto che ti somigliano?: scegliete l’opzione Nessuno e poi Chiudi.



Fonti aggiuntive: F-Secure.

Google Photo Scan, smartphone come scanner per grandi formati

Google Photo Scan, smartphone come scanner per grandi formati

Google PhotoScan (FotoScan di Google nella versione italiana) è una nuova app per Android e iOS che permette di usare lo smartphone come se fosse uno scanner e digitalizzare per esempio le fotografie cartacee o le pagine delle riviste. Funziona in modo estremamente semplice: inquadrate l’intera foto con il telefonino e poi lo muovete seguendo le istruzioni sullo schermo (in pratica si tratta di posizionare un cerchio intorno a ciascuno di quattro puntini in sequenza).

Questo movimento permette all’app di vedere la fotografia da varie angolazioni: in questo modo può correggere le distorsioni dovute alla posizione non perfettamente centrata del telefonino, scontornare la foto e anche eliminare eventuali riflessi dalle superfici lucide.

Nella maggior parte dei casi i risultati sono paragonabili a quelli di una scansione con uno scanner tradizionale di media qualità. Cosa più importante, il procedimento è rapido e non richiede di avere con sé uno scanner, col risultato che diventa molto più usabile. Avete un archivio di vecchie foto cartacee che vi ripromettete prima o poi di digitalizzare ma non trovate mai il momento giusto? Ora è più facile.

Se volete un campione del lavoro di PhotoScan, guardate la foto che accompagna questo articolo: è la copertina di una rivista appoggiata alla buona su un tavolo, scontornata automaticamente molto bene e raddrizzata digitalmente in modo accettabile anche se non perfetto (nell’originale il titolo “Extra” non è ondulato).

La foto viene archiviata automaticamente nel vostro account Foto di Google, dove è possibile elaborarla a piacimento. E dove ovviamente Google può esaminarla automaticamente per aggiungerla ai propri immensi archivi di riconoscimento facciale.

Sostituzione dei volti in tempo reale sulla webcam

Sostituzione dei volti in tempo reale sulla webcam

La faccia inquietante che vedete qui accanto è la mia, combinata digitalmente in tempo reale con quella di Sean Connery. Il bello (si fa per dire) è che quando giro o sposto la testa, muovo la bocca o cambio espressione, il volto sintetico si adatta istantaneamente seguendo i miei movimenti. Un sistema comodissimo per realizzare video anonimizzati o per presentarsi sempre in ordine nelle videochiamate.

È l’effetto di Face substitution, una pagina Web che usa Javascript per analizzare il contenuto dell’immagine della vostra webcam, riconoscendo i lineamenti del volto originale e deformando al volo quelli del volto digitale per adattarli all’immagine.

Per provare quest’effetto basta un browser (preferibilmente Chrome), nel quale date il consenso all’acceso alla vostra webcam. Attendete qualche secondo e poi premete Start e scegliete il volto che volete usare: fra le scelte possibili segnalo il Terminator, George Clooney, Justin Bieber, Bill Murray, Sean Connery, Nicolas Cage, Barack Obama, Chuck Norris e un terrificante Scream che vi fa assumere sembianze rettiliane. Fra i volti femminili cito Rihanna, Monna Lisa, la Regina Elisabetta e Audrey Hepburn.

La sostituzione del volto non è perfetta e ogni tanto sbava o si stacca dal volto reale, ma se si può ottenere questo livello di risultati semplicemente con del Javascript e un browser, viene da chiedersi cosa si possa fare con sistemi di programmazione più convenzionali e magari un piccolo accessorio hardware dedicato. Fra l’altro, tutto il codice è liberamente scaricabile e modificabile.

Facebook identificherà automaticamente i volti

Facebook identificherà automaticamente i volti

Facebook diventerà davvero il libro delle facce: le identificherà automaticamente

Facebook sta introducendo una nuova funzione: il riconoscimento automatico delle persone nelle fotografie pubblicate sul social network. Esisteva già una funzione simile, che permetteva a Facebook di riconoscere la presenza di un volto in una foto, ma con questa novità il Libro delle Facce diventa capace di assegnare un nome e un cognome a ogni volto fotografato.

Si tratta di una funzione sperimentale, offerta per ora soltanto a un numero ristretto di utenti statunitensi, che si limita a suggerire nomi da usare per il tagging delle foto (ogni giorno ne vengono caricate cento milioni), e ci sarà una funzione di rinuncia che permetterà all’utente di non farsi includere nella lista dei nomi suggeriti da Facebook per il tagging.

Secondo Chris Cox, Vice President of Product di Facebook, intervistato da Cnet, la funzione non deve inquietare ma è un bonus, perché permette di allertare gli utenti dell’esistenza di una loro foto su Facebook, dalla quale potranno rimuovere il tag. In alternativa potranno chiedere a chi ha pubblicato la loro foto di rimuoverla.

Fonti: Gawker, Cnet, Readwriteweb.com, Facebook.
Credit immagine: Facebook via Cnet.