Alexa ha detto a un bambino di fare una “sfida” potenzialmente letale

Alexa di Amazon ha detto a un bambino di toccare con un centesimo i poli esposti di un caricatore del telefono collegato al muro, secondo un genitore che ha pubblicato screenshot della cronologia delle attività di Alexa mostrando l’interazione (attraverso Computer che suona). Il dispositivo sembra aver tratto l’idea per la sfida da un articolo che lo descriveva come pericoloso, citando notizie su una presunta tendenza di sfida su TikTok.

Secondo lo screenshot di Kristin Livdahl, l’Echo ha risposto a “dimmi una sfida da fare” con “Ecco qualcosa che ho trovato sul web. Secondo ourcommunitynow.com: La sfida è semplice: collegare un caricatore del telefono a circa metà a una presa a muro, quindi toccare con un centesimo i poli esposti.

In una dichiarazione alla BBC, Amazon ha confermato il comportamento di Alexa, dicendo: “Non appena siamo venuti a conoscenza di questo errore, abbiamo agito rapidamente per risolverlo”. Livdahl ha twittato ieri che chiedere una sfida non funzionava più. Testando il prompt con Alexa, non siamo stati in grado di ottenere un risultato simile oggi e anche chiedere una sfida dal web non ha ricevuto risposta o è stato estratto da un pool molto limitato.

La risposta di Alexa alle richieste di sfida il 28 dicembre, dopo che Amazon ha risolto questa particolare risposta.

La risposta di Alexa alle richieste di sfida il 28 dicembre, dopo che Amazon ha risolto questa particolare risposta.
Immagine: The Verge

Amazon non è l’unica azienda a incappare in problemi nel tentativo di analizzare il Web alla ricerca di contenuti. In ottobre, un utente segnalato che Google ha mostrato consigli potenzialmente pericolosi in uno dei suoi frammenti in primo piano se hai cercato su Google “ha avuto un attacco ora che cosa” – le informazioni che ha mostrato provenivano dalla sezione di una pagina web che descrive cosa non fare quando qualcuno stava avendo un attacco. Al tempo, Il Verge ha confermato il rapporto dell’utente, ma sembra che sia stato corretto in base ai test che abbiamo fatto oggi (non viene visualizzato alcun frammento quando Google “ha avuto un attacco ora che cosa”).

Tuttavia, gli utenti hanno segnalato altri problemi simili, tra cui un utente che ha detto Google ha dato risultati per l’ipotensione ortostaticaIltensione durante la ricerca di hyp ortostaticoètensione, e un altro che postato uno screenshot di Google che mostra consigli terribili per consolare qualcuno che è in lutto.

Abbiamo anche visto gli avvertimenti sui comportamenti pericolosi amplificati per rendere il problema più grande di quanto non fosse in origine: all’inizio di questo mese, alcuni distretti scolastici statunitensi hanno chiuso dopo segnalazioni che si autoalimentano su minacce di tiro su TikTok. Si è scoperto che la tempesta di fuoco sui social media è stata causata in modo schiacciante da persone che parlavano di minacce, molto più di qualsiasi minaccia che potesse essere esistita. Nel caso di Alexa, un algoritmo ha selezionato la parte descrittiva di un avviso e l’ha amplificata senza il contesto originale. Mentre il genitore era lì per intervenire subito, è facile immaginare una situazione in cui non è così o in cui la risposta condivisa da Alexa non è così ovviamente pericolosa.

tweet di Livdahl che ha sfruttato l’opportunità per “passare attraverso la sicurezza di Internet e non fidarsi delle cose che leggi senza ricerche e verifiche” con suo figlio.

Amazon non ha risposto subito a Il Vergela richiesta di commento.

Aggiornamento 28 dicembre, 16:37 ET: Aggiunte ulteriori informazioni sulla risposta di Alexa alla stessa domanda ora.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.