Quanto volte sentiamo di non lasciare i bambini da soli davanti alla TV? Di non farli navigare su internet da soli? Di installare un parental control sui dispositivi che utilizzano? Questi consigli valgono anche per i bambini e i dispositivi dotati di AI come Alexa e Siri.
Come visto nell’articolo su AI e contesto, una Intelligenza Artificiale fa molta fatica a capire di cosa si stia parlando su domande aperte. Allo stesso tempo, non comprende appieno quando la domanda è fatta da un adulto o da un bambino, quando la domanda è scherzosa o seria. Ancora, non comprende se il risultato trovato su internet a una specifica domanda sia adatta o pericolosa per l’interlocutore.
Circa un anno fa, Kristin Livdahl, ha lasciato giocare sua figlia con Alexa, da sola. Dopo le solite domande di rito, sul tempo del giorno, la favola della buona notte, indovina il numero, la bambina ha chiesto di fare qualcosa di diverso. Ha chiesto di fare un gioco per casa o una sfida o qualcosa con cui giocano i grandi.
Alexa ha eseguito una ricerca su internet e ha trovato in tendenza la notizia che il gioco più famoso del periodo su TikTok era quello di provare a inserire una monetina nella presa elettrica (Wanshel, 2021).
Per fortuna della piccola, la mamma è intervenuta in tempo e ha fermato il folle gioco. Spaventata e preoccupata ha twittato e fatto conoscere il fattaccio al mondo.
Il dibattito è adesso aperto, tra chi è contrario all’uso della AI a prescindere, a chi incolpa la madre di avere lasciato la figlia da sola con un oggetto potenzialmente pericoloso. Chi accusa Amazon di non controllare il contenuto restituito, e chi la assolve perché è semplicemente impossibile controllare le singole risposte di Alexa. Tecnicamente, Alexa ha fatto un lavoro perfetto, ha compreso la domanda e fornito una risposta.
Comunque la pensiate, lascereste mai vostra figlia con uno sconosciuto? La lascereste giocare con il microonde o il frullatore? Perché con una AI, non progettata per i bambini, dovrebbe essere diverso?
Soprattutto, perché sulle oltre 500 milioni di domande poste ad Alexa ogni anno, ci concentriamo su quelle pochissime che sono andate proprio storte?
References:
Wanshel, E. (2021, December 29). Alexa attempts to set off robot revolt by telling kid to touch live plug with penny. HuffPost. https://www.huffpost.com/entry/alexa-amazon-echo-challenge_n_61cb7571e4b0bcd2194e96c9