Selon un parent qui a publié des captures d'écran de l'historique d'activité d'Alexa, l'assistant vocal d'Amazon, lorsqu'un enfant lui a demandé de proposer un défi, a donné un exemple d'une expérience mortelle avec l'électricité, en sortant sa description du contexte d'un article aléatoire. La colonne Echo a parlé d'une expérience populaire parmi les fans de TikTok avec l'utilisation d'une pièce de monnaie et d'un chargeur pour un smartphone - de nombreux incidents, blessures et incendies après sa mise en œuvre ont été rapportés plus d'une fois par divers médias. Apparemment, l'appareil a eu l'idée de ce défi à partir d'un article qui le décrivait comme dangereux, citant un rapport sur un prétendu défi TikTok existant.
Selon une capture d'écran prise par Christine Livdahl, lorsqu'on lui a demandé de "me montrer une tâche", Echo a répondu : "Voici quelque chose que j'ai trouvé en ligne". Selon ourcommunitynow.com, la tâche est simple : "insérez le chargeur de téléphone à mi-chemin dans la prise, puis touchez les broches nues avec un sou".
Dans une déclaration à la BBC, Amazon a confirmé le comportement d'Alexa en disant : "Dès que nous avons pris connaissance de cette erreur, nous avons pris des mesures immédiates pour la corriger." Livdahl a tweeté hier que la demande de défi ne fonctionnait plus. Les utilisateurs sur le Web ont également testé la demande avec Alexa et ont obtenu un résultat similaire.
OMFG Ma fille de 10 ans vient de demander un défi à Alexa sur notre Echo et c'est ce qu'elle a dit. phototwitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) 26 décembre 2021
Amazon n'est pas la seule entreprise à avoir rencontré des problèmes lors de l'analyse du contenu Web. En octobre, un utilisateur a signalé que Google affichait des conseils potentiellement dangereux dans l'un de ses extraits si vous tapiez "vous avez une crise, que faire" dans Google - les informations ont été extraites d'une section de la page Web décrivant ce qui n'est pas faire si quelqu'un a une crise. Cependant, des utilisateurs ont signalé d'autres problèmes similaires, notamment un utilisateur qui a signalé que Google renvoie des résultats pour l'hypotension orthostatique lors de la recherche d'hypertension orthostatique, et un autre a publié une capture d'écran de Google montrant de terribles conseils pour réconforter une personne en deuil du type "Content que vous tout va bien" ou "Ne sois pas triste ! Réconforter!".
Le résumé de la recherche Google par rapport à la page réelle phototwitter.com/OJxt1FrBqh
- tilleul doux (｡•̀ᴗ-)✧ (@soft) 16 octobre 2021
Nous avons également vu des avertissements concernant les comportements dangereux s'intensifier pour aggraver le problème - plus tôt ce mois-ci, certains districts scolaires américains ont été mis en quarantaine après des informations faisant état de menaces de tir sur TikTok. Il s'est avéré que la tempête sociale était principalement causée par le fait que les gens parlaient des menaces, bien plus que des menaces qui existaient réellement. Dans le cas d'Alexa, l'algorithme a sélectionné la partie descriptive de l'avertissement et l'a amplifiée sans le contexte d'origine. Bien que les parents aient été là pour intervenir immédiatement, il est facile d'imaginer une situation où ce ne serait pas le cas et les conséquences.
Livdahl a tweeté qu'elle avait profité de l'occasion pour "discuter de la sécurité sur Internet avec son enfant et ne pas faire confiance à ce que vous lisez sans recherche ni vérification", ce que nous vous suggérons de faire également.
Lisez aussi: