Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent

[nthor]

Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent,

Et en parlent dans un forum de discussion interne

Amazon Alexa, plus connu sous le nom Alexa, est un assistant virtuel développé par Amazon et utilisé pour la première fois dans les enceintes intelligentes Amazon Echo et Amazon Echo Dot. Il est capable d'interaction vocale, de jouer de la musique, de lister des tâches à effectuer, de régler des alarmes, de diffuser des podcasts, de lire des livres audio et de fournir des informations sur la météo, la circulation, les sports et d'autres informations en temps réel telles que les actualités.

Ce produit d'Amazon fait beaucoup parler de lui en raison du fait qu'il est très vendu (plus de 100 millions de ventes) et aussi parce qu'il compte plus de 1000 employés qui travaillent dessus au quotidien dans le but de le perfectionner. Seulement, on a appris récemment que ces employés d'Amazon qui travaillent à améliorer son assistant vocal écoutent les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés peuvent écouter jusqu'à 1000 enregistrements par jour.
 

En général, lorsque vous donnez un ordre à un périphérique Amazon Echo, seul le logiciel de reconnaissance vocale d'Amazon écoute. Mais, il a été découvert qu'une copie de l'audio est envoyée à un humain dans l'un des bureaux d'Amazon dans le monde. Cette personne écoute l'enregistrement audio, le transcrit et ajoute des annotations pour aider les algorithmes d'Amazon à s'améliorer. Les enregistrements incluent à la fois des commandes Alexa explicites et des conversations en arrière-plan.

D'ailleurs, 2 employés ont déclaré avoir entendu ce qu'ils pensaient être un cas d'agression sexuelle, mais se sont fait dire que ce n'était pas à Amazon de prendre des mesures. Il faut aussi préciser que ces travailleurs ont également un forum de discussion interne où ils peuvent obtenir de l'aide pour analyser un mot confus, mais aussi partager certains enregistrements qu'ils trouvent amusants.

Les utilisateurs ont la possibilité de désactiver l'utilisation de leurs enregistrements vocaux depuis les paramètres de confidentialité de leurs appareils. Mais il faut également reconnaître qu'Amazon n'a pas été très correct puisque la société, dans ses documents de marketing et de politique de confidentialité, ne dit pas explicitement que les humains écoutent des enregistrements de certaines conversations captées par Alexa.

Un porte-parole de l'entreprise a déclaré que ces employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail. D'après lui, toutes les informations seraient traitées avec une confidentialité élevée, mais quel que soit ce que peut affirmer la société Amazon, il est tout de même inquiétant de se savoir ainsi écouté.

Voici en intégralité la réponse officielle d'Amazon :

« Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients. Nous n'annotons qu'un nombre extrêmement faible d'interactions provenant d'un ensemble aléatoire de clients afin d'améliorer l’expérience de nos clients. Par exemple, ces informations nous aident à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu'Alexa puisse mieux comprendre vos demandes, ou nous assurer que le service fonctionne au mieux pour tout le monde. Nous mettons en œuvre des garanties techniques et opérationnelles strictes et avons une politique de tolérance zéro envers les abus sur notre système. Dans ce cadre, les employés n'ont pas d'accès direct à des informations qui leur permettraient d'identifier une personne ou un compte. Nous traitons toutes les informations avec la plus grande confidentialité, utilisons l'authentification multifactorielle pour restreindre l'accès, le cryptage du service et les audits de notre environnement de contrôle pour le protéger, et les clients peuvent également supprimer leurs interactions vocales avec Alexa à tout moment. »

Source : developpez.com

Modifié le 12 avril 2019 par nthor

[nthor]

Pas vraiment une surprise mais j’espère que ça fera au moins réfléchir les adeptes de ce genre de produit, même si j’en doute fortement.

[DK-]

Pinaize ! Les employés de chez Google Home ont dû bien se marrer quand j'ai joué perdu à Burger Quiz avec Ok Google...
(pour info, pour déclencher l'appli, dire : Ok Moogle Burger Quiz)

[nthor]

Y a une appli Burger quizz ?

[DK-]

Ben voui !

[Invité Notpa]

Mon genre, un vrai geek de chez geek a bien sûr Alexa. Il commande l'éclairage, la télé, et autres trucs. Il faudra que je lui parle  de ça.

[nthor]

Bof, si c'est vraiment un addict de ce genre de truc, attend toi à la fameuse réponse, "Je n'ai rien à cacher donc peu m'importe qu'ils écoutent mes conversations."

[nthor]

La volonté de la Chine de vouloir tout surveiller, tout contrôler.
Flippant.

 

[DK-]

George Orwell made in China...

[nthor]

Ouais.

Y'en a un peu plus, je vous le met quand même ?

Amazon utilise un algorithme pour licencier automatiquement ses employés.