Mondialement, le marché des enceintes connectées se porte très bien, dominé par le leader Amazon avec ses deux modèles Echo et Echo Dot. Pionnier sur le marché, Amazon a lancé Echo en 2014, rapidement suivi par Google Home et le HomePod d’Apple. Dans l’hexagone aussi, les enceintes sont de plus populaires : ils étaient 1,7 million de Français à les utiliser au quotidien en décembre 2018.  

À chaque enceinte son assistant : les enceintes Amazon sont équipées de l’assistant numérique vocal Alexa. Dans sa publicité, Amazon affirme qu’Alexa « vit dans le cloud et devient toujours plus intelligente »… mais comment ? En mettant ses utilisateurs sur écoute !

Des milliers de personnes recrutées pour écouter des enregistrements audio

Dans cette enquête publiée le 11 avril, le magazine Bloomberg révèle que des milliers de personnes à travers le monde sont employées par Amazon pour écouter des extraits audio enregistrés sur les enceintes Amazon Echo, le plus souvent à l’insu des utilisateurs.

Le but pour Amazon est d’améliorer le fonctionnement de son programme d’intelligence artificielle. Les employés écoutent les requêtes ou questions des utilisateurs et vérifient qu’Alexa a réagi correctement. Ils notent aussi, par exemple, des mots qui posent des problèmes à l’appareil quand les commandes sont effectuées dans d’autres langues que l’anglais.

Accusé d’invasion de la vie privée, Amazon se défend et assure que les enregistrements se font de manière anonyme et uniquement lorsque l’appareil est activé. Pourtant, les employés qui ont parlé à Bloomberg notent que parfois des enregistrements se font même sans activation des enceintes. Un porte-parole d’Amazon souligne dans une déclaration que : « nous avons de strictes mesures de protection techniques et opérationnelles, et une politique de tolérance zéro concernant une utilisation abusive de notre système ».

L’intelligence artificielle pourra-t-elle se substituer à l’intervention humaine ?

Les systèmes d’intelligence artificielle demandent un travail énorme de catégorisation de données avant, pendant et après le lancement d’un produit. Comme expliqué dans cet article de The Atlantic, la situation idéale est d’obtenir la boucle de rétroaction suivante : l’appareil Echo fonctionne convenablement et des données audio d’utilisateurs sont utilisées pour améliorer encore l’appareil. Ainsi, de plus en plus de personnes l’achètent car il devient de plus en plus performant, et de plus en plus de données audio peuvent être enregistrées et utilisées pour améliorer encore Echo. C’est ainsi, avec une telle boucle, que fonctionnent de nombreux types d’intelligence artificielle.

On voudrait nous faire croire que l’I.A. est assez intelligente pour remplacer les hommes, mais la réalité est plus proche d’une collaboration homme-machine. En effet, l’I.A. fonctionne grâce à un formidable travail humain, le plus souvent caché, de création et maintien de ces boucles : il faut trier, annoter et commenter un grand volume de données nécessaires au bon fonctionnement de l’I.A.