Google est intervenu après que la nouvelle fonctionnalité AI Overviews a commencé à donner des conseils dangereux. Cette fonctionnalité, conçue pour résumer directement les résultats de recherche, contenait des erreurs graves, ce qui oblige désormais Google à corriger manuellement.
AI Overviews : Un aperçu rapide
La semaine dernière, Google a introduit aux États-Unis AI Overviews, une nouvelle fonctionnalité de recherche utilisant l’intelligence artificielle pour fournir des réponses courtes et directes aux questions des utilisateurs. Cette fonctionnalité avait été testée pendant des mois et semblait prête à être utilisée, mais des incidents récents ont montré que le système n’était pas encore totalement fiable.
Conseils dangereux
Quelques utilisateurs ont partagé sur les réseaux sociaux les conseils dangereux et bizarres qu’ils ont reçus de AI Overviews. Parmi ces exemples, on trouve le conseil d’utiliser de la colle “non toxique” pour fixer du fromage sur une pizza, l’affirmation selon laquelle les géologues recommandent de manger une pierre par jour, l’idée que les médecins conseillent de fumer deux à trois cigarettes par jour pendant la grossesse, et la suggestion d’utiliser du carburant comme ingrédient dans une sauce pour pâtes.
Causes des erreurs
Ces réponses étaient basées sur des informations provenant de sites web satiriques comme The Onion et de commentaires sur des plateformes telles que Reddit. Google a reconnu ces problèmes et a souligné dans une réponse à la BBC qu’il s’agissait de “cas isolés” et que la plupart des réponses d’AI Overviews sont de haute qualité et bien étayées par des liens vers des sources fiables.
Intervention de Google
Pour éviter d’autres dommages, Google a rapidement agi en corrigeant les réponses erronées et dangereuses. Ironiquement, cela se fait manuellement par des employés, ce qui montre que l’IA ne peut pas encore fonctionner entièrement de manière autonome sans intervention humaine.
Google continue d’insister sur le fait que la plupart des réponses de AI Overviews sont fiables, mais l’entreprise reste vigilante face à d’éventuelles erreurs et continue d’améliorer la technologie pour garantir la sécurité et la fiabilité.