Principaux renseignements
- Google a désactivé son outil d’IA de création d’images dans Google Earth moins d’un jour après son lancement.
- Les risques liés à la désinformation ont motivé cette suspension afin de mettre en place des protocoles de sécurité plus stricts.
- Cet échec reflète les difficultés plus générales rencontrées par le secteur pour trouver un équilibre entre innovation en matière d’IA et éthique.
Google a décidé de désactiver son outil d’IA permettant de générer des images dans Google Earth, vingt-quatre heures seulement après son lancement. Cette décision fait suite à l’apparition de contenus générés par les utilisateurs qui auraient enfreint les directives établies par l’entreprise.
Nano Banana 2
Grâce au modèle d’IA Nano Banana 2, les utilisateurs pouvaient générer des images réalistes à partir de données réelles issues de satellites, de modèles 3D et de photos aériennes, en saisissant des consignes textuelles spécifiques pour des coordonnées aléatoires partout dans le monde. Cet outil a toutefois suscité de vives réactions en raison des risques liés à la désinformation. Il était en effet possible de fabriquer de toutes pièces des événements irréalistes qui venaient se superposer à de véritables images de sites touristiques et de monuments célèbres.
Dans une déclaration publiée sur X, Google a indiqué que, bien que des experts en géospatiale aient utilisé cet outil de manière efficace, certains utilisateurs avaient partagé des images contraires à la politique de l’entreprise. C’est pourquoi la société suspend cette fonctionnalité afin de mettre au point des protocoles de sécurité plus rigoureux.
Bien que Google n’ait pas donné de détails sur la nature précise des infractions, l’entreprise a précisé que ces images étaient marquées d’un filigrane indiquant qu’elles étaient artificielles et qu’elles n’étaient pas intégrées à l’interface principale de Google Earth.
La réglementation de l’IA
Cet incident reflète une tendance plus générale chez les grandes entreprises technologiques, qui peinent à trouver un équilibre entre l’intégration de l’IA et la sécurité. De nombreuses entreprises sont contraintes de limiter ou de supprimer certaines fonctionnalités afin de lutter contre les problèmes de confidentialité et la diffusion de fausses informations.
Ainsi, Meta a récemment supprimé Muse Image, un outil qui générait des images à partir de données publiques d’Instagram, à la suite de vives critiques et d’objections en matière de confidentialité, formulées notamment par un syndicat hollywoodien. (ev)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
