Principaux renseignements

• Les décideurs en Australie espèrent que l’intelligence artificielle (IA) pourra atténuer la crise du logement dans leur pays, mais des experts mettent en garde contre une répétition du scandale Robodebt.
• Les décisions de planification automatisées risquent de négliger des facteurs critiques tels que les pénuries de main-d’œuvre, les incitations financières et le besoin de logements sociaux et abordables.
• Pour éviter de répéter des erreurs telles que Robodebt, il est essentiel d’évaluer les problèmes de manière approfondie, d’impliquer toutes les parties prenantes, d’anticiper les risques et d’intégrer des considérations éthiques lors du déploiement de l’IA dans le secteur du logement.

Les décideurs australiens misent sur l’intelligence artificielle (IA) pour atténuer la crise du logement dans le pays, mais des experts avertissent d’un risque de répétition du scandale Robodebt, rapporte The Guardian.

Inquiétudes sur l’IA en tant que solution rapide

Le gouvernement de la Nouvelle-Galles du Sud a récemment lancé un appel d’offres pour une solution d’IA visant à rationaliser les autorisations de construire et à accélérer la construction. Ce système, qui devrait être opérationnel à la fin de 2025, est présenté comme un changement de jeu qui accélérera le développement du logement.

Le trésorier fédéral Jim Chalmers a approuvé l’initiative, suggérant qu’elle serve de modèle à d’autres juridictions cherchant à libérer le potentiel de logement et à améliorer la productivité économique.

La nécessité d’un jugement humain

Si la simplification des autorisations de construire est essentielle pour stimuler la croissance économique, des doutes subsistent quant à la capacité de l’IA à résoudre rapidement des problèmes sociaux complexes tels que l’accessibilité au logement.

Le rôle précis de l’IA au sein du système de planification reste flou, ce qui soulève des questions quant à ses capacités au-delà du traitement des documents de base et de l’automatisation de l’évaluation.

Risques des décisions de planification automatisées

Les critiques soutiennent que présenter l’IA comme une panacée pour la crise du logement risque de faire oublier des problèmes systémiques plus profonds tels que les pénuries de main-d’œuvre, les incitations financières et la diminution de l’offre de logements sociaux et abordables.

En outre, ils mettent en garde contre l’automatisation aveugle des décisions de planification, soulignant l’importance du jugement humain lors des visites de sites, de l’engagement des parties prenantes et de l’équilibre entre le contexte local et des considérations plus larges.

Apprendre des erreurs du passé

La proposition du gouvernement de la Nouvelle-Galles du Sud de confier à un humain la décision finale concernant les évaluations générées par l’IA est insuffisante, selon certains experts qui affirment que l’IA influence subtilement la prise de décision en mettant en évidence certains risques ou en recommandant des voies préférentielles sur la base de ses données d’entraînement.

Le scandale Robodebt nous rappelle brutalement les pièges potentiels liés à l’utilisation de systèmes automatisés pour des tâches critiques. Le programme, qui visait à améliorer l’efficacité du recouvrement des créances, a finalement causé un préjudice important et érodé la confiance du public.

L’innovation responsable grâce à l’IA

Par conséquent, les promoteurs de solutions de planification basées sur l’IA doivent procéder avec prudence, en évaluant de manière approfondie le problème qu’ils cherchent à résoudre et en s’engageant auprès de toutes les parties prenantes concernées par la technologie.

L’innovation responsable implique d’anticiper les risques, de traiter les conséquences imprévues et d’intégrer des considérations éthiques tout au long du processus de conception, de développement et de déploiement.
En tirant les leçons des erreurs passées et en adoptant une approche collaborative, l’Australie peut exploiter le potentiel de l’IA tout en atténuant ses risques inhérents et en garantissant des résultats équitables dans le secteur du logement. (uv)