Une organisation caritative britannique de premier plan pour la conservation met en garde contre les dangers d'une « bombe à retardement » posés par la révolution de l'IA
La Mammal Society a publié une déclaration pour attirer l’attention sur les risques posés à la conservation de la faune par la diffusion croissante des outils d’IA.
La Société prévient que si les technologies d’IA peuvent améliorer la collecte de données, l’analyse et la modélisation prédictive, leur prolifération peut également entraîner la diffusion préjudiciable d’inexactitudes scientifiques et de désinformations sur la faune, tout en imposant un lourd tribut à la planète en raison de la forte demande énergétique.
L’une des principales préoccupations soulignées par la Mammal Society est que l’utilisation de l’IA pour faciliter la surveillance de la biodiversité à grande échelle peut introduire des faux positifs dans les données, dus au fait qu’une espèce est signalée comme étant présente dans un échantillon alors qu’elle ne l’est pas. Même un petit nombre de faux positifs peut entraîner des biais extrêmes dans les estimations de population, ce qui peut être extrêmement préjudiciable dans le contexte de la surveillance d'espèces rares ou menacées.
La Société met également en garde contre les dommages involontaires aux efforts de conservation et à l’éducation du public autour des sciences de la vie causés par l’utilisation d’outils de génération d’images/vidéos d’IA, et le recours à l’IA pour rassembler des informations pour les moteurs de recherche, les articles de presse et les articles universitaires. Il existe un risque qu'un « cercle vicieux » se crée lorsque l'IA génère, ou intègre par erreur, des données ou des médias inexacts dans un article ou une recherche, et que ce texte défectueux devient alors une source pour les algorithmes d'IA.
« Nous, dans le secteur de la conservation, ne sommes pas des Luddites et faisons déjà bon usage de certaines des étonnantes capacités de l'IA dans les outils d'analyse des données et d'enquête sur la faune. » a déclaré Matt Larsen-Daw, PDG de la Mammal Society. « Cependant, les implications potentielles de toute nouvelle technologie doivent être soigneusement étudiées avant son déploiement, afin que les problèmes puissent être prévus et atténués. Même si les outils d’IA peuvent apporter un soutien considérable aux chercheurs et aux défenseurs de l’environnement lorsqu’ils sont utilisés avec précaution et de manière responsable, la prolifération sans précédent de l’IA en tant que créatrice et conservatrice d’informations en ligne crée une bombe à retardement qui pourrait s’avérer désastreuse pour les efforts de conservation à l’avenir. »
Pour atténuer les risques de l’IA, la Mammal Society recommande de tester et de valider rigoureusement les algorithmes d’IA par rapport à des données de haute qualité scientifiquement vérifiées, ainsi que de prendre en compte l’empreinte carbone des modèles d’IA utilisés. Il est également essentiel de maintenir la transparence sur les limites de l’IA et d’encourager les collaborations entre les développeurs d’IA et les experts en conservation de la faune. Enfin, des efforts devraient être déployés pour sensibiliser le public aux limites et aux dangers de l’IA en tant que source d’information sur l’état complexe et en constante évolution de la conservation de la faune sauvage. La Mammal Society recommande fortement que les images de la faune générées par l'IA ne soient pas créées ou partagées par des organisations de conservation sans contexte clair et explicite, et cela devrait être encouragé en tant que bonne pratique pour tous les créateurs de contenu et les médias.
