BAYET Théophile

doctorant à Sorbonne Université
Équipe : SMA
https://lip6.fr/Theophile.Bayet

Direction de recherche : Christophe DENISn Alassane BAH

Co-encadrement : Jean-Daniel ZUCKER

Caractérisation de l'inclusivité des systèmes de vision par ordinateur basés sur l'apprentissage profond pour les pays du Sud

Dans cette thèse, nous faisons le pont entre l’intelligence artificielle au service de la science soutenable et l’inclusivité des systèmes de vision par ordinateur. Nous montrons comment les approches qui ont précédé la nôtre pour démontrer le manque d’inclusivité des systèmes de vision actuels ont fait l’impasse sur des points importants de la problématique, comme la formalisation du biais géographique et des métriques qui témoignent de son impact. Cela nous amène a proposer un protocole pour la formalisation des biais, qui se base sur l’identification d’une source, d’un type et d’un impact pour la caractérisation de ce dernier. Ce protocole est implémenté pour le biais géographique, en premier lieu sur des données synthétiques, puis nous expérimentons sur des données réelles pour la caractérisation du biais occidental dans les systèmes de vision. Nous constatons que les résultats obtenus sont différents de ceux attendus, allant à l’encontre des observations dans les précédents travaux académiques. Nous procédons a une analyse visuelle à différents niveaux de granularité de ces résultats pour tenter de les comprendre et proposer des interprétations des prédictions réalisées par les modèles. Au final, nous mettons en avant la présence de biais concomitants, des éléments composant le biais géographique, mais ayant des impacts différenciés avec l’entité principale. Ces biais concomitants empêchent la caractérisation du biais géographique en influençant les prédictions des modèles. Nous montrons donc comment la problématique de la caractérisation du biais géographique se révèle plus complexe qu’elle ne peut le paraître au premier abord, quels sont les écueils actuels et quelles pistes sont privilégiées pour remédier aux problèmes rencontrés.
Globalement, nous proposons à la communauté scientifique des outils pour mieux appréhender les problématiques de déploiement de modèles dans les pays du Sud, afin de mieux comprendre les enjeux de ces déploiements pour des applications en science soutenable.

Soutenance : 19/06/2024

Membres du jury :

Pr. Céline Hudelot, Université Paris-Saclay [Rapportrice]
Pr. Désiré Sidibe, Université d’Evry Paris-Saclay [Rapporteur]
Pr. Nicolas Maudet, Sorbonne Université
MCF Mandicou Ba, Université Cheikh Anta Diop, Sénégal
MCF Christophe Denis, Sorbonne Université, France
Pr. Alassane Bah, Université Cheikh Anta Diop, Sénégal
Dir. Recherche Jean-Daniel Zucker, Sorbonne Université

Date de départ : 19/06/2024

Publications 2021-2024