Direction de recherche : Ludovic DENOYER
Co-encadrement : ARTIÈRES Thierry

Apprentissage Statistique

Cette thèse propose de s'intéresser au problème de l'apprentissage statistique sous contrainte de budget, notamment concernant l'information utilisée par le système de prédiction. Les approches classiques d'apprentissage statistique utilisent généralement le seul aspect de la performance en prédiction pour évaluer la qualité d'un modèle, ignorant le coût potentiel du système, par exemple en ressources utilisées en apprentissage (nombre d'exemples, nombre d'étiquettes, mémoire) ou en inférence (nombre de caractéristiques). Nous proposons plus particulièrement dans ce manuscrit plusieurs approches pour l'inférence sous contrainte de coût d’acquisition des caractéristiques. L'objectif est de développer des modèles qui apprennent à interagir avec les données afin d'optimiser un compromis entre une bonne prédiction et un faible coût d'acquisition. Nous présentons tout d'abord un modèle de sélection statique de caractéristiques appliqué au démarrage à froid en recommandation. Nous présentons ensuite deux méthodes d'acquisition adaptatives de caractéristiques, qui permettent un meilleur compromis coût/prédiction dans un cadre plus général. Nous proposons d'utiliser des méthodes d'apprentissage de représentations avec des architectures type réseaux de neurones récurrents. La dernière partie de la thèse s'intéresse au coût lié aux étiquettes, usuellement dénommé apprentissage actif dans la littérature. Nous présentons une approche nouvelle de ce problème en utilisant le méta-apprentissage ainsi qu'une première instanciation basée sur des réseaux récurrents bi-directionnels.

Soutenance : 10/07/2017

Membres du jury :

M. Olivier Pietquin - Deepmind/Université de Lille 1 [Rapporteur]
M. Marc Sebban - Université Jean Monnet, Saint-Etienne [Rapporteur]
Mme. Anne Doucet - Université Pierre et Marie Curie, Paris
M. Balázs Kégl - Université Paris Sud 11
M. Nicolas Usunier - Facebook AI Research Paris
M. Thierry Artieres - Université Aix-Marseille
M. Ludovic Denoyer - Université Pierre et Marie Curie, Paris

Publications 2014-2018

• 2018
  • G. Contardo, L. Denoyer, Th. Artières : “A Meta-Learning Approach to One-Step Active Learning”, (2018)
• 2017
  • G. Contardo : “Machine learning under budget constraints”, soutenance de thèse, soutenance 10/07/2017, direction de recherche Denoyer, Ludovic, co-encadrement : Artières, Thierry (2017)
  • G. Contardo, L. Denoyer, Th. Artières : “A Meta-Learning Approach to One-Step Active-Learning”, International Workshop on Automatic Selection, Configuration and Composition of Machine Learning Algorithms, vol. 1998, CEUR Workshop Proceedings, Skopje, North Macedonia, pp. 28-40, (CEUR) (2017)
• 2016
  • Th. Artières, G. Contardo, L. Denoyer : “Recurrent Neural Networks for Adaptive Feature Acquisition”, 23^rd International Conference on Neural Information Processing (ICONIP 2016), vol. 9949, Lecture Notes in Computer Science, Kyoto, Japan, pp. 591-599, (Springer) (2016)
  • A. Ziat, G. Contardo, N. Baskiotis, L. Denoyer : “Learning Embeddings for Completion and Prediction of Relationnal Multivariate Time-Series”, European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning - ESANN, Unknown, Belgium (2016)
  • G. Contardo, L. Denoyer, Th. Artières : “Sequential Cost-Sensitive Feature Acquisition”, IDA 2016, Unknown, (2016)
• 2015
  • A. Ziat, G. Contardo, N. Baskiotis, L. Denoyer : “Car-traffic forecasting: A representation learning approach”, Workshop MUD, Mining Urban Data 201, Unknown, (2015)
• 2014
  • G. Contardo, L. Denoyer, Th. Artières, P. Gallinari : “Learning States Representations in POMDP”, International Conference on Learning Representations, ICLR 2014, Banff, Canada (2014)
  • G. Contardo, L. Denoyer, Th. Artières : “Representation Learning for cold-start recommendation”, ICLR, Banff, Canada (2014)