Direction de recherche : Bertrand GRANADO

Co-encadrement : HACHICHA Khalil

ZIP-CNN

Les systèmes numériques utilisés pour l'Internet des Objets (IoT) et les Systèmes Embarqués ont connu une utilisation croissante ces dernières décennies. Les systèmes embarqués basés sur des microcontrôleurs (MCU) permettent de résoudre des problématiques variées, en récoltant de nombreuses données. Aujourd'hui, environ 250 milliards de MCU sont utilisés. Les projections d'utilisation de ces systèmes pour les années à venir annoncent une croissance très forte. L'intelligence artificielle a connu un regain d'intérêt dans les années 2012. L'utilisation de réseaux de neurones convolutifs (CNN) a permis de résoudre de nombreuses problématiques de vision par ordinateur ou de traitement du langage naturel. L'utilisation de ces algorithmes d'intelligence artificielle au sein de systèmes embarqués permettrait d'améliorer grandement l'exploitation des données récoltées. Cependant le coût d'exécution des CNN rend leur implémentation complexe au sein de systèmes embarqués.
Ces travaux de thèse se concentrent sur l'exploration de l'espace des solutions pour guider l'intégration des CNN au sein de systèmes embarqués basés sur des microcontrôleurs. Pour cela, la méthodologie ZIP-CNN est définie. Elle tient compte du système embarqué et du CNN à implémenter. Elle fournit à un utilisateur des informations sur l'impact de l'exécution du CNN sur le système. Un utilisateur peut ainsi estimer l'influence des choix de conception, dans l'objectif de respecter les contraintes de l'application cible. Un modèle fournit quantitativement une estimation de la latence, de la consommation énergétique et de l'espace mémoire nécessaire à une inférence d'un CNN au sein d'une cible embarquée, quelle que soit la topologie du CNN. Ce modèle tient compte des éventuelles réductions algorithmiques telles que la distillation de connaissances, l'élagage ou la quantification. L'implémentation de CNN de l'état de l'art au sein de MCU a permis la validation expérimentale de la justesse de l'approche.

Publications 2019-2024

• 2024
  • P. Dobias, Th. Garbay, B. Granado, Kh. HACHICHA, A. Pinna : “Algorithms for scheduling CNNs on multicore MCUs at the neuron and layer levels”, Microprocessors and Microsystems: Embedded Hardware Design, vol. 111, pp. 105107, (Elsevier) (2024)
• 2023
  • Th. Garbay : “ZIP-CNN”, soutenance de thèse, soutenance 13/05/2023, direction de recherche Granado, Bertrand, co-encadrement : Hachicha, Khalil (2023)
• 2022
  • Th. Garbay, Kh. HACHICHA, P. Dobias, W. Dron, P. Lusich, I. Khalis, A. Pinna, B. Granado : “Accurate Estimation of the CNN Inference Cost within Microcontrollers”, TinyML EMEA 2022, Limassol, Cyprus (2022)
  • Th. Garbay, Kh. HACHICHA, P. Dobias, W. Dron, P. Lusich, I. Khalis, A. Pinna, B. Granado : “Accurate Estimation of the CNN Inference Cost for TinyML Devices”, 35^th IEEE INTERNATIONAL SYSTEM-ON-CHIP CONFERENCE, Belfast, Ireland (2022)
  • P. Dobias, Th. Garbay, B. Granado, Kh. HACHICHA, A. Pinna : “Comparative Study of Scheduling a Convolutional Neural Network on Multicore MCU”, DASIP 2022 - 15^th International Workshop on Design and Architecture for Signal and Image Processing, vol. 13425, Lecture Notes in Computer Science, Budapest, Hungary, pp. 69-80, (Springer International Publishing) (2022)
  • Th. Garbay, P. Dobias, W. Dron, P. Lusich, I. Khalis, A. Pinna, Kh. HACHICHA, B. Granado : “Estimation du coût d’inférence des réseaux de neurones convolutifs dans un microcontrôleur”, 16^e Colloque du GDR SoC2, Strasbourg, France (2022)
• 2021
  • Th. Garbay, P. Dobias, W. Dron, P. Lusich, I. Khalis, A. Pinna, Kh. HACHICHA, B. Granado : “CNN Inference Costs Estimation on Microcontrollers: the EST Primitive-based Model”, 28^th IEEE International Conference on Electronics Circuits and Systems IEEE ICECS 2021, Dubaï, United Arab Emirates (2021)
• 2019
  • Th. Garbay, O. Chuquimia, A. Pinna, H. Sahbi, X. Dray, B. Granado : “Distilling the knowledge in CNN for WCE screening tool”, 2019 Conference on Design and Architectures for Signal and Image Processing (DASIP), Montreal, Canada, pp. 19-22, (IEEE) (2019)
  • O. Chuquimia, Th. Garbay, W. Xu, A. Pinna, X. Dray, H. Sahbi, B. Granado : “Study to integrate CNN inside a WCE to realize a screening tool”, Journées d'Etude sur la TéléSanté, Paris, France (2019)