Cette thèse considère une tâche de fouille de données appelée subspace clustering, qui consiste à simultanément former des groupes de données similaires et à expliciter cette similarité, locale à chacun de ces clusters, en identifiant les sous-espaces dans lesquels ils se trouvent. Nous proposons l'étude d'une famille particulière de modèles de subspace clustering flou, qui reposent sur la minimisation d'une fonction de coût. Nous formulons trois propriétés souhaitables en clustering, dont nous montrons qu'elles sont absentes des minima du modèle que nous étudions : parcimonie des sous-espaces identifiés, prise en compte de la représentativité des points des clusters et respect des relations de voisinage des points. Nous les reformulons sous forme de fonctions de pénalité rajoutées aux fonctions de coût des algorithmes initiaux en nous affranchissant de la contrainte classique selon laquelle ces fonctions doivent être différentiables : pour ce faire, nous introduisons un cadre de travail original, combinant les approches usuelles en clustering telles que l'optimisation alternée, à des approches plus modernes en optimisation, telles que la séparation proximale. Équipés de ces nouveaux outils, nous proposons un algorithme générique adapté aux fonctions de coût du subspace clustering flou faisant intervenir des pénalités non différentiables, que nous appliquons ensuite aux trois pénalités précédentes. Nous montrons que les algorithmes qui en résultent satisfont les propriétés correspondantes.