Université de Rennes 1 Contributions à l’apprentissage machine distribué multitâche Contributions to distributed multi-task machine learning DistribuéDécentraliséFédéréApprentissage machineMultitâcheRéseaux de neurones DistributedDecentralizedFederatedMachine learningMulti-taskNeural networks Systèmes à paramètres répartis Apprentissage supervisé (intelligence artificielle) Fonctionnement multitâche Réseaux neuronaux (informatique) L’apprentissage machine est un des domaines les plus importants et les plus actifs dans l’informatique moderne. La plupart des systèmes d’apprentissage machine actuels utilisent encore une architecture essentiellement centralisée. Même si l’application finale doit être délivrée sur de nombreux systèmes, parfois des millions (voire des milliards) d’appareils individuels, le processus d’apprentissage est toujours centralisé dans un centre de calcul. Ce peut être un problème notamment si les données d’apprentissage sont sensibles, comme des conversations privées, des historiques de recherche ou des données médicales. Dans cette thèse, nous nous intéressons au problème de l'apprentissage machine distribué dans sa forme multitâche : une situation dans laquelle différents utilisateurs d'un même système d'apprentissage machine ont des tâches similaires, mais différentes, à apprendre, ce qui correspond à des applications majeures de l'apprentissage machine moderne, comme la reconnaissance de l'écriture ou de la parole. Nous proposons tout d'abord le concept d'un système d'apprentissage machine distribué multitâche pour les réseaux de neurones. Ensuite, nous proposons une méthode permettant d'optimiser automatiquement le processus d'apprentissage en identifiant les tâches les plus similaires. Enfin, nous étudions comment nos propositions correspondent aux intérêts individuels des utilisateurs. Machine learning is one of the most important and active fields in present computer science. Currently, most machine learning systems are still using a mainly centralized design. Even when the final application is to be delivered in several systems, potentially millions (and even billions) of personal devices, the learning process is still centralized in a large datacenter. This can be an issue if the training data is sensitive, like private conversations, browsing histories, or health-related data. In this thesis, we tackle the problem of distributed machine learning in its multi-task form: a situation where different users of a common machine learning system have similar but different tasks to learn, which corresponds to major modern applications of machine learning, such as handwriting recognition or speech recognition. We start by proposing a design of an effective distributed multi-task machine learning system for neural networks. We then propose a method to automatically optimize the learning process based on which tasks are more similar than others. Finally, we study how our propositions fit the individual interests of users. Electronic Thesis or DissertationText en application/pdf1 : 2792 Kohttps://ged.univ-rennes1.fr/nuxeo/site/esupversions/52cf04a6-7bc8-4662-955b-401f1e826898 Bouchra Pilet Amaury 1994-12-23 FR 261011855 irisa@m.amaurybp.net 2021REN1S086 http://www.theses.fr/2021REN1S086 2021-11-10 Informatique Universite de Rennes 1thesis.degree.grantor_1 02778715X Doctorat non ouiFreyDavideintervenant_1195962060TaïaniFrançoisintervenant_2081430264TermierAlexandreintervenant_313741689XBouchenakSaraintervenant_6179480510BelletAurélienintervenant_717653136XTommasiMarcintervenant_4121846385NegliaGiovanniintervenant_518310966X MATHSTICecoleDoctorale_1 204770424 IRISA partenaireRecherche_1 026386909 ddc:004 FreyDavideTaïaniFrançoisTermierAlexandreTommasiMarcNegliaGiovanniBouchenakSaraBelletAurélienUniversite de Rennes 1Sciences et technologie, medecine, pharmacie, odontologie, droit, economie, gestion, philosophieMATHSTICÉcole doctorale Mathématiques et sciences et technologies de l'information et de la communication (Rennes) IRISA ASCII PDF 2858628