SCD-Universite de Rennes 1 New automated approaches in cryptanalysis Nouvelles approches automatisées en cryptanalyse MILPCPattaques boomerangattaques par rebondattaques différentielles MITM MILPCPBoomerang attacksRebound attacksDifferential MITM attacks Cryptographie La cryptanalyse traditionnelle repose souvent sur des méthodes heuristiques et statistiques, mais les outils automatisés ont récemment suscité une attention particulière. Cette thèse explore leur application pour améliorer la cryptanalyse de chiffrements spécifiques. Nous revisitons d’abord les attaques boomerang à clés liées sur AES, en introduisant un modèle MILP avancé pour gérer les générations de sous-clés non linéaires, ce qui permet de réduire considérablement la complexité temporelle par rapport aux approches précédentes. Ensuite, nous améliorons l’attaque par rebond sur la fonction de hachage Grøstl avec un modèle MILP unifié qui automatise la recherche de chemins différentiels dans les phases entrantes et sortantes. Enfin, nous étendons le cadre MITM différentiel des chiffrements AndRX orientés mots aux chiffrements orientés bits, en proposant le premier modèle bit par bit automatisé pour identifier les attaques MITM différentielles complètes pour ces chiffrements. Les résultats présentés dans cette thèse mettent en évidence le potentiel des outils automatisés pour améliorer la cryptanalyse des chiffrements par blocs modernes et des fonctions de hachage, ouvrant la porte à de nouvelles avancées possibles dans la lutte contre des conceptions cryptographiques de plus en plus complexes. Traditional cryptanalysis often relies on heuristic and statistical methods, but automated tools have recently gained significant attention. This thesis explores their application to enhance cryptanalysis for specific ciphers. We first revisit related-key boomerang attacks on AES, introducing an advanced MILP model to handle its non-linear key schedules, achieving significant reductions in time complexity compared to previous approaches. Next, we improve the rebound attack on the Grøstl hash function with a unified MILP model that automates the search for differential paths in both the inbound and outbound phases. Finally, we extend the differential MITM framework from word-oriented to bit-oriented AndRX ciphers, proposing the first automated bit-wise model to identify complete differential MITM attacks for these ciphers. The results presented in this thesis highlight the potential of automated tools to improve the cryptanalysis of modern block ciphers and hash functions, opening the door for further advancements are possible in tackling increasingly complex cryptographic designs. Electronic Thesis or DissertationText en application/pdf1 : 11974 Kohttps://ged.univ-rennes1.fr/nuxeo/site/esupversions/da9ec544-084e-4a93-84e5-07458d11b558 Nguyen Phuong-Hoa 1995-04-21 VN 284899585 hoanp.vn19@gmail.com 2025URENS003 http://www.theses.fr/2025URENS003 2025-02-11 Informatique Université de Rennesthesis.degree.grantor_1 26693823X Doctorat non ouiFouquePierre-Alainintervenant_1085216380AvoineGildasintervenant_207459608XFouquePierre-Alainintervenant_1085216380LallemandVirginieintervenant_5203634438DerbezPatrickintervenant_6249011409EichlsederMariaintervenant_7284900222LeanderGregorintervenant_3242593496Naya-PlasenciaMaríaintervenant_4143284894 MATISSEecoleDoctorale_1 267602553 IRISA partenaireRecherche_1 026386909 ddc:004 FouquePierre-AlainAvoineGildasLeanderGregorNaya-PlasenciaMaríaLallemandVirginieDerbezPatrickEichlsederMariaUniversité de RennesMATISSE IRISA ASCII PDF 12261623