Université de Rennes 1 Understanding, taming, and defending from adversarial examples Comprendre, apprivoiser et se protéger des exemples adversaires Réseaux de Neurones ArtificielsExemples AdversairesSécurité Deep LearningAdversarial ExamplesSecurity Réseaux neuronaux (informatique) Systèmes informatiques -- Mesures de sûreté L'Intelligence Artificielle est une discipline qui a connu un fort essor au cours de ces dernières années, notamment en Vision par Ordinateur où l'application la plus commune est la classification d'image. Aujourd'hui, les réseaux de neurones artificiels profonds sont d’excellents classifieurs inférant ce que représente une image. Des travaux ont cependant rapidement montré qu’ils sont vulnérables aux attaques par évasion, aussi appelés les exemples adverses. Ces exemples sont des images qui pour un humain semblent être une représentation normale d'un objet. Mais le classifieur attaqué ne parviendra pas à prédire correctement ce qu'elles représentent. Cette thèse étudie les mécanismes de création de ces exemples, la raison de leur existence et la vulnérabilité des classifieurs. En particulier, ce travail replace ces exemples adverses dans un contexte réaliste. Premièrement, il propose des attaques rapides même sur des grandes images avec un fort taux de succès et une distortion imperceptible ou indétectable. Deuxièmement, il ajoute la contrainte que les exemples adversaires sont avant tout des images, c’est à dire des signaux quantifiés dans le domaine spatial (format PNG) ou dans le domaine DCT (format JPEG). Artificial Intelligence is nowadays one of the most essential disciplines of computer science. These algorithms perform particularly well on Computer Vision tasks, especially classification. A classifier infers what an image represents. Nowadays Deep Neural Networks are largely used for these problems. These neural networks first undergo a training phase during which they are given many examples. These images are accompanied by labels: information on what the image represents. However, it was quickly found that the same logic used during the training phase could be used maliciously. This is the creation of Adversarial Examples through an Evasion Attack. Such examples are seemingly normal images. A human understands what it represents as if it was not manipulated. But the attacked classifier will make an incorrect prediction. In this manuscript, we study the creation of such examples, the reason for their existence, and the underlying vulnerability of classifiers. In particular, we study these examples in a realistic context. First, attacks are optimized (high success rate and low distortion). Second, we add the constraint that adversarial examples should be images. We thus work on spatially-quantized (PNG) or DCT-quantized images (JPEG). Electronic Thesis or DissertationText en application/pdf1 : 11127 Kohttps://ged.univ-rennes1.fr/nuxeo/site/esupversions/7b679202-0f03-432d-bdca-82efc4fe9779 Bonnet Benoît 1991-09-15 FR 272289922 benoit.p.bonnet@gmail.com 2023URENS025 http://www.theses.fr/2023URENS025 2023-02-06 Informatique Université de Rennesthesis.degree.grantor_1 26693823X Doctorat non ouiFuronTeddyintervenant_1078044758BasPatrickintervenant_2086954695AvoineGildasintervenant_307459608XPasquiniCeciliaintervenant_4258583746PicardDavidintervenant_5133005216 MATISSEecoleDoctorale_1 267602553 INRIA-RENNES partenaireRecherche_1 133175863 ddc:004 FuronTeddyBasPatrickAvoineGildasPasquiniCeciliaPicardDavidUniversité de RennesMATISSE INRIA-RENNES ASCII PDF 11393963