Les attaques possibles sur l’Intelligence Artificielle générative

Informations

Établissement

Université Gaston Berger

Date de soutenance

29/01/2025

Résumé

Dans ce mémoire de fin d’étude, intitulé « Les attaques possibles sur l’intelligence artificielle
générative », explore les vulnérabilités et menaces associées aux modèles d’IA générative (tels
que les LLM, les diffusions, les GANs, les VAEs, etc.), notamment les Large Langage Modèles
(LLM) comme GPT. Il effectue une analyse sur le développement rapide de l'IA générative,
sur son impact croissant dans divers domaines et tout en mettant en lumière les risques liés à
son utilisation tels que les attaques par injection de prompt, l’empoisonnement des données,
l’extraction de modèles, etc.
Ce mémoire commence par une étude approfondie de l’évolution de l’intelligence artificielle,
en passant par l’apprentissage automatique et l’apprentissage profond, avant de se concentrer
sur les architectures des modèles génératifs. Il détaille le fonctionnement des modèles d’IA
génératives tels que : GAN (Generative Adversarial Networks), des Autoencodeurs
Variationnels (VAE), des modèles de diffusion, Hybrides, etc. qui permettent de générer du
contenu textuel, visuel et sonore avec une qualité impressionnante. Ce mémoire met en lumière
l’importance du prompt engineering en présentant à la fois des techniques de base (Zero-shot,
One-shot, Few-shot) et des approches avancées (Chain-Of-Thought, Meta Prompting, RAG,
etc.) pour renforcer la robustesse des modèles d’IA génératives. Il présente l’architecture des
modèles d’IA générative, c’est-à-dire les Transformers, reposant sur un mécanisme d’auto-
attention. Ce mécanisme traite les mots en relation avec tous les autres mots d’une phrase, à
contrario aux méthodes traditionnelles qui analysent pas à pas.
Enfin, le mémoire met l’accent sur les attaques et défenses liées à l’IA générative. Il classifie
différentes techniques d’attaques (modification malveillante des données d’entraînement,
détournement des réponses de l’IA, extraction de connaissances du modèle, etc.) et propose
des stratégies d’atténuation pour protéger les systèmes basés sur l’IA générative. Un cas
pratique est également présenté, illustrant une attaque par injection de prompt sur un Chatbot
conversationnel, avec des solutions techniques pour détecter et atténuer ces menaces. De plus,
ce mémoire insiste sur la nécessité d’un encadrement rigoureux et d’une approche critique dans
l’utilisation de ces technologies afin de prévenir les usages malveillants, tout en encourageant
la recherche de solutions innovantes pour sécuriser l’IA générative dans des environnements
de production.