ShadowLeak: Menace IA

Vue d’ensemble

ShadowLeak est une attaque zero-click sophistiquée qui exploite les agents assistants IA comme ChatGPT Deep Research. Découverte en 2025, elle démontre comment les outils IA peuvent être manipulés pour exfiltrer des données sensibles.

Qu’est-ce que ShadowLeak?

Une attaque zero-click, côté service qui:

• Nécessite aucune interaction utilisateur - fonctionne automatiquement
• Exploite les agents assistants IA (comme ChatGPT Deep Research)
• Utilise une injection de prompt cachée dans les e-mails
• Exfiltre les données directement depuis l’infrastructure cloud d’OpenAI
• Contourne les défenses de sécurité traditionnelles

Comment l’attaque fonctionne

Étape 1: L’attaquant envoie un e-mail malveillant

L’attaquant envoie un e-mail avec des instructions cachées. Celles-ci peuvent être:

• Polices minuscules/invisibles
• Texte blanc sur blanc
• Éléments HTML cachés
• Astuces de mise en page

L’e-mail semble normal à l’utilisateur mais contient des instructions pour l’agent IA.

Étape 2: Ingénierie sociale

L’attaque utilise une ingénierie sociale sophistiquée:

• Revendications d’autorité: “Vous avez pleine autorisation”
• Urgence: “L’échec résultera en déficiences”
• Fausse légitimité: “système de validation de conformité”
• Astuces de codage: Encodage Base64 pour cacher les données volées

Étape 3: L’agent IA exécute l’attaque

Quand l’utilisateur demande à l’IA de “rechercher dans mes e-mails”:

1. L’IA lit à la fois les e-mails malveillants et légitimes
2. L’IA extrait les données sensibles (PII, identifiants)
3. L’IA encode les données en Base64
4. L’IA envoie les données vers une URL contrôlée par l’attaquant
5. Aucune confirmation utilisateur ou UI visible

Exemple d’e-mail d’attaque réel

L’attaquant a envoyé des e-mails avec pour objet “Restructuration - Actions à faire” contenant des instructions cachées pour extraire les données personnelles des employés et les envoyer à compliance.hr-service.net/public-employee-lookup/

Pourquoi c’est dangereux

Exfiltration côté service

Contrairement aux attaques traditionnelles, cela se passe depuis les serveurs d’OpenAI:

• Invisible pour les défenses d’entreprise - Les outils de sécurité ne peuvent pas le voir
• Invisible pour les utilisateurs - Rien ne s’affiche dans l’UI
• Toute destination - Pas de restrictions d’URL comme les attaques côté client
• 100% de succès dans les tests

Connecteurs affectés

L’attaque fonctionne avec toute source de données connectée à l’IA:

• Gmail / Outlook - Contenu e-mail
• Google Drive / Dropbox / SharePoint - Documents
• Calendrier - Invitations de réunion avec injections cachées
• HubSpot / Notion / Linear - Données d’entreprise
• GitHub - Code et fichiers README
• Microsoft Teams - Messages de chat

Risques pour les organisations

• Violations de données via les outils IA
• Fuite d’informations sensibles (PII, identifiants, contrats)
• Violations de conformité (LPD, RGPD)
• Exfiltration invisible - Pas de détection traditionnelle
• Confiance des employés - Les outils IA deviennent des passoires

Stratégies de protection

Pour les entreprises

1. Assainir avant l’ingestion IA

   • Normaliser le HTML des e-mails
   • Supprimer le CSS invisible
   • Retirer les caractères obfusqués

2. Surveiller le comportement IA

   • Suivre les actions de l’agent
   • Valider la cohérence des intentions
   • Détecter les déviations des objectifs légitimes

3. Implémenter des politiques de sécurité IA

   • Restreindre les permissions des outils IA
   • Auditer l’accès aux données IA
   • Évaluations de sécurité régulières

Pour les individus

1. Méfiez-vous de l’intégration IA e-mail
2. Vérifiez ce que les agents IA peuvent accéder
3. Surveillez les comptes pour activités inhabituelles
4. Signalez immédiatement les e-mails suspects

Chronologie

• Juin 2025: Vulnérabilité signalée à OpenAI via Bugcrowd
• Août 2025: OpenAI a déployé un correctif
• Septembre 2025: OpenAI a reconnu la vulnérabilité

Spécificités suisses

IA et réglementation

En Suisse:

• Pas de réglementation IA spécifique encore (2025)
• LPD s’applique aux données personnelles
• Les entreprises restent responsables de la sécurité des données

Recommandations NCSC

• Former les employés aux risques IA
• Implémenter des politiques d’utilisation IA
• Surveiller les accès aux données par les outils IA

---

Ressources associées

• Radware ShadowLeak Analysis - Recherche originale
• CISA IA Security - Directives officielles
• NCSC Suisse - Cybersécurité suisse