La montée en puissance de l’intelligence artificielle (IA) a introduit de nouveaux défis significatifs dans le domaine de la cybersécurité. Cette semaine, lors de la conférence annuelle AWS reà Philadelphie, nous avons eu l’opportunité de discuter avec Steve Schmidt, directeur de la sécurité chez Amazon, sur l’impact de l’IA générative sur le paysage de la sécurité.
L’IA générative et la transformation de la cybersécurité
Selon Schmidt, l’IA générative a un double impact sur la cybersécurité. D’une part, elle améliore l’efficacité des attaquants en facilitant la création de phishing plus convaincants et d’autres sollicitations frauduleuses. D’autre part, elle offre de nouvelles opportunités aux défenseurs en allégeant la charge de travail des ingénieurs en sécurité, leur permettant de se concentrer sur des tâches plus complexes et analytiques.
Schmidt explique que l’IA permet aux ingénieurs en sécurité de se libérer des tâches répétitives et de se concentrer sur l’analyse des données, en identifiant des modèles et des anomalies difficiles à détecter par des machines. « En appliquant l’IA générative à notre travail de sécurité, nous obtenons des ingénieurs en sécurité plus satisfaits, car ils peuvent se concentrer sur les angles intéressants de leur travail, ce que l’IA ne peut pas faire actuellement. »
Cas d’utilisation de l’IA générative dans la sécurité
L’un des exemples concrets cités par Schmidt est la résumé en langage clair d’événements complexes. Les professionnels de la sécurité doivent souvent transformer des données techniques en récits compréhensibles pour les décideurs d’entreprise. L’IA générative s’avère très utile dans ce domaine en facilitant la communication de concepts complexes de manière claire et concise.
Trois questions cruciales pour adopter l’IA générative en toute sécurité
- Où se trouvent nos données ? Les équipes doivent savoir comment les données sont manipulées tout au long du processus de traitement par un modèle de langage (LLM). Il est essentiel de comprendre la sécurité des données pendant leur traitement, leur formation et leur personnalisation.
- Que se passe-t-il avec ma requête et les données associées ? En plus des données de formation, les entreprises doivent se soucier des données sensibles soumises par les utilisateurs dans leurs requêtes. Il est crucial de savoir si ces données sont utilisées pour améliorer le modèle ou si elles sont stockées de manière sécurisée.
- La précision des modèles est-elle suffisante ? La qualité des résultats produits par les modèles s’améliore constamment. Les équipes de sécurité doivent évaluer l’utilisation de l’IA générative en fonction des risques associés à chaque cas d’utilisation.
L’expérience du FBI et son impact sur l’approche de Schmidt
Schmidt a également partagé comment son expérience au FBI, notamment dans la lutte contre l’espionnage russe et chinois, a influencé son approche de la sécurité. Les motivations derrière les actions malveillantes restent les mêmes : l’argent, l’idéologie, la coercition ou l’ego. Cette compréhension des motivations humaines aide à anticiper et à contrer les cyberattaques.
L’importance du retour humain dans la sécurité
En dehors de son rôle chez Amazon, Schmidt est également pompier volontaire et technicien médical d’urgence. Il souligne l’importance du retour humain dans son travail de sécurité. Contrairement au monde virtuel, où les impacts de ses actions sont souvent difficiles à percevoir, son travail de volontaire lui permet de voir directement l’effet positif de ses actions sur la vie des gens.
Les impacts de l’IA générative sur la cybersécurité
| Aspect | Impact positif | Impact négatif |
|---|---|---|
| Création de phishing | Amélioration des contre-mesures | Phishing plus convaincants et ciblés |
| Automatisation des tâches | Réduction de la charge de travail répétitive | Risques accrus de dépendance à la technologie |
| Analyse des données | Identification rapide des anomalies | Complexité accrue de la gestion des données |
| Communication avec les décideurs | Simplification de la transmission des informations techniques | Risque de mal interprétation des résultats par l’IA |
| Formation et personnalisation des modèles | Meilleure adaptation des modèles aux besoins spécifiques | Inquiétudes sur la confidentialité des données |
Vers un avenir sécurisé avec l’IA
La conversation avec Steve Schmidt a mis en lumière les défis et les opportunités que l’IA générative apporte à la cybersécurité. Si cette technologie peut améliorer l’efficacité des équipes de sécurité, elle nécessite également une gestion rigoureuse des données et une évaluation continue des risques. En adoptant une approche équilibrée et informée, les entreprises peuvent tirer parti des avantages de l’IA tout en minimisant les risques potentiels.
