La cybersécurité à l’ère de l’IA : Entretien avec Steve Schmidt, directeur de la sécurité chez Amazon

La montée en puissance de l’intelligence artificielle (IA) a introduit de nouveaux défis significatifs dans le domaine de la cybersécurité. Cette semaine, lors de la conférence annuelle AWS reà Philadelphie, nous avons eu l’opportunité de discuter avec Steve Schmidt, directeur de la sécurité chez Amazon, sur l’impact de l’IA générative sur le paysage de la sécurité.

L’IA générative et la transformation de la cybersécurité

Selon Schmidt, l’IA générative a un double impact sur la cybersécurité. D’une part, elle améliore l’efficacité des attaquants en facilitant la création de phishing plus convaincants et d’autres sollicitations frauduleuses. D’autre part, elle offre de nouvelles opportunités aux défenseurs en allégeant la charge de travail des ingénieurs en sécurité, leur permettant de se concentrer sur des tâches plus complexes et analytiques.

Site frauduleux ? Arnaque ? Piratage ? On vous protège !

Vous avez 35 fois plus de risque de vous faire pirater vos comptes bancaires que de vous faire cambrioler.

Schmidt explique que l’IA permet aux ingénieurs en sécurité de se libérer des tâches répétitives et de se concentrer sur l’analyse des données, en identifiant des modèles et des anomalies difficiles à détecter par des machines. « En appliquant l’IA générative à notre travail de sécurité, nous obtenons des ingénieurs en sécurité plus satisfaits, car ils peuvent se concentrer sur les angles intéressants de leur travail, ce que l’IA ne peut pas faire actuellement. »

Cas d’utilisation de l’IA générative dans la sécurité

L’un des exemples concrets cités par Schmidt est la résumé en langage clair d’événements complexes. Les professionnels de la sécurité doivent souvent transformer des données techniques en récits compréhensibles pour les décideurs d’entreprise. L’IA générative s’avère très utile dans ce domaine en facilitant la communication de concepts complexes de manière claire et concise.

Lire  Les deepfakes : une menace grandissante pour la cybersécurité des entreprises américaines
Découvrez comment les logiciels d'IA gratuits deviennent le piège favori des hackers !

Trois questions cruciales pour adopter l’IA générative en toute sécurité

  1. Où se trouvent nos données ? Les équipes doivent savoir comment les données sont manipulées tout au long du processus de traitement par un modèle de langage (LLM). Il est essentiel de comprendre la sécurité des données pendant leur traitement, leur formation et leur personnalisation.
  2. Que se passe-t-il avec ma requête et les données associées ? En plus des données de formation, les entreprises doivent se soucier des données sensibles soumises par les utilisateurs dans leurs requêtes. Il est crucial de savoir si ces données sont utilisées pour améliorer le modèle ou si elles sont stockées de manière sécurisée.
  3. La précision des modèles est-elle suffisante ? La qualité des résultats produits par les modèles s’améliore constamment. Les équipes de sécurité doivent évaluer l’utilisation de l’IA générative en fonction des risques associés à chaque cas d’utilisation.

L’expérience du FBI et son impact sur l’approche de Schmidt

Schmidt a également partagé comment son expérience au FBI, notamment dans la lutte contre l’espionnage russe et chinois, a influencé son approche de la sécurité. Les motivations derrière les actions malveillantes restent les mêmes : l’argent, l’idéologie, la coercition ou l’ego. Cette compréhension des motivations humaines aide à anticiper et à contrer les cyberattaques.

Les Attaques par empoisonnement des systèmes d'IA : êtes-vous prêt ?

L’importance du retour humain dans la sécurité

En dehors de son rôle chez Amazon, Schmidt est également pompier volontaire et technicien médical d’urgence. Il souligne l’importance du retour humain dans son travail de sécurité. Contrairement au monde virtuel, où les impacts de ses actions sont souvent difficiles à percevoir, son travail de volontaire lui permet de voir directement l’effet positif de ses actions sur la vie des gens.

Lire  10 conseils déterminants pour la sécurité des points d'accès que vous devez connaître

Les impacts de l’IA générative sur la cybersécurité

AspectImpact positifImpact négatif
Création de phishingAmélioration des contre-mesuresPhishing plus convaincants et ciblés
Automatisation des tâchesRéduction de la charge de travail répétitiveRisques accrus de dépendance à la technologie
Analyse des donnéesIdentification rapide des anomaliesComplexité accrue de la gestion des données
Communication avec les décideursSimplification de la transmission des informations techniquesRisque de mal interprétation des résultats par l’IA
Formation et personnalisation des modèlesMeilleure adaptation des modèles aux besoins spécifiquesInquiétudes sur la confidentialité des données

Vers un avenir sécurisé avec l’IA

La conversation avec Steve Schmidt a mis en lumière les défis et les opportunités que l’IA générative apporte à la cybersécurité. Si cette technologie peut améliorer l’efficacité des équipes de sécurité, elle nécessite également une gestion rigoureuse des données et une évaluation continue des risques. En adoptant une approche équilibrée et informée, les entreprises peuvent tirer parti des avantages de l’IA tout en minimisant les risques potentiels.

Laurent Amar CEO & Co Founder @FranceVerif

Doctorat Paris Sorbonne.
Expert en cybersécurité et lutte contre les fraudes et arnaques.
Co-créateur de la 1ère Intelligence Artificielle analysant la fiabilité des sites internet avec un taux d'efficacité de 99,86%.
Co-fondateur de France Verif, 1ère Intelligence Artificielle de Cybersécurité à destination des particuliers.

Cette vidéo YouTube pourrait vous intéresser, ainsi que celle-ci également.