Menlo Security expose les enjeux liés à l’utilisation des sites d’IA générative et la protection des données personnelles
Selon un rapport récemment publié par Menlo Security, 55 % des entrées dans les sites d’intelligence artificielle (IA) générative contiennent des données personnelles identifiables. L’étude examine le comportement des employés face à ces technologies et les risques qui y sont associés. Il est noté qu’au cours des 30 derniers jours, 55% des événements de perte de données ont eu lieu lorsque les utilisateurs tentaient d’introduire des informations personnelles dans ces sites.
La documentation confidentielle représentant 40 % des tentatives d’entrées
D’après ce même rapport, les documents confidentiels représentent pas moins de 40 % de ces tentatives. Par ailleurs, on constate également une baisse de 6 % du recours au copier-coller pour insérer des données dans les sites, mais cette pratique demeure tout de même fréquente. Ces modes d’utilisation de l’intelligence artificielle générative posent des problèmes de sécurité importants, notamment en raison de la facilité et de la rapidité avec lesquelles il est possible d’introduire des informations sensibles, telles que des listes de clients ou des données personnelles.
L’augmentation des politiques de sécurité concernant l’IA générative
Au cours des six derniers mois, les organisations ont connu une hausse de 26 % du nombre de politiques de sécurité spécifiques aux applications d’IA générative. Cependant, ces politiques sont souvent mises en place au niveau de chaque application, plutôt que d’être appliquées à l’ensemble des applications de cette catégorie. En effet, les données montrent que les entrées sous forme de fichiers sont supérieures de 70 % lorsque l’on considère la catégorie de l’IA générative dans son ensemble, ce qui témoigne de l’inefficacité des politiques de sécurité basées sur les applications individuelles.
Actualités populaires liées à l’intelligence artificielle et la cybersécurité
Le 21 février 2024, l’université de Georgetown, importante institution de recherche internationale comprenant neuf écoles et un hôpital affilié, organisera un événement dédié à différentes thématiques, notamment celle de l’IA générative et des questions de cybersécurité.
Le 14 mars 2024, Regina Lester, du zoo de Toledo, animera un webinaire sur la mise en œuvre des technologies de sécurité dans le secteur du divertissement et les défis auxquels les organisations doivent faire face pour trouver un équilibre entre budget et sécurité.
Nouveau produit : “Effective Security Management, 5e”
Cet ouvrage s’adresse aux professionnels de la sécurité en exercice et leur enseigne comment développer leur carrière en maîtrisant les fondamentaux d’une bonne gestion. Le livre traite également des enjeux associés à l’IA générative et aux risques de cybersécurité.
Conclusion : une vigilance accrue s’impose face aux dangers liés à l’utilisation de sites d’IA générative
En définitive, ce rapport de Menlo Security souligne la nécessité pour les entreprises et les organisations d’être conscientes des risques associés à l’intelligence artificielle générative et de mettre en place des politiques de sécurité adaptées afin de protéger les données personnelles et confidentielles. Les employeurs doivent eux aussi sensibiliser leurs salariés sur l’utilisation responsable de ces outils ainsi que sur la problématique de la protection des informations lors de leur travail avec des applications d’IA générative.
