OpenAI et Microsoft dévoilent les actions malveillantes des hackers soutenus par des États-nations
Dans un rapport publié mercredi, OpenAI et Microsoft ont révélé que des groupes de pirates affiliés aux gouvernements russe, chinois, iranien et nord-coréen utilisent ChatGPT pour identifier les failles dans les systèmes informatiques, préparer des opérations de phishing ou désactiver les logiciels antivirus. OpenAI, en collaboration avec l’unité Microsoft Threat Intelligence, a indiqué avoir interrompu cet usage abusif de l’intelligence artificielle générative.
Fermeture des comptes OpenAI liés à ces acteurs semi-gouvernementaux
Les comptes OpenAI associés à ces groupes ont été fermés, selon le créateur de l’interface d’intelligence artificielle générative ChatGPT. Parmi les groupes identifiés figurent Emerald Sleet, associée à la Corée du Nord, et Crimson Sandstorm, liée aux Gardiens de la révolution iraniens. Ces deux groupes auraient utilisé le robot conversationnel pour générer des documents pouvant servir à des fins de hameçonnage.
L’utilisation de modèles de langage basés sur des interfaces d’IA générative par Crimson Sandstorm
Microsoft a également indiqué que Crimson Sandstorm exploite des modèles de langage basés sur des interfaces d’intelligence artificielle générative pour mieux comprendre comment désactiver les logiciels antivirus. Néanmoins, le rapport note que l’interface n’a pas voulu aider un autre groupe de hackers proche du gouvernement chinois appelé Salmon Typhoon à générer du code informatique à des fins malveillantes, respectant ainsi les règles éthiques intégrées dans le logiciel.
Évolution des méthodes d’utilisation malveillante des programmes par des acteurs avancés
OpenAI précise que la compréhension de la manière dont ces acteurs malveillants utilisent leurs programmes renforce leur connaissance des pratiques potentiellement plus répandues à l’avenir. La vigilance et la collaboration entre les différentes entités de cybersécurité sont essentielles pour anticiper et contrecarrer les nouvelles menaces potentielles.
Les mesures prises pour lutter contre ces actions malveillantes
Pour répondre à cet enjeu grandissant, OpenAI a pris plusieurs mesures destinées à neutraliser les menaces pesant sur les entreprises. En coopération avec Microsoft Threat Intelligence, l’organisation a notamment réussi à perturber l’utilisation abusive de ChatGPT par des groupes soutenus par des États-nations.
Identification et suppression des comptes associés aux cybercriminels
La première action concrète consiste à identifier et fermer les comptes OpenAI liés à ces groupes malveillants, empêchant ainsi leur accès à l’interface d’intelligence artificielle générative ChatGPT. Cette mesure vise à limiter la capacité des hackers à tirer parti de ces outils pour mener leurs opérations malveillantes.
Amélioration continue des règles éthiques intégrées dans les logiciels d’IA
OpenAI et Microsoft travaillent également sur l’amélioration continue des règles éthiques intégrées dans les logiciels d’intelligence artificielle, afin de garantir que ces outils ne puissent être utilisés à des fins nuisibles. En examinant attentivement les méthodes employées par les groupes de cybercriminels, ils mettent en place des mécanismes de protection et de prévention toujours plus efficaces.
Collaboration entre les acteurs du secteur pour faire face aux nouvelles menaces
La collaboration entre OpenAI, Microsoft et d’autres entités de cybersécurité constitue un élément clé pour lutter efficacement contre les menaces que représentent ces groupes de hackers soutenus par des gouvernements. En partageant leurs découvertes et leurs connaissances, ces acteurs peuvent réagir rapidement et de manière coordonnée face aux nouvelles menaces qui émergent constamment dans l’univers numérique.
La révélation de l’utilisation de ChatGPT par des groupes de pirates liés à des États-nations témoigne de l’évolution constante des méthodes employées par les cybercriminels. Dès lors, la vigilance, la prise de mesures adaptées et la coopération entre les différents acteurs de cybersécurité s’avèrent cruciales pour protéger les entreprises et les individus des menaces potentielles qui pèsent sur leurs systèmes informatiques.
