Mails piégés et cyberattaques: ChatGPT, une nouvelle arme au service des hackers?

Une étude menée conjointement par Microsoft et OpenAI, publiée ce mercredi 14 février, alerte sur les dangers de l'utilisation de l'IA pour faciliter la création de mails de hameçonnage, entre autres.

Thallium et Curium. Ces deux noms ne vous disent certainement rien, et pourtant il s'agit de deux groupes de pirates informatiques, capables de vous soutirer des informations sensibles et de vous escroquer à partir de mails malveillants (hameçonnage). Le point commun entre ces deux organisations? Elles utilisent des intelligences artificielles, comme ChatGPT, pour subtiliser les données.

Thallium et Curium ont été listées parmi les "acteurs menaçants à l’ère de l’IA" dans une étude commune menée par Microsoft et OpenAI (l'entreprise à l'origine de ChatGPT). Publié ce mercredi 14 février, le document relève que les pirates informatiques "utilisent déjà de grands modèles de langage comme ChatGPT" pour "affiner et améliorer leurs cyberattaques existantes".

"Hameçonnage ciblé"

La première, Thallium, est une organisation nord-coréenne, qui a officié tout au long de l'année 2023. "Ses récentes opérations reposaient sur l'envoi de courriels malveillants pour compromettre et recueillir des renseignements auprès d'individus éminents ayant une expertise sur la Corée du Nord", détaille l'étude.

Les IA auraient aidé Thallium à la "rédaction et à la génération de contenu susceptible d'être utilisé dans des campagnes de hameçonnage ciblé" contre des individus ciblés, "possédant une expertise régionale".

La seconde, Curium, est active depuis 2017 en Iran et serait intimement liée à l'organisation paramilitaire "Corps des gardiens de la révolution islamique". Selon l'étude, Curium aurait ciblé "plusieurs secteurs, notamment la défense, le transport maritime, les transports, la santé et la technologie".

Microsoft et OpenAI pointent une utilisation des IA - par Curium - pour "générer divers e-mails piégés, dont un prétendant provenir d'une agence de développement international et un autre tentant d'attirer d'éminentes féministes vers un site Web sur le féminisme créé par un attaquant".

Pas le seul problème

En résumé les intelligences artificielles génératives - comme ChatGPT - peuvent aider à la création de techniques dehameçonnage. Mais là n'est pas le seul problème lié aux IA.

Parmi les groupes visés par l'étude de Microsoft et OpenAI - en plus de Thallium et Curium - deux viennent de Chine et un de Russie. Tous exploitent les dernières technologies pour "améliorer leur productivité" et "tirer parti des plateformes accessibles" afin de faire progresser leurs techniques de cyberattaque.

Le groupe de pirates informatiques russe a, notamment, utilisé les IA pour "comprendre les protocoles de communication par satellite, les technologies d’imagerie radar et les paramètres techniques spécifiques".

"Automatiser des cybertâches"

Toujours selon l'étude, les deux organisations chinoises ont tiré parti des IA pour "une assistance aux traductions et à la communication"; "générer et affiner des scripts, potentiellement pour rationaliser et automatiser des cybertâches et opérations complexes" ou encore "résoudre les erreurs de codage et traduire des termes informatiques".

Microsoft et OpenAI indiquent que les recherches "n’ont pas identifié d’attaques significatives" utilisant les IA, qui font l'objet d'une "étroite surveillance".

La publication de ce rapport intervient alors que les numéros de sécurité sociale de plus de 33 millions de Français ont été compromis lors de la cyberattaque ayant visé les opérateurs Viamedis et Almerys, des sous-traitants pour de nombreuses complémentaires santé.

Plus récemment, encore, c'est un centre hospitalier proche de Lille (Nord) qui a été touché par une cyberattaque, occasionnant la fermeture de son service d'urgences pendant 24 heures.

Willem Gay