Par Dr Sylvie Blanco, Professor Senior Technology Innovation Management à Grenoble Ecole de Management (GEM)/ Ecosystem Partnerships Leader (IRT Nanoelec Institute, UGA/MIAI (Institute of AI) & Dr. CHATELAIN Yannick Chatelain Associate Professor IT / DIGITAL à Grenoble Ecole de Management (GEM) & GEMinsights Content Manager.

IA offensive contre IA défensive : pourquoi ce sujet est-il à la une des préoccupations, non seulement des experts, des chercheurs mais aussi des entreprises et des citoyens ? Pourquoi l’IA générative (au service de l’IA offensive) semble-t-elle décupler la puissance des cybercriminels de manière incontrôlable tant leurs attaques sont sophistiquées et évolutives ? Quelles sont les spécificités de cette criminalité numérique ? Qui est concerné, dans quelle mesure et comment s’en prémunir ? Finalement, le contexte actuel, indéniablement propice à la cybercriminalité, ne nous impose-t-il pas de changer drastiquement les modalités de défense en œuvre ?

Depuis des dizaines d’années, le numérique s’immisce dans toutes les sphères de nos vies et de nos objets. Cela a démarré avec la démocratisation de l’informatique via l’ordinateur d’abord centralisé puis personnel, puis relié à Internet et sa puissance de communication. Ensuite, de nombreux objets et systèmes sont devenus numériques, interactifs et connectés comme les voitures pour maintenant, avec l’avènement de l’IA notamment, permettre le développement de systèmes intelligents qui placent la data au centre de tout développement, économique, social et environnemental. Ainsi, si les cartes de crédit et le paiement en ligne sont une cible privilégiée des cybercriminels, le champ des potentiels n’a de cesse de s’élargir. Par exemple, en 2011, Alex Wright décrit comment une équipe de chercheurs a pris le contrôle du flux vidéo de caméras de voitures de police et en 2022, Paul Marks questionne la possibilité que les stations de recharge de véhicules électriques constituent un point d’entrée facile pour s’attaquer aux flux énergétiques. Récemment, ce sont les élections, la sécurité publique, la démocratie ou encore le journalisme qui sont apparus particulièrement vulnérables face au phénomène des deepfakes (hypertrucages d’images, de texte, d’audio, de vidéos). ( cf. Autopiégés par les deepfakes : où sont les bugs ?)

Dans ce contexte, nous assistons à une révolution spectaculaire du domaine de la cybersécurité qui doit s’adapter à une cybercriminalité IA qui devient aussi agile que « débridée ». Pour nombre d’experts, l’avantage est du côté des criminels, qui bénéficient de la rapidité de l’évolution technologique (en particulier l’IA ces dernières années), de l’invasion numérique (supply chains, télétravail, objets connectés, chatbots) et de l’infinité du champ des applications, et de la facilité d’étendre à grande échelle un système cybercriminel. Il y a un foisonnement d’attaques à l’aveugle selon des procédés connus, réalisables sans beaucoup de compétences et d’attaques ciblées et jamais observées, à très fort impact !

Du côté de la cybersécurité, l’IA est aussi une arme contre les cybercriminels, mais l’approche est  naturellement réactive, c’est-à-dire post-attaque, et montre ses limites face à l’abondance, la nouveauté et la diversité des attaques « agiles ». C’est en cela que l’on parle d’IA offensive, mise en œuvre par des cyber délinquants à des fins de nuisances face à l’IA défensive, à des fins de réagir en temps réel pour bloquer les attaques.

IA générative et cybercriminalité, deux exemples marquants :

L’IA générative, sous partie de l’IA est très utilisée dans l’IA offensive, décryptons deux exemples marquants d’utilisation de l’IA générative par les cybercriminels.

• L’exemple Harmonie Mutuelle : Phishing évolué.

Outre les attaques ciblant les hôpitaux et plus largement les datas santé où qu’ils se trouvent, les opérations de phishing gagnent de façon exponentielle en qualité et en quantité ciblant des institutions publiques. Les attaques de Phishings ciblant Harmonie mutuelle (organisme d’assurance… etc. ) sont devenues « incessantes », ciblées, marketées (cf. Préoccupation sociale). En voici un exemple :

Retrouvez l'intégralité de l'article publié le 30 mars 2024 sur FORBES FRANCE