Rechercher
Fermer ce champ de recherche.

Vous êtes victime d’un incident de sécurité ? Contactez notre CERT

30 MARS 2021

Actualité

L’Intelligence Artificielle dans la Cyber : atouts et limites selon Frédéric

L’intelligence artificielle accouchera-t-elle d’un super-défenseur capable de déjouer toutes les attaques ? Non, selon Frédéric Guihéry, on en est loin. Mais le responsable R&D et innovation chez AMOSSYS voit dans l’IA une aide précieuse à la cybersécurité : pour accélérer la décision, tester la robustesse, leurrer les attaquants… Entretien.

Bonjour Frédéric, la société AMOSSYS est bien connue sur la place rennaise pour son expertise en cybersécurité. Pouvez-vous résumer son activité en quelques mots ?

AMOSSYS existe depuis 2007. Nous intervenons sur un large spectre de la cybersécurité : l’audit, le conseil, l’évaluation de produits de sécurité, la recherche et développement dont je gère l’activité. Et ceci dans de nombreux domaines -énergie, transports, industrie, banques, santé, défense- et pour le compte de PME ou de grand groupes aussi bien que des administrations ou des OIV, les opérateurs d’importance vitale.

 

Nous sommes actuellement 70 personnes. Mais nous visons de passer à 80 ou 90 collaborateurs dès la fin de l’année ou début 2022. Nous sommes sur une dynamique de croissance continue et maîtrisée.

Venons-en à notre sujet. Quel rôle l’intelligence artificielle peut-elle jouer dans la cybersécurité ?

Historiquement, c’est un sujet de recherche académique. L’idée est d’utiliser l’IA pour automatiser certaines tâches habituellement confiées à un humain. Mais dans le domaine de la cybersécurité, ça a rarement donné des résultats probants. À ma connaissance, il n’existe pas d’exemple d’intelligence artificielle qui soit capable de détecter une attaque inédite ou une nouvelle variante d’attaque. Les algorithmes de Machine Learning, par exemple, sont faits pour apprendre de situations connues. Mais ils ne savent pas réagir face à une situation très complexe et totalement nouvelle. Je pense qu’il est illusoire de vouloir remplacer l’expert en cybersécurité. Par contre, cet expert a besoin d’outils de plus en plus sophistiqués. Et c’est là où l’intelligence artificielle peut intervenir.

Pouvez-vous illustrer par des exemples d’outils IA utilisés en cybersécurité ?

Pour protéger un système d’information, on essaie d’automatiser tout ce qui peut l’être. Les outils permettent de contextualiser et d’enrichir les données lorsqu’une requête parvient à un serveur : l’IP, la localisation géographique, le degré de confiance, l’analyse automatique de pièces jointes… Tout ça peut être géré par des outils traditionnels. Mais en cas d’attaque, l’intelligence artificielle va apporter un supplément d’aide à la décision. Par exemple indiquer à l’expert quelles sont les meilleures contremesures à mettre en place face à une attaque afin de faciliter et accélérer la défense du système d’information.

 

On peut aussi utiliser l’intelligence artificielle non pas pour défendre mais pour attaquer. C’est ce que nous faisons chez AMOSSYS afin d’automatiser nos tests de vulnérabilité et de détecter des faiblesses éventuelles dans les produits que nous sommes chargés d’évaluer.

Pour bien défendre, il est donc nécessaire de se mettre dans la peau de l’attaquant ?

Tout à fait ! Pour tester la robustesse d’un produit, il faut théoriquement essayer toutes les attaques possibles. Ce qui engendre une combinatoire très importante et contraint à opérer des choix. L’intelligence artificielle a une capacité d’apprentissage à la fois sur les différents scénarios d’attaque et les différents systèmes d’information, ce qui permet de capitaliser sur la durée et, au final, de gagner du temps en réalisant les tests les plus pertinents. Nous développons actuellement une solution de test basée sur l’IA qui pourra être mise à disposition de nos partenaires et de nos clients.

 

Nous avons également mis au point ce qu’on appelle un Honeypot, un pot de miel chargé d’attirer les attaquants afin d’observer et comprendre leurs modes opératoires. Le pot de miel simule une partie du système d’information avec de faux serveurs, de faux postes clients, de faux échanges de mails, de la navigation sur internet… Il faut que l’attaquant qui se connecte au pot de miel ait l’impression d’être sur un vrai poste de travail, et c’est une intelligence artificielle qui nous permet d’atteindre ce niveau de réalisme. Notre honeypot appelé BEEZH Platform a été récemment récompensé deux fois,  au FIC 2020 et lors du challenge IA & Cyber de l’European Cyber Week.

Au-delà de ces outils, quelles sont les limites de l’intelligence artificielle en matière de cybersécurité selon vous ?

J’identifie trois catégories de limites, notamment associées au Machine Learning. La première est une limite opérationnelle. Pour fonctionner correctement, une intelligence artificielle doit parfaitement connaître l’environnement protégé : le système d’information, les serveurs, les postes, les applicatifs. Mais le problème, c’est que l’environnement évolue inévitablement au fil du temps : on ajoute un sous-réseau, on change d’applicatif… Ce qui impose de recommencer l’apprentissage de l’IA sur le nouvel environnement. C’est un point dur récurrent.

 

La seconde est une limite d’efficacité des algorithmes d’intelligence artificielle : comme je l’ai déjà dit, les solutions IA ont du mal à détecter des attaques ou des variantes inconnues.

 

Quant à la troisième limite, c’est un problème de robustesse. Imaginons un mécanisme antivirus qui se base sur l’apprentissage au fil de l’eau pour détecter si une pièce jointe est valide. L’attaquant peut envoyer des pièces jointes avec différents degrés de malveillance pour mieux connaitre l’algorithme de défense. Puis dans un deuxième temps tromper le processus d’apprentissage avec de fausses pièces jointes qui seront vues comme légitimes. De cette façon, il crée progressivement une brèche pour lancer ultérieurement une attaque.

La cybersécurité est une bataille sans fin…

Exactement. Il n’existe pas de solution magique. Il faut sans cesse davantage d’expertise et sans cesse de meilleurs outils.

Voir les dernières actualités

11 avril 2024
M&NTIS Platform est une solution SaaS destinée au test d'efficacité de produits de défense (AV, EDR, sondes réseau/NDR, SIEM, XDR, ...) et d'architectures de supervision. Une nouvelle version majeure de la plateforme vient de sortir.
16 janvier 2024
Découvrez le témoignage de Baptiste et Raphaël suite à leur immersion au sein de la BU Offensive Security chez Almond. Projets techniques stimulants, enrichissement mutuel des compétences... retour sur une expérience plus que positive.
21 juin 2023
Nous vous proposons cette fois-ci de partir à la découverte de Christine, qui après une riche carrière dans le domaine de la santé, a embrassé le métier de consultante en cybersécurité.
11 mai 2023
Découvrez notre témoignage concernant le recrutement de nouveaux talents en cybersécurité.
28 février 2023
Engagés depuis toujours dans le soutien et le développement de la filière Cybersécurité au travers de la formation, nous sommes particulièrement fiers aujourd’hui de parrainer les masters dédiés de l'Université de Rennes
28 février 2023
Comme tous les ans et conformément à la législation en vigueur, AMOSSYS calcule et publie son index d’égalité professionnelle hommes-femme.
23 février 2023
AMOSSYS vient d’adhérer à ADN Ouest, le plus grand réseau de professionnels du numérique de France.
25 janvier 2023
Découvrez le témoignage d’Émilie qui a choisi très tôt la cybersécurité dans son parcours de formation. En tant que femme, quelles raisons lui ont donné envie de s’orienter vers la cyber ?
6 janvier 2023
AMOSSYS vient d’obtenir le renouvellement pour 3 ans de son Visa de sécurité en tant que PASSI RGS-LPM délivré par l’Agence Nationale de la Sécurité des Systèmes d’information (ANSSI).
20 décembre 2022
AMOSSYS vient de rejoindre l’InterCERT-France (Première communauté de CERT (Computer Emergency Response Team) et de CSIRT (Computer Security Incident Response Team) en France) en tant qu’adhérent.