Toutefois, il y a une réponse que nous ne connaîtrons peut-être pas avant un certain temps : ses créateurs finiront-ils par regretter d’avoir sorti le génie de sa lampe à cause de résultats involontaires en matière de cybersécurité ?

D’après les experts du secteur, nous serions actuellement à moins d’un an d’une cyberattaque créditée à ChatGPT et que certains États-nations utiliseraient déjà cette IA à des fins malveillantes contre d’autres nations. Même si nombreux sont ceux à aujourd’hui être convaincus que ChatGPT est principalement utilisé avec de bonnes intentions, une bonne partie des professionnels IT reconnaît aisément qu’elle constitue une menace potentielle pour la cybersécurité. L’IA aurait alors deux facettes.

L'émergence des chatbots et des outils alimentés par l’IA soulève de nouveaux défis en matière de cybersécurité, surtout s’ils se retrouvent entre de mauvaises mains. L'utilisation de ce type de technologie avancée présente de nombreux avantages que nous n’avons pas encore totalement identifiés, ce qui nous ne doit pas non plus nous pousser à en ignorer les ramifications. À mesure que la plateforme ChatGPT apprend et que les pirates gagnent en expérience, il deviendra plus difficile de se défendre et de lutter à armes égales sans avoir recours à l’IA.

Cyberattaques à IA-armées

Il n'est pas surprenant que des personnes mal intentionnées tâtent le terrain, et tout devrait s’accélérer au cours des mois qui arrivent. En effet, il faut s’attendre à ce que les pirates maîtrisent de mieux en mieux ChatGPT et s’en approprient parfaitement l’utilisation à des fins hostiles.

L'IA accélère l’extraction de connaissances pratiques, et elle ne fait pas de distinction lorsqu’elle est interrogée par des codeurs de logiciels malveillants. Le secteur de la cybersécurité, en constante évolution, est souvent comparé à un jeu sans fin du chat et de la souris, voire au jeu de la taupe où les ennemis surgissent de différentes directions. Par le passé, ces acteurs malveillants s'appuyaient sur leur propre expérience, les forums et les articles de blog des chercheurs en sécurité pour appréhender les techniques à utiliser et les convertir en code. Mais un programme comme ChatGPT ajoute une corde à leur arc. Les acteurs malveillants vont alors vouloir tester ses limites et ses théories pour valider son efficacité et faire des ravages numériques.

L'IA peut être utilisée de plusieurs manières pour mener des cyberattaques – qu’il s’agisse d'analyser automatiquement des vulnérabilités ou de mettre en œuvre de nouvelles techniques d'attaque. Grâce à cette technologie, les groupes d’acteurs malveillants (APT) peuvent mener des attaques très ciblées pour voler des données sensibles ou perturber des opérations. D’ailleurs, ceux-ci mènent généralement une attaque soutenue contre une seule organisation, commanditée par des États-nations ou encore d’autres acteurs très sophistiqués.

L'IA peut également être utilisée pour créer des outils de phishing convaincants (emails, textos, messages sur les réseaux sociaux, etc.) pour inciter les gens à partager des informations sensibles ou les pousser à installer des logiciels malveillants. Les vidéos deepfake générées grâce à l’IA peuvent être utilisées pour usurper l’identité de responsables ou d’organisations dans des attaques de phishing. Elles peuvent être utilisées pour lancer des attaques du type DDoS ou pour prendre le contrôle d'infrastructures critiques, causant indéniablement des dommages importants.

Une IA pour l’IA

Garder une longueur d’avance grâce à l’IA pour combattre les menaces de manière proactive devient compliqué étant donné l'utilisation croissante de la technologie dans la conception même des attaques. Les entreprises doivent continuer de concentrer leurs efforts sur l’amélioration de la prévention et de la détection. C'est par ailleurs une bonne occasion d’examiner les manières d’inclure davantage d’IA dans les différents processus de classification des menaces et les stratégies de cybersécurité.

La capacité de l’IA à analyser de grandes quantités de données en temps réel est l’un de ses principaux avantages pour la cybersécurité. En effet, le volume de données généré par les réseaux modernes rend le suivi impossible à l’échelle humaine. L’IA peut traiter les données beaucoup plus rapidement, ce qui la rend plus efficace pour identifier les menaces.

Les mesures de sécurité traditionnelles deviennent obsolètes. Et pour cause, les cyberattaques sont de plus en plus sophistiquées et les acteurs malveillants font de leur côté évoluer leurs tactiques, techniques et procédures (TTP) rapidement. Sachant que l’IA peut tirer des enseignements des attaques précédentes et adapter ses défenses, elle est de fait plus résistante aux menaces futures.

L’IA peut également être utilisée pour atténuer les conséquences des APT – les attaques étant très ciblées et souvent difficiles à détecter, et stopper les attaques avant qu'elles ne causent des dommages importants. L’automatisation des tâches répétitives en matière de gestion de la sécurité permet également aux professionnels de la cybersécurité de se concentrer davantage sur les tâches stratégiques, telles que la chasse aux menaces ou encore la réponse aux incidents.

L’avenir de la cybersécurité

L'IA a plus que jamais sa place en matière de sécurité, maintenant que les cybercriminels l'utilisent pour jouer dans une toute nouvelle cour. Alors, nombreux sont aujourd’hui les décideurs IT à vouloir investir dans des projets de cybersécurité basés sur l’IA au cours des prochains mois, soulignant par la même occasion leur inquiétude croissante quant à l’efficacité des solutions de protection basées sur les signatures.  

Si les experts IT semblent convaincus que ChatGPT améliorera la cybersécurité pour les entreprises, les gouvernements auront certainement une responsabilité à assumer dans la réglementation des technologies avancées.

Les cyber-professionnels et les hackers continueront à chercher comment utiliser au mieux l’IA, et seul le temps dira lesquels seront les plus efficaces. En attendant, ceux qui souhaitent prendre de l’avance peuvent placer l'IA au cœur de leur stratégie de cybersécurité et ainsi apprendre à combattre le feu par le feu.

Par Arnaud Le Hung, Senior Channel Account Manager, Southern Europe chez BlackBerry


Source link