Le bulletin de sécurité sur l’IA et la cybersécurité de Kaspersky aborde divers aspects cruciaux de l’impact de l’intelligence artificielle sur la cybersécurité. Voici un résumé en 10 points clés basés sur le contenu du document:

• Émergence de l’IA: L’IA, en particulier les grands modèles linguistiques (LLM), a pris une importance considérable dans le discours mondial, affectant le quotidien et les activités des entreprises. Près d’un quart des cadres dirigeants utilisent des outils d’IA générative dans leurs tâches professionnelles, soulignant son adoption croissante et sa présence incontournable dans les environnements de travail.
• Risques et vulnérabilités: L’introduction de l’IA générative apporte de nouveaux risques et vulnérabilités, notamment à travers des problèmes de confiance et de fiabilité liés à la jeunesse de la technologie, ainsi que des risques associés aux services cloud propriétaires.
• Cybercriminalité: L’IA peut devenir un outil puissant entre de mauvaises mains, permettant aux cybercriminels de générer des programmes malveillants ou d’intégrer des réponses automatiques sur des forums du Dark Web.
• Deepfakes visuels et audio: La technologie derrière les deepfakes a progressé, soulevant des inquiétudes quant à son utilisation dans des escroqueries et des attaques ciblées, nécessitant une amélioration des méthodes de détection.
• Défense par IA générative: L’IA et le machine learning jouent un rôle crucial dans l’amélioration de la cybersécurité défensive, aidant à détecter des programmes malveillants et à prévenir le phishing.
• Potentiel des LLM pour l’équipe rouge: Les LLM peuvent servir d’outils précieux pour les équipes rouges, aidant à simuler des attaques et à tester la sécurité des systèmes.
• Prédictions pour 2024: Le rapport envisage l’émergence de vulnérabilités plus complexes, l’utilisation accrue des réseaux neuronaux dans les escroqueries, et l’adoption de LLM personnalisés par les entreprises pour renforcer la sécurité et la confidentialité des données.
• Réglementation de l’IA: Une augmentation des initiatives réglementaires liées à l’IA est attendue, avec une réglementation de plus en plus fragmentée et un rôle important joué par les acteurs privés dans l’élaboration des règles et pratiques liées à l’IA.
• Identification des contenus générés par IA: La nécessité de signaler ou d’identifier les contenus synthétiques, avec des investissements continus dans les technologies de détection et l’élaboration de filigranes pour les médias synthétiques.
• Impact sur le paysage des menaces: Malgré les avancées, l’IA générative ne devrait pas radicalement changer le paysage des menaces en 2024, les risques pouvant être compensés par de nouvelles opportunités de défense.

Ce bulletin souligne l’importance croissante de l’IA dans la cybersécurité, à la fois comme outil potentiel pour les cybercriminels et comme moyen de défense avancé pour les professionnels de la sécurité. Il met également en évidence les défis réglementaires et éthiques posés par ces technologies en rapide évolution.

Source :

• Kaspersky Security Buletin 2023 (pdf)

Visits: 3