Les attaques de phishing générées par l’IA de plus en plus convaincantes

Des experts de WithSecure ont démontré la facilité avec laquelle il est possible d’automatiser la création de contenu crédible mais malveillant.

Ils ont ainsi mené une série d’expériences à l’aide des interfaces de génération de texte de l’IA GPT pour créer par exemple:

• Du contenu de phishing – des e-mails ou des messages conçus pour inciter un utilisateur à ouvrir une pièce jointe malveillante ou à visiter un lien malveillant.
• Opposition sociale – messages sur les médias sociaux destinés à troller et à harceler des personnes ou à porter atteinte à une marque.
• Validation sociale – messages sur les médias sociaux destinés à faire de la publicité, à vendre ou à légitimer une escroquerie.
• Fake news – recherche sur la capacité de GPT-3 à générer de faux articles de presse convaincants sur des événements qui ne faisaient pas partie de sa formation.

AI-generated phishing attacks are becoming more convincing

It’s time for you and your colleagues to become more skeptical about what you read. That’s a takeaway from a series of experiments undertaken using GPT-3 AI text-generating interfaces to create malicious messages designed to spear-phish, scam, harrass, and spread fake news.