Social Engineering zählt seit jeher zu den wirkungsvollsten Methoden von Hackern. Mit dem Aufkommen von Künstlicher Intelligenz sind diese Angriffe jedoch deutlich intelligenter, schneller geworden und es wird immer schwerer diese als solche zu erkennen . Unprofessionelle Phishing-Mails voller Rechtschreib- und Grammatikfehler wurden durch hochgradig überzeugende, personalisierte Kampagnen ersetzt, die selbst sicherheitsbewusste Mitarbeitende täuschen können.

Angreifer beginnen typischerweise mit der Sammlung von Open-Source Intelligence (OSINT) aus Quellen wie LinkedIn, sozialen Netzwerken, Unternehmenswebseiten oder früheren Datenlecks. Mithilfe von KI werden diese Informationen automatischanalysiert und detaillierte Zielprofile  erstellt– wodurch praktisch jede Person im Unternehmen zur potenziellen Zielscheibe wird. Auf Basis dieser Profile generieren Angreifer authentisch wirkende Nachrichten, die sowohl auf den Kommunikationsstil des Unternehmens als auch auf die jeweilige Rolle der betroffenen Person abgestimmt sind. Aus wahllosem Massen-Phishing wird so präzises Spear-Phishing. Da KI sprachlich einwandfreie Inhalte erzeugt, verlieren klassische Warnsignale wie fehlerhafte Grammatik oder ungewöhnliche Formulierungen zunehmend an Bedeutung. Um die Glaubwürdigkeit weiter zu erhöhen, setzen Cyberkriminelle KI-gestützte Chatbots ein, die längere, natürlich wirkende Dialoge führen können. Auf diese Weise bauen sie gezielt Vertrauen auf, bevor sie schließlich Zugangsdaten abgreifen oder schädliche Payloads zustellen. Diese Entwicklung macht Social Engineering so täuschend wie nie zuvor. Organisationen sind daher gefordert, ihre Schutzmaßnahmen anzupassen und Mitarbeitende darauf zu schulen, verhaltensbasierte Warnsignale zu erkennen – statt sich ausschließlich auf oberflächliche Indikatoren zu verlassen.