Phishing und Social Engineering sind alles andere als neu. Doch durch die rasante Entwicklung von künstlicher Intelligenz sind die Betrugsmethoden unberechenbarer geworden. Innerhalb kürzester Zeit erzeugen Angreifer unter Zuhilfenahme von KI glaubwürdige Nachrichten, authentisch klingende Anrufe und täuschend echt wirkende Videos. Unternehmen und ihre Mitarbeiter müssen verdächtige Anfragen deshalb nicht mehr nur auf typische Warnzeichen prüfen, sondern über einen unabhängigen Weg bestätigen.

In einer E-Mail bittet ein Mitglied der Geschäftsführung um eine schnelle Freigabe. Sprache, Ton und Kontext passen. Kurz darauf bestätigt eine vertraute Stimme am Telefon, dass es wirklich eilt. Alles wirkt plausibel, und genau darin liegt das Problem.

Was ist KI-Phishing?

KI-Phishing ist eine Form des Phishings, bei der künstliche Intelligenz eingesetzt wird, um Social-Engineering-Angriffe überzeugender zu gestalten. Angreifer können KI-Tools nutzen, um realistisch wirkende E-Mails zu erstellen, Stimmen zu klonen, Deepfake-Videos zu erzeugen und Nachrichten auf Basis öffentlich verfügbarer Informationen über eine Zielperson zu personalisieren.

Wie verändert KI Phishing und Social Engineering?

Viele Phishing-Mails verrieten sich früher durch holprige Formulierungen, unpassende Logos oder auffällige Absenderadressen. Solche Warnzeichen gibt es auch weiterhin. KI hilft Kriminellen aber dabei, viele dieser Schwächen auszugleichen. Sie können Texte überarbeiten, den Stil einer Person nahezu perfekt nachahmen, Stimmen klonen und Bilder oder Videos so manipulieren, dass sie auf den ersten Blick absolut echt wirken. Dazu braucht es weder ein großes Team noch viel Zeit.

Das Grundprinzip der Methoden ist gleichgeblieben. Angreifer wollen Vertrauen gewinnen und Menschen zu einer Handlung bewegen. Sie fordern etwa eine Zahlung an, fragen nach Zugangsdaten oder locken Empfänger auf eine gefälschte Anmeldeseite. Was KI – allen voran generative KI – verändert, ist jedoch, wie schnell und überzeugend sie solche Angriffe vorbereiten können. Statt einer allgemeinen Massenmail entstehen persönliche Nachrichten, die zur Rolle, zum Unternehmen und zur aktuellen Situation des Opfers passen.

KI-Phishing vs. traditionelles Phishing

Solche gezielt auf einzelne Personen oder Organisationen zugeschnittenen Nachrichten fallen unter Spear-Phishing. Wie sich Phishing und Spear-Phishing unterscheiden, erklären wir in diesem Beitrag.

Mehr über die Unterschiede erfahren Sie in unserem Artikel: Keine kleinen Phishe: der Unterschied zwischen Phishing und Spear-Phishing

Der erste Eindruck genügt nicht mehr

Im Arbeitsalltag treffen Mitarbeitende viele Entscheidungen anhand vertrauter Signale. Sie orientieren sich an bekannten Namen, vertrauten Stimmen, eingespielten Prozessen oder häufig genutzten Plattformen.. Doch ist sind genau diese vertrauten Signale, die Kriminelle mithilfe von KI täuschend echt imitieren.

Wie schwer selbst vorbereiteten Menschen die Einordnung fällt, unterstreicht z. B. eine Studie von iProov mit 2.000 Befragten aus Großbritannien und den USA. Nur 0,1 Prozent ordneten sämtliche echten und KI-generierten Bilder und Videos richtig zu, obwohl sie gezielt nach Deepfakes suchen sollten.

Eine fehlerfreie E-Mail beweist heute demnach ebenso wenig die Identität des Absenders wie eine bekannte Stimme oder ein Gesicht auf dem Bildschirm. Wer Angriffe abwehren will, darf sich nicht allein auf den ersten Eindruck verlassen. Vielmehr muss es zur Routine werden, kritische Anfragen oder Handlungsaufforderungen über einen bekannten und unabhängigen Kontaktweg bestätigen zu lassen.

Fünf typische KI-Phishing-Szenarien im Arbeitsalltag

Die folgenden Szenarien machen deutlich, wie sehr Unternehmen von KI-Phishing-Angriffen gefährdet sind und wo Mitarbeitende besonders genau hinsehen sollten:

#1 Die perfekte E-Mail – wenn Phishing überzeugend wirkt

In einer E-Mail eines offenkundig langjährigen Geschäftspartners kündigt die zuständige Ansprechpartnerin eine überarbeitete Vertragsversion an und bittet darum, das Dokument über einen Link zu prüfen. Projektname, beteiligte Personen und bisherige Absprachen stimmen. Auch die Sprache entspricht dem Stil aus früheren Nachrichten.

Sicherheitstipp

Gerade weil sich die E-Mail so nahtlos in den laufenden Austausch einfügt, ist es besonders schwer, den Betrugsversuch zu erkennen. Mitarbeitende sollten deshalb nicht nur Absenderadresse und Linkziel prüfen, sondern auch hinterfragen, ob der gewählte Weg zum bisherigen Ablauf passt. Werden Vertragsdokumente sonst ebenfalls über Links geteilt oder gewöhnlich über einen festen Projektraum bereitgestellt? Bei Abweichungen sollten sie die Ansprechpartnerin über die bereits bekannten Kontaktdaten erreichen.

#2 Der Anruf vom Chef – Voice Cloning mit KI 

Auf die E-Mail folgt ein Anruf. Beim Voice Cloning bildet KI die Stimme einer realen Person so nach, dass sie dem Original zum Verwechseln ähnlich klingt. Die vermeintliche Führungskraft bestätigt, dass es schnell gehen müsse. Vielleicht soll die angesprochene Person eine Ausnahme machen, einen MFA-Code nennen oder eine Zahlung vorziehen.

Sicherheitstipp

Für sensible Vorgänge brauchen Unternehmen feste Abläufe und klar festgelegte Kommunikationskanäle. Eine Zahlungsanweisung darf zum Beispiel nur über einen bestimmten internen Kanal erfolgen und muss anschließend über einen zweiten, unabhängigen Weg bestätigt werden.

Fehlen solche Vorgaben und bestehen Unsicherheiten, sollten Mitarbeitende den Anruf beenden und die gespeicherte Nummer des Vorgesetzten selbst wählen, statt die angezeigte Nummer zurückzurufen. So lässt sich prüfen, ob die konkrete Zahlung oder Freigabe tatsächlich von ihm stammt. Unabhängig davon müssen die üblichen Freigabeschritte greifen, etwa das Vier-Augen-Prinzip oder die Prüfung durch die Finanzabteilung.

#3 Der Videocall mit der Führungskraft: Deepfake-Betrug

Eine Führungskraft lädt kurzfristig zu einem Videocall ein und bittet darum, einen Vertrag freizugeben oder einem externen Partner Zugriff auf vertrauliche Unterlagen zu gewähren. Deepfakes sind KI-generierte oder manipulierte Bilder und Videos, die reale Personen sehr glaubwürdig nachbilden können. Bild, Stimme und Gesprächssituation wirken vertraut. Der Call bleibt jedoch kurz, Rückfragen werden mit Zeitdruck abgewehrt und die geforderte Handlung weicht vom üblichen Ablauf ab.

Sicherheitstipp

Auch hier gilt, dass ein vertrauter visueller Eindruck keine festgelegten Prüf- und Freigabewege ersetzen darf. Mitarbeitende sollten außerdem misstrauisch werden, wenn Rückfragen unerwünscht sind, die Verbindung auffällig schlecht ist oder die Person eine (schnelle) Ausnahme verlangt. Statt sich auf Bild und Stimme zu verlassen, sollten sie den konkreten Auftrag über den vorgesehenen unabhängigen Kontaktweg bestätigen lassen.

#4 Die Nachricht in Teams oder Slack: Phishing in Collaboration-Tools

Eine Kollegin meldet sich über Teams und bittet darum, ein Dokument kurzfristig zu prüfen. Name, Profilbild und Tonfall wirken vertraut, doch der Link führt nicht in den gewohnten Projektraum, sondern auf eine externe Anmeldeseite.

Sicherheitstipp

Auch interne Plattformen brauchen einen kritischen Blick. Mitarbeitende sollten prüfen, ob die Nachricht zum bisherigen Austausch passt und ob Dokumente sonst über denselben Weg geteilt werden. Führt ein Link aus dem vertrauten Arbeitsbereich heraus oder verlangt er eine erneute Anmeldung, sollten sie ihn nicht öffnen. Eine Rückfrage im selben Chat reicht ebenfalls nicht aus, denn bei einem kompromittierten Konto könnten Angreifer auch dort antworten. Besser ist ein kurzer Wechsel zu einem anderen etablierten Kontaktweg.

#5 Der mehrstufige Angriff – wenn alles zusammenkommt

Mehrstufige KI-Angriffe verbinden verschiedene Kommunikationskanäle und verstärken dadurch den Eindruck, eine Anfrage sei legitim. In einer E-Mail kündigt ein Vorgesetzter eine dringende Vertragsänderung an. Kurz darauf bestätigt die vertraute Stimme am Telefon den Vorgang. Anschließend folgt über Teams ein Link zu einem Dokument, das angeblich sofort geprüft werden muss. Über alle Kanäle hinweg steigt der Druck. Die angebliche Frist läuft ab, Rückfragen sollen vermieden werden und jede Verzögerung wird als Risiko für das Geschäft dargestellt. Weil jeder Kontaktpunkt die vorherige Nachricht aufgreift, wirkt die Anfrage schlüssig.

Sicherheitstipp

Gerade bei mehrstufigen Angriffen dürfen übereinstimmende Signale nicht mit einer unabhängigen Bestätigung verwechselt werden. Zeitdruck, Vertraulichkeit und die Aufforderung, vom üblichen Ablauf abzuweichen, sollten den Vorgang sofort stoppen. Auch hier sollten Mitarbeitende keinen Kanal innerhalb derselben Kommunikation nutzen, sondern den Vorgang über festgelegte Kontaktwege verifizieren.

Verifikation statt Vertrauen

Vertrauen gehört zum Arbeitsalltag und wird schnell zur Schwachstelle, wenn ein bekannter Name, eine vertraute Stimme oder eine häufig genutzte Plattform bereits als Beweis dafür gilt, dass eine Anfrage echt ist.

Unternehmen dürfen nicht erwarten, dass Mitarbeitende jede KI-generierte Täuschung erkennen. Sie brauchen deshalb Awareness-Schulungen, verbindliche Prüfprozesse und sichere Werkzeuge, mit denen sie Zugriffe gezielt steuern, vertrauliche Zusammenarbeit kontrolliert organisieren und unbefugten Zugang von vornherein erschweren.

💡Wichtigste Erkenntnis: Da KI heute überzeugende E-Mails, Anrufe, Nachrichten und sogar Deepfake-Videos erstellen kann, sind Aussehen und Tonfall keine verlässlichen Indikatoren mehr für Authentizität. Umso wichtiger ist es, Anfragen unabhängig zu verifizieren, bevor Sie sensible Informationen preisgeben, Geld überweisen oder auf Links klicken.

Deshalb reicht Sensibilisierung allein nicht aus. Unternehmen brauchen klare Verifizierungsprozesse, verbindliche Freigabeverfahren und sichere Tools für die Zusammenarbeit, um den Zugriff auf sensible Daten zu kontrollieren und Angreifern weniger Möglichkeiten zur Manipulation zu bieten.

Die wirksamsten Schutzmaßnahmen umfassen:

Checkliste: 10 Fragen, mit denen Sie Ihre Organisation vor KI-Scams schützen können

1. Beziehen unsere Awareness-Trainings neben klassischen Phishing-Mails auch Voice Cloning, Deepfake-Videos und manipulierte Nachrichten in Collaboration-Tools ein?
2. Üben Mitarbeitende anhand realistischer Szenarien, wie sie bei glaubwürdig wirkenden Anfragen reagieren sollen?
3. Ist klar festgelegt, über welche Kanäle sensible Anweisungen eingehen dürfen?
4. Wissen Mitarbeitende, über welchen unabhängigen Weg sie Zahlungen, neue Bankdaten, Zugriffsfreigaben oder Dateiweitergaben bestätigen müssen?
5. Ist eindeutig geregelt, wer sensible Vorgänge anweisen und wer sie freigeben darf?
6. Für welche Vorgänge gilt das Vier-Augen-Prinzip?
7. Welche Abweichungen vom üblichen Ablauf sollten einen Vorgang sofort stoppen?
8. Ist festgelegt, wie Mitarbeitende mit unbekannten Links, neuen Anmeldewegen oder ungewöhnlichen Freigabeaufforderungen umgehen?
9. Wissen Mitarbeitende, an wen sie sich bei einem Verdacht wenden können?
10. Ist der Meldeweg leicht erreichbar, bekannt und ohne unnötige Hürden nutzbar?

Fazit

KI hat Phishing und Social Engineering nicht neu erfunden, sondern noch glaubwürdiger und perfider gemacht. Menschen können nicht jede geklonte Stimme oder jedes manipulierte Video zuverlässig als Fälschung erkennen. Sie brauchen vielmehr festgelegte Kommunikationswege, klare Freigaberegeln und sichere Arbeitsräume. Verifikation statt Vertrauen bedeutet dabei nicht, Kolleginnen, Kollegen oder Geschäftspartner grundsätzlich zu misstrauen. Es bedeutet, sensible Vorgänge so abzusichern, dass keine Anfrage allein aufgrund eines glaubwürdigen Eindrucks freigegeben wird.

Klare Wege, weniger Risiken

Tresorit hilft Ihnen, vertrauliche Zusammenarbeit sicher Ende-zu-Ende-verschlüsselt zu organisieren, Zugriffe präzise zu steuern und sensible Dateien kontrolliert zu teilen. So minimieren Sie auch KI-Betrugsrisiken, ohne Arbeitsabläufe zu erschweren. Testen Sie Tresorit SecureCloud und sichern Sie die Zusammenarbeit.