Die Phishing-Mail hat jetzt zwei Leser, und der zweite ist Ihr KI-Assistent

Sie haben die verdächtige Rechnung gelöscht. Dann erstellte Ihr Posteingangsassistent seine Morgenzusammenfassung und legte sie Ihnen wieder vor, als dringend markiert.

Genau diesen Angriff beschrieb Barracudas Analyseteam am 6. Oktober, und er ist raffiniert gemacht. Eine einzige E-Mail richtet sich an zwei Zielgruppen. Die sichtbare Hälfte erledigt die übliche Arbeit am Menschen: ein passwortgeschützter Anhang, eine vertraute Absenderadresse, etwas, das heute erledigt werden muss. Die unsichtbare Hälfte zielt auf die KI, die Ihre Post für Sie liest. Barracuda fand diese Anweisungen auf vier Arten versteckt: in HTML-Kommentaren, in Text, der per CSS weiß oder null Pixel hoch formatiert ist, als Base64 kodiert und in Zeichen ohne Breite geschrieben, die auf dem Bildschirm keinen Platz einnehmen. In einem echten Fall wies ein verborgener Block den zusammenfassenden Assistenten an, eine vorrangige Aufgabe zur Änderung der Bankverbindung eines Lieferanten einzufügen. Der Mensch liest eine aufgeräumte Zusammenfassung aus einem Werkzeug, dem er vertraut, und überweist das Geld.

Das zugrunde liegende Problem lässt sich nicht schnell patchen. Ein Sprachmodell, das Ihre E-Mails liest, kann nicht zuverlässig unterscheiden zwischen Text, den es beschreiben soll, und Text, der ihm sagt, was zu tun ist. Barracudas Empfehlungen drehen sich vor allem darum, verborgene Inhalte zu entfernen, bevor das Modell sie überhaupt sieht, und darauf zu bestehen, dass ein Mensch alles abzeichnet, was mit Zahlungen zu tun hat.

Für den Rest von uns ist die Gewohnheit einfach genug. Eine KI-Zusammenfassung ist ein Hinweis, kein Urteil. Wenn sie etwas meldet, das mit Geld, einem Konto oder einem Passwort zu tun hat, öffnen Sie die eigentliche Nachricht und sehen Sie selbst nach, und bestätigen Sie jede Änderung von Bankdaten über eine Telefonnummer, die Sie schon vorher hatten. Der Lohn der meisten Phishing-Kampagnen ist immer noch etwas, das danach still installiert wird, und die Sicherheitsprüfung von Tendvane geht durch, was auf Ihrem PC liegt, und markiert, was ungefragt dorthin gelangt ist.