E-mail phishingowy ma teraz dwóch czytelników, a drugim jest Twój asystent AI

Usunąłeś podejrzaną fakturę. Potem asystent skrzynki pocztowej przygotował poranne streszczenie i położył ją z powrotem przed Tobą, oznaczoną jako pilna.

Taki atak opisał zespół badawczy Barracudy 6 października, i jest to kawał dobrej roboty. Jeden e-mail napisany jest dla dwóch odbiorców. Widoczna połowa robi zwykłą robotę na człowieku: załącznik chroniony hasłem, znajomy adres nadawcy, coś, co trzeba załatwić dziś. Niewidoczna połowa celuje w sztuczną inteligencję, która czyta pocztę w Twoim imieniu. Barracuda znalazła te instrukcje ukryte na cztery sposoby: w komentarzach HTML, w tekście sformatowanym przez CSS na biały lub o zerowej wysokości, zakodowane w Base64 oraz zapisane znakami o zerowej szerokości, które nie zajmują miejsca na ekranie. W jednej prawdziwej próbce ukryty blok kazał streszczającemu asystentowi dodać priorytetowe zadanie dotyczące zmiany danych bankowych dostawcy. Człowiek czyta porządne streszczenie z narzędzia, któremu ufa, i idzie przelać pieniądze.

Podstawowy problem nie da się szybko załatać. Model językowy czytający Twoją pocztę nie potrafi w sposób pewny odróżnić tekstu, który ma opisać, od tekstu, który mówi mu, co ma zrobić. Zalecenia Barracudy sprowadzają się głównie do usuwania ukrytych treści, zanim model w ogóle je zobaczy, i do wymagania, by człowiek zatwierdzał wszystko, co dotyczy płatności.

Dla reszty z nas nawyk jest dość prosty. Streszczenie od AI to wskazówka, a nie wyrok. Jeśli sygnalizuje coś związanego z pieniędzmi, kontem albo hasłem, otwórz prawdziwą wiadomość i sam na nią spójrz, a każdą zmianę danych bankowych potwierdź pod numerem telefonu, który miałeś już wcześniej. Nagrodą w większości kampanii phishingowych wciąż jest coś cicho zainstalowanego później, a kontrola bezpieczeństwa w Tendvane przegląda to, co znajduje się na komputerze, i oznacza rzeczy, które trafiły tam bez pytania.