L'email di phishing ora ha due lettori, e il secondo è il vostro assistente IA
Avete cancellato la fattura sospetta. Poi l'assistente della posta ha prodotto il riassunto del mattino e ve l'ha rimessa davanti, contrassegnata come urgente.
È l'attacco descritto dal team di ricerca di Barracuda il 6 ottobre, ed è un bel lavoro. Una sola email è scritta per due pubblici. La metà visibile fa il solito lavoro sull'essere umano: un allegato protetto da password, un indirizzo mittente familiare, qualcosa da sbrigare oggi. La metà invisibile punta all'IA che legge la posta per voi. Barracuda ha trovato quelle istruzioni nascoste in quattro modi: dentro commenti HTML, in testo formattato via CSS per essere bianco o alto zero pixel, codificato in Base64, e scritto con caratteri a larghezza nulla che sullo schermo non occupano spazio. In un caso reale, un blocco nascosto diceva all'assistente di riepilogo di aggiungere un'azione prioritaria sul cambio delle coordinate bancarie di un fornitore. L'essere umano legge un riassunto ordinato prodotto da uno strumento di cui si fida, e va a spostare i soldi.
Il problema di fondo non ha una toppa rapida. Un modello linguistico che legge la vostra posta non sa distinguere in modo affidabile il testo che deve descrivere da quello che gli dice cosa fare. Le raccomandazioni di Barracuda ruotano soprattutto attorno al togliere i contenuti nascosti prima che il modello li veda, e al pretendere che un essere umano approvi qualunque cosa riguardi un pagamento.
Per tutti noi l'abitudine è semplice. Un riassunto generato dall'IA è un indizio, non un verdetto. Se segnala qualcosa che riguarda denaro, un account o una password, aprite il messaggio vero e guardatelo voi, e confermate ogni cambio di coordinate bancarie con un numero di telefono che avevate già. Il guadagno della maggior parte delle campagne di phishing resta qualcosa installato in silenzio dopo, e il controllo di sicurezza di Tendvane passa in rassegna ciò che si trova sul vostro PC e segnala quello che è arrivato senza essere stato chiesto.