У фішингового листа тепер двоє читачів, і другий - ваш ШІ-помічник

Ви видалили підозрілий рахунок. Потім помічник поштової скриньки склав ранковий підсумок і поклав його вам знову перед очі, позначивши як терміновий.

Саме таку атаку описала дослідницька команда Barracuda 6 жовтня, і зроблено це вправно. Один лист написано для двох аудиторій. Видима половина робить звичну роботу з людиною: вкладення під паролем, знайома адреса відправника, щось, що треба зробити сьогодні. Невидима половина націлена на штучний інтелект, який читає пошту замість вас. Barracuda знайшла ці інструкції схованими чотирма способами: у коментарях HTML, у тексті, який CSS робить білим або нульової висоти, закодованими в Base64 і записаними символами нульової ширини, що не займають місця на екрані. В одному справжньому зразку прихований блок наказував помічнику додати до підсумку першочергове завдання про зміну банківських реквізитів постачальника. Людина читає охайний підсумок від інструмента, якому довіряє, і йде переказувати гроші.

Для першопричини швидкої латки немає. Мовна модель, яка читає вашу пошту, не вміє надійно відрізнити текст, що його треба описати, від тексту, який наказує їй щось зробити. Рекомендації Barracuda здебільшого про те, щоб прибирати прихований вміст ще до того, як модель його побачить, і вимагати, щоб людина погоджувала все, що стосується платежів.

Для решти з нас звичка доволі проста. Підсумок від ШІ - це підказка, а не вирок. Якщо він щось позначає як пов'язане з грошима, обліковим записом чи паролем, відкрийте сам лист і подивіться на нього власними очима, а будь-яку зміну банківських реквізитів підтвердіть за номером телефону, який у вас уже був. Винагородою більшості фішингових кампаній усе ще є щось тихо встановлене згодом, а перевірка безпеки в Tendvane переглядає те, що лежить на вашому ПК, і позначає речі, які з'явилися там без вашого запиту.