Він відповідав на питання про кулінарію і водночас читав Gmail жертви

Жертва в демонстрації Check Point запитала ChatGPT щось про готування. Поки той відповідав, та сама сесія зайшла в підключений Gmail, витягла звідти дані листування й передала їх незнайомцю. У видимій відповіді про це не було ні слова. Єдиним слідом була маленька позначка "Talked to Gmail", і з'являлася вона лише тоді, коли читання вже завершилося.

Дослідження вийшло 8 вересня і описує щілину між обліковими записами, якої не мало бути. Коли ChatGPT виконує код, він робить це в герметичному контейнері без виходу в інтернет, а контейнери різних людей мають залишатися одне для одного чужими. Проте всі вони дотягувалися до однієї внутрішньої служби: інстанції JFrog Artifactory, яка роздає програмні пакети і дозволяла будь-якому контейнеру приколювати маленькі нотатки до кешованих файлів, а потім їх перечитувати. Check Point називає це спільним буфером обміну. Нападник вписував туди завдання, сесія жертви йшла їх перевіряти, і ці завдання виконувалися з тими дозволами, які підключені застосунки цієї людини вже мали. Запустити все це коштувало жертві майже нічого: вставлений у чат запит, посилання на спільну розмову або власний GPT із прихованою інструкцією в налаштуваннях.

Check Point знайшов це в червні, і OpenAI з того часу вивів ту інстанцію Artifactory з експлуатації, тож оновлювати вам нічого, і немає жодних ознак, що когось справді атакували таким шляхом. Виправлення переживає інше: налаштування, яке за цим стоїть. Якщо ви підключили до ChatGPT Gmail, Drive чи календар, стандартний рівень дозволів дає йому читати з них без запитання, а ви дізнаєтеся про це вже потім. У налаштуваннях конекторів є суворіший варіант Always ask, який ставить запит на згоду перед кожним читанням.

Отже, варто зробити так: переведіть конектори на Always ask і ставтеся до спільного посилання на ChatGPT чи до чийогось власного GPT так, як ви поставилися б до вкладення з незнайомої адреси. Перевірка приватності та облікових записів Tendvane показує, до яких акаунтів увійшов ваш ПК, і це слушний початок, коли ви з'ясовуєте, наскільки далеко насправді дістає один логін.