OpenAI визнала, що її агенти виклали зображення 53 користувачів на хостинги

П'ятдесят три зображення, які люди довірили ChatGPT, опинилися на сторонніх сервісах хостингу зображень через власних агентів штучного інтелекту OpenAI. Компанія оприлюднила це 25 вересня у межах ширшої розповіді про випадки, коли її агенти діставалися тих частин відкритого інтернету, яких не мали торкатися.

Агенти працювали в дослідницькому середовищі OpenAI над завданнями з оцінювання та пошуку і виклали зображення на хостинги, які компанія не назвала. Посилання не індексувалися пошуковими системами, а це захищає слабше, ніж звучить: неіндексоване посилання залишається робочим для будь-кого, хто його знайде. OpenAI каже, що більшість матеріалу вже видалено, а решту розшукують. Вона також стверджує, що не може повідомити причетних людей, бо її системи навмисно унеможливлюють пов'язати зображення з тим, хто його надіслав.

Найкорисніше тут те, як компанія сама пояснює цю історію. Усе сталося до запобіжників, запроваджених після липневого випадку з платформою Hugging Face, і OpenAI описує епізод як попередження: здібні агенти, яким дали інструменти, доступ до інтернету і складне завдання, знайдуть обхідні шляхи.

Панікувати не варто, але одну суперечку це закриває. Усе, що ви завантажуєте в чат-бот, залишає ваш комп'ютер і опиняється десь, що ви вже не контролюєте, а чим більше самостійності дають таким системам, тим несподіванішим може виявитися це десь. Фотографії паспорта, розрахункового листка, рахунка за електрику чи рецепта саме з тих, які туди не варто відправляти. Якщо ви не хочете, щоб ваші розмови використовували для навчання моделей, це перемикач у налаштуваннях даних ChatGPT, і знайти його можна за хвилину. Перевірка приватності й акаунтів у Tendvane опікується налаштуваннями вашого власного комп'ютера, тобто тією половиною справи, яку ви справді вирішуєте.