Тексти ChatGPT у Європі нестимуть невидимий підпис

OpenAI повідомила в неділю, що тексти, створені ChatGPT і Codex у межах Європейського Союзу, почнуть нести приховану позначку. На вигляд написане не змінюється. Система під назвою textGrain трохи скеровує, яке слово модель обирає на кожному кроці, щоб готовий текст містив статистичний візерунок, який детектор із правильним ключем здатен помітити.

Причина - стаття 50 європейського акта про штучний інтелект, яка вимагає, щоб згенерований машиною вміст можна було розпізнати машинозчитуваним способом, і цей обов'язок діє з 2 грудня. Протягом найближчих тижнів нововведення охопить відповідних користувачів усіх тарифів у ЄС. Розробники поза Європою можуть увімкнути те саме через API, якщо захочуть, бо типово воно вимкнене. Сам детектор поки що не роздають публічно, лише схваленим дослідникам та організаціям.

OpenAI напрочуд відверто говорить, наскільки все це крихке. Замініть кожне десяте слово синонімом, і виявлення падає приблизно з 92 відсотків до 66. Кожне четверте - і воно сповзає до 17. Короткі уривки складніші, математика майже безнадійна, а переклад чи серйозна правка здатні змити позначку повністю. Крім того, водяний знак нічого не каже про те, хто написав текст, з якого акаунта він з'явився і про що була розмова.

На практиці це радше те, що варто розуміти, ніж те, що треба робити. Вчитель, роботодавець чи редакція не махне над документом чарівною паличкою й не отримає відповіді, а кому кажуть інакше, тому щось продають. Якщо ви користуєтеся застосунком ChatGPT у Windows, перевірка оновлень програм у Tendvane тихо тримає його на поточній версії, поки такі зміни доходять до користувачів.