Сгенерировано ИИ: тексты ChatGPT теперь будут с невидимыми знаками

OpenAI внедрит невидимые водяные знаки в тексты ChatGPT и Codex. Новая технология поможет определять, использовался ли искусственный интеллект при создании или обработке текста, сообщает Zakon.kz.

Компания представила технологию текстовых водяных знаков под названием textGrain. Она добавляет невидимый статистический сигнал, который впоследствии может обнаружить специальный детектор.

"В ближайшие недели водяные знаки появятся в текстовых ответах ChatGPT и Codex в странах Европейского союза. В остальных странах клиенты смогут по своему запросу включать водяные знаки для некоторых моделей. По умолчанию эта функция будет отключена", – говорится в объявлении компании.

В OpenAI отмечают, что технология имеет ограничения. Например, короткие тексты определить сложнее, а редактирование и замена слов синонимами могут значительно ослабить водяной знак. Кроме того, его наличие не позволяет установить авторство текста, определить вклад человека или проверить достоверность информации.

Компания пока не планирует делать детектор общедоступным.

Ранее руководитель отдела безопасности OpenAI Дэвид Робинсон покинул компанию, заявив о проблемах с корпоративной культурой и недостаточной осторожности разработчиков ИИ.