OpenAI в ближайшие недели начнет добавлять невидимую маркировку к текстам, которые ChatGPT и Codex генерируют для пользователей в Евросоюзе. Компания связывает нововведение с требованиями Закона ЕС об искусственном интеллекте, предусматривающего возможность машинного распознавания контента, созданного генеративными системами.
О технологии OpenAI сообщила отдельно. «В ближайшие недели мы добавим невидимый водяной знак к текстовым сообщениям, выводимым через ChatGPT и Codex в Европейском союзе», - говорится в сообщении компании.
Читайте нас также
Маркировка получила название textGrain. Система изменяет статистические характеристики выбора слов во время генерации, формируя специальный сигнал, который остается незаметным для читателя. При этом в тексте не появляются скрытые символы, дополнительные пробелы или необычные знаки препинания.
Определить наличие маркировки сможет специальный инструмент. Он анализирует текст и проверяет, присутствует ли в нем характерный сигнал.
В OpenAI при этом предупреждают об ограничениях технологии. Надежность распознавания зависит от объема текста, а перевод, редактирование или серьезная переработка материала могут ослабить водяной знак.
Для разработчиков и компаний, использующих OpenAI API в собственных сервисах, функция уже доступна для ряда моделей. Ее можно включить самостоятельно, однако по умолчанию маркировка отключена.
OpenAI не первая компания, которая использует подобный подход. В августе аналогичную технологию внедрила Anthropic для текстов, создаваемых новыми моделями Claude. В компании заявляли, что маркировка не меняет смысл и читаемость материалов и в некоторых случаях сохраняется после копирования и редактирования.
Подпишитесь на нас 
