Google выпускает технологию водяных знаков для...

133

Google выпускает технологию водяных знаков для AI-генерированных текстов

Google сделал общедоступным SynthID Text - опенсорсное решение, которое позволяет разработчикам встраивать водяные знаки и детектить тексты, сгенерированные ИИ-моделями.

SynthID Text работает путем внедрения водяных знаков во время генерации текста ИИ, изменяя паттерны распределения токенов без ущерба для качества контента.

Технология интегрируется с моделями Google Gemini и сохраняет качество текста, при этом позволяя определять контент, созданный ИИ.

Сложности с детектом:

— SynthID менее эффективен с короткими текстами

— Сниженная точность для переведенного или переписанного контента

— Ограниченная функциональность с фактологическими ответами

Технология появляется в критический момент - по прогнозам, к 2026 году до 90% онлайн-контента может быть синтетически сгенерировано.

На данный момент около 60% предложений в вебе могут быть уже сгенерированы ИИ, в основном благодаря инструментам ИИ-перевода.

Технология обеспечивает большую прозрачность в создании контента и может помочь различать человеческий и ИИ-написанный контент, что особенно важно, поскольку поисковики развивают свой подход к детекту ИИ-контента.

Учитывая, что такие юрисдикции как Китай уже внедряют обязательную маркировку ИИ-контента водяными знаками, а Калифорния рассматривает аналогичные меры, эта технология позволяет контент-мейкерам быть на шаг впереди регуляторных требований.

https://deepmind.google/technologies/synthid/

https://techcrunch.com/2024/10/23/google-releases-tech-to-watermark-ai-generated-text/

https://www.nature.com/articles/s41586-024-08025-4

Андреа Волпини протестировал SynthID, и результаты весьма интересны.

SynthID не просто добавляет невидимые маркеры - он фактически расширяет контент.

Попробуйте: https://huggingface.co/spaces/WordLift/synthID

Вместо того чтобы просто слегка изменить существующий текст, SynthID добавил совершенно новый абзац.

Посмотрите на разницу: https://diffchecker.com/rgquz61Q/

Ваша первая мысль - надо просто удалить этот параграф. (Угадал?)

@MikeBlazerX