Как работает определение AI-контента Системы определения...

Как работает определение AI-контента

Системы определения AI-контента анализируют текстовые паттерны и аномалии в текстах, написанных машиной.

Статистические методы детекции из 2000-х изучают частотность слов, n-граммные паттерны, синтаксические структуры вроде последовательностей Субъект-Глагол-Объект и стилистические элементы.

Простой пример: "Кошка сидела" показывает базовые паттерны, такие как частотность слов и биграммы.

Эти методы становятся более сложными благодаря обучающим алгоритмам, таким как Naive Bayes, Logistic Regression, Decision Trees и методам подсчета вероятности слов, известным как логиты.

Нейронки служат основным методом детекции, требуя как минимум нескольких тысяч текстовых сэмплов и меток для обучения паттернам, оставаясь при этом экономически эффективными.

LLM вроде ChatGPT не могут распознать собственный выход без файнтюна - тесты показывают, как ChatGPT генерирует текст и затем не может определить его как AI-сгенерированный в отдельных беседах.

Вотермаркинг встраивает скрытые сигналы в AI-сгенерированный текст, подобно УФ-чернилам на бумажных деньгах.

Исследования описывают три подхода: добавление меток в релизные датасеты, внедрение вотермарок во время генерации LLM и добавление их после генерации.

Модели, обученные на текстах с вотермарками, становятся "радиоактивными", улучшая определяемость их выдачи.

Методы детекции достигают 80% точности в контролируемых условиях, но сталкиваются со значительными ограничениями.

Модели, обученные на определенных типах контента, плохо работают с другими стилями письма, как показано при тестировании контента на Singlish против моделей, обученных на стандартных новостных статьях.

Системы также испытывают трудности со смешанным AI-человеческим контентом и сталкиваются с проблемами из-за инструментов "очеловечивания", которые нарушают AI-паттерны через опечатки, грамматические ошибки или сложные техники файнтюна.

Хотя "очеловечиватели" могут обойти известные детекторы, они часто проваливаются против новых, неизвестных.

Подобно тому, как сталь ядерной эры содержит следы радиоактивных осадков, делая доядерную "низкофоновую" сталь редкой и ценной для чувствительного оборудования, поиск чисто человеческого контента становится все сложнее по мере интеграции AI в создание контента, потенциально делая традиционные методы детекции устаревшими.

https://ahrefs.com/blog/how-do-ai-content-detectors-work/

@MikeBlazerX

Источник новости https://t.me/mikeblazerx/4888...