Я наблюдал за тем, как Деян Петрович работает над проектом по...

131

Я наблюдал за тем, как Деян Петрович работает над проектом по созданию модели ссылок с использованием машинного обучения.

Для постройки модели, он извлек контент и информацию о ссылках из большого массива данных HTML объемом 30 ГБ.

Модель предназначена для понимания контекста ссылок в предложениях и предсказания того, в каких местах данного текста ссылки могут появиться естественным образом.

Для достижения этой цели Деян отфайнтюнил модель BERT на 150 000 примерах текста с ссылочными анкорами, добавил в словарь модели пользовательские лексемы, указывающие на место появления анкорного текста в каждом предложении со ссылкой, и сделал много других вещей.

Модель ссылок Деяна можно использовать для решения различных задач, таких как:

1. Оценки страниц на предмет интеграции естественных ссылок.

2. Определения наиболее естественных мест для ссылок на любом фрагменте контента.

3. Поиска наилучшего места для ссылки между двумя страницами.

4. Руководстве и оценке выбора якорного текста.

Деян поделился демонстрацией своей модели LinkBERT, которая может предсказать наиболее вероятные места для ссылок в любом тексте.

Он намерен добавить больше данных и часов обучения, чтобы еще больше улучшить работу модели.

Он также упоминает, что воссоздает модели Panda и Penguin, знаменитые алгоритмы (апдейты) Google, связанные с качеством контента и ссылочным спамом, соответственно.

Потестировать модель можно по ссылке: https://dejan.ai/linkbert/

Она также доступна на HuggingFace: https://huggingface.co/dejanseo/LinkBERT

@MikeBlazerX