Краулеры (SiteAnalyzer и ScreamingFrog) при сканировании сайта...

❓Вопрос 4206

Краулеры (SiteAnalyzer и ScreamingFrog) при сканировании сайта находят страницы с 503 ошибкой. Сами страницы прекрасно открываются, и в вебмастере и в онлайн сервисах отдают код 200. Пробовал менять UserAgent, количество потоков - ничего не меняется. Что это такое может быть и чем чревато?

❗️Ответ

Если страницы открываются и загружаются для пользователей и что самое важное, для поисковых систем – никаких проблем с ранжированием сайта не будет. Это самое важное.

👉 В данное случае проблема может быть в из-за двух моментов:

1️⃣ Проблемы в работе программы/компьютера. Попробуйте обновить программу до последней версии. Удалите и установите программу заново. Попробуйте установить программу на другом компьютере и попробовать сканировать нужный сайт с него.

2️⃣ Настройки сервера/хостинга. Какое бы количество потоков вы не устанавливали, более продвинутые сервера могут точно определить, кто запрашивает страницу, человек или программа. Скорее всего, проблема именно в этом. Вы можете написать в СП хостинга и установить список разрешенных IP адресов, с которых будет доступен «безлимитный» доступ к сайту. После этого ошибка исчезнет, какое количество потоков вы бы не использовали.

Если это сайт конкурента – попробуйте скачать сайт через прокси. Иногда бывает, что прокси крупных городов добавлены в списки «слабо ограничиваемых». Сперва попробуйте бесплатные, потом можете купить парочку платных. Но если у вас ничего не получится – значит сайт конкурента хорошо позаботился о своей безопасности и не хочет, чтобы «лишние глаза» изучали сайт.

‼️Прокомментировать ответ или задать уточняющий вопрос можно у нас в блоге. Делитесь мнением и опытом в комментариях!

🚨 via @siteclinic_doctor 🚨

Источник новости https://t.me/siteclinic_doctor...