Нужно ли всегда ставить canonical и robots на форумных страницах?
Вижу, многие на форумах постоянно спорят про canonical и robots, мол, ставь обязательно, иначе поисковик запутается и упадёт трафик. Но на деле не всё так просто.
Например, canonical часто ставят, чтобы не индексировались дубли — но на форуме дубли обычно в виде пагинации, сортировки или разных URL с параметрами. Если ставить canonical на главную тему, можно случайно потерять часть страниц в индексе. А если не ставить — могут проиндексировать кучу похожих страниц, но это не всегда плохо, особенно если контент там уникальный.
По robots.txt и мета robots: частенько блокируют вообще все параметры или рубрики, чтобы «подчистить» индекс, получается наоборот — страдают нормальные страницы и поисковики перестают видеть полезный контент.
Стоит нормально продумать, что именно блокировать и канонизировать — и зачем. Например:
- Дубли пагинации крутить каноникал на первую страницу, если всю пагинацию не хотите видеть.
- Не закрывать от индекса весь раздел, если там новые темы постоянно появляются.
- Проверить, чтоб robots.txt не перекрывал важные урлы.
Проверять проще всего через Google Search Console или Яндекс.Вебмастер — смотреть, какие страницы в индексе, какие попадают под фильтры.
Кто как обычно работает с этими вещами на больших форумах? Там где много динамики и микроданных, каноникал и роботы иногда больше вредят, чем помогают?