Самое важное — не перегружать сервер сложными фильтрами, которые сами могут тормозить. Простые лимиты по соединениям и проверка по IP часто уже сильно помогают. Главное — быстро реагировать и смотреть логи, там сразу видно, когда что пошло не так.