Вроде бы всё просто: сначала базовые фильтры типа iptables, потом fail2ban для автоматической блокировки, и хороший бесплатный CDN типа Cloudflare, чтобы снизить нагрузку. Главное — не пускать всё на самотёк, а регулярно смотреть логи и мониторить трафик. На старте этого вполне хватит, чтобы не дать сайту быстро лечь от простой атаки.