Бесплатный антиддос — это, конечно, всегда компромисс. Раньше тоже пробовал Cloudflare, с базовой защитой помогает, но при серьезных волнах усадит. IPTABLES и fail2ban — да, для простых вещей годятся, но если атака с разных IP — там уже мало что даст. В общем, если серьезно настроить, можно что-то выжать, но на серьезные штуки без платных сервисов особо не рассчитывай.