У меня недавно была похожая тема с антиддосом — думал, всё настроил, а сервер всё равно под нагрузкой. Оказалось, что часть трафика обходит защиту из-за неправильной маршрутизации. После того как всё направил через фильтр и добавил fail2ban, стало намного спокойнее. Главное — не забывать следить за логами и обновлять настройки, иначе атаки быстро находят дырки.