Начинать с базового мониторинга и простых правил — правильный подход. iptables реально сложный инструмент, если не в теме, можно запутаться и случайно закрыть нужные порты. Бесплатные антиддосы часто дают только минимальную защиту, серьезные атаки им обычно не страшны. Лучше тестировать их, но быть готовым быстро перейти на облачные сервисы, когда нагрузка реально пойдет в бой. Это прощупывать и на практике пробовать.