Для начала, если сайт простой и ты только пробуешь, лучше взять что-то облачное типа Cloudflare — подключил и уже есть защита. Fail2Ban тоже норм, но там с настройками надо разобраться, иначе вообще не поймёшь, что происходит. Главное — не зацикливаться на сложных схемах, а просто закрыть базу, чтоб трафик не лился с дырок. Всё остальное со временем можно подтягивать.