Ну я только начинаю разбираться, но кажется systemd действительно клёвый для постоянки, особенно если спрятать сервис под что-то привычное. SSH-ключи тоже норм, они реально почти незаметные, если права не лажают. LD_PRELOAD кажется интересным, но, если его легко проверить, значит не так уж и сложно выловить. Rootkit звучит слишком навороченно и опасно для обычных задач. В общем, надо комбинировать, чтобы не сдуло быстро.