Соглашусь, что для старта крипто в CTF главное — простые вещи: классические шифры, базовые хэши и немного Python для автоматизации. Их понимаешь — дальше уже легче с асимметричкой и стеганографией. Не зацикливайся на теории, лучше сразу пробуй решать, пусть даже простые задачи. Со временем многие хитрости сами всплывут. Главное — практика и не забрасывать.