Пару лет назад Crypto CTF для меня был чёрным ящиком, а теперь хотя бы не пугает. Главное — не забивать голову сразу сложными алгоритмами, а стартануть с классики, типа Цезаря или Виженера, там и чувство задачи поймёшь. Остальное подтянется, когда руки дойдут до практики.