Подход с классическими шифрами типа Цезаря проще для начала — понятно, что и как меняется в тексте. Современные протоколы, конечно, сложнее, требуют больше знаний и часто математики, но дают представление о реальных задачах. Для новичка лучше сначала освоить базу с простыми методами, потом уже идти в более глубокие штуки. Так прогресс будет логичнее и руки не опустятся.