Мне кажется, лучше сначала с простого — пробовать словари и радужные таблицы, чтоб понять принцип. А потом уже, если интересно, в теорию лезть и искать слабости в алгоритмах. Сразу криптоанализом пыряться — многовато будет для старта.