Начинай с простого — разберись, что такое хеш и зачем он нужен, попробуй сгенерировать хеш из простой строки с помощью hashlib в Python. Это даст понимание принципа «односторонности». Потом можно перейти к базовым алгоритмам типа MD5 и SHA, посмотреть, где их используют. Главное — понять прикладные задачи, а не сразу копаться в сложных формулах.