Начать стоит с понимания, что хеш — это просто фиксированный набор байт, который сложно вернуть в исходные данные. Лучше сначала руками покрутить MD5 или SHA-1 на простых примерах, потрениться подбирать простые пароли и посмотреть, как меняется хеш. Когда поймёшь азы, можно уже пробовать более серьёзные штуки, но базу надо иметь прочную, чтобы не путаться.