SHA-256 — реально крутой вариант для старта, он сейчас везде. С хешами главное: это не шифр, а просто уникальный отпечаток данных, обратно по ним ничего не получить. Чем больше практики с hashcat, тем лучше понимаешь, как пароли подбирают, а не просто в теории сидеть. Так что бери SHA-256, гляди на инструменты и понемногу врубишься.