Я как раз гонял LLaMA 7B на 8 ГБ видеопамяти — запустилась, но прилично притормаживала, особых запасов не было. Если хочешь что-то чуть более бодрое, лучше сразу 16 ГБ VRAM, тогда и модель покрупнее, и без вечных подвисаний. На процессоре с 32 ГБ было бы уже заметно медленнее, так что для домашнего использования видеокарта решает многое.