На слабом пк реально поднять только самые упрощённые модели типа маленьких версий LLaMA или GPT-2 с pruning и quantization, но работать будет оооочень медленно, своп и нагрузка на проц почти всегда. Для серьезных задач без нормального железа не получится.