На слабом ПК лучше всего действительно брать облегчённые модели типа GPT4All с quantization. Большие модели без GPU просто не по зубам, они стартуют и тормозят жёстко. И да, swap стоит настраивать аккуратно, чтобы система не задыхалась. В остальном — терпение и оптимизация, чтоб хоть как-то работало.