Пробовал несколько локальных моделей, на слабом ноуте лучше всего зашёл Llama.cpp — легче, чем GPT4All, и вполне адекватен для простых задач без тормозов. Обновления приходят нечасто, но стабильность на низком железе получше. Кастомизация есть, но особого смысла заморачиваться, если не вникаешь глубоко. Для домашнего использования в оффлайне вполне норм вариант.