Сижу сейчас с ноутом средней паршивости и пытаюсь найти, что реально стоит ставить из локальных LLM в 2026. Раньше популярно было что-то типа GPT4All, но я замечаю, что и требования к железу стали кусаться, и софт уже не всегда тянет слабые машины. При этом хочется чего-то нормального для быстрых ответов и иногда генерации текста без зависаний.

Пробовал запускать пару вариантов — корректность генерации у них порой совсем разная. Кто-то тормозит, кто-то просто выдает набор слов без смысла. При этом обновления выходят часто, и не всегда понятно, что реально улучшилось, а что — просто маркетинг.

Если у кого есть опыт, поделитесь, какие сетки или решения у вас реально идут на домашнем ПК без суперкарты? И как с обновлениями и кастомизацией обстоит дело — стоит заморачиваться или проще пользоваться облачными сервисами?

Мне бы просто попробовать что-то местное, чтобы не зависеть от интернета, но при этом не тратить кучу времени на танцы с установкой и настройки.

Кто что думает?