Смотрю вокруг, на рынке хватает всяких локальных нейросеток — некоторые обещают почти как ChatGPT, но без постоянного интернета. Вот думаю, зайдет ли это реально для домашнего пользования? У меня не самый крутой ПК, и хотелось бы понять, стоит ли заморачиваться с установкой, настройкой и обновлениями этих моделей, или проще юзать облачные сервисы и не париться.

Кто уже пробовал запускать такие локальные решения? Какие подводные камни — с железом, с конфигами, с производительностью? На что реально смотреть, чтобы понять, что система живучая и не выкинет багов через пару дней? И как лучше проверить, что моделям хватает ресурсов и они не съедают все, что есть?

Если есть какой-то проверенный список, где сравнивают качество и “тяжесть” разных локалок, киньте, плиз. Пока вижу варианты от open source до коммерческих оффлайновых тулзов, но хочется реально работающий набор, а не просто эксперимент для гиков. Кто что думает?