Добавлю технический нюанс к обсуждению. Часто забывают, что эффективность локальных нейросетей сильно зависит не только от железа, но и от оптимизации самой модели — например, квантование, pruning, distillation. Это может существенно снизить потребление ресурсов без критичной потери качества. Так что тяжелая модель не всегда означает “требуется серверный класс железа”. Плюс гибридные схемы — это отдельная тема, они хорошо работают когда часть задачи можно разбить на критичную к задержкам и менее чувствительную, которую уже оффлоадишь в облако. Но тут важно продумать архитектуру, чтобы не столкнуться с излишними задержками на коммуникацию. А кто-нибудь еще пробовал смешанные подходы в продакшене? Какой опыт?