Все эти разговоры про 7B и оптимизации выглядят слишком идеалистично. На деле даже 7B не всегда летает без лагов, особенно если железо уж совсем слабое. Большие модели не для всех, но и маленькие не всегда решают задачи качественно. Тут скорее надо не искать универсальный размер, а пробовать по месту с конкретным железом, а не верить в сказки про "оптимальный баланс".