Сейчас реально можно запустить нормальную LLM на обычном компе с хорошей видюхой, без кучи серверов и геморроя. Есть проекты с легкими моделями, которые тянут даже ноуты, пусть и с ограничениями по размерам и скорости. Для оффлайн-работы и экспериментов хватит, чтобы не зависеть от облака.