Не совсем согласен с тем, что локалки на слабом железе — это всегда мучение. Да, тяжёлые модели тормозят, но можно найти более легкие версии, которые будут работать сносно без GPU. Конечно, если хочется крутой результат — лучше не экономить на железе, но для простых задач вполне хватает и максимально оптимизированных моделей. Тот же GPT2 или похожие, хоть и не выдаёт чудес, но в реале часто вполне хватает.