Локалки без зверской видюхи — это как пытаться глотать суп через трубочку, можно, но удовольствие так себе. Llama 2 с 16 ГБ ОЗУ это ещё цветочки, попробуй что-то посерьёзнее — сразу поймёшь, что облако не спроста в топе. Если только для экспериментов и пару фраз прогнать — норм, но всерьёз на обычном ПК нейросети пока не запустишь без нервов и постоянных глюков.