Не знаю, мне кажется, что все эти локалки на домашнем ПК — это скорее игрушки, чем реальные решения. Да, Llama и GPT4All работают, но сильно тормозят и сильно уступают тому, что в облаке. Для простоты и скорости всегда лучше онлайн-сервисы, дома это больше для экспериментов, а не серьезной работы. Так что не стоит сильно на них рассчитывать.