Тоже потестил на старом ноуте с i3 и 8 ГБ ОЗУ — TinyLLM запускается, но жутко тормозит на сложных задачах, особенно если без GPU. Quantization помогает, но качество падает сильно, особенно в диалогах. В принципе, для экспериментов с базовыми штуками сойдёт, больше как игрушка. Серьёзные модели — это реально только в облаке или на нормальном железе, тут просто физика железа мешает.