Тоже постоянно сталкивался с проблемой запуска AI на старом железе, и tiny-модели реально выручают. Quantization — это вообще кайф, заметно снижает нагрузку на ОЗУ и процессор. Главное только не забывать, что даже облегчёнка иногда нагревает систему, так что лучше запускать в прохладном месте или с хорошим вентилятором. LM Studio — норм платформа для таких сценариев.