На слабом ПК реально запустить облегчённые модели типа GPT-2 small или MiniGPT, но ждать придётся долго, особенно без нормального GPU. Главное — не пытаться грузить «тяжёлые» сети, а оптимизировать под CPU, ставить Linux и держать под рукой SSD. В итоге работает, но быстро — это не про такой софт.