Я тоже пробовал на старом ноуте запускать облегчённые модели, типа GPT4All и LLaMA-7B с квантованием — реально работают, хоть и с задержками иногда. Главное не таскать гигантов вроде GPT-3, там дохлый номер. Мелкие модели, конечно, проще, но для простых задач норм. Если не торопиться и подстроиться под железо, можно вполне комфортно пообщаться с ИИ.