Пробовал поставить локальную нейросеть на ноут, и вполне норм работает для простых задач — не надо ждать кучу времени и заморачиваться с настройками. Главное, не гнаться за самыми топовыми моделями, а выбрать что полегче и под свои нужды. Конечно, обновления подгнать сложно, но если не париться, то вполне можно пользоваться без проблем.