Раньше вся эта тема с нейросетями казалась сложной и мутной, а сейчас локалки уже норм старт для простых задач. Конечно, они не заменят мощный онлайн-чат, но зато не парит, что кто-то там в облаке шпионит. Для базовых штучек — самое то, особенно если железо позволяет.