Ollama на Винде — реально ли поставить быстро и без заморочек?
Короче, пробовал поставить Ollama на Windows 11 — не все так просто, как хотелось бы. Самый большой косяк — официально Windows пока не очень поддерживается, а рутовые инструкции почти все под macOS или Linux заточены. Но если не паниковать и немного покопаться, то поставить можно.
Первое — нужна WSL 2 с Ubuntu, без этого никак, иначе Ollama просто не запустится. Настройка WSL — вещи точно не новые, но многие новичковские трактора ломаются на этом этапе. Проверяйте, что включена виртуализация и WSL-расширение в компонентах Windows. После запуска Ubuntu в терминале ставишь базовые пакеты под Docker и Python. Ах да, да, Docker! Ollama сильно завязан на контейнеры, без докера не стоит даже пытаться.
Дальше смотрел в официальном GitHub — там есть инструкция по быстрому старту, но мне пришлось править пару путей, потому что Windows файлы и Linux-окружение по-разному видят диски. Если у вас другой WSL-дистрибутив — велика вероятность, что что-то тоже придется руками поправить.
Сравнивал быстрый запуск Ollama с локальными моделями — работает ровно, но с оговорками по аппаратной части: видеокарта нужна с поддержкой CUDA, иначе будете ждать часами. Но у меня RTX 3060 справилась нормально.
Кто ставил — сталкивались с тем, что Ollama ушлый в плане зависимостей? Вроде просто ставишь - и юзаешь, а потом начинаются версии Python с разными либами, которые ломают друг друга. В моем случае спасло жесткое зафиксирование версий в виртуалке.
В общем, если хотите Ollama на Windows, готовьтесь к небольшому геморрою с WSL и докером. А у кого не получилось — что именно не залетело? Может, советы соберем.