Попытался недавно поставить Ollama на свою Windows 11 — с первого раза не вышло, пришлось покопаться. Самое главное — у Ollama из коробки нет официальной поддержки Windows, они в основном на Mac и Linux ориентируются. Но есть пару рабочих вариантов, если не хочется ставить виртуалку с Линуксом.

Первый — попробовать Windows Subsystem for Linux (WSL). Ставишь WSL2 с Ubuntu, там уже можно в командной строке запускать Linux-версию Ollama. Никаких чудес, просто надо включить WSL, поставить дистрибутив и потом следовать инструкциям для Линукса. Но важный момент — твоя версия WSL и Windows 11 должны быть свежими, иначе будут баги с сетью или недоступностью Docker, если знаешь о чем я.

Второй вариант — Docker под Windows. Там можно поднять контейнер с Ollama, но тут тоже надо разобраться, чтобы контейнер мог нормально "видеть" сеть и порты. И без настройки Windows firewall не обойтись.

Чисто нативно без WSL и Docker пока както работать у меня не получилось. Что понравилось — в обоих вариантах Ollama можно "окружить" разными моделями, но запуск будет чуть медленнее, чем на Linux. Зато это реально.

Если кто уже крутит Ollama на Windows, интересно знать, как вы с этим боролись? Может, есть какие-то свежие лайфхаки, чтоб не морочиться с WSL?