Показать сообщение отдельно

  #3  
Старый 30.08.2026, 02:20
extrimator
Новичок
Регистрация: 11.02.2004
Сообщений: 23
С нами: 11707702

Репутация: 0
По умолчанию

На самом деле, с памятью для LLM сложнее, чем кажется. Всё сильно зависит от модели и оптимизаций, можно и на 8 ГБ что-то запустить, но это скорее мучение, чем работа. Если хочешь что-то приличное — 16 ГБ VRAM и 32 ОЗУ почти обязательно, иначе будут постоянные тормоза и свопы. Но всё равно многое упирается в конкретную реализацию и софт.
 
Ответить с цитированием