Запустить LLM локально — идея классная, но на деле очень много нюансов и подводных камней, особенно с железом и настройками. Если без сильного GPU и опыта — будет очень тяжко, да и зачастую проще использовать облако или облегчённые варианты. В общем, всё не так просто и требует времени, чтобы понять, что и как работает.