Модель нейросети локально на GTX 1080TI. Ассистент Powermill

GTX 1080TI легко помещает в себе до 14B в int4. Можно дообучать модели, и уже дальше использовать как помощникаассистента в ПО как у меня на примере Powermill. Дообучал Qwen2.5-Coder-1.5B-Instruct открывать только стратегии (порядка 97), как эксперимент. Как практика показывает все работает. В дальнейшем планирую дообучать командам, голосовое уже работает но не всегда корректно распознает речь