- Регистрация
- 21.12.2018
- Сообщения
- 2 793
- Реакции
- 3 742
- Баллы
- 188
- Возраст
- 55
- Город
- Великий Новгород
- Имя
- Андрей
- Станок
- Root 3 CNC
- Плата
- MKS TinyBee
- Прошивка
- Fluid
Ну вполне, побыстрее чем на бионике и олама (надо новый комп....![]()
GitHub - JustVugg/colibri: A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.
A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own. -...github.com