>>/3443/
Добавлю сразу тогда: https://github.com/antimatter15/alpaca.cpp
Работает на процессоре и оперативке.