BaseRT - Apple M5 Optimized

比 llama.cpp 快 6.4 倍，比 MLX 快 3.9 倍

BaseRT 是目前 Apple Silicon 上最快的 LLM 推理引擎，性能比 llama.cpp 快 6.4 倍，比 MLX 快 3.9 倍。一条命令即可安装，让你在本地设备上流畅运行各类大语言模型，充分释放 Apple M5 芯片的算力潜能。