omlx - 适用于 Apple Silicon 的 LLM 推理 Web应用 适用于 Apple Silicon 的 LLM 推理服务器，具有连续批处理和 SSD 缓存功能——可从 macOS 菜单栏进行管理 Python Apache Apache-2.0 llm mlx apple-silicon inference-server macos OTO · ID:57 13 0 查看 ↗