一句话介绍
Nativ 是一款专为 macOS 打造的本地 AI 原生应用,让你在一款 App 中完成模型聊天、推理服务、性能监控以及与 Claude Code、Codex 等编程工具的无缝集成,底层基于 Apple 的 MLX 框架,完全在本地运行,无需云端。
它是什么?
Nativ 是由 Blaizzy(也是 mlx-vlm 项目的维护者)开发的 macOS 原生 AI 工作区。它将 Hugging Face 模型管理、MLX 推理引擎、OpenAI/Anthropic 兼容 API 服务和 SwiftUI 聊天界面整合到一个精心设计的 macOS 应用中,让 Mac 用户能够真正地将大型语言模型运行在自己的设备上。
该项目于 2026 年 7 月 20 日首次发布,短短 5 天内已获得 864+ Stars、45+ Forks,采用 MIT 开源许可证。它要求 macOS 26+ 和 Apple Silicon 芯片,充分利用了 Apple 的统一内存架构。
Nativ 的核心设计理念是”本地优先”——所有推理都在你的 Mac 上完成,数据不会离开你的设备。同时它还提供 OpenAI 兼容和 Anthropic Messages 兼容的 API 端点,让你的本地模型可以被任何支持这些协议的第三方工具调用。
核心功能
1. 本地聊天与多模态对话
Nativ 内置了一个功能完善的聊天界面,支持流式响应、图片附件上传、推理输出展示以及详细的响应指标(如首 token 时间、解码速度等)。所有对话记录都会持久化保存,方便后续回顾。你可以直接与本地运行的 MLX 模型进行自然语言对话,体验完全隐私保护的 AI 交流。
2. 模型库管理
Nativ 自动扫描你 Hugging Face 缓存中的已下载 MLX 模型(遵循 HF_HUB_CACHE 和 HF_HOME 环境变量设置),并提供模型发现功能——你可以直接在 App 内浏览和下载 Hugging Face 上的兼容模型,系统会自动提示内存占用情况,避免超出设备限制。此外还支持查看模型能力、切换模型和清理旧模型。
3. OpenAI 与 Anthropic 兼容 API
这是 Nativ 最具竞争力的功能之一。它不仅是一个聊天应用,更是一个完整的本地推理服务器。它提供: - OpenAI 兼容端点:Chat Completions、Responses、Images、Audio 和 Models API - Anthropic Messages 端点:兼容 Claude 的 API 格式
这意味着你可以将任何支持 OpenAI 或 Anthropic API 的工具(如 Cursor、Continue、Aider 等)指向 Nativ 的本地服务,实现真正的”本地大模型 + 外部工具”工作流。
4. 编程工具集成
Nativ 内置了对主流 AI 编程助手的配置和启动支持,包括: - Codex(OpenAI 的代码解释器) - Claude Code(Anthropic 的 CLI 编程助手) - Pi(Pi 编程助手) - Hermes(Nous Research 的 AI 工具) - OpenCode
通过简单的配置,这些工具可以直接使用 Nativ 提供的本地模型进行代码生成和编辑,无需付费 API 密钥。
5. 性能分析与开发者工作区
Nativ 提供了详细的性能仪表盘,可以追踪请求量、Token 使用量、首 token 延迟、解码速度等关键指标。开发者工作区允许你自定义服务器端口、添加 Hugging Face Token 以访问 gated 模型、检查运行时详情、搜索过滤实时服务器日志,以及监控服务器健康状态。
6. 菜单栏控制与高级推理参数
Nativ 提供了一个便捷的菜单栏控件,你可以在不打开主窗口、不打断当前工作的情况下,启动或停止推理服务、切换加载的模型、查看服务统计信息。同时支持高级推理参数调优,包括采样策略、思维预算(thinking budget)、结构化输出、KV-cache 量化、前缀缓存和推测性解码。
适用人群
- Mac 用户:希望在不依赖云端服务的情况下体验大语言模型的用户
- 隐私敏感型用户:不希望数据离开本地设备的开发者和研究者
- AI 编程爱好者:希望将本地模型接入 Claude Code、Cursor 等编程工具的用户
- MLX 生态用户:正在使用 Apple MLX 框架进行模型推理和研究的开发者
- 成本敏感型用户:不想为 OpenAI 或 Anthropic API 付费,但需要同等 API 兼容性的用户
与同类工具对比
| 特性 | Nativ | Ollama | LM Studio | text-generation-webui |
|---|---|---|---|---|
| 平台 | macOS 原生 | 全平台 | 全平台 | 全平台 |
| UI 体验 | ⭐⭐⭐⭐⭐ 精美 SwiftUI | ⭐⭐⭐ 简洁 | ⭐⭐⭐⭐ 良好 | ⭐⭐ Web 界面 |
| 模型来源 | Hugging Face / 本地缓存 | Ollama Hub | Hugging Face | 多种来源 |
| OpenAI API 兼容 | ✅ | ✅ | ✅ | ⚠️ 部分 |
| Anthropic API 兼容 | ✅ | ❌ | ❌ | ❌ |
| 编程工具集成 | ✅ Codex/Claude Code/Pi/Hermes | ❌ | ❌ | ❌ |
| 性能监控 | ✅ 详细仪表盘 | ⚠️ 基础 | ⚠️ 基础 | ❌ |
| 菜单栏控制 | ✅ | ❌ | ❌ | ❌ |
| 框架支持 | MLX(Apple Silicon 专属) | GGUF / llama.cpp | GGUF / ONNX | vLLM / llama.cpp |
| 开源协议 | MIT | MIT | 专有 | AGPL-3.0 |
| 跨平台 | ❌ 仅 macOS | ✅ | ✅ | ✅ |
Nativ 的核心差异化在于:
原生 macOS 体验:作为 SwiftUI 构建的原生应用,它在 Mac 上的体验远超跨平台方案,菜单栏集成、通知中心、系统级快捷键都做得非常到位。
编程工具深度集成:大多数本地推理工具只提供 API,而 Nativ 直接支持配置和启动 Codex、Claude Code 等编程助手,形成完整的工作流闭环。
双 API 兼容:同时支持 OpenAI 和 Anthropic 两种 API 格式,这在本地推理工具中是比较少见的。
MLX 生态优势:利用 Apple MLX 框架,Nativ 在 Apple Silicon 上能获得比通用方案更好的性能和内存效率。
当然,它的劣势也很明显——仅限 macOS 且必须使用 Apple Silicon,Windows 和 Linux 用户无法使用。如果你需要跨平台方案,Ollama 或 LM Studio 是更好的选择。
如何使用
第一步:安装 Nativ
从 Nativ 官网 下载最新版本的 macOS 应用(要求 macOS 26+ 和 Apple Silicon 芯片),安装后打开即可。
第二步:下载模型
在 Nativ 的模型库中,你可以: 1. 浏览已下载的 MLX 模型 2. 搜索 Hugging Face 上的兼容模型 3. 点击下载,系统会提示模型大小和你的可用内存
例如,搜索 mlx-community/Meta-Llama-3.1-8B-Instruct-4bit 并点击下载,Nativ 会自动处理模型转换和缓存。
第三步:开始聊天
模型下载完成后,在聊天界面选择该模型,即可开始对话。支持: - 文本对话(流式输出) - 上传图片进行多模态分析 - 查看详细的推理指标
第四步:作为本地 API 服务使用
Nativ 启动后会默认监听 localhost:5251(可自定义端口),提供 OpenAI 和 Anthropic 兼容的 API。你可以这样配置第三方工具:
# 使用 curl 测试 OpenAI 兼容端点
curl http://localhost:5251/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "mlx-community/Meta-Llama-3.1-8B-Instruct-4bit",
"messages": [{"role": "user", "content": "你好,请介绍一下自己"}],
"stream": true
}'
第五步:连接编程工具
在 Nativ 的设置中配置好本地 API 地址后,你可以在 Claude Code 等工具中将 OPENAI_API_BASE 设置为 http://localhost:5251/v1,OPENAI_API_KEY 设置为任意值(本地服务不需要验证),即可让编程助手使用你的本地模型。
优缺点总结
优点
- 原生 macOS 体验:SwiftUI 打造,与 macOS 系统集成完美,菜单栏控制、通知等一应俱全
- 完全本地运行:数据不离开设备,隐私安全有保障
- 双 API 兼容:同时支持 OpenAI 和 Anthropic 格式,兼容性极强
- 编程工具深度集成:一键配置 Claude Code、Codex 等编程助手
- 性能监控完善:详细的仪表盘和实时日志,方便调试和优化
- MIT 开源协议:可自由使用和修改,无商业限制
- 持续活跃开发:发布 5 天即获 800+ Stars,更新频繁
缺点
- 仅限 Apple Silicon Mac:不支持 Intel Mac,也不支持 Windows/Linux
- 需要 macOS 26+:对系统版本要求较高
- 模型选择受限:仅支持 MLX 格式的模型,不如 GGUF 格式丰富
- 尚处于早期阶段:音频生成和图像生成功能还在规划中
- 首次下载需要网络:模型下载和依赖构建仍需联网
推荐指数
⭐⭐⭐⭐☆ 4.0 / 5
Nativ 是目前 macOS 平台上体验最好的本地 AI 运行环境之一。Blaizzy 作为 mlx-vlm 项目的维护者,在本地推理领域有着深厚的积累,Nativ 将这种专业度体现在产品的每一个细节中——从精美的 SwiftUI 界面到完善的性能监控,再到对编程工具的深度集成,都展现了极高的工程水准。
对于拥有 Apple Silicon Mac 的用户来说,Nativ 是最值得尝试的本地 AI 工具。它让你能够在不花费一分钱 API 费用的情况下,享受与大模型服务商同等的 API 体验。
推荐场景:本地隐私聊天、AI 编程辅助、模型性能测试、MLX 生态实验。如果你是 Mac 用户且关心数据隐私,Nativ 是目前最佳选择。
相关链接
- GitHub 仓库:https://github.com/Blaizzy/nativ
- 官方网站:https://blaizzy.github.io/nativ/
- MLX VLM 项目:https://github.com/Blaizzy/mlx-vlm
- Apple MLX 文档:https://ml-explore.github.io/mlx/
- Hugging Face MLX 模型:https://huggingface.co/models?library=mlx
想了解更多 AI 工具?浏览 198007.xyz/tools 获取精选 AI 工具合集,或查看其他 AI 工具评测。
相关评测
- Palmier Pro 评测 — YC 支持的 AI 原生视频编辑器,支持 MCP Agent 集成
- Moonshine Voice 评测 — 开源本地语音识别工具,支持实时转录