产品简介
uzu 是一个用于 AI 模型的高性能推理引擎，允许开发者直接在应用中部署 AI，避免云端推理的延迟、隐私问题和成本。它提供简单 API 和统一配置，适合需要本地 AI 推理的开发者和研究人员。
核心功能
- 简单高级的 API，易于集成
- 统一模型配置，方便添加新模型支持
- 可追踪计算，确保推理正确性
- 在 Apple 设备上利用统一内存优化性能
- 支持广泛的 AI 模型
快速开始
- 根据编程语言添加依赖，如 Python 使用 'uv add uzu==0.5.12'
- 导入引擎并创建配置，如 'EngineConfig.create()'
- 加载模型并启动下载，如 'engine.download(model)'
- 创建会话并发送消息进行推理
界面预览
与其他方案对比
| 对比项 | uzu | 同类方案 |
|---|---|---|
| 部署方式 | 支持本地部署，零延迟 | 通常依赖云端服务，存在延迟 |
| 数据隐私 | 完全数据隐私，数据不离开设备 | 数据需上传至云端，隐私风险高 |
| 推理成本 | 无推理成本，一次部署免费使用 | 按使用量收费，有持续成本 |
适合谁用
- 开发需要本地 AI 推理功能的移动应用或桌面应用的开发者
- 研究人员测试和优化 AI 模型在本地设备上的性能
- 注重数据隐私和低延迟的企业用户
下载与版本
当前最新版本为 0.5.12，发布于 2026-06-08。支持 Linux。点击页面「下载软件」按钮即可下载打包好的版本，根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/trymirai/uzu