产品简介
Nano 是一个开源的Transformer语言模型项目，它致力于将语言模型的预训练、微调和推理能力部署到从树莓派、单片机到浏览器、PC等各类设备上，特别是实现了在资源受限环境下的离线运行。适合AI研究者、开发者及爱好者进行模型实践和硬件探索。
核心功能
- 提供从极小到中型的多种预训练/微调模型
- 支持纯C、WASM、PyTorch等多种推理引擎，可部署于树莓派、ESP32等硬件
- 提供可在浏览器中直接体验的本地推理WebUI
- 包含完整的模型训练、数据处理和量化部署工具链
- 通过“电子鹦鹉”等趣味应用演示模型能力
快速开始
- 访问在线演示页面或用浏览器直接打开本地WebUI文件
- 从HuggingFace下载所需的模型文件（如Nano-168M.bin）
- 在页面中选择“指令问答”或“文本续写”模式并加载模型
- 开始与本地运行的语言模型对话
界面预览
与其他方案对比
| 对比项 | Nano | 同类方案 |
|---|---|---|
| 主要部署环境 | 专注于浏览器、单片机、树莓派等边缘及离线设备 | 多数方案需云端服务器或高性能PC |
| 硬件资源要求 | 提供极小模型（如230K参数），可运行在内存低至512MB的设备上 | 主流模型通常需要数GB至数十GB显存/内存 |
| 网络依赖 | 推理过程完全本地化，无需联网 | 许多轻量化方案仍需联网调用API或验证 |
适合谁用
- 希望在树莓派、路由器等边缘设备上部署AI模型的开发者
- 学习和研究小型语言模型训练与部署的学生或研究者
- 对利用ESP32等单片机运行AI感兴趣的DIY硬件爱好者
下载与版本
当前最新版本为 master，发布于 。支持 Windows、macOS、Linux。
⚠️ 注意：本项目仅提供源代码下载，不包含可直接运行的安装包（exe/dmg/apk 等。下载后需要自行编译构建才能使用，适合有一定开发经验的用户。如果你不熟悉编译流程，建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/bd4sur/Nano