产品简介
MicroLM 是面向开发者的轻量级 LLM 全链路项目，支持从数据处理到模型部署的完整流程。解决传统 LLM 训练资源消耗大、微调效率低的问题，提供参数高效微调和推理优化，适合需要快速构建 LLM 应用的团队和个人。
核心功能
- 自研轻量级模型（31.7M 参数）与 Qwen 模型迁移支持
- 参数高效微调（LoRA），仅需极少可训练参数
- 推理优化（KV Cache 加速），提升推理速度
- 端到端闭环，涵盖数据处理、训练、评测和部署
- 跨平台兼容，支持 Windows、macOS 和 Linux
快速开始
- 第一步：克隆仓库 git clone https://github.com/jiaran-king/MicroLM.git
- 第二步：安装依赖 pip install -e '.[all]'
- 第三步：运行测试 pytest tests/ 或使用脚本进行训练
界面预览
与其他方案对比
| 对比项 | MicroLM | 同类方案 |
|---|---|---|
| 微调参数效率 | LoRA 仅需 0.14% 参数（Qwen 链路），存储空间节省 99.7% | 全参数微调需 100% 参数，资源消耗大 |
| 部署便捷性 | 集成 vLLM 服务化部署，支持一键启动和验证 | 可能需要手动配置和优化部署环境 |
适合谁用
- 需要搭建轻量级 LLM 训练环境的开发者
- 学习 LLM 训练和微调流程的研究人员
- 寻求高效微调和部署方案的企业技术团队
下载与版本
当前最新版本为 main，发布于 。支持 Windows、macOS、Linux。
⚠️ 注意：本项目仅提供源代码下载，不包含可直接运行的安装包（exe/dmg/apk 等。下载后需要自行编译构建才能使用，适合有一定开发经验的用户。如果你不熟悉编译流程，建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/jiaran-king/MicroLM