产品简介
podman-desktop-extension-ai-lab Podman AI Lab 是 Podman Desktop 的开源扩展，允许用户在本地使用容器运行大语言模型，提供模型下载、推理服务器和实验场，无需依赖云服务，确保数据隐私。适合希望本地测试 LLM 的开发者和 AI 学习者。
核心功能
- 提供精选开源 AI 模型列表
- 支持启动容器化推理服务器
- 集成实验场用于模型测试和参数调整
- 包括食谱目录涵盖聊天机器人等用例
- 支持多种模型格式如 GGUF、Pytorch
快速开始
- 在 Podman Desktop 中安装 Podman AI Lab 扩展
- 从扩展目录下载一个 AI 模型
- 启动模型的推理服务器
- 使用内置实验场与模型对话
- 运行示例 AI 应用进行测试
界面预览
与其他方案对比
| 对比项 | 本工具 | 同类商业软件 | 在线服务 |
|---|---|---|---|
| 费用 | 开源免费 | 通常收费或含广告 | 可能有订阅或上传限制 |
| 隐私 | 本地运行，数据自持 | 依赖厂商政策 | 需上传数据到服务器 |
| 可定制性 | 源码开放，社区活跃 | 受限于官方功能 | 功能固定 |
适合谁用
- 希望在本地测试大语言模型的 AI 开发者
- 需要保护数据隐私的企业技术人员
- 学习和实验 AI 应用的初学者
下载与版本
当前最新版本为 v1.9.3，发布于 2026-02-03。支持 Windows、macOS、Linux。
⚠️ 注意：本项目仅提供源代码下载，不包含可直接运行的安装包（exe/dmg/apk 等。下载后需要自行编译构建才能使用，适合有一定开发经验的用户。如果你不熟悉编译流程，建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/containers/podman-desktop-extension-ai-lab