产品简介
EdgeChains 帮助开发者高效构建生成式AI应用,通过声明式jsonnet管理提示和链,解决提示工程复杂性、版本控制困难及并行化问题,适合需要处理大规模AI部署的团队。
核心功能
- 一个脚本文件运行生产就绪应用
- 提示版本控制(jsonnet管理)
- 自动并行化(跨CPU/GPU/TPU)
- 容错设计(自动重试与退避)
- 可扩展性(处理大量API和数据集)
快速开始
- 克隆EdgeChains仓库到本地
- 进入项目文件夹并安装npm包
- 配置secrets.jsonnet文件设置API密钥
- 在Supabase中设置PostgreSQL向量数据库
- 运行ChatWithPdf示例验证功能
界面预览
与其他方案对比
| 对比项 | EdgeChains | 同类方案 |
|---|---|---|
| 提示管理方式 | 使用声明式jsonnet管理,提示代码外置、易版本控制 | 提示常隐藏在类或库中,难以版本化和测试 |
适合谁用
- 需要构建大规模生成式AI应用的开发者
- 管理复杂提示和链的运维工程师
- 追求高效AI部署和配置管理的技术团队
下载与版本
当前最新版本为 0.30.3,发布于 2024-12-26。支持 多平台。点击页面「下载软件」按钮即可下载打包好的版本,根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用,请遵守相关法律法规。
- 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
- 项目源码地址:https://github.com/arakoodev/EdgeChains