产品简介
Gensokyo-llm gensokyo-llm 是一个开源项目,能将腾讯混元、百度文心、OpenAI 等大模型接入 QQ、Telegram 等6大聊天平台,自动管理对话上下文并提供多重安全防护,适合开发者快速构建智能聊天机器人。
核心功能
- 支持所有Onebotv11标准框架和流式发送
- 内置SQLite自动维护对话上下文
- 一键对接Gensokyo框架和多种大模型接口
- 多重安全措施如向量安全词和审核接口
- 支持多配置文件实现角色切换和故事模式
快速开始
- 从GitHub下载gensokyo-llm可执行程序
- 编辑config.yml配置文件设置监听端口和模型参数
- 运行程序启动API服务并监听端口
界面预览
与其他方案对比
| 对比项 | Gensokyo-llm | 同类方案 |
|---|---|---|
| 支持聊天平台数量 | 支持6种主要聊天平台如QQ、Telegram、Discord | 同类工具通常只支持单一或少数平台 |
| 大模型接口统一性 | 支持10+大模型并转换为统一API结构 | 可能需要为每个大模型单独适配接口 |
适合谁用
- 需要将大模型接入QQ、Telegram等平台的开发者
- 希望快速部署智能聊天机器人的运营人员
- 关注对话安全性和上下文管理的AI应用构建者
下载与版本
当前最新版本为 166/merge,发布于 2024-09-06。支持 Windows、Linux。点击页面「下载软件」按钮即可下载打包好的版本,根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用,请遵守相关法律法规。
- 请尊重内容创作者版权,勿将下载内容用于商业或非法传播。
- 项目源码地址:https://github.com/Hoshinonyaruko/Gensokyo-llm