AgentCraft是一个开放的智能体构建平台,致力于推进AI原生应用在业务场景的落地。目前提供了基础模型、数据集、AI工具、智能体构建、客户端接入等能力。可以帮助开发者快速构建,知识问答,智能助手等应用,能够极大的节省AI原生应用的开发成本
1
基础模型托管及扩展
- 提供 通义千问、ChatGLM2-6b、ChatGLM3-6b、llama2(in4 量化 13b)、Stable-diffusion等基础模型的一键部署
- 支持基础模型的公开访问API
- 支持托管任意模型的代理服务函数比如ChatGPT
- 提供扩展自定义模型,开放构建模型镜像的源码
- 模型服务计费,日志查看等
2
数据集
- 支持精准问答数据集和文档数据集混合使用
- 支持数据集自动向量化处理
- 支持多种源文件类型录入
- 支持手动输入单文档数据源或者QA数据源
- url 读取,本地目录上传
- mysql, oss等多数据源动态导入
3
智能体编排和调试
- 支持实时调试知识库等智能体效果
- 支持问答记录查询,修正
- 支持提示词预置模版
- 支持指令、LLM、数据集自由组合
- 指令、LLM、数据集、工具,上下文自由组合
- 工具能力在线构建和发布
- 可视化编排Agent
4
API透出
- 支持 Agent Api token访问
- 接入网关增强 安全,限流等能力
5
客户端连接
- 提供引导式方案接入钉钉机器人
- 提供微信个人助手一键部署服务
- 提供独立web站一键部署服务
- 嵌入脚本,sdk等接入方式
- 其他平台对接
6
生成式UI
- 支持内置自定义渲染组件
- 支持自定义组件LUI渲染
- 生成式UI能力集成
-
云端 AgentCraft 基于Serverless架构构建,在阿里云函数计算上提供一键部署应用的模版,帮助您快速部署专属的服务,您可以随时进行公共服务转化,详情参考
-
私有化
使用docker-compose.yml 一键部署AgentCraft 服务,请确保已经安装了Docker 和 Docker Compose 如果您需要访问插件扩展能力以及接入钉钉微信登能力,需要补充docker-compose.yml 中阿里云环境变量相关的信息 如 MAIN_ACCOUNT_ID、 ALIBABA_CLOUD_ACCESS_KEY_ID、 ALIBABA_CLOUD_ACCESS_KEY_SECRET 不需要请直接执行
docker compose up -d
克隆本项目到本地
git clone https://github.com/devsapp/agentcraft.git
部署后端服务需要先准备好embedding 和 pg
- 云端创建,访问函数计算embedding应用模版一键创建,并获取域名
- 本地创建, 执行
docker-compose up embedding -d
, 该服务地址为 http://localhost:8001/embedding
- 云端创建, 通过RDS PostgreSQL实例 https://rdsbuy.console.aliyun.com/create/rds/mysql?spm=5176.19907444.0.0.64b11450FHIgeU 获取,相关教程参考
- 本地创建,执行
docker-compose up pg -d
# 注python 版本 >= 3.11
cd agentcraft/src/agentcraft-all/agentcraft-be
cp .env.example .env
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt
export PYTHONPATH="${PYTHONPATH}:$(pwd)"
python3 -u app/main.py
cd agentcraft/src/agentcraft-all/agentcraft-fe
cp .env.example .env
npm install -f
npm run dev
与同类智能体平台相比,AgentCraft最大的特性在于构建跟云上资源的链接,提供云上资源管理能力,可以构建和部署任意需要被依赖的组件,比如基础模型、数据持续集成、自定义AI工具、客户端接入、工作流等,皆在帮助企业级开发者自由构建可以落地到业务里的AI应用
欢迎为AgentCraft贡献,一起推进AI应用的落地。 欢迎各种方式的贡献,提交代码、问题、新想法.
如果您有任何问题、建议或合作意向,可以用以下方式联系我们:
本软件使用以下开源软件
- Nextjs [nodejs]
- FastApi [python]
- LangChain
Apache2.0协议