大模型农场LLMFarm平台是全球领先的大模型中间层开发架构,帮助企业快速对接私有数据和各类海内外大模型,并可视化无代码化构建各类 AI First 应用,低成本落地各行业各类AI场景。本项目由宜创科技开发。
LLMFarm平台提供了可视化构建Prompt Chain的功能,使用户及企业能够更加直观地设计和搭建AI应用场景。通过简单的拖拽和连接,企业可以自定义不同的对话流程、大模型调用逻辑,对接企业各类私有数据,提供不同的 API 接口,实现个性化的AI场景应用。这种可视化构建的方式,无需程序员,10 倍降低开发成本,使更多的用户及企业能够参与到AI应用场景的构建中。
LLM Farm平台支持扩充对接各类国内外大模型,包括开源大模型,如 海外LLaMa 系列,国内ChatGLM ,Baichuan系列等,也支持对接文生图大模型如 Stable Diffusion 等,也支持图生文模型 VisualGLM 等。同时也对接了 ChatGPT,百度文心一言,ChatGLM等基础模型 API。支持全类型 SQL,NOSQL,VectorDB等数据库的支持。支持企业内外部各类 API 的集成调用,各类云服务市场的 API 集成调用。
无论是客服服务、知识库、SQL查询、技术支持还是智能助手等,企业都可以根据自身需求,灵活地构建和定制不同类型的AI应用场景。这种灵活性使企业能够根据自身行业和业务特点,个性化地应用AI技术。
开源版
本项目提供的开源版本。目前仅包含提示词节点、GPT节点、输入节点。Chain管理、Bot管理、对话功能。后续版本会持续迭代更新功能。
SaaS版
SaaS版作为本产品功能最全,更新最及时的版本。提供包含多种模型节点、向量数据库相关节点、逻辑处理相关节点。提供开箱即用的机器人模板市场,LLMFarm平台已经提供500+的应用场景模板,用户只需下载即可一键使用,并可以进行二次开发和调整。 目前SaaS版对个人和企业开放注册。 地址:LLMFarm
企业版 企业版包含SaaS版的全部功能。并根据SaaS版的更新进度进行更新。企业版可以进行企业私有化部署。保证企业的数据安全。
Node 18 +
将.env.bak 修改为.env
OPENAI_PROXY_HOST=https://api.openai.com
OPENAI_API_KEY= #openai的apikey
PORT=8080 #运行端口号
MYSQL_HOST=127.0.0.1 #mysql地址
MYSQL_USER= #mysql用户
MYSQL_PWD= #mysql密码
MYSQL_DB=llmfarm #mysql数据库
CHAIN_TABLE=chain #mysql数据库chian的表名
在项目目录下执行
npm i
node src/app.js
项目为前后端分离,llmfarm-backend地址:
github地址:https://github.com/LLMFarm/llmfarm-backend
gitee地址:https://gitee.com/llmfarm/llmfarm-backend
llmfarm-front地址:
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。