代码拉取完成,页面将自动刷新
用langchain的思想,构建SpringBoot AI应用。
🚩 本项目未涉及AI模型的微调、训练过程,仅使用相关大语言模型作为技术底座实现相关功能,模型的使用请参看相关官方文档。
组件 | 版本 |
---|---|
java | 17+ |
SpringBoot | 3.1.0 |
swagger-ui | knife4j-openapi3-jakarta-spring-boot-starter |
工具包 | hutool-all |
缓存 | redis |
json | fastjson2 |
mysql | mysql-connector-j |
orm框架 | mybatis-plus |
openai库 | openai-java |
前端 | freemarker、bootstrap、jquery、recorder.js |
stream-chat | SSE |
LLMs | openai、chatglm2、文心一言 、智谱AI、Kimi |
embeddings | openai、text2vec-transformers、文心一言 |
vector store | weaviate、milvus |
模型/能力 | 文本生成 | 流式输出 | 语音 | 函数调用 | 图片生成 | 多模态(VISION) | 嵌入EMBEDDING |
---|---|---|---|---|---|---|---|
openai | 支持 | 支持 | 支持 | 支持 | 支持 | 支持 | 支持 |
百度(文心) | 支持 | 支持 | - | 支持 | 支持 | - | 支持 |
智谱(GLM-4) | 支持 | 支持 | - | 支持 | 支持 | 支持 | 支持 |
kimi | 支持 | 支持 | - | - | - | - | - |
chatglm2 | 支持 | 支持 | - | - | - | - | - |
... ... | - | - | - | - | - | - | - |
已完成本地知识库上传、及完成openai、chatglm2、百度、智谱GLM-4、kimi五个LLMs模型流式聊天功能。未来计划会接入更多大语言模型,以满足更多需求场景。
init-script/db.sql
-- 安装启动本地向量数据库
docker-compose up -d
// 配置openai api token
openai.token=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
# 或者启动本地chatglm2-6B模型
python .\openai_api.py
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。