AIFlowy 是一个基于 Java 开发的、企业级 AI 应用开发平台 ,对标 Dify、Coze 等产品,但更加侧重于国产信创,致力于为中国开发者提供高效、开放、本土化的 AI 工具与解决方案。
最近更新: 3个月前本项目为xiaozhi-esp32提供后端服务,帮助您快速搭建ESP32设备控制服务器。Backend service for xiaozhi-esp32, helps you quickly build an ESP32 device control server.
最近更新: 4个月前Shimmy 是一个超轻量级(仅 5MB)的本地 AI 推理服务器,具备与 OpenAI API 兼容的接口、自动模型发现、热切换以及工具调用功能。采用 Rust 编写的单二进制文件方案,支持 GGUF 模型和 LoRA 微调适配器,完全免费且永久开源。
最近更新: 6个月前Trae Agent 是一个基于 LLM 通用软件工程任务的智能体。它提供了一个 CLI 界面,可以理解自然语言指令,并使用各种工具和 LLM 提供商执行复杂的软件工程工作流。
最近更新: 7个月前高吞吐、低内存大模型推理引擎,其设计初衷直击行业痛点:传统推理框架在处理多请求并发时,普遍存在KV缓存内存碎片化严重、GPU利用率低下等问题。通过 PagedAttention 这一革命性技术,vLLM实现了近零浪费的KV缓存管理,同时完美兼容OpenAI API协议,让开发者无需改造现有生态...
最近更新: 7个月前LocalAI是免费的开源 OpenAI 替代品。LocalAI 可作为替代 REST API,与 OpenAI(Elevenlabs、Anthropic……)API 规范兼容,用于本地 AI 推理。它允许您在本地或使用消费级硬件运行 LLM、生成图像、音频(不止于此),支持多种模型系列。不需...
最近更新: 8个月前整合主流的各种高效训练微调技术,适配市场主流开源模型,形成一个功能丰富,适配性好的训练框架。项目提供了多个高层次抽象的调用接口,包含多阶段训练,推理测试,benchmark评测,API Server等,使开发者开箱即用。同时借鉴 Stable Diffsion WebUI相关,本项目提供了基于...
最近更新: 8个月前ScrapeGraphAI 是一款创新的网络爬虫 Python 库,它巧妙地结合了大型语言模型和直接图逻辑,为网站和本地文档(如 XML、HTML、JSON 等)创建高效的爬取管道。这个工具的核心优势在于其简单性和强大功能的完美结合 - 用户只需告诉库想要提取哪些信息,ScrapeGraphA...
最近更新: 8个月前一个 “模型即服务”(MaaS) 平台,旨在汇集来自 AI 社区的最先进的机器学习模型,并简化在实际应用中使用 AI 模型的流程。ModelScope 库使开发人员能够通过丰富的 API 设计执行推理、训练和评估,从而促进跨不同 AI 领域的最先进模型的统一体验。
最近更新: 8个月前