基于BsinPaaS开源框架构建的大语言模型应用SaaS服务助您构建AI知识库应用企业知识库应用

admin · 发表于 2024-11-5 18:12:41

基于BsinPaaS开源框架构建的大语言模型应用SaaS服务助您构建AI知识库应用企业知识库应用企业级AI知识库

基于BsinPaaS开源框架和大语言模型构建的企业知识库应用，借鉴langchain的框架思想，引入langchian4j组件，微前端微服务的架构设计，可快速助您构建和体验端到端的AI知识库应用。

应用场景

企业微信群、公众号智能客服：通过智能化的客服功能，提升客户体验。
IP品牌官：助力企业品牌的数字化管理和传播。
数字分身：为个人或企业打造独立的 AI 数字形象。
企业知识库助手：提供高效的企业内部知识管理与查询服务。

架构设计

基于BsinPaaS开源框架构建的大语言模型应用SaaS服务助您构建AI知识库应用企业知识库应用 ...

技术栈大语言模型后台(java)：本地知识库(RAG)、大语言模型管理、AI服务编排...[td]

组件	版本	备注
JDK	11+
SOFABoot	3.18.0	蚂蚁金服开源的基于 Spring Boot 的研发框架
zookeeper	3.6.2	分布式的，开放源码的分布式应用程序协调服务
seata	1.4.2	分布式事务解决方案，致力于在微服务架构下提供高性能和简单易用的分布式事务服务
MySql	8.0	关系型数据库
Redis	6.0.16	缓存
Milvus	2.3.5	一款开源的向量数据库，旨在提供高效的相似性搜索和向量聚类功能，本地知识库，永久Copilot记忆存储
BsinPaaS	1.0	企业级微服务框架
Mybatis	2.1.3	MySQL数据持久层(ORM)框架
langchain4j	0.27.1	java版本的langchain
wx-java	4.3.0	基于Java语言的微信开发Java SDK,它提供了微信支付,开放平台,小程序,企业微信,公众号等多个平台的API接口
...

后端(golang)-主要实现个人微信登录及消息转发[td]

组件	版本	备注
gin	1.9.1	轻量级 http web 框架
openWechat	1.4.6	个人微信号API,类似开发公众号一样,开发个人微信号
go-redis	9.4.0	缓存
swag	1.8.12	接口文档生成
...

前端(B端后台管理)[td]

组件	版本	备注
bsin-apps-container	2.0.0	BsinPaaS微前端基座UI
bsin-ui-upms	2.0.0	BsinPaaS权限管理后台UI
bsin-ui-scaffold-react-app1	2.0.0	BsinPaaS微前端后台管理脚手架
react	18.1.0	Facebook开源前端框架
antd	5.4.7	基于Ant Design设计体系的React UI组件库,主要用于研发企业级中后台产品
umi	2.10.1	可扩展的企业级前端应用框架
qiankun	4.0.72	基于 single-spa 的微前端实现库，旨在帮助大家能更简单、无痛的构建一个生产可用微前端架构系统
reactflow	11.10.3	基于React的可视化工作流库,它提供了丰富的功能和灵活的扩展性,可以帮助开发者快速构建出高质量的可视化工作流应用
ant-design/pro-chat	1.7.0	基于Ant Design大模型聊天组件
...

前端(C端app|h5|小程序)[td]

组件	版本	备注
bsin-ui-scaffold-uniapp	1.0.0	BsinPaaS uni-app微前端脚手架
uni-app		使用Vue.js开发跨平台个人文库应用的前端框架，开发者编写一套代码，可编译到的iOS，安卓，H5，小程序等多个平台
...

功能

基于BsinPaaS开发，除了BsinPaaS自带的多租户多商户多用户权限管理，菜单管理等基础功能外，集成了丰富的大语言模型应用通用基础组件，并可通过后台管理配置所有功能，集合AI高级编排功能，可快速构建垂直领域的AI应用。如数字分身(数字人)，企业品牌馆，客服助手等等。

对聊天模型及其他模型输出结果的解析，因为理论上模型输出的结构都是字符串(如json格式的字符串),通过该模块可以将模型的输出按指定的格式输出，比如json格式，boolean格式，也可以是自定的类结构格式。这样做主要是为了方便与生成应用交互。比如所有的模型输出都通过该模块转换成类结构输出，那么上层应用就可以根据类结构获取对应的属性字段。类结构字段定义好之后，模型的调用和具体的上层应用就可以分离开，两者按定义好的中间数据层(类结构)独立开发，可以大大提升效率。
工作安装