依星源码资源网,依星资源网

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 30|回复: 0

一个golang实现的全文检索引擎,支持持久化和单机亿级数据毫秒级查找

[复制链接] 主动推送

9594

主题

9646

帖子

1万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
10515
发表于 2024-9-6 10:32:40 | 显示全部楼层 |阅读模式
一个golang实现的全文检索引擎,支持持久化和单机亿级数据毫秒级查找
  • 支持持久化
  • 基于磁盘+内存缓存
  • 支持表达式
  • 原生二进制,无外部依赖
  • 自带中文分词和词库
  • 自带可视化管理界面
  • 基于Golang原生可执行文件,内存非常小
  • 默认可以不加任何参数启动,并且提供少量配置
  • 快速检索
  • 主动防御监测非法关键词
  • 禁用搜索非法关键词
  • 负面词管理
  • 负面消息推送
  • 接口可以通过http调用。
  • 实时消息通知(支持企业微信、钉钉等)
  • MQTT协议实时推送
  • 增加对文档内容进行索引和搜索(新增参数cut_document)
  • 增加补充关键字检索 (新增参数has_key,keys)

在线管理后台Demo
http://127.0.0.1:5679/admin
二进制文件下载
支持Windows、Linux、macOS、(amd64和arm64)和苹果M1 处理器
技术栈
  • 二分法查找
  • 快速排序法
  • 倒排索引
  • 正排索引
  • 文件分片
  • golang-jieba分词
  • leveldb
  • 支持表达式的条件过滤
  • 支持表达式权限排序
为何要用golang实现一个全文检索引擎?
  • 正如其名,fastsearch去探索全文检索的世界,一个小巧精悍的全文检索引擎,支持持久化和单机亿级数据毫秒级查找。
  • 传统的项目大多数会采用ElasticSearch来做全文检索,因为ElasticSearch够成熟,社区活跃、资料完善。缺点就是配置繁琐、基于JVM对内存消耗比较大。
  • 所以我们需要一个更高效的搜索引擎,而又不会消耗太多的内存。 以最低的内存达到全文检索的目的,相比ElasticSearch,fastsearch是原生编译,会减少系统资源的消耗。而且对外无任何依赖。

安装和启动
下载好源码之后,进入到源码目录,执行下列两个命令
  • 编译
直接运行附件中可执行文件 可以不用编译,省去这一步。
  1. go get && go build
复制代码
  • 启动
  1. ./fastsearch --addr=:8080 --data=./data/db
复制代码
  • docker部署
  1. docker build -t fastsearch .
  2. docker run -d --name fastsearch -p 5678:5679 -v /mnt/data/fastsearch:/usr/local/fastsearch/data fastsearch:latest
复制代码
和ES比较[td]
ESfastsearch
支持持久化支持持久化
基于内存索引基于磁盘+内存缓存
支持表达式支持表达式
需要安装JDK原生二进制,无外部依赖
需要安装第三方分词插件自带中文分词和词库
默认没有可视化管理界面自带可视化管理界面
内存占用大基于Golang原生可执行文件,内存非常小
配置复杂默认可以不加任何参数启动,并且提供少量配置
功能特性
  • 支持持久化
  • 基于磁盘+内存缓存
  • 支持表达式
  • 原生二进制,无外部依赖
  • 自带中文分词和词库
  • 自带可视化管理界面
  • 基于Golang原生可执行文件,内存非常小
  • 默认可以不加任何参数启动,并且提供少量配置
  • 快速检索
新增功能
  • 主动防御监测非法关键词
  • 禁用搜索非法关键词
  • 负面词管理
  • 负面消息推送




游客,本帖隐藏的内容需要积分高于 2 才可浏览,您当前积分为 0

提取码下载:
文件名称:提取码下载.txt 
下载次数:0  文件大小:13 Bytes  售价:49金钱 [记录]
下载权限: 不限 [购买VIP]   [充值]   [在线充值]   【VIP会员5折;永久VIP免费】
安全检测,请放心下载





相关帖子

扫码关注微信公众号,及时获取最新资源信息!下载附件优惠VIP会员5折;永久VIP免费
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

免责声明:
1、本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与商业和非法行为,请在24小时之内自行删除!
2、本站所有内容均由互联网收集整理、网友上传,并且以计算机技术研究交流为目的,仅供大家参考、学习,请勿任何商业目的与商业用途。
3、若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。
4、论坛的所有内容都不保证其准确性,完整性,有效性,由于源码具有复制性,一经售出,概不退换。阅读本站内容因误导等因素而造成的损失本站不承担连带责任。
5、用户使用本网站必须遵守适用的法律法规,对于用户违法使用本站非法运营而引起的一切责任,由用户自行承担
6、本站所有资源来自互联网转载,版权归原著所有,用户访问和使用本站的条件是必须接受本站“免责声明”,如果不遵守,请勿访问或使用本网站
7、本站使用者因为违反本声明的规定而触犯中华人民共和国法律的,一切后果自己负责,本站不承担任何责任。
8、凡以任何方式登陆本网站或直接、间接使用本网站资料者,视为自愿接受本网站声明的约束。
9、本站以《2013 中华人民共和国计算机软件保护条例》第二章 “软件著作权” 第十七条为原则:为了学习和研究软件内含的设计思想和原理,通过安装、显示、传输或者存储软件等方式使用软件的,可以不经软件著作权人许可,不向其支付报酬。若有学员需要商用本站资源,请务必联系版权方购买正版授权!
10、本网站如无意中侵犯了某个企业或个人的知识产权,请来信【站长信箱312337667@qq.com】告之,本站将立即删除。
郑重声明:
本站所有资源仅供用户本地电脑学习源代码的内含设计思想和原理,禁止任何其他用途!
本站所有资源、教程来自互联网转载,仅供学习交流,不得商业运营资源,不确保资源完整性,图片和资源仅供参考,不提供任何技术服务。
本站资源仅供本地编辑研究学习参考,禁止未经资源商正版授权参与任何商业行为,违法行为!如需商业请购买各资源商正版授权
本站仅收集资源,提供用户自学研究使用,本站不存在私自接受协助用户架设游戏或资源,非法运营资源行为。
 
在线客服
点击这里给我发消息 点击这里给我发消息 点击这里给我发消息
售前咨询热线
312337667

微信扫一扫,私享最新原创实用干货

QQ|免责声明|小黑屋|依星资源网 ( 鲁ICP备2021043233号-3 )|网站地图

GMT+8, 2024-9-17 10:18

Powered by Net188.com X3.4

邮箱:312337667@qq.com 客服QQ:312337667(工作时间:9:00~21:00)

快速回复 返回顶部 返回列表