JD hotkey(京东轻量级热key探测框架) v1.0.20201231 v1.0.20201
发布时间:2021-01-19
软件语言:简体中文
软件大小:5.3MB
软件授权:免费版
软件版本:v1.0.20201
相关链接:软件官网
软件类型:国产软件
软件平台:WinXp,Win2003,WinVista,Win 7,Win 8,Win 10,x64
软件类型: 编程软件  /  程序源码
关键字:JD hotkey,京东轻量级热key探测框架
软件评分:
JD hotkey是一个十分精准的京东轻量级热key探测框架,适用的场景涵盖mysql热数据本地缓存、redis热数据本地缓存、单机接口/用户维度限流限流、黑名单用户本地缓存、爬虫用户限流、集群用户维度限流、集群接口维度限流等,进行毫秒级精准探测,需要的用户一定不要错过哦!

软件说明

JD-hotkey是京东APP后台热数据探测框架,历经多次高压压测和2020年京东618大促考验。在上线运行的这段时间内,每天探测的key数量数十亿计,精准捕获了大量爬虫、刷子用户,另准确探测大量热门商品并毫秒级推送到各个服务端内存,大幅降低了热数据对数据层的查询压力,提升了应用性能。对任意突发性的无法预先感知的热点请求,包括并不限于热点数据(如突发大量请求同一个商品)、热用户(如爬虫、刷子)、热接口(突发海量请求同一个接口)等,进行毫秒级精准探测到。 然后对这些热数据、热用户等,推送到该应用部署的所有机器JVM内存中,以大幅减轻对后端数据存储层的冲击,并可以由客户端决定如何使用这些热key(譬如对热商品做本地缓存、对热用户进行拒绝访问、对热接口进行熔断或返回默认值)。 这些热key在整个应用集群内保持一致性。核心功能:热数据探测并推送至集群各个服务器该框架历经多次压测,性能指标主要有两个:1 探测性能:8核单机worker端每秒可接收处理16万个key探测任务,16核单机至少每秒平稳处理30万以上,实际压测达到37万,CPU平稳支撑,框架无异常。2 推送性能:在高并发写入的同时,对外推送目前性能约平稳推送每秒10-12万次,譬如有1千台server,一台worker上每秒产生了100个热key,那么这1秒会平稳推送100 * 1000 = 10万次,10万次推送会明确在1s内全部送达。如果是写入少,推送多,以纯推送来计数的话,该框架每秒可稳定对外推送40-60万次平稳,80万次极限可撑几秒。每秒单机吞吐量(写入+对外推送)目前在70万左右稳定。在真实业务场景中,可用1:1000的比例,即1台worker支撑1000台业务服务端的key探测任务,即可带来极大的数据存储资源节省(如对redis集群的扩充)。

应用场景

1、mysql热数据本地缓存2、redis热数据本地缓存3、黑名单用户本地缓存4、爬虫用户限流5、接口、用户维度限流6、单机接口、用户维度限流限流7、集群用户维度限流8、集群接口维度限流

软件测评

能够对任意突发性的无法预先感知的热点数据包括并不限于热点数据、热用户、热接口等好了,今天的JD hotkey(京东轻量级热key探测框架)分享就到这里了,想要下载更多软件就来非凡软件站,快快收藏吧,更多精彩不容错过!
软件截图
最新更新
下载地址