Know Streaming:一站式Kafka集群管控
点击上方蓝色字体,关注我们
痛点
中间件是整个业务系统架构中非常重要的部分,多样性的中间件可以让系统架构更加健壮,给业务系统的开发带来更多的创造性。例如,我们常见的中间件有:
Zookeeper, 分布式协调服务的开源框架 ,多用于分布式架构; Kafka、Rabbitmq,消息队列,多用于消息缓存、业务补偿、异步结构等场景; Redis,多用于数据缓存、分布式锁等场景;
以上中间件的使用场景虽然非常多,但是对于运维,管理中间件则是一件比较头痛的事情,原因有:
管理:只能使用其自带的原生工具进行增删改查等操作不便利,多集群管理效率低; 监控:监控手段有限,无法统一可视化监控多集群;
由于局限于运维工作知识的广度和深度,不可能对每个中间件运行的关键性指标了解的非常时刻,因此中间件的管理和监控对运维来说是比较深刻的一个痛点。
解决方案
当然解决问题不是一蹴而就的,需要我们逐个突破,因此我们今天给大家带来了一个针对Kafka的管控工具:Know Streaming。
❝https://github.com/didi/KnowStreamingKnowStreaming专注于Kafka运维管控、监控告警、资源治理、多活容灾等核心场景,经历过大规模集群、海量大数据的考验,在用户体验、监控、运维管控上进行了平台化、可视化、智能化的建设,提供一系列特色的功能,极大地方便了用户和运维人员的日常使用。
❞
对比之前我们结合Kafka的实际使用及监控经验:
KnowStreaming不但解决了我们的管控痛点,而且从更多维度提高了我们的管控能力。
产品特点
「1.侵入、全覆盖」
不会对 Apache Kafka 做侵入性改造,就能一键纳管 0.10.x-3.x.x 众多版本 Kafka(包含 ZK 或 Raft 运行模式的版本),在兼容架构上具备良好的扩展性,帮助您提升集群管理水平。
「2.成本、界面化」
通过提炼高频的 CLI 能力,设计合理的产品使用路径,提供清新美观的 GUI 界面,支持 Cluster、Broker、Topic、Message、Consumer、ALC 等组件 GUI 管理,普通用户 5 分钟即可上手。
「3.云原生、插件化」
基于云原生构建的 Kafka 管控平台,具备水平扩展能力,只需要增加节点即可获取更强的采集及对外服务能力,提供众多可热插拔的企业级特性,覆盖可观测性生态整合、资源治理、多活容灾等核心场景。
「4.功能丰富」
主要包含多集群管理和系统管理两大块,具体包含:
多集群管理:包括 Cluster 管理、Broker 管理、Topic 管理、Group 管理、Message 测试、Security 管理、Jobs 管理等 7 大功能模块,几乎涵盖 CLI 的所有高频能力; 系统管理:包括配置管理、用户管理、审计日志等 3 大功能模块,基本满足开源用户的使用需要;
「5.专业能力」
不仅是 CLI 到 GUI 的优秀翻译,更是涵盖一系列专业能力的产品,包括但不限于:
集群管理:支持集群一键纳管,健康分析、核心组件观测 等功能; 观测提升:多维度指标观测大盘、观测指标最佳实践 等功能; 异常巡检:集群多维度健康巡检、集群多维度健康分 等功能; 能力增强:Topic 扩分区、Topic 扩缩副本、Topic 副本迁移 等功能;
功能架构
技术架构
部分功能展示
1.接入集群
2.新增topic
3.多集群管理
总结
在日常运维中会存在大量「集群部署」、「升级」、「扩缩容」、「Topic迁移」、「Leader Rebalance」等高频高危操作,通过KnowStreaming,可在提升运维操作效率的同时,保证高危操作不会影响集群稳定性。
对的那条路,往往不是最好走的!
精彩文章合集
文章推荐
札记:幸福是我们一切行为的终极目标,我们为此所做的所有事情其实都是手段。
-- 亚里士多德
喜欢这篇文章,记得点赞+在看哦~