五分钟技术趣谈 | 城市平台Kafka推送实现分析
创始人
2025-06-28 12:50:41
0

Part 01

功能介绍 

图片

  • 开发者控制台功能

1.服务实例管理:Kafka集群实例配置信息及白名单管理。

2.数据统计:统计单Topic、Group每日消息生产量及消费量。

3.Topic管理:Topic基础信息及订阅关系管理。

4.Consumer Group管理:Group基础信息及消费状态管理。

  • 后台管理系统

1.服务集群管理:提供Kafka集群实例添加及配置管功能。

2.授权用户管理:为开发者配置Kafka集群实例及资源权限。

城市物联网平台实现的Kafka推送是在开源Apache Kafka 2.8.x版本上,增加了以用户为维度的鉴权、授权机制以及资源管理功能,同时实现了与规则引擎的数据对接,通过配置规则引擎,将设备基础数据,感知数据等应用数据推送给上层SaaS应用,可以直接通过Kafka官网的客户端消费数据。

Part 02

Kafka推送优势 

  • 性能对比

Kafka具有低时延、高可用性的特性,吞吐量高,单机写入TPS约在百万条/秒,与物联网设备数据量大的场景比较契合。

  • 运维实施

社区活跃,使用场景广泛,部署实践经验较丰富、开源学习成本低,对于研发、运维人员门槛低,能够轻松完成应用数据对接开发。

  • 项目支撑

可同时支持多个应用子系统的数据集成需求,减少内部消息转发业务研发,同时可缓存部分数据;Kafka消息中间件,通用性强、适用范围更广,数据对接流程简单。

Part 03

Kafka推送关键技术分析  

城市平台Kafka推送基于官方的客户端实现,通过官网客户端提供的API进行鉴权,授权及资源隔离等操作。

  • Kafka鉴权

基于SASL/SCRAM连接鉴权,可以通过命令或者API创建、删除用户。

  • Kafka授权

可以基于Topic、分组对用户授权,保证用户的数据隔离。

  • 资源隔离

可以基于用户消费、生产速率配额,限制带宽。

  • 关键API列举

图片

相关内容

热门资讯

PHP新手之PHP入门 PHP是一种易于学习和使用的服务器端脚本语言。只需要很少的编程知识你就能使用PHP建立一个真正交互的...
网络中立的未来 网络中立性是什... 《牛津词典》中对“网络中立”的解释是“电信运营商应秉持的一种原则,即不考虑来源地提供所有内容和应用的...
各种千兆交换机的数据接口类型详... 千兆交换机有很多值得学习的地方,这里我们主要介绍各种千兆交换机的数据接口类型,作为局域网的主要连接设...
粉嫩如何诠释霸道 东芝M805... “霸道粉”是个什么玩意东芝M805拿过来的时候,笔者扑哧笑了,不是笑这款笔记本,而是笑这款产品的颜色...
什么是大数据安全 什么是大数据... 在《为什么需要大数据安全分析》一文中,我们已经阐述了一个重要观点,即:安全要素信息呈现出大数据的特征...
如何利用交换机和端口设置来管理... 在网络管理中,总是有些人让管理员头疼。下面我们就将介绍一下一个网管员利用交换机以及端口设置等来进行D...
全面诠释网络负载均衡 负载均衡的出现大大缓解了服务器的压力,更是有效的利用了资源,提高了效率。那么我们现在来说一下网络负载...
如何允许远程连接到MySQL数... [[277004]]【51CTO.com快译】默认情况下,MySQL服务器仅侦听来自localhos...
30分钟搞定iOS自定义相机 最近公司的项目中用到了相机,由于不用系统的相机,UI给的相机切图,必须自定义才可以。就花时间简单研究...
Intel将Moblin社区控... 本周二,非营利机构Linux基金会宣布,他们将担负起Moblin社区的管理工作,而这之前,Mobli...