发布时间:2026/6/23 2:59:32
第4节:我应该选择哪种Kafka?
Kafka不再是一个单纯的消息引擎系统而是能够实现精确一次Exactly-once处理语义的实时流处理平台。Apache KafkaApache Kafka是最“正宗”的Kafka也应该是你最熟悉的发行版了。自Kafka开源伊始它便在Apache基金会孵化并最终毕业成为顶级项目它也被称为社区版Kafka。咱们专栏就是以这个版本的Kafka作为模板来学习的。更重要的是它是后面其他所有发行版的基础。也就是说后面提到的发行版要么是原封不动地继承了Apache Kafka要么是在此之上扩展了新功能总之Apache Kafka是我们学习和使用Kafka的基础。Confluent Kafka我先说说Confluent公司吧。2014年Kafka的3个创始人Jay Kreps、Naha Narkhede和饶军离开LinkedIn创办了Confluent公司专注于提供基于Kafka的企业级流处理解决方案。2019年1月Confluent公司成功融资D轮1.25亿美元估值也到了25亿美元足见资本市场的青睐。这里说点题外话 饶军是我们中国人清华大学毕业的大神级人物。我们已经看到越来越多的Apache顶级项目创始人中出现了中国人的身影另一个例子就是Apache Pulsar它是一个以打败Kafka为目标的新一代消息引擎系统。至于在开源社区中活跃的国人更是数不胜数这种现象实在令人振奋。还说回Confluent公司它主要从事商业化Kafka工具开发并在此基础上发布了Confluent Kafka。Confluent Kafka提供了一些Apache Kafka没有的高级特性比如跨数据中心备份、Schema注册中心以及集群监控工具等。Cloudera/Hortonworks KafkaCloudera提供的CDH和Hortonworks提供的HDP是非常著名的大数据平台里面集成了目前主流的大数据框架能够帮助用户实现从分布式存储、集群调度、流处理到机器学习、实时数据库等全方位的数据处理。我知道很多创业公司在搭建数据平台时首选就是这两个产品。不管是CDH还是HDP里面都集成了Apache Kafka因此我把这两款产品中的Kafka称为CDH Kafka和HDP Kafka。当然在2018年10月两家公司宣布合并共同打造世界领先的数据平台也许以后CDH和HDP也会合并成一款产品但能肯定的是Apache Kafka依然会包含其中并作为新数据平台的一部分对外提供服务。最后我们来复习一下今天的内容Apache Kafka也称社区版Kafka。优势在于迭代速度快社区响应度高使用它可以让你有更高的把控度缺陷在于仅提供基础核心组件缺失一些高级的特性。Confluent KafkaConfluent公司提供的Kafka。优势在于集成了很多高级特性且由Kafka原班人马打造质量上有保证缺陷在于相关文档资料不全普及率较低没有太多可供参考的范例。CDH/HDP Kafka大数据云公司提供的Kafka内嵌Apache Kafka。优势在于操作简单节省运维成本缺陷在于把控度低演进速度较慢。

相关新闻

029、自定义命令开发:创建、参数化、共享与团队复用的最佳实践
2026/6/23 2:59:32

029、自定义命令开发:创建、参数化、共享与团队复用的最佳实践

029、自定义命令开发:创建、参数化、共享与团队复用的最佳实践上周五晚上十一点,我盯着终端里那条报错信息看了整整十五分钟——“Command not found: deploy-staging”。明明刚用CodeX的codex command create注册了自定义命令,重启终端后却死…

阅读更多
5分钟快速掌握:用Mermaid Live Editor让技术图表创作变得如此简单
2026/6/23 2:59:32

5分钟快速掌握:用Mermaid Live Editor让技术图表创作变得如此简单

5分钟快速掌握:用Mermaid Live Editor让技术图表创作变得如此简单 【免费下载链接】mermaid-live-editor Edit, preview and share mermaid charts/diagrams. New implementation of the live editor. 项目地址: https://gitcode.com/GitHub_Trending/me/mermaid-…

阅读更多
无名杀:开源三国杀网页版终极体验指南
2026/6/23 2:59:32

无名杀:开源三国杀网页版终极体验指南

无名杀:开源三国杀网页版终极体验指南 【免费下载链接】noname 项目地址: https://gitcode.com/GitHub_Trending/no/noname 无名杀是一款基于经典三国杀玩法打造的开源网页卡牌游戏,将策略对决与高度自定义完美结合。这款完全免费的项目让玩家无…

阅读更多
iPaaS核心功能系列(二)| 数据映射与转换——让不同系统“说同一种话”
2026/6/23 3:59:32

iPaaS核心功能系列(二)| 数据映射与转换——让不同系统“说同一种话”

一、系统接上了,但还是“听不懂”在第一篇文章中,我们讨论了iPaaS如何通过连接器把不同的系统“接”到一起。但“接上”并不等于“能沟通”——就像你把一个只会说中文的人和一群说英语的人放在同一个会议室里,物理上他们在一起了&#xff0c…

阅读更多
缓存详细设计
2026/6/23 3:59:32

缓存详细设计

缓存详细设计 1. 概述 系统使用 Redis 作为分布式缓存,通过 StringRedisTemplate 进行操作。缓存服务统一放置在 dp-service/src/main/java/com/cms/service/cache/ 目录下,按业务域划分为三个独立服务: 服务类 前缀 用途 AdminCacheService dp:admin:v1: 管理端权限缓存 …

阅读更多
618为何不再疯狂打价格战?答案全在这份报告——2026年“618”大促全周期观察
2026/6/23 3:59:32

618为何不再疯狂打价格战?答案全在这份报告——2026年“618”大促全周期观察

易观分析:2026 年 618 大促全新趋势来袭——简化优惠规则已达成行业共识,整体市场保持稳健增长。同时,大促中也呈现出一些新亮点:商家摆脱价格极致内卷,回归产品力与原创设计,经营重心从冲量转向利润优化&a…

阅读更多
豆包在抖音生态中的实战应用场景大纲
2026/6/23 3:59:32

豆包在抖音生态中的实战应用场景大纲

做短视频和直播运营的朋友,最近应该都有同感:内容创作的节奏越来越快,单纯靠人力去堆脚本、盯评论、复盘数据,不仅效率低,还容易在高压下动作变形。以前一个团队一天能打磨出三条精品视频就算高产,现在面对…

阅读更多
吵架后焦虑失眠:助眠工具治标,源头是没和好的关系
2026/6/23 3:59:32

吵架后焦虑失眠:助眠工具治标,源头是没和好的关系

那种吵完架躺床上反复回放的失眠,助眠 App 治不了。 这种失眠,吃褪黑素没用,听白噪音也没用。因为折磨你的根本不是"睡不着"这个生理问题,是那件没解决的事、那个没和好的人,堵在心里。 我有段时间总搜"…

阅读更多
写Python函数,什么时候该用全局变量?
2026/6/23 2:59:32

写Python函数,什么时候该用全局变量?

免费编程软件「pythonpycharm」 链接:https://pan.quark.cn/s/48a86be2fdc0一个让我被同事喷了一顿的PR上周我提交了一个PR,代码大概是这样的:# config.py DEBUG True API_URL "https://api.example.com" TIMEOUT 30 MAX_RETRIE…

阅读更多
嵌入式语音编解码实战:G.726 ADPCM库集成与优化指南
2026/6/23 3:25:21

嵌入式语音编解码实战:G.726 ADPCM库集成与优化指南

1. 项目概述与G.726 ADPCM技术背景在嵌入式语音处理领域,带宽和存储资源往往是寸土寸金的。如果你做过对讲机、VoIP网关或者早期的数字录音设备,一定对如何在有限的比特率下保住语音可懂度这件事深有感触。我当年接手一个车载调度系统的项目,…

阅读更多
ITU656格式化器寄存器配置实战:VBI数据处理与VCR特技播放兼容性
2026/6/21 0:59:13

ITU656格式化器寄存器配置实战:VBI数据处理与VCR特技播放兼容性

1. 项目概述与核心挑战在数字视频处理领域,将原始的视频数据、同步时序以及各种辅助信息打包成一个标准、稳定的串行数据流,是确保设备间互联互通的基础。ITU-R BT.656标准(常简称为ITU656)正是为此而生的一套“交通规则”。它定义…

阅读更多
嵌入式GUI开发实战:emWin环境搭建、配置优化与性能调优指南
2026/6/23 0:40:11

嵌入式GUI开发实战:emWin环境搭建、配置优化与性能调优指南

1. 项目概述与emWin核心价值解析在嵌入式系统开发领域,人机交互(HMI)的设计正从简单的LED指示灯和按键,快速向全彩图形化界面演进。无论是智能家电上的触摸屏、工业PLC的操作面板,还是医疗设备的参数显示,一…

阅读更多
3分钟快速上手:Qwen3大语言模型本地部署完全指南
2026/6/23 0:59:31

3分钟快速上手:Qwen3大语言模型本地部署完全指南

3分钟快速上手:Qwen3大语言模型本地部署完全指南 【免费下载链接】Qwen1.5 Qwen3 is the large language model series developed by Qwen team, Alibaba Cloud. 项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen1.5 阿里巴巴Qwen3大语言模型系列以其…

阅读更多
微信聊天记录备份指南:使用WeChatExporter轻松保存您的珍贵回忆
2026/6/23 0:59:31

微信聊天记录备份指南:使用WeChatExporter轻松保存您的珍贵回忆

微信聊天记录备份指南:使用WeChatExporter轻松保存您的珍贵回忆 【免费下载链接】WeChatExporter 一个可以快速导出、查看你的微信聊天记录的工具 项目地址: https://gitcode.com/gh_mirrors/wec/WeChatExporter 在数字时代,微信聊天记录承载着我…

阅读更多
Cortex-M指令集深度解析:饱和运算、位域操作与分支控制实战
2026/6/23 0:59:31

Cortex-M指令集深度解析:饱和运算、位域操作与分支控制实战

1. 从指令到效率:为什么Cortex-M指令集值得深挖如果你在嵌入式领域摸爬滚打了一段时间,尤其是跟ARM Cortex-M系列单片机打交道,那你肯定对“写寄存器”、“调库函数”这套流程熟得不能再熟了。但不知道你有没有过这样的感觉:项目代…

阅读更多
GIT修改用户名
2026/6/22 5:10:42

GIT修改用户名

在GIT中修改用户名可按以下步骤操作: 查看当前git的用户名,使用命令git config --list或git config user.name。修改git用户名,使用命令git config --global user.name "xxx(新的用户名)",将其中…

阅读更多
Win11Debloat:让你的Windows系统重获新生的终极优化工具
2026/6/22 10:07:50

Win11Debloat:让你的Windows系统重获新生的终极优化工具

Win11Debloat:让你的Windows系统重获新生的终极优化工具 【免费下载链接】Win11Debloat A simple, lightweight PowerShell script that allows you to remove pre-installed apps, disable telemetry, as well as perform various other changes to declutter and …

阅读更多
技术深度解析:m4s-converter实现原理与B站缓存视频转换最佳实践
2026/6/21 13:29:25

技术深度解析:m4s-converter实现原理与B站缓存视频转换最佳实践

技术深度解析:m4s-converter实现原理与B站缓存视频转换最佳实践 【免费下载链接】m4s-converter 一个跨平台小工具,将bilibili缓存的m4s格式音视频文件合并成mp4 项目地址: https://gitcode.com/gh_mirrors/m4/m4s-converter m4s-converter是一个…

阅读更多