Kafka相关的一些基础概念

这篇具有很好参考价值的文章主要介绍了Kafka相关的一些基础概念。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

0 小序

        在上一篇《HBase相关的一些基础概念》中就提到,星环的那次面试,面试官把我问懵了。除了HBase就是kafka了,所以今天总结下kafka的相关知识。

1 Kafka的定义

        Kafka是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。

2 Kafka消息队列的两种模式

1.点对点模式(一对一,消费者主动拉取数据,收到消息后清除消息)

        消息的生产者生产消息,发送到队列中,然后消费者从队列中取出并消费消息。消息被消费后,队列中不再存储,所以消费者不可能消费到已经被已经被消费过的消息。队列支持存在多个消费者,但是对一个消息而言,只会被一个消费者消费。

2.发布/订阅模式(一对多,消费者消费数据之后不会清除消息)

        消息生产者(发布)将消息发布到topic中,同时有多个消费者订阅该消息。这与点对点模式不同,发布到topic中的消息会被所有订阅者消费。消费者主动拉取队列中的消息。文章来源地址https://www.toymoban.com/news/detail-611387.html

3 Kafka的基础架构

  1.  生产者生产消息
  2. kafka集群管理消息
  3. 消费者消费消息
  4. Zookeeper注册消息

4 Kafka的一些名词

  1. Producer:消息生产者,向kafka发消息的客户端
  2. Consumer:消息消费者,向kafka broker取消息的客户端。
  3. Consumer Group(CG):消费者组,由多个Consumer组成。消费者组内每个消费者负责消费不同分区的数据,一个分区只能由一个组内消费者消费,消费者组之间互不影响。任何一个消费者都属于某个消费者组,即消费者组是逻辑上的一个订阅者。
  4. broker:一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic。
  5. topic:生产者和消费者面向的消息队列。、
  6. Partition:为了实现扩展性,一个非常大的topic可以分布到多个broker(即服务器)上,一个topic可以分为多个partition,每个partition是一个有序的队列。
  7. replica:副本,为保证集群中的某个节点发生故障,该节点上的partition数据不丢失,且kafka仍然能够继续工作,kafka提供了副本机制,一个topic的每个分区都有若干个副本,一个leader和若干个follower。
  8. leader:每个分区多个副本的“主”。生产者发送数据的对象,以及消费者消费数据的对象。
  9. follower:每个分区多个副本的“从”。实时从leader中同步数据,保持和leader数据的同步。leader发生故障时,某个follower会成为新的leader。

到了这里,关于Kafka相关的一些基础概念的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包赞助服务器费用

相关文章

  • Python爬虫数据分析的基本概念

    Python爬虫数据分析是一种利用Python编程语言和相关的库来获取互联网上的数据,并对数据进行处理、分析和可视化的技术。Python爬虫数据分析技术在数据挖掘、商业智能、市场调研、舆情分析等领域都有广泛的应用。本文将介绍Python爬虫数据分析的基本概念、常用库和实战案

    2024年02月06日
    浏览(13)
  • Python数据分析 — 数据分析概念、重要性、流程和常用工具

    Python数据分析 — 数据分析概念、重要性、流程和常用工具

    前言: Hello大家好,我是小哥谈。 Python数据分析是利用Python编程语言进行数据处理、转换、清洗、可视化和建模的过程。Python在数据科学领域非常流行,有许多强大的库和工具可供使用,例如NumPy、Pandas、Matplotlib和Scikit-learn等。这些库提供了丰富的功能和方法,使得处理和分

    2024年02月09日
    浏览(9)
  • 【Python】数据分析+数据挖掘——变量列的相关操作

    【Python】数据分析+数据挖掘——变量列的相关操作

    在Python和Pandas中,变量列操作指的是对DataFrame中的列进行操作,包括但不限于 选择列、重命名列、添加新列、删除列、修改列数据 等操作。这些操作可以帮助我们处理数据、分析数据和进行特征工程等。 概述 下面将会列出一些基本的操作指令 案例数据表university_rank.csv In

    2024年02月16日
    浏览(16)
  • 数据分析-python学习 (1)numpy相关

    数据分析-python学习 (1)numpy相关

    内容为:https://juejin.cn/book/7240731597035864121的学习笔记 numpy数组创建 创建全0数组,正态分布、随机数组等就不说了,提供了相应的方法 通过已有数据创建有两种 arr1=np.array([1,2,3,4,5]) 或者data=np.loadtxt(‘C:/Users/000001_all.csv’,dtype=‘float’,delimiter=‘,’,skiprows=1) (data=np.genfromtxt(‘

    2024年02月13日
    浏览(30)
  • Python进行数据相关性分析实战

    Python进行数据相关性分析实战

    平时在做数据分析的时候,会要对特征进行相关性分析,分析某些特征之间是否存在相关性。本文将通过一个实例来对数据进行相关性分析与展示。 本次分析的是企业合作研发模式效果分析,企业的合作研发大致分为 企企合作、企学合作、企研合作、企学研合作,也就是企

    2024年02月10日
    浏览(11)
  • 【100天精通Python】Day57:Python 数据分析_Pandas数据描述性统计,分组聚合,数据透视表和相关性分析

    目录 1 描述性统计(Descriptive Statistics) 2 数据分组和聚合 3 数据透视表 4 相关性分析

    2024年02月07日
    浏览(23)
  • python大数据分析游戏行业中的 Apache Kafka:用例 + 架构!

    python大数据分析游戏行业中的 Apache Kafka:用例 + 架构!

    这篇博文探讨了使用 Apache Kafka 的事件流如何提供可扩展、可靠且高效的基础设施,让游戏玩家开心并让游戏公司取得成功。讨论了游戏行业中的各种用例和架构,包括在线和移动游戏、博彩、赌博和视频流。 学习关于: 游戏遥测的实时分析和数据关联 实时广告和应用内购

    2024年03月27日
    浏览(16)
  • Kafka生产者相关概念

    Kafka生产者相关概念

    Kafka中消息是以topic进行分类的,Producer生产消息,Consumer消费消息,都是面向topic的。 Topic是逻辑上的概念,Partition是物理上的概念,每个Partition对应着一个log文件,该log文件中存储的就是producer生产的数据。 写入方式 producer采用推(push)模式将消息发布到broker,每条消息都

    2024年04月13日
    浏览(10)
  • Python 基于 OpenCV 视觉图像处理实战 之 图像相关的基本概念,以及图像的基础操作 一

    Python 基于 OpenCV 视觉图像处理实战 之 图像相关的基本概念,以及图像的基础操作 一

    目录 Python 基于 OpenCV 视觉图像处理实战 之 图像相关的基本概念,以及图像的基础操作 一 一、简单介绍 二、图像相关的一些基本概念 1、像素 2、图像的构成 3、图像的格式 4、图像的位深和通道 三、OpenCV 的一些基本图像处理函数介绍 1、读取一幅画图像 2、显示图像 3、输出

    2024年04月11日
    浏览(379)
  • 【头歌-数据分析与实践-python】数据分析与实践-python——python基础

    注意 : 本文档仅供参考使用,本章节程序绝大多数程序面向对象输出,一旦测试用例改变,会导致无法通过,请悉知 ! ! ! 请勿盲目使用 第1关 字符串常量的输出 第2关 输入及输出 第3关 书写一个完整的Python程序 第1关 关系运算符与单分支选择语句 第2关,3个数按从大到小依

    2024年01月23日
    浏览(42)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包