中间件:

工具:

Kafka

  • 玩转 jmeter backend listener kafka

    玩转 jmeter backend listener kafka说到JMeter后端监听器,大家接触的一般是InfluxdbBackendListenerClient(Influxdb后端监听器),可以将测试

    2024-08-31
    16
  • Spring 对Apache Kafka的支持与集成

    Spring 对Apache Kafka的支持与集成在前面章节的学习中,我们对Spring框架的IOC实现源码有了一定的了解,接着本文继续学习Springframework一个核心的技术点AOP技

    2024-08-27
    18
  • 3分钟带你彻底搞懂 Kafka

    3分钟带你彻底搞懂 Kafka一、认识kafkaKafka到底是个啥?用来干嘛的?官方定义如下:Kafka is used for building real-time da

    2024-07-31
    31
  • kafka的controller选举

    kafka的controller选举在整个Kafka集群中,如果Controller故障异常,有可能会影响到生产和消费。所以,我们需要对其状态、选举、日志等做全面的监控。

    2024-07-30
    37
  • 原理实践,全面讲解Logstash+Kibana+kafka

    原理实践,全面讲解Logstash+Kibana+kafka前面的时候,我因为后台粉丝的一些问题,整理了一篇文章,将ELK三个技术进行详细的讲解,从原理到实践,全面覆盖,但是因为篇幅原因,我分成了两篇进行

    2024-06-29
    49
  • 原理解析|Apache Flink结合Kafka构建端到端的 Exactly-Once 处理

    原理解析|Apache Flink结合Kafka构建端到端的 Exactly-Once 处理文章目录:ApacheFlink应用程序中的Exactly-Once语义Flink应用程序端到端的Exactly-Once语义示例Flink应用

    2024-05-12
    117
  • 大白话带你认识Kafka

    大白话带你认识Kafka前言应大部分的小伙伴的要求,在Yarn之前先来一个kafka的小插曲,轻松愉快。一、Kafka基础消息系统的作用应该大部份小伙伴都清楚,用机油装

    2024-05-10
    102
  • Kafka +深度学习+ MQTT搭建可扩展的物联网平台「附源码」

    Kafka +深度学习+ MQTT搭建可扩展的物联网平台「附源码」文中链接查看,可点击:阅读原文物联网+大数据+机器学习将会是以后的趋势,这里介绍一篇这方面的文章包含源码。

    2024-04-24
    127
  • 浅谈kafka

    浅谈kafka#科技之巅#作者:京东科技 徐拥入门1、什么是kafka?apache Kafka is a distributed streaming pla

    2024-04-23
    102
  • 关于kafka的一点思考

    关于kafka的一点思考kafka以其超强的性能吸引了一众的粉丝,称霸中间件领域。要学会处理 rebalance 问题,我们需要先搞清楚 kafaka 消费者配置的四个

    2024-04-21
    118
  • 程序员必须了解的消息队列之王-Kafka

    程序员必须了解的消息队列之王-Kafka大家好,我是Java小旋风!今天给大家带来程序员必须了解的消息队列之王-Kafka。1. Kafka概述1.1 定义Kafka 是由 Apach

    2024-04-17
    87
  • kafka中的groupid

    kafka中的groupidtopic到group质检是发布订阅的通信方式,即一条topic会被所有的group消费,属于一对多模式;group到consumer是点对点通信方式,属于一对一模式。一句话,使用goup.id是为了避免数据被重复消费。Reference:[1]kafkagroupid的作用?…

    2024-03-18
    91
  • Flume+Kafka整合

    Flume+Kafka整合先使用kafka创建一个主题kafka-topics.shcreatezookeeperhadoop102:2181replication-factor1partitions1topichaha进入flume目录conf文件下写入配置文件对接kafka的收集器#起名字a1.sources=r1a1.channels=c1a1.sinks=k1#指定采集数据的来源a1.sources.r1.type=netcata1.sources.r1.bi

    2024-03-13
    120
  • 什么是Kafka?

    什么是Kafka?目录Kafka什么是消息系统?点对点发布和订阅系统什么是Kafka结构?主题和发布者集群和BrokersZookeeperKafka触发Kafka管理,创建集群和主题卡夫卡vs阿卡KafkaKafka是一个分布式发布——订阅消息传递系统。Kafka快速、可扩展且耐用。它保留主题中的消息源。生产者将数据写入主题,消费者从主题中读取数据。Zook…

    2024-03-10
    126
  • Flume对接kafka

    Flume对接kafka1.简单的对接需求:使用收集控制台的信息存储再kafka并用kafka消费者消费Flume配置文件:#Namethecomponentsonthisagenta1.sources=r1a1.sinks=k1a1.channels=c1#Describe/configurethesourcea1.sources.r1.type=netcata1.sources.r1.bind=0.0.0.0a1.sources.r1.port=444

    2024-03-01
    164
  • kafka安装教程

    kafka安装教程本文记录在linux环境下,安装kafka,并做简单测试,如果zookeeper没有安装,可参考zookeeper安装:1.下载安装包地址:http://kafka.apache.org/downloads,注意不要下载成source了。2.上传至服务器rz命令上传至服务器解压[root@localhostlocal]#tar-zxvfkafka_2.11-2.1.1.t…

    2024-02-25
    153
  • 32 道常见的 Kafka 面试题

    32 道常见的 Kafka 面试题最近很多粉丝后台留言问了一些大数据的面试题,其中包括了大量的Kafka、Spark等相关的问题,所以我特意抽出时间整理了一些大数据相关面试题,本文是Kafka面试相关问题,其他系列面试题后面会陆续整理,欢迎关注过往记忆大数据公众号。1、Kafka都有哪些特点?高吞吐量、低延迟:kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒,每个topic可以分多个partition,consumergroup对partition进行consume操作。•可扩展性:kafka集群支持热扩展•

    2024-02-22
    137
  • Kafka和MQ的差异

    Kafka和MQ的差异做为消息队列来说,企业中选择MQ的还是多数,像Rabbit,Rocket和Active等MQ中间件相对成熟,性能一般比较可靠。而kafka原本设计的初衷是日志统计分析,现在基于大数据的背景下也可以做运营数据的分析统计,而redis的主要场景是内存数据库,作为消息队列来说可靠性太差,而且速度太依赖网络IO,在服务器本机上的速度较快,且容易出现数据堆积的问题,在比较轻量的场合下能够适用。RabbitM…

    2024-02-09
    106
  • flume消费kafka数据配置

    flume消费kafka数据配置(1)在hadoop104的/opt/module/flume/conf目录下创建kafka-flume-hdfs.conf文件[mars@hadoop104conf]$vimkafka-flume-hdfs.conf在文件配置如下内容##组件a1.sources=r1r2a1.channels=c1c2a1.sinks=k1k2##source1##类型为kafkaa1.sources.r1.type=org.apache.flume.sou..

    2024-01-17
    103
  • kafka系列-kafka教程

    kafka系列-kafka教程kafka简介1、kafka是一个分布式的消息缓存系统,稳定性高,吞吐量高,适合高并发项目2、kafka集群中的服务器都叫做broker3、kafka有两类客户端,一类叫producer(消息生产者),一类叫做consumer(消息消费者),客户端和broker服务器之间采用tcp协议连接4、kafka中不同业务系统的消息可以通过topic进行区分,而且每一个消息topic都会被分

    2024-01-14
    104
关注微信