登录
微信搜索superit|邀请体验：大数据, 数据管理、OLAP分析与可视化平台 | 赞助作者：赞助作者

标签：kafka

kafka

rsyslog 接入权限认证的Kafka集群

说明： kafka权限接入包含两种方式，了解具体接入可参考 本案例使用kafka的第二种使用方式，案例如下： Icon SparkConf sparkConf = new SparkConf() .setAppName("JavaSparkStream...

4年前 (2020-12-29) 7℃

kafka

kafka单条日志超过1M解决方案

一、说明 kafka默认会丢弃超过单调日志超过1M的记录。如果单条日志超出1M（压缩后），客户端会报出如下错误。 错误日志 Icon java.util.concurrent.ExecutionException: org.apache.kafka.commo...

4年前 (2020-12-29) 9℃

日志采集

日志实时收集之FileBeat+Kafka

日志实时收集之FileBeat+Kafka
flume,logstash 都是基于jvm的,都比较耗资源,而filebeat是基于go的,把logstash的核心拿出来了,但是没有执行格式化,只是在端上采集,,,, 之前，我们的某一个业务用于实时日志收集处理的架构大概是这样的： http://rk700...

4年前 (2020-12-29) 5℃

kafka

kafka单独设置数据过期时间

kafka 单独设置某个topic的数据过期时间 kafka 默认存放7天的临时数据，如果遇到磁盘空间小，存放数据量大，可以设置缩短这个时间。 全局设置 修改 server.properties log.retention.hours=72 log.cleanup...

4年前 (2020-12-29) 7℃

kafka

centos环境下docker-compose部署kafka集群

centos环境下docker-compose部署kafka集群 简介:docker-compose使用配置文件(docker-compose.yml)配置管理多个docker容器，在配置文件中，所有的容器通过service来定义，使用docker-compose启动，停止...

5年前 (2020-03-27) 11℃

hadoop

一键安装kafka，hadoop和spark集群

在项目中，需要用Kafka做消息队列提供容灾。用Hadoop+HBase+Spark做分布式存储和计算。由于已经搭建过N次环境了，真的要吐了，所以决心写一个部署脚本，避免重复劳动。 1. 下载脚本和安装包 （1）安装脚本的码云链接 （2）安装包的百度云盘链接 文件提...

5年前 (2020-03-27) 14℃

java

kafka在生产过程中的使用,新手教程(二)

acks=0：如果设置为0，生产者不会等待kafka的响应。   acks=1：这个配置意味着kafka会把这条消息写到本地日志文件中，但是不会等待集群中其他机器的成功响应。   acks=all：这个配置意味着leader会等待所有的follower同步完成...

5年前 (2020-02-22) 31℃

java

kafka在消费过程中的使用,新手教程(一)

当各分区下有已提交的offset时，从提交的offset开始消费；无提交的offset时，消费新产生的该分区下的数据   没什么好说的,直接上代码:   import java.util.Arrays; import java.util.Properti...

5年前 (2020-02-20) 32℃

python

python操作kafka实践

python操作kafka实践
1、先看最简单的场景，生产者生产消息，消费者接收消息，下面是生产者的简单代码。 -------------------------------------------------------------------------------- #!/usr/bin/env ...

6年前 (2019-06-14) 35℃

elasticsearch

零门槛！使用Docker快速部署ES集群

零门槛！使用Docker快速部署ES集群 张戈 原文链接 发表于张戈的专栏订阅 2K 在这篇文章中： 一、整体架构 本文涉及的 IP 的角色属性清单： 二、Docker 资源 1、Docker 私有仓库搭建（针对内网环境） 2、所有服务器节点都安装要 docker，并开启私有仓库...

6年前 (2019-03-27) 25℃

kafka

kafka常用运维命令

kafka常用运维命令 2015年11月03日 16:06:54 huanggang028 阅读数：14119更多 个人分类： kafka 列出所有topic： bin/kafka-topics.sh –zookeeper localhost:2181 ̵...

6年前 (2019-03-26) 29℃

kafka

kafka一些基本操作

kafka一些基本操作 2016年05月31日 15:27:57 yilan1993 阅读数：1967 查看某个topic各个分区的位置： bin/kafka-topics.sh --topic test1349 --describe --zookeeper ip:2181 ...

6年前 (2019-03-26) 21℃

java

Kafka 生产者和消费者的笔记

Kafka 生产者和消费者的笔记 2016年12月23日 11:27:37 梦醉天下 阅读数：11306 版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/dreamsigel/article/details/53836427 M...

6年前 (2019-03-26) 28℃

java

Kafka java实例代码

Kafka java实例代码 2017年08月14日 15:15:30 _kairui 阅读数：5892 工程准备 1、首先搭建Kafka集群环境，这里我们kafka的集群环境已经搭建好的，详情参考： http://blog.csdn.net/liulihui1988/artic...

6年前 (2019-03-26) 26℃

java

关于Kafka 的 consumer 消费者手动提交详解

关于Kafka 的 consumer 消费者手动提交详解 前言 在上一篇 Kafka使用Java实现数据的生产和消费demo 中介绍如何简单的使用kafka进行数据传输。本篇则重点介绍kafka中的 consumer 消费者的讲解。 应用场景 在上一篇kafka的consumer...

6年前 (2019-03-26) 36℃

java

Java实现Kafka的生产者、消费者

Java实现Kafka的生产者、消费者 一、生产者 import org.apache.kafka.clients.producer.KafkaProducer; import org.apache.kafka.clients.producer.ProducerRecord; ...

6年前 (2019-03-26) 30℃

kafka

Kafka java api-生产者代码、高性能吞吐

Kafka java api-生产者代码、高性能吞吐
Kafka java api-生产者代码、高性能吞吐 前面做过命令行让生产者发送消息，现在使用java api来进行消息的生产，以及解释kafka高性能是如何实现（来源于学习资料）。 使用shell创建topic和发送消息如下： #参数：zookeeper连接地址和端口号，副本数...

6年前 (2019-03-26) 30℃

kafka

kafka监控topic消费

kafka监控topic消费 2018年01月11日 17:52:33 老蔡Code 阅读数：3565 一、KafkaOffsetMonitor监控 安装 1.wget https://github.com/quantifind/KafkaOffsetMonitor/releas...

6年前 (2019-03-26) 23℃

未分类

#kafka shell脚本用法详解

#kafka shell脚本用法详解 2018年07月14日 21:18:51 阿飞Javaer 阅读数：4150更多 所属专栏： kafka 版权声明：本文为阿飞Javaer博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/feelwing13...

6年前 (2019-03-25) 28℃

kafka

kafka一些基本操作

kafka一些基本操作 2016年05月31日 15:27:57 yilan1993 阅读数：1967 1. 查看某个topic各个分区的位置： bin/kafka-topics.sh –topic test1349 –describe R...

6年前 (2019-03-24) 24℃