卡夫卡基本介绍
<代码>概念 一个分布式流处理平台,消息订阅平台,一般有三个特性代码>
-
<李>可以让你发布和订阅流式的记录。这一方面与消息队列或者企业消息系统类似。李>
<李>可以储存流式的记录,并且有较好的容错性。李>
<李>可以在流式记录产生时就进行处理。李>
适用场景
-
<李>构造实时流数据管道,它可以在系统或应用之间可靠地获取数据。(相当于消息队列)李>
<李>
构建实时流式应用程序,对这些流数据进行转换或者影响。(就是流处理,通过卡夫卡流主题和主题之间内部进行变化)
部署安装
李>卡夫卡部署安装需要依赖于zoookper和java环境
安装java环境
yum安装java-1.8.0-openjdk * - y
安装zoookper
-
<李>下载软件包李>
解压缩到指定位置
-
<李>修改配置文件李>
cp zoo_sample。cfg zoo.cfg
配置文件如下,创建所需要的目录
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/usr/地方/zookeeper_data
clientPort=2181
-
<李>制作标准服务启动李>
(单位)
描述=zookeeper.service后
=network.target
[服务]
Type=分支
ExecStart=/usr/地方/管理员/bin/zkServer。sh开始
ExecStop=/usr/地方/管理员/bin/zkServer。sh停止
ExecReload=/usr/地方/管理员/bin/zkServer。sh重启
(安装)
WantedBy=multi-user.target
systemctl开始动物园管理员
安装卡夫卡
curl https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.1.0/kafka_2.12-2.1.0.tgz瞧
解压缩到指定位置
-
<李>
修改配置文件
server.properties 李>
broker.id=1
本地主机端口=9092
host.name=
log.dirs=/usr/地方/kafka_logs
zookeeper.connect=localhost: 2181
<代码> zookeeper.properties 代码>
dataDir=/usr/地方/kafaka_data
clientPort=2181
maxClientCnxns=0
host.name=localhost
<代码> producer.properties 代码>
metadata.broker.list=localhost: 9092
bootstrap.servers=localhost: 9092
compression.type=没有
<代码> consumer.properties 代码>
bootstrap.servers=localhost: 9092
group.id=test-consumer-group
zookeeper.connect=localhost: 2181
<代码> *制作标准服务启动代码>猫/etc/systemd/system/kafka.service
(单位)
描述=Apache卡夫卡服务器(代理)后
=network.target
=syslog.target后后
=zookeeper.target
[服务]
Type=分支
用户=根
组=根
ExecStart=/usr/地方/卡夫卡/bin/kafka-server-start。sh守护进程/usr/local/kafka/config/server.properties
ExecStop=/usr/地方/卡夫卡/bin/kafka-server-stop.sh
ExecReload=美元/bin/杀死玫瑰MAINPID
KillMode=没有
重启=失败
RestartSec=5 s
WantedBy=multi-user.target
systemctl开始卡夫卡
-
<李>测试李>
创建话题
/bin/kafka-topics话题。sh——创建管理员localhost: 2181 - replication因子设置分区1——1——主题kafka01
创建主题“kafka01"。
bin/kafka-topics。sh——列表管理员localhost: 2181
启动消息生产者并发送消息
bin/kafka-console-producer。sh——券商名单上localhost: 9092——主题kafka01
启动消息消费者并收到消息
bin/kafka-console-consumer。sh -饲养员localhost: 2181——主题kafka01从头
查看主题列表详细信息
bin/kafka-topics。sh -饲养员localhost: 2181——列表
bin/kafka-topics。sh -饲养员localhost: 2181——主题kafka01描述
主题:kafka01 PartitionCount: 1 ReplicationFactor: 1款:
主题:kafka01分区:0领袖:1副本:1 Isr: 1
拓展分区
bin/kafka-topics。sh -饲养员localhost: 2181——改变话题kafka01——分区2
bin/kafka-topics。sh -饲养员localhost: 2181——主题kafka01描述
主题:kafka01 PartitionCount: 2 ReplicationFactor: 1款:
主题:kafka01分区:0领袖:1副本:1 Isr: 1