Kafka 数据收集器
Data Infrastructure Insight使用此数据收集器从Kafka收集指标。
安装
-
从*Observability > Collectors*中,单击*+Data Collector*。选择Kafka。
选择安装了 Telegraf 代理的操作系统或平台。
-
如果尚未安装用于收集的代理,或者要为其他操作系统或平台安装代理,请单击_Show Instructions _展开说明。"代理安装"
-
选择要用于此数据收集器的代理访问密钥。您可以通过单击 * + 代理访问密钥 * 按钮来添加新的代理访问密钥。最佳实践:仅当您要按操作系统 / 平台对数据收集器进行分组时,才使用其他代理访问密钥。
-
按照配置步骤配置数据收集器。这些说明因用于收集数据的操作系统或平台的类型而异。
设置
Kafka 插件基于此电报的 JOLokia 插件。例如,需要从所有 Kafka 代理收集信息,因此需要在所有组件上通过 Jallokia 配置和公开 JMX 。
兼容性
此配置是根据 Kafka 0.11.0.2 版开发的。
设置
以下所有说明均假定您的 Kafka 安装位置为 "/opt/Kafka" 。您可以根据安装位置调整以下说明。
JOLokia Agent Jar
Jolokia代理jar文件的版本必须为"已下载"。测试的版本为 JOLokia 代理 1.6.0 。
以下说明假定下载的 JAR 文件( jolokia-jvm-1.6.0-agent.jar )位于 "/opt/Kafka/libs/" 位置下。
Kafka 代理
要配置 Kafka 代理以公开此 JOLokia API ,您可以在调用 "Kafka-run-class.sh" 之前的 <Kafka_home>/bin/Kafka-server-start.sh 中添加以下内容:
export JMX_PORT=9999 export RMI_HOSTNAME=`hostname -I` export KAFKA_JMX_OPTS="-javaagent:/opt/kafka/libs/jolokia-jvm-1.6.0-agent.jar=port=8778,host=0.0.0.0 -Dcom.sun.management.jmxremote.password.file=/opt/kafka/config/jmxremote.password -Dcom.sun.management.jmxremote.ssl=false -Djava.rmi.server.hostname=$RMI_HOSTNAME -Dcom.sun.management.jmxremote.rmi.port=$JMX_PORT"
请注意,上述示例使用 "hostname -i" 设置 "RMI_HOSTNAME" 环境变量。在多个 IP 计算机中,需要对其进行调整,以收集您关心的用于 RMI 连接的 IP 。
您可以为 JMX (上面为 9999 )和朱洛基亚( 8778 )选择其他端口。如果您有一个内部 IP 来锁定 Jallokia ,则可以将 "catch all" 0.0.0.0 替换为您自己的 IP 。请注意,此 IP 需要可从电报插件访问。如果您不想进行身份验证,可以使用选项 -Dcom.sun.management.jmxremote.authenticate=false' 。使用风险自行承担。
对象和计数器
将收集以下对象及其计数器:
对象: | 标识符: | 属性: |
---|---|---|
Kafka Broker |
集群命名空间代理 |
节点名称节点 IP |
故障排除
有关其他信息、请参见"支持"页面。