Kafka 資料收集器
Data Infrastructure Insights使用此數據收集器從 Kafka 收集指標。
安裝
-
從*可觀察性 > 收集器*中,按一下*+資料收集器*。選擇 Kafka。
選擇安裝 Telegraf 代理程式的作業系統或平台。
-
如果您尚未安裝用於收集的代理,或者您希望為不同的作業系統或平台安裝代理,請按一下「顯示說明」以展開"代理安裝"指示。
-
選擇用於此資料收集器的代理存取金鑰。您可以透過點擊 + 代理存取金鑰 按鈕新增新的代理存取金鑰。最佳實務:只有當您想要對資料收集器進行分組(例如按作業系統/平台)時才使用不同的代理存取金鑰。
-
依照設定步驟配置資料收集器。說明根據您用於收集資料的作業系統或平台的類型而有所不同。

設定
Kafka插件基於telegraf的Jolokia插件。由於需要從所有 Kafka 代理程式收集信息,因此需要在所有元件上配置並透過 Jolokia 公開 JMX。
相容性
配置是針對 Kafka 版本 0.11.0.2 開發的。
設定
以下所有說明均假設 kafka 的安裝位置是「/opt/kafka」。您可以調整以下說明以反映您的安裝位置。
鬼椒特效罐
Jolokia 代理 jar 檔案必須是"下載"。測試的版本是 Jolokia 代理 1.6.0。
以下說明假設下載的 jar 檔案(jolokia-jvm-1.6.0-agent.jar)位於「/opt/kafka/libs/」位置下。
Kafka 經紀人
要設定 Kafka Brokers 以公開 Jolokia API,您可以在 <KAFKA_HOME>/bin/kafka-server-start.sh 中的「kafka-run-class.sh」呼叫之前新增以下內容:
export JMX_PORT=9999 export RMI_HOSTNAME=`hostname -I` export KAFKA_JMX_OPTS="-javaagent:/opt/kafka/libs/jolokia-jvm-1.6.0-agent.jar=port=8778,host=0.0.0.0 -Dcom.sun.management.jmxremote.password.file=/opt/kafka/config/jmxremote.password -Dcom.sun.management.jmxremote.ssl=false -Djava.rmi.server.hostname=$RMI_HOSTNAME -Dcom.sun.management.jmxremote.rmi.port=$JMX_PORT"
請注意,上面的範例使用“hostname -I”來設定“RMI_HOSTNAME”環境變數。在多個 IP 機器中,需要進行調整以收集您關心的 RMI 連線 IP。
您可以為 JMX(9999 以上)和 Jolokia(8778)選擇不同的連接埠。如果您有一個內部 IP 來鎖定 Jolokia,您可以用自己的 IP 替換「catch all」 0.0.0.0。請注意,此 IP 需要可從 telegraf 插件存取。如果您不想進行身份驗證,可以使用選項「-Dcom.sun.management.jmxremote.authenticate=false」。使用風險自負。
物體和計數器
收集以下物件及其計數器:
| 目的: | 標識符: | 屬性: |
|---|---|---|
卡夫卡經紀人 |
叢集命名空間代理 |
節點名稱 節點IP |
故障排除
更多資訊可從"支援"頁。