[Bigdata] 실시간 데이터 모니터링 방법 - 2. Kafka
·
Bigdata Engineering
2.2. kafka 모니터링2.2.1. 토픽 스냅샷 활용Kafka는 broker를 통해서 중재되는 pub-sub (발급-구독) 모델의 메세지 큐 입니다. 발급자(producer)가 데이터를 보내줄때 남기는 로그를 관찰하거나, consumer를 통해 적재된 데이터를 확인하여 모니터링을 할 수 있습니다.하지만 앞선 방법들로는 토픽의 실시간 흐름을 확인하기 어렵습니다. 카프카내에서 흘러가는 데이터를 뜰채로 건져(스냅샷) 컬럼값을 파싱 한 후, 현재시간과 비교 한다면 아주 좋은 모니터링이 될 수 있습니다. [KAFKA TOPIC 리스트 확인 하는법] kafka의 모든 토픽 리스트들은 아래 명령어를 통해 확인 할 수 있습니다.CLI )/usr/lib/kafka/bin/kafka-topics.sh --li..