본문 바로가기

OpenSource

(12)
kafkacat 이용해서 메시지 수신 시각 확인해보기 kafka 에 메시지 수신된 시점을 확인해보려고 이것저것 시도해보는 중인데 이번에는 kafkacat 을 한 번 이용해봤다. windows 10 의 wsl 에 kafkacat 을 설치했다 (wsl 로 ubuntu 설치된 상태라 간단하게 다음 명령으로 설치) $ sudo apt-get install kafkacat kafkacat 로 컨슈밍한 메시지를 특정 토픽으로 다시 전송한 후 -f 옵션으로 Timestamp 와 메시지 본문 출력을 파일로 저장. $ kafkacat -C -b 172.20.130.105:9091 -t demo | kafkacat -P -b 172.20.130.105:9091 -t demo-out $ kafkacat -C -b broker_ip:9091 -t demo-out -f '%T %..
Kafka mqtt connector 사용법 - RabbitMQ Kafka mqtt connector 사용법 - Mqtt Broker 글 쓴 후 mqtt broker 로 RabbitMQ 사용하는 구조에 대한 추가 검토가 필요해져서 테스트한 내용 이어서 정리해보겠습니다. Kafka mqtt connector 사용법 mqtt 와 kafka 연동할 일이 생겨서 기술 검토를 진행했다. 일반적으로 언급되는 구조가 위 이미지처럼 mqtt broker 를 이용해서 통신하는 방법이던데 온라인 상의 다수의 레퍼런스가 confluent 의 mqtt brok tzara.tistory.com MQTT Plugin MQTT Plugin — RabbitMQ MQTT Plugin RabbitMQ supports MQTT 3.1.1 via a plugin that ships in the core..
Kafka mqtt connector 사용법 - mqtt broker mqtt 와 kafka 연동할 일이 생겨서 기술 검토를 진행했다. 일반적으로 언급되는 구조가 위 이미지처럼 mqtt broker 를 이용해서 통신하는 방법이던데 온라인 상의 다수의 레퍼런스가 confluent 의 mqtt broker 사용예라서 그 중 하나 따라서 해보았다(confluent platform(community 라이센스) 사전 설치했는데 이 설치 절차는 패스). Apache Kafka / Kafka Connect / MQTT / Mosquitto Live Demo confluent platform 설정에서 무언가 빠뜨렸는지 메시지 convert 과정에서 에러가 발생해서 connector 설정에 ByteArrayConverter 추가해준 거외는 거의 똑같이 진행했고 무난하게 성공했다. "val..
Kafka 모니터링 - burrow 설치 Kafka Lag 모니터링을 위해 윈도우 머쉰에 burrow 설치한 절차, 간략하게 팀 내 공유했던거 옮겨봅니다. 설치용 바이너리 파일 제공되지 않고 소스를 다운 받아 빌드를 해야 함. 빌드를 위해서는 go 언어 설치 및 기본 환경 설정되어 있어야 하는데 이에 대한 설명은 온라인에서 참고 바람. 이하는 go 언어 설치가 되어 있다는 전제 하에 Windows 용 실행 파일 생성하는 절차임. burrow 빌드 및 인스톨. https://github.com/linkedin/Burrow에서 소스 다운로드 다운로드한 디렉토리로 이동 후 다음 명령 실행. $ go mod tidy $ go install 에러 발생하지 않는다면 %GOPATH%\bin 디렉토리에 Burrow.exe 생성 됨. burrow 설정 burr..