總結(jié)一次kafka的consumer消費(fèi)能力很低的處理方案-創(chuàng)新互聯(lián)

問題

項(xiàng)目使用spring-kafka操作消費(fèi)kafka
近期出現(xiàn)消費(fèi)速度變慢,consumer消費(fèi)一條數(shù)據(jù)平均需要200ms的時(shí)間,并且頻繁發(fā)生,consumer會(huì)停止消費(fèi)十幾秒。

成都創(chuàng)新互聯(lián)公司專注于成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)、網(wǎng)頁設(shè)計(jì)、網(wǎng)站制作、網(wǎng)站開發(fā)。公司秉持“客戶至上,用心服務(wù)”的宗旨,從客戶的利益和觀點(diǎn)出發(fā),讓客戶在網(wǎng)絡(luò)營銷中找到自己的駐足之地。尊重和關(guān)懷每一位客戶,用嚴(yán)謹(jǐn)?shù)膽B(tài)度對(duì)待客戶,用專業(yè)的服務(wù)創(chuàng)造價(jià)值,成為客戶值得信賴的朋友,為客戶解除后顧之憂。

日志分析

以下為日志記錄,consumer會(huì)時(shí)長(zhǎng)從消費(fèi)組中掉出再重新加入

o.a.k.c.c.i.AbstractCoordinator:542 - Marking the coordinator 127.0.0.1:9092 (id: 2147483643 rack: null) dead for group group.id 
o.a.k.c.c.i.AbstractCoordinator:505 - Discovered coordinator 127.0.0.1:9092 (id: 2147483643 rack: null) for group group.id. 
o.a.k.c.c.i.ConsumerCoordinator:292 - Revoking previously assigned partitions [topic-12] for group group.id 
o.a.k.c.c.i.AbstractCoordinator:326 - (Re-)joining group group.id 
o.a.k.c.c.i.AbstractCoordinator$SyncGroupResponseHandler:434 - Successfully joined group group.id with generation 12182 
o.a.k.c.c.i.ConsumerCoordinator:231 - Setting newly assigned partitions [topic-12] for group group.id 

解決方案

kafka服務(wù)配置文件server.properties提高系統(tǒng)配置參數(shù)

#Broker處理消息的大線程數(shù)
num.network.threads=cpu核數(shù)加1
#Broker處理磁盤IO的線程數(shù)
num.io.threads=cpu核數(shù)2倍,大不超過3倍

備份并重啟kafka服務(wù)

當(dāng)前文章:總結(jié)一次kafka的consumer消費(fèi)能力很低的處理方案-創(chuàng)新互聯(lián)
網(wǎng)頁路徑:http://www.bm7419.com/article40/iheeo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供自適應(yīng)網(wǎng)站、全網(wǎng)營銷推廣、品牌網(wǎng)站建設(shè)網(wǎng)站排名、網(wǎng)站設(shè)計(jì)、定制開發(fā)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)

外貿(mào)網(wǎng)站制作