Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問題怎么辦-創(chuàng)新互聯(lián)

這篇文章主要為大家展示了“Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問題怎么辦”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問題怎么辦”這篇文章吧。

創(chuàng)新互聯(lián)建站主營六盤水網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營網(wǎng)站建設(shè)方案,App定制開發(fā),六盤水h5微信小程序開發(fā)搭建,六盤水網(wǎng)站營銷推廣歡迎六盤水等地區(qū)企業(yè)咨詢

調(diào)用agent 配置文件的：

#Describe the sink  添加：

a1.sinks.k1.hdfs.rollSize=0

a1.sinks.k1.hdfs.rollCount=0
rollSize
默認(rèn)值：1024，當(dāng)臨時(shí)文件達(dá)到該大?。▎挝唬篵ytes）時(shí)，滾動(dòng)成目標(biāo)文件。如果設(shè)置成0，則表示不根據(jù)臨時(shí)文件大小來滾動(dòng)文件。
rollCount
默認(rèn)值：10，當(dāng)events數(shù)據(jù)達(dá)到該數(shù)量時(shí)候，將臨時(shí)文件滾動(dòng)成目標(biāo)文件，如果設(shè)置成0，則表示不根據(jù)events數(shù)據(jù)來滾動(dòng)文件。

還有另一種出現(xiàn)大量小文件對應(yīng)的解決方案，即設(shè)置a1.sinks.k1.hdfs.minBlockReplicas=1。因?yàn)槲募?huì)因?yàn)樗趬K的復(fù)制而滾動(dòng)文件 待測試......

以上是“Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問題怎么辦”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道！

文章題目：Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問題怎么辦-創(chuàng)新互聯(lián)
分享路徑：http://bm7419.com/article10/hdsdo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供自適應(yīng)網(wǎng)站、品牌網(wǎng)站制作、網(wǎng)頁設(shè)計(jì)公司、網(wǎng)站制作、微信公眾號、用戶體驗(yàn)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)