Java的HadoopFileInputFormat切片機(jī)制怎么理解

本篇內(nèi)容主要講解“Java的Hadoop FileInputFormat切片機(jī)制怎么理解”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實(shí)用性強(qiáng)。下面就讓小編來帶大家學(xué)習(xí)“Java的Hadoop FileInputFormat切片機(jī)制怎么理解”吧!

專注于為中小企業(yè)提供成都網(wǎng)站建設(shè)、成都網(wǎng)站制作服務(wù),電腦端+手機(jī)端+微信端的三站合一,更高效的管理,為中小企業(yè)賓川免費(fèi)做網(wǎng)站提供優(yōu)質(zhì)的服務(wù)。我們立足成都，凝聚了一批互聯(lián)網(wǎng)行業(yè)人才，有力地推動了數(shù)千家企業(yè)的穩(wěn)健成長，幫助中小企業(yè)通過網(wǎng)站建設(shè)實(shí)現(xiàn)規(guī)模擴(kuò)充和轉(zhuǎn)變。

MapTask的并行度決定Map階段的任務(wù)處理并發(fā)度，進(jìn)而影響到整個Job的處理速度。

思考：1G的數(shù)據(jù)，啟動8個MapTask，可以提高集群的并發(fā)處理能力。那么1K的數(shù)據(jù)，也啟動8個MapTask，會提高集群性能嗎？MapTask并行任務(wù)是否越多越好呢？哪些因素影響了MapTask并行度？

切片與MapTask并行度決定機(jī)制

數(shù)據(jù)塊：Block是HDFS物理上把數(shù)據(jù)分成一塊一塊，默認(rèn)大小是128M。

數(shù)據(jù)切片：數(shù)據(jù)切片只是在邏輯上對輸入數(shù)據(jù)進(jìn)行分片，并不會在磁盤上將其切分成片進(jìn)行存儲。

Job提交流程源碼和切片源碼詳解

waitForCompletion() ## 這是調(diào)用的方法 
submit();
// 1建立連接  connect();      // 1）創(chuàng)建提交Job的代理    new Cluster(getConfiguration());      // （1）判斷是本地yarn還是遠(yuǎn)程      initialize(jobTrackAddr, conf);
// 2 提交jobsubmitter.submitJobInternal(Job.this, cluster)  // 1）創(chuàng)建給集群提交數(shù)據(jù)的Stag路徑  Path jobStagingArea = JobSubmissionFiles.getStagingDir(cluster, conf);
  // 2）獲取jobid ，并創(chuàng)建Job路徑  JobID jobId = submitClient.getNewJobID();
  // 3）拷貝jar包到集群copyAndConfigureFiles(job, submitJobDir);    rUploader.uploadFiles(job, jobSubmitDir);
// 4）計(jì)算切片，生成切片規(guī)劃文件writeSplits(job, submitJobDir);    maps = writeNewSplits(job, jobSubmitDir);    input.getSplits(job);
// 5）向Stag路徑寫XML配置文件writeConf(conf, submitJobFile);  conf.writeXml(out);
// 6）提交Job,返回提交狀態(tài)status = submitClient.submitJob(jobId, submitJobDir.toString(), job.getCredentials());

FileInputFormat切片源碼解析(input.getSplits(job))

到此，相信大家對“Java的Hadoop FileInputFormat切片機(jī)制怎么理解”有了更深的了解，不妨來實(shí)際操作一番吧！這里是創(chuàng)新互聯(lián)網(wǎng)站，更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢，關(guān)注我們，繼續(xù)學(xué)習(xí)！

文章標(biāo)題：Java的HadoopFileInputFormat切片機(jī)制怎么理解
網(wǎng)站URL：http://bm7419.com/article38/jdcosp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站建設(shè)、網(wǎng)站制作、網(wǎng)站排名、用戶體驗(yàn)、網(wǎng)站收錄、小程序開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)