抓取網(wǎng)頁代碼java java爬蟲抓取網(wǎng)頁數(shù)據(jù)

Java訪問指定URL并獲取網(wǎng)頁源代碼

1．編寫useSourceViewer 類的基本框架，該類僅包括無返回值的main ()方法，該方法從參數(shù)中獲取URL，通過輸入緩沖和輸出緩沖將該URL 原碼輸出。

站在用戶的角度思考問題，與客戶深入溝通，找到昆明網(wǎng)站設(shè)計與昆明網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗，讓設(shè)計與互聯(lián)網(wǎng)技術(shù)結(jié)合，創(chuàng)造個性化、用戶體驗好的作品，建站類型包括：成都網(wǎng)站制作、做網(wǎng)站、企業(yè)官網(wǎng)、英文網(wǎng)站、手機端網(wǎng)站、網(wǎng)站推廣、申請域名、雅安服務(wù)器托管、企業(yè)郵箱。業(yè)務(wù)覆蓋昆明地區(qū)。

2．編寫useSourceViewer 類，代碼如下：

import java.net.*;

import java.io.*;

public class useSourceViewer

{

public static void main (String[] args)

{

if (args.length 0)

{

try

{

//讀入URL

URL u = new URL(args[0]);

InputStream in = u.openStream( );

// 為增加性能存儲輸入流

in = new BufferedInputStream(in);

// 將輸入流連接到閱讀器

Reader r = new InputStreamReader(in);

int c;

while ((c = r.read( )) != -1)

{

System.out.print((char) c);

}

Object o = u.getContent( );

System.out.println("I got a " + o.getClass().getName( ));

}

catch (MalformedURLException e)

{

System.err.println(args[0] + " is not a parseable URL");

}

catch (IOException e)

{

System.err.println(e);

}

} // end if

} // end main

} // end SourceViewer}

java中如何根據(jù)一個網(wǎng)址獲得該網(wǎng)頁的源代碼？

package test;

import java.io.BufferedReader;

import java.io.InputStreamReader;

import java.net.HttpURLConnection;

import java.net.URL;

public class HttpTest {

private String u;

private String encoding;

public static void main(String[] args) throws Exception {

HttpTest client = new HttpTest("", "UTF-8");

client.run();

}

public HttpTest(String u, String encoding) {

this.u = u;

this.encoding = encoding;

}

public void run() throws Exception {

URL url = new URL(u);// 根據(jù)鏈接（字符串格式），生成一個URL對象

HttpURLConnection urlConnection = (HttpURLConnection) url

.openConnection();// 打開URL

BufferedReader reader = new BufferedReader(new InputStreamReader(

urlConnection.getInputStream(), encoding));// 得到輸入流，即獲得了網(wǎng)頁的內(nèi)容

String line; // 讀取輸入流的數(shù)據(jù)，并顯示

while ((line = reader.readLine()) != null) {

System.out.println(line);

}

}

}

根據(jù)具體問題類型，進(jìn)行步驟拆解／原因原理分析／內(nèi)容拓展等。

具體步驟如下：／導(dǎo)致這種情況的原因主要是……

如何通過Java代碼實現(xiàn)對網(wǎng)頁數(shù)據(jù)進(jìn)行指定抓取

通過Java代碼實現(xiàn)對網(wǎng)頁數(shù)據(jù)進(jìn)行指定抓取方法步驟如下：

1在工程中導(dǎo)入Jsoup.jar包

2獲取網(wǎng)址url指定HTML或者文檔指定的body

3獲取網(wǎng)頁中超鏈接的標(biāo)題和鏈接

4獲取指定博客文章的內(nèi)容

5獲取網(wǎng)頁中超鏈接的標(biāo)題和鏈接的結(jié)果

如何java寫/實現(xiàn)網(wǎng)絡(luò)爬蟲抓取網(wǎng)頁

網(wǎng)絡(luò)爬蟲是一個自動提取網(wǎng)頁的程序，它為搜索引擎從萬維網(wǎng)上下載網(wǎng)頁，是搜索引擎的重要組成。傳統(tǒng)爬蟲從一個或若干初始網(wǎng)頁的URL開始，獲得初始網(wǎng)頁上的URL，在抓取網(wǎng)頁的過程中，不斷從當(dāng)前頁面上抽取新的URL放入隊列，直到滿足系統(tǒng)的一定停止條件。

java實現(xiàn)網(wǎng)頁源碼獲取的步驟：

(1)新建URL對象，表示要訪問的網(wǎng)址。如：url=new URL("");

(2)建立HTTP連接，返回連接對象urlConnection對象。如：urlConnection = (HttpURLConnection)url.openConnection();

(3)獲取相應(yīng)HTTP 狀態(tài)碼。如responsecode=urlConnection.getResponseCode();

(4)如果HTTP 狀態(tài)碼為200，表示成功。從urlConnection對象獲取輸入流對象來獲取請求的網(wǎng)頁源代碼。

網(wǎng)頁標(biāo)題：抓取網(wǎng)頁代碼java java爬蟲抓取網(wǎng)頁數(shù)據(jù)
網(wǎng)頁網(wǎng)址：http://bm7419.com/article26/ddccdcg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供動態(tài)網(wǎng)站、域名注冊、網(wǎng)站建設(shè)、定制網(wǎng)站、關(guān)鍵詞優(yōu)化、小程序開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)