使用PHP怎么對(duì)百度閱讀進(jìn)行抓取-創(chuàng)新互聯(lián)

這篇文章將為大家詳細(xì)講解有關(guān)使用PHP怎么對(duì)百度閱讀進(jìn)行抓取，文章內(nèi)容質(zhì)量較高，因此小編分享給大家做個(gè)參考，希望大家閱讀完這篇文章后對(duì)相關(guān)知識(shí)有一定的了解。

成都創(chuàng)新互聯(lián)從2013年創(chuàng)立，是專業(yè)互聯(lián)網(wǎng)技術(shù)服務(wù)公司，擁有項(xiàng)目網(wǎng)站設(shè)計(jì)制作、做網(wǎng)站網(wǎng)站策劃，項(xiàng)目實(shí)施與項(xiàng)目整合能力。我們以讓每一個(gè)夢(mèng)想脫穎而出為使命，1280元漣水做網(wǎng)站,已為上家服務(wù),為漣水各地企業(yè)和個(gè)人服務(wù),聯(lián)系電話:028-86922220

抓取方法如下

首先在瀏覽器里打開(kāi)閱讀頁(yè)面，查看源代碼后發(fā)現(xiàn)小說(shuō)的內(nèi)容并不是直接寫在頁(yè)面里的，也就是說(shuō)小說(shuō)的內(nèi)容是通過(guò)異步加載而來(lái)的。

于是將chrome的開(kāi)發(fā)者工具切到network一欄，刷新閱讀頁(yè)面，主要關(guān)注的是XHR和script兩個(gè)分類下。

經(jīng)過(guò)排查，發(fā)現(xiàn)在script分類下有個(gè)jsonp請(qǐng)求比較像是小說(shuō)內(nèi)容，請(qǐng)求的地址是

/tupian/20230522/49422a3769eae009581becba div等等，c屬性就是內(nèi)容了，但也有兩種可能，一個(gè)是字符串，另一個(gè)是數(shù)組，數(shù)組的每個(gè)元素都是一個(gè)節(jié)點(diǎn)。

這種結(jié)構(gòu)好解析了，用一個(gè)遞歸就搞定

最終代碼如下：

<?php
class BaiduYuedu {
 protected $bookId;
 protected $bookToken;
 protected $cookie;
 protected $result;
 public function __construct($bookId, $bookToken, $cookie){
  $this->bookId = $bookId;
  $this->bookToken = $bookToken;
  $this->cookie = $cookie;
 }
 public static function parseNode($node){
  $str = '';
  if(is_string($node['c'])){
   $str .= $node['c'];
  }else if(is_array($node['c'])){
   foreach($node['c'] as $d){
    $str .= self::parseNode($d);
   }
  }
  switch($node['t']){
   case 'h3':
    $str .= "\n\n";
    break;
   case 'br':
   case 'div':
   case 'p':
    $str .= "\n";
    break;
   case 'img':
   case 'span':
    break;
   case 'obj':
    $tmp = '(' . self::parseNode($node['data'][0]) . ')';
    $str .= str_replace("\n", '', $tmp);
    break;
   default:
    trigger_error('Unkown type:'.$node['t'], E_USER_WARNING);
    break;
  }
  return $str;
 }
 public function get($page = 1){
  echo "getting page {$page}...\n";
  $ch = curl_init();
  $url = sprintf('http://wenku.baidu.com/content/%s/?m=%s&type=json&cn=%d', $this->bookId, $this->token, $page);
  curl_setopt_array($ch, array(
   CURLOPT_URL   => $url,
   CURLOPT_RETURNTRANSFER => 1,
   CURLOPT_HEADER   => 0,
   CURLOPT_HTTPHEADER  => array('Cookie: '. $this->cookie)
  ));
  $ret = json_decode(curl_exec($ch), true);
  curl_close($ch);
  $str = '';
  if(!empty($ret)){
   $str .= self::parseNode($ret);
   $str .= $this->get($page + 1);
  }
  return $str;
 }
 public function start(){
  $this->result = $this->get();
 }
 public function getResult(){
  return $this->result;
 }
 public function saveTo($path){
  if(empty($this->result)){
   trigger_error('Result is empty', E_USER_ERROR);
   return;
  }
  file_put_contents($path, $this->result);
  echo "save to {$path}\n";
 }
}
//使用示例
$yuedu = new BaiduYuedu('49422a3769eae009581becba', '8ed1dedb240b11bf0731336eff95093f', '你的百度域cookie');
$yuedu->start();
$yuedu->saveTo('result.txt');

這個(gè)類前兩個(gè)參數(shù)可以從小說(shuō)的介紹頁(yè)面獲得，第一個(gè)參數(shù)bookId就是url里ebook后面跟著的字符串，第二個(gè)參數(shù)bookToken在頁(yè)面源代碼搜索bdjsonUrl，m參數(shù)后面的那個(gè)字符串就是。

注：如果不傳入百度cookie或者百度cookie無(wú)效，則只能抓取免費(fèi)閱讀部分，要抓完整的內(nèi)容必須保證cookie可以正常使用。

關(guān)于使用PHP怎么對(duì)百度閱讀進(jìn)行抓取就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，可以學(xué)到更多知識(shí)。如果覺(jué)得文章不錯(cuò)，可以把它分享出去讓更多的人看到。

文章名稱：使用PHP怎么對(duì)百度閱讀進(jìn)行抓取-創(chuàng)新互聯(lián)
瀏覽地址：http://bm7419.com/article48/hsehp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供定制開(kāi)發(fā)、虛擬主機(jī)、Google、網(wǎng)站改版、網(wǎng)站制作、動(dòng)態(tài)網(wǎng)站

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源：創(chuàng)新互聯(lián)

猜你還喜歡下面的內(nèi)容