python爬蟲批量獲取代理ip的實例代碼-創(chuàng)新互聯(lián)

實例如下所示：

創(chuàng)新互聯(lián)建站成立十年來，這條路我們正越走越好，積累了技術與客戶資源，形成了良好的口碑。為客戶提供成都做網(wǎng)站、網(wǎng)站建設、外貿營銷網(wǎng)站建設、網(wǎng)站策劃、網(wǎng)頁設計、主機域名、網(wǎng)絡營銷、VI設計、網(wǎng)站改版、漏洞修補等服務。網(wǎng)站是否美觀、功能強大、用戶體驗好、性價比高、打開快等等，這些對于網(wǎng)站建設都非常重要，創(chuàng)新互聯(lián)建站通過對建站技術性的掌握、對創(chuàng)意設計的研究為客戶提供一站式互聯(lián)網(wǎng)解決方案，攜手廣大客戶，共同發(fā)展進步。 
import urllib.request
import os, re,sys,time
try:
 from StringIO import StringIO
except ImportError:
 from io import StringIO
loca = re.compile(r"""ion":"\D+", "ti""")
#偽裝成瀏覽器
header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36'}
class Getip():
 def __init__(self,diqu):
  self.ur ={"xicidaili國內普通代理 --1線":"http://www.xicidaili.com/nt/",
        
    "ip84國內普通代理 --2線":'http://www.ip84.com/dlpn-http/',
        
    'xicidaili國內高匿名代理 --1線':'http://www.xicidaili.com/nn/',
       
    'ip84國內高匿名代理 --2線':'http://www.ip84.com/dlgn-http/',
    
    'xicidaili國外高匿名代理 --1線':'http://www.xicidaili.com/wn/',
    
    'ip84國外高匿名代理 --2線':'http://www.ip84.com/gwgn-http/',
    'xicidaili國外普通代理 --1線':'http://www.xicidaili.com/wt/',
    'haodailiip國內混合代理 --3線':'http://www.haodailiip.com/guonei/',
    'haodailiip國外混合代理 --3線':'http://www.haodailiip.com/guoji/',
        }
  self.diqu = diqu
 
 def urlopen(self,url):
  global header
  try:
   req = urllib.request.Request(url, None, header)
   res=urllib.request.urlopen(req)
  
   return res
  except:
   pass
 def getip(self,ren):
  '''url = "http://proxy.ipcn.org/proxylist.html"#代理IP頁面
  ip_proxy_re = re.compile(r"""\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}:\d{1,}""")# 直接匹配 xxx.xxx.xxx.xxx:xxxx'''
  
  url = self.ur[self.diqu]+str(ren)
  
  ip_proxy_re = re.compile(r'(\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3})\s*</td>\s*<td>\s*(\d{1,})\s*</td>\s*<[^\u4E00-\u9FA5]+>([\u4E00-\u9FA5]*\s*[\u4E00-\u9FA5]*\s*[\u4E00-\u9FA5]*)\s*<')
  #################################通用正則匹配的  格式 是  (IP,端口,地區(qū)) 地區(qū)有可能包含換行和空格
  try:
   data = self.urlopen(url).read().decode('utf-8')
  except:
   return None
  
  self.rel = []
  
  ip = ip_proxy_re.findall(data)
  ##########返回的IP 就是 正則匹配的結果(IP,端口,地區(qū)) 地區(qū)有可能包含換行和空格
  
  return ip
  
if __name__ == '__main__':
 g=Getip("xicidaili國內普通代理 --1線")
 import pprint
 for x in range(4):
  ips = g.getip(1)
  print('獲取到ip地址一共:',len(ips))
  pprint.pprint(ips)

分享標題：python爬蟲批量獲取代理ip的實例代碼-創(chuàng)新互聯(lián)
文章源于：http://bm7419.com/article2/dpdhoc.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供微信公眾號、建站公司、品牌網(wǎng)站制作、Google、做網(wǎng)站、云服務器

廣告

聲明：本網(wǎng)站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)

微信小程序開發(fā)