如何用Python爬取彈幕

小編給大家分享一下如何用Python爬取彈幕,希望大家閱讀完這篇文章后大所收獲,下面讓我們一起去探討方法吧!

元謀網(wǎng)站建設(shè)公司創(chuàng)新互聯(lián),元謀網(wǎng)站設(shè)計(jì)制作,有大型網(wǎng)站制作公司豐富經(jīng)驗(yàn)。已為元謀上千提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\外貿(mào)營銷網(wǎng)站建設(shè)要多少錢,請(qǐng)找那個(gè)售后服務(wù)好的元謀做網(wǎng)站的公司定做!

整篇文章分為兩部分:1.爬取愛奇藝中該劇第一集的彈幕 2.對(duì)爬取出來的彈幕做處理,并制作詞云。

1.爬取愛奇藝彈幕

相比于其他視頻網(wǎng)站來說,愛奇藝的彈幕難爬一些,為啥呢,因?yàn)槟闩廊〕鰜淼奈募莵y碼的(下邊會(huì)貼圖),需要自己再把該文件二進(jìn)制編碼之后才能用。具體步驟如下:

首先,打開瀏覽器,進(jìn)入愛奇藝頁面,點(diǎn)開該劇,彈幕打開,然后F12,瀏覽器下方或者右側(cè)會(huì)彈出一些界面,選擇Network,在我圖上標(biāo)注的框中輸入“bullet”搜索彈幕相關(guān)的文件,為啥輸入這個(gè)搜索呢,因?yàn)檫@個(gè)單詞的意思就是彈幕,程序員命名東西一般也是有規(guī)律的,還有大多視頻網(wǎng)站的彈幕相關(guān)文件都是這個(gè)名字哈哈。如果你F12搜索之后無內(nèi)容,那直接點(diǎn)擊下瀏覽器刷新按鈕即可。下圖中箭頭指的分別是Network、搜索框、彈幕文件名和彈幕內(nèi)容(你可以看到,彈幕內(nèi)容是亂七八糟的亂碼)。還有說明一點(diǎn),彈幕文件一集不止一個(gè),愛奇藝5分鐘加載一個(gè)彈幕文件(為啥5分鐘,下邊會(huì)解釋)。

如何用Python爬取彈幕

 

接下來,觀察彈幕文件出現(xiàn)的規(guī)律以及彈幕文件地址中的規(guī)律,總結(jié)為以下:

彈幕文件鏈接規(guī)律為

https://cmts.iqiyi.com/bullet/tvid倒數(shù)4位的前兩位/tvid最后兩位/tvid_300_x.z;

x的計(jì)算方式為片子總時(shí)長除以300秒向上取整,即按每5分鐘一個(gè)包。

tvid是啥呢,就是你URL導(dǎo)航欄里的這塊,x為啥按5分鐘一個(gè)包呢,是因?yàn)槲褾12之后查看兩個(gè)相鄰的彈幕文件包,它就是5分鐘加載一個(gè)。

如何用Python爬取彈幕

 

 

如何用Python爬取彈幕

 

如何用Python爬取彈幕

 

那第一集總共時(shí)長77分鐘,按5分鐘加載一個(gè)彈幕文件的話,向上取整,我們總共要抓取16個(gè)(77/5+1)彈幕文件。

抓取代碼為:

import zlib
import requests
for x in range(16):
    x+=1
    #x是從1到16,16怎么來的,第一集總共77分鐘,愛奇藝每5分鐘會(huì)加載新的彈幕
    #77除以5向上取整
    url='https://cmts.iqiyi.com/bullet/92/00/9000000005439200_300_'+str(x)+'.z'
    bulletold=requests.get(url).content #這步取出來的文件是亂碼的
    bulletnew = bytearray(bulletold)#將上一步的亂碼文件用二進(jìn)制再編碼下
    xml=zlib.decompress(bulletnew, 15+32).decode('utf-8')
    #把編碼好的文件分別寫入16個(gè)xml文件中(類似于txt文件),方便后邊取數(shù)據(jù)

    with open('./iqiyi'+str(x)+'.xml','a+',encoding='utf-8') as f:
        f.write(xml)
    f.close()

 

抓取出來的xml文件為下圖,能看出來content字段就是彈幕:

如何用Python爬取彈幕

 

將xml文件中的content字段取出來存為dan_mu.txt文件,方便我們之后做詞云:

from xml.dom.minidom import parse
import xml.dom.minidom
for x in range(16):
    x+=1
    DOMTree = xml.dom.minidom.parse(r"C:\Users\dmj\PycharmProjects\test\iqiyi"+str(x)+".xml")
    collection = DOMTree.documentElement
    # 在集合中獲取所有entry數(shù)據(jù)
    entrys = collection.getElementsByTagName("entry")
    print(entrys)
    for entry in entrys:
        content = entry.getElementsByTagName('content')[0]
        print(content.childNodes[0].data)
        i = content.childNodes[0].data
        with open("dan_mu.txt", mode="a+", encoding="utf-8") as f:
                f.write(i)
                f.write("\n")

dan_mu.txt文件大概長這樣:

如何用Python爬取彈幕

 

2.制作詞云

制作詞云使用python的wordcloud庫和jieba庫,代碼如下:

from wordcloud import WordCloud
import jieba
import matplotlib.pyplot as plt
#讀取彈幕txt文件
with open('./dan_mu.txt',encoding = 'utf-8', mode = 'r')as f:
    myText = f.read()
myText = " ".join(jieba.cut(myText))
list = myText.split(" ")

#清洗無用數(shù)據(jù)
for i in range(len(list)-1,-1,-1):
    if len(list[i])==1 or list[i]=="這個(gè)" or \
            list[i]=="不是" or list[i]=="這么" \
            or list[i]=="怎么" or list[i]=="這是"\
            or list[i]=="還是":
        list.remove(list[i])
#print(list)
myText= " ".join(list)
print(myText)

# 制作詞云
wordcloud = WordCloud(background_color="white", font_path="simsun.ttf", height=300, width = 400).generate(myText)
# 圖片展示
plt.imshow(wordcloud)
plt.axis("off")
plt.show()
# 將詞云圖片導(dǎo)出到當(dāng)前文件夾
wordcloud.to_file("wordCloudMo.png")

在此處可能會(huì)遇到的問題是,wordcloud這個(gè)外部庫你在下載的時(shí)候可能會(huì)遇到各種花式報(bào)錯(cuò),如何解決呢,參見下邊這位老哥的方法:

https://blog.csdn.net/qq_42813128/article/details/82020510

詞云圖結(jié)果如下:

如何用Python爬取彈幕

 

從詞云圖中我們可以看到,“真實(shí)”,“孩子”,“嚴(yán)良”,“普普”,“演技”等詞語出現(xiàn)的頻率很高?!罢鎸?shí)”,“演技”,“厲害”等詞語是大家對(duì)這部劇的肯定;“孩子”指的是這三個(gè)主演的小孩;“普普”的演技真的很不錯(cuò),大家都猜測(cè)她會(huì)不會(huì)成為下一個(gè)張子楓。

總體來講,彈幕中大家對(duì)這部劇基本都是好評(píng),所以還是值得一看的。


    

看完了這篇文章,相信你對(duì)如何用Python爬取彈幕有了一定的了解,想了解更多相關(guān)知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝各位的閱讀!

本文題目:如何用Python爬取彈幕
本文鏈接:http://bm7419.com/article44/jcgoee.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供全網(wǎng)營銷推廣、網(wǎng)站策劃、用戶體驗(yàn)、虛擬主機(jī)品牌網(wǎng)站制作域名注冊(cè)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)

成都網(wǎng)站建設(shè)