python基于selenium爬取斗魚彈幕
針對彈幕的爬取我們?nèi)绻恍枰@取看到的網(wǎng)頁里面的而數(shù)據(jù),使用selenium就能實現(xiàn),對于直播平臺來說,往往有第三方平臺api讓你獲取數(shù)據(jù)(可以獲取發(fā)彈幕,發(fā)彈幕者的名字禮物等等,這需要客戶端向彈幕服務(wù)器發(fā)送登錄請求,心跳信息的發(fā)送等等)只獲取彈幕信息儲存到txt文件中,上代碼,上圖片
代碼如下:
import timefrom selenium import webdriverchrome_options = webdriver.ChromeOptions()# 使用headless無界面瀏覽器模式# chrome_options.add_argument(’--headless’)# chrome_options.add_argument(’--disable-gpu’)prefs = {'profile.managed_default_content_settings.images': 2}chrome_options.add_experimental_option('prefs', prefs)browser = webdriver.Chrome(chrome_options=chrome_options)url = ’https://www.douyu.com/’def getDanmu(homeId): homeHref = url+str(homeId) browser.get(homeHref) while 1: time.sleep(2) try: for i in browser.find_elements_by_xpath(’.//div[@class=' danmu-6e95c1']/div/div’):if len(i.text) > 0: try: print(i.text) except: pass saveDanmu(i.text)else: continue except: time.sleep(2) for i in browser.find_elements_by_xpath(’.//div[@class=' danmu-6e95c1']/div/div’):if len(i.text) > 0: try: print(i.text) except: pass saveDanmu(i.text)else: continuedef saveDanmu(danmu): with open(’danmu.txt’, ’a+’, encoding=’utf-8’)as f: f.write(danmu+’n’)if __name__ == ’__main__’: num = input(’請輸入需要查詢的房間號:’) getDanmu(num)
以上就是python基于selenium爬取斗魚彈幕的詳細內(nèi)容,更多關(guān)于python 爬取斗魚彈幕的資料請關(guān)注好吧啦網(wǎng)其它相關(guān)文章!
相關(guān)文章:
1. 低版本IE正常運行HTML5+CSS3網(wǎng)站的3種解決方案2. ASP.NET泛型三之使用協(xié)變和逆變實現(xiàn)類型轉(zhuǎn)換3. JSP數(shù)據(jù)交互實現(xiàn)過程解析4. jsp+servlet簡單實現(xiàn)上傳文件功能(保存目錄改進)5. 如何在jsp界面中插入圖片6. XML基本概念XPath、XSLT與XQuery函數(shù)介紹7. JS中map和parseInt的用法詳解8. PHP循環(huán)與分支知識點梳理9. AspNetCore&MassTransit Courier實現(xiàn)分布式事務(wù)的詳細過程10. jsp實現(xiàn)登錄界面
