python selenium 獲取接口數(shù)據(jù)的實(shí)現(xiàn)
python selenium 獲取接口數(shù)據(jù)。
selenium沒(méi)有直接提供查詢的函數(shù),但是可以通過(guò)webdriver提供的API查詢,使用的函數(shù)是Network.getResponseBody
webdriver提供的API文檔:https://chromedevtools.github.io/devtools-protocol/tot/Network/
Network.getResponseBody文檔說(shuō)明:
Network.getResponseBody的參數(shù)是requestid,requestid是webdriver每個(gè)請(qǐng)求自動(dòng)生成的惟一ID,拿到requestid就能拿到請(qǐng)求返回的內(nèi)容。
如何獲取requestid?創(chuàng)建webdriver對(duì)象時(shí)配置信息設(shè)置獲取performance,即可獲取每個(gè)請(qǐng)求的日志信息,然后通過(guò)對(duì)日志信息的檢索找到對(duì)應(yīng)的requestid。
獲取日志信息的webdriver創(chuàng)建代碼(注意,必須傳入配置信息才能獲取日志信息):
from selenium import webdriverfrom selenium.webdriver.common.desired_capabilities import DesiredCapabilitiesimport time caps = { ’browserName’: ’chrome’, ’loggingPrefs’: { ’browser’: ’ALL’, ’driver’: ’ALL’, ’performance’: ’ALL’, }, ’goog:chromeOptions’: { ’perfLoggingPrefs’: { ’enableNetwork’: True, }, ’w3c’: False, },}driver = webdriver.Chrome(desired_capabilities=caps) driver.get(’https://partner.oceanengine.com/union/media/login/’)# 必須等待一定的時(shí)間,不然會(huì)報(bào)錯(cuò)提示獲取不到日志信息,因?yàn)樾踹兜人姓?qǐng)求結(jié)束才能獲取日志信息time.sleep(3) request_log = driver.get_log(’performance’)
打印request_log是一個(gè)數(shù)組,然后遍歷request_log檢索需要獲取的url對(duì)應(yīng)的requestid,比如需要獲取https://s3.pstatp.com/bytecom/resource/union_web2/media/manifest.json對(duì)應(yīng)的requestid,并且獲取接口內(nèi)容:
for i in range(len(request_log)): message = json.loads(request_log[i][’message’]) message = message[’message’][’params’] # .get() 方式獲取是了避免字段不存在時(shí)報(bào)錯(cuò) request = message.get(’request’) if(request is None): continue url = request.get(’url’) if(url == 'https://s3.pstatp.com/bytecom/resource/union_web2/media/manifest.json'): # 得到requestId print(message[’requestId’]) # 通過(guò)requestId獲取接口內(nèi)容 content = driver.execute_cdp_cmd(’Network.getResponseBody’, {’requestId’: message[’requestId’]}) print(content) break
完整代碼:
import jsonfrom selenium import webdriverfrom selenium.webdriver.common.desired_capabilities import DesiredCapabilitiesimport time caps = { ’browserName’: ’chrome’, ’loggingPrefs’: { ’browser’: ’ALL’, ’driver’: ’ALL’, ’performance’: ’ALL’, }, ’goog:chromeOptions’: { ’perfLoggingPrefs’: { ’enableNetwork’: True, }, ’w3c’: False, },}driver = webdriver.Chrome(desired_capabilities=caps) driver.get(’https://partner.oceanengine.com/union/media/login/’)# 必須等待一定的時(shí)間,不然會(huì)報(bào)錯(cuò)提示獲取不到日志信息,因?yàn)樾踹兜人姓?qǐng)求結(jié)束才能獲取日志信息time.sleep(3) request_log = driver.get_log(’performance’)print(request_log) for i in range(len(request_log)): message = json.loads(request_log[i][’message’]) message = message[’message’][’params’] # .get() 方式獲取是了避免字段不存在時(shí)報(bào)錯(cuò) request = message.get(’request’) if(request is None): continue url = request.get(’url’) if(url == 'https://s3.pstatp.com/bytecom/resource/union_web2/media/manifest.json'): # 得到requestId print(message[’requestId’]) # 通過(guò)requestId獲取接口內(nèi)容 content = driver.execute_cdp_cmd(’Network.getResponseBody’, {’requestId’: message[’requestId’]}) print(content) break
到此這篇關(guān)于python selenium 獲取接口數(shù)據(jù)的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)python selenium 獲取接口數(shù)據(jù)內(nèi)容請(qǐng)搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!
相關(guān)文章:
1. html小技巧之td,div標(biāo)簽里內(nèi)容不換行2. 使用css實(shí)現(xiàn)全兼容tooltip提示框3. 詳解盒子端CSS動(dòng)畫性能提升4. CSS hack用法案例詳解5. 告別AJAX實(shí)現(xiàn)無(wú)刷新提交表單6. CSS Hack大全-教你如何區(qū)分出IE6-IE10、FireFox、Chrome、Opera7. 讀大數(shù)據(jù)量的XML文件的讀取問(wèn)題8. 詳解瀏覽器的緩存機(jī)制9. HTML DOM setInterval和clearInterval方法案例詳解10. XML入門的常見(jiàn)問(wèn)題(一)
