亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術(shù)文章
文章詳情頁

Python爬蟲requests庫多種用法實(shí)例

瀏覽:55日期:2022-07-24 10:21:09

requests安裝和使用

下載安裝:pip install requests

#requests模塊import requests#發(fā)送請(qǐng)求 content:以二進(jìn)制的形式獲取網(wǎng)頁的內(nèi)容response=requests.get('http://www.baidu.com').content.decode()#response=requests.request('get','http://www.baidu.com').content.decode()print(response)

添加請(qǐng)求頭和參數(shù)

import requestsurl='http://www.baidu.com/s?'headers={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'}wd={'wd':'中國(guó)'}response=requests.get(url,params=wd,headers=headers)# 返回一個(gè)字符串形式的數(shù)據(jù)data=response.text# 返回一個(gè)二進(jìn)制形式的數(shù)據(jù)data2=response.contentprint(data2.decode())

處理Post請(qǐng)求

處理get請(qǐng)求:get()方法

處理post請(qǐng)求:post()方法

import requestsimport re#構(gòu)造請(qǐng)求頭信息header={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36'}#谷歌瀏覽器#http://fanyi.youdao.com/translate_o?smartresult=dict&smartresult=rule 網(wǎng)頁上的urlurl='http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule'key='靚仔'#發(fā)送到web服務(wù)器的表單數(shù)據(jù)formdata={'i':key,'from':'AUTO','to':'AUTO','smartresult':'dict','client':'fanyideskweb','salt':'15880563488791','sign':'cc2c40d740538fc5edc0380891faef27','ts':'1588053583943','bv':'f9c86b1fdf2f53c1fefaef343285247b','doctype':'json','version':'2.1','keyfrom':'fanyi.web','action':'FY_BY_REALTlME'}response=requests.post(url,headers=header,data=formdata)# 獲取到的是json數(shù)據(jù)# 對(duì)應(yīng)的是字典# print(response.json())pat=r’'tgt':'(.*?)'}]]’ #字符串中有'',再用’’括起來表示字符串# 獲取到的是字符串result=re.findall(pat,response.text)print(result[0])

代理IP

import requests#設(shè)置ip地址#proxy={'http':'http://代理ip地址:端口號(hào)'}#可以設(shè)置多個(gè)proxy={'http':'http://222.82.130.23:8060','http':'http://101.248.64.68:80',}response=requests.get('http://www.baidu.com',proxies=proxy)print(response.content.decode())

獲取響應(yīng)的cookie

cookie:用戶信息

import requestsresponse=requests.get('http://www.baidu.com')#1.獲取返回的cooketjar對(duì)象cookiejar=response.cookies#2.將cookiejar轉(zhuǎn)換成字典cookiedict=requests.utils.dict_from_cookiejar(cookiejar)print(cookiedict)

session實(shí)現(xiàn)登陸

相比直接使用cookie,創(chuàng)建session可以得到新的cookie信息,不會(huì)出現(xiàn)cookie失效的情況

#使用session實(shí)現(xiàn)登陸import requests#構(gòu)造請(qǐng)求頭信息header={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36'}#谷歌瀏覽器#創(chuàng)建session對(duì)象ses=requests.session()#構(gòu)造登陸需要的參數(shù)data={'email':'325*****@qq.com','password':'123321a'}#通過傳遞用戶名密碼得到cookie信息ses.post('http://www.renren.com/PLogin.do',data=data,headers=header)#請(qǐng)求需要的頁面,每次請(qǐng)求會(huì)帶入cookie信息response=ses.get('http://www.renren.com/880151247/profile')print(response.text)

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持好吧啦網(wǎng)。

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 成人国产精品免费软件 | 免费一级毛片在线观看 | 色综合亚洲综合网站综合色 | 亚洲另类在线视频 | 日本强不卡在线观看 | 亚洲欧美日韩在线线精品 | 制服丝袜视频在线 | 欧美日韩性视频一区二区三区 | 女人洗澡一级毛片一级毛片 | 久久在线免费观看视频 | seba51久久精品| 91最懂男人的午夜社区 | 热99精品只有里视频最新 | 狠狠色丁香久久综合婷婷 | 三级免费网址 | aaaaaa毛片免费看 | 欧美一区二区精品系列在线观看 | 亚洲第一综合网 | 亚洲国产片高清在线观看 | 国产末成年女噜噜片 | 黑人巨大在线 | 特级毛片8级毛片免费观看 特级毛片aaaaaa蜜桃 | 日韩在线一区高清在线 | 日本亚欧乱色视频在线系列 | 国产高清在线精品一区免费97 | 亚洲欧美日韩国产专区一区 | 91社区在线视频 | 91精品在线看 | 免费一级毛片女人图片 | 中文字幕精品视频 | 99久久精品国产自免费 | 国产亚洲欧美在线播放网站 | 亚洲视频综合 | 丝袜足交在线 | 精品福利一区二区三区免费视频 | 亚洲在线网址 | 色婷婷综合久久久久中文一区二区 | 亚洲 欧美 激情 另类 自拍 | 国产精品卡哇伊小可爱在线观看 | 亚洲精品一二三 | 生活片一级播放免费 |