亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術(shù)文章
文章詳情頁

python+selenium+chrome批量文件下載并自動創(chuàng)建文件夾實例

瀏覽:4日期:2022-07-27 11:50:59

實現(xiàn)效果:通過url所綁定的關(guān)鍵名創(chuàng)建目錄名,每次訪問一個網(wǎng)頁url后把文件下載下來

代碼:

其中 data[i][0]、data[i][1] 是代表 關(guān)鍵詞(文件保存目錄)、網(wǎng)站鏈接(要下載文件的網(wǎng)站)

def getDriverHttp(): for i in range(reCount): # 創(chuàng)建Chrome瀏覽器配置對象實例 chromeOptions = webdriver.ChromeOptions() # 設(shè)定下載文件的保存目錄為d盤的tudi目錄, # 如果該目錄不存在,將會自動創(chuàng)建 prefs = {'download.default_directory': 'e:tudi{0}'.format(data[i][0]), 'profile.default_content_setting_values.automatic_downloads':1} # 將自定義設(shè)置添加到Chrome配置對象實例中 chromeOptions.add_experimental_option('prefs', prefs) # 啟動帶有自定義設(shè)置的Chrome瀏覽器 # driver = webdriver.Chrome(executable_path='e:chromedriver', chrome_options=chromeOptions) driver = webdriver.Chrome(chrome_options=chromeOptions) driver.get(data[i][1]) info2 = re.findall(r’<a href='http://www.aoyou183.cn/bcjs/4286.html#' rel='external nofollow' onclick='(.*?)' cssclass='xz_pic'>’, driver.page_source, re.S) print(len(info2)) for js in info2: driver.execute_script(js) def main(): getDriverHttp()

注意:python 使用selenium下載文件時,chrome會提示是否下載多個文件(Download multiple files)

prefs = {'download.default_directory': 'e:tudi{0}'.format(data[i][0]), 'profile.default_content_setting_values.automatic_downloads':1}

設(shè)置允許多個文件下載。

補充知識:python項目實現(xiàn)配置統(tǒng)一管理的操作

一個比較大的項目總是會涉及到很多的參數(shù),最好的方法就是在一個地方統(tǒng)一管理這些參數(shù)。最近看了不少的python項目,總結(jié)了兩種很有意思的配置管理方法。

第一種 基于easydict實現(xiàn)的配置管理

首先需要安裝numpy、easydict以及yaml:

pip install numpy pip install easydictpip install yaml

就可以了。

然后定義配置類config.py:

import numpy as npfrom easydict import EasyDict as edictimport yaml # 創(chuàng)建dict__C = edict()cfg = __C # 定義配置dict__C.dev = edict()__C.dev.name = ’dev-xingoo’__C.dev.age = 20 __C.test = edict()__C.test.name = ’test-xingoo’__C.test.age = 30 # 內(nèi)部方法,實現(xiàn)yaml配置文件到dict的合并def _merge_a_into_b(a, b): '''Merge config dictionary a into config dictionary b, clobbering the options in b whenever they are also specified in a. ''' if type(a) is not edict: return for k, v in a.items(): # a must specify keys that are in b if k not in b: raise KeyError(’{} is not a valid config key’.format(k)) # the types must match, too old_type = type(b[k]) if old_type is not type(v): if isinstance(b[k], np.ndarray): v = np.array(v, dtype=b[k].dtype) else: raise ValueError((’Type mismatch ({} vs. {}) ’’for config key: {}’).format(type(b[k]), type(v), k)) # recursively merge dicts if type(v) is edict: try: _merge_a_into_b(a[k], b[k]) except: print((’Error under config key: {}’.format(k))) raise else: b[k] = v# 自動加載yaml文件def cfg_from_file(filename): '''Load a config file and merge it into the default options.''' with open(filename, ’r’, encoding=’utf-8’) as f: yaml_cfg = edict(yaml.load(f)) _merge_a_into_b(yaml_cfg, __C)

使用的時候很簡單,main.py:

from config import cfg_from_filefrom config import cfg cfg_from_file(’config.yml’)print(cfg.dev.name)print(cfg.test.name)

同級目錄下創(chuàng)建配置文件config.yaml

dev:name: xingoo-from-yml

輸出:

xingoo-from-ymltest-xingoo

總結(jié)

這樣的好處就是在任何的Python文件中只要from config import cfg就可以使用配置文件。

第二種 基于Class實現(xiàn)

這種基于普通的python對象實現(xiàn)的,創(chuàng)建config2.py:

class Config: def __init__(self): self.name = ’xingoo-config2’ self.age = 100

使用的時候直接創(chuàng)建一個新的對象,如何python模塊之間需要引用這個變量,那么需要把配置對象傳過去:

import config2 as config2 cfg2 = config2.Config()print(cfg2.name)print(cfg2.age)

輸出為:

xingoo-config2100

總結(jié)

第二種方法簡單粗暴...不過每次傳遞參數(shù)也是很蛋疼。還是喜歡第一種方式。

以上這篇python+selenium+chrome批量文件下載并自動創(chuàng)建文件夾實例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。

標簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 亚洲邪恶天堂影院在线观看 | 欧美全免费aaaaaa特黄在线 | 不卡视频一区二区三区 | 欧美一级特黄刺激爽大片 | 国产日本久久久久久久久婷婷 | 一级爱片 | 国内欧美一区二区三区 | 国产美女福利视频福利 | 91久久精一区二区三区大全 | 一级特黄aaa大片在 一级特黄aaa大片在线观看 | 欧洲色综合 | 日韩丝袜在线观看 | 国产精品原创永久在线观看 | 日韩激情视频在线 | 国产高清国内精品福利色噜噜 | 国产精品99爱免费视频 | 特级黄色一级片 | 美女拍拍拍免费视频观看 | 日韩欧美三级在线 | 千百橹最新亚洲地址在线播放 | 国产精品成人久久久久久久 | 免费国产视频 | 亚洲综合在线观看视频 | 亚洲精品久久99久久一 | 未成人做爰视频www 未成人禁止视频高清在线观看 | 国产精品69白浆在线观看免费 | 欧美性色黄大片一级毛片视频 | 日本乱人伦片中文三区 | 欧美一级毛片不卡免费观看 | 久久国产免费观看精品3 | 毛片在线看免费 | 日本高清视频www夜色资源 | 欧美亚洲视频在线观看 | 欧美色视频免费高清播放 | 19国产精品麻豆免费观看 | 最新在线精品国自拍视频 | 亚洲国产情侣一区二区三区 | 美女18一级毛片免费看 | 欧美日韩综合网在线观看 | 亚洲欧美成人中文日韩电影 | 国产综合久久久久久 |