亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術文章
文章詳情頁

python爬取網頁版QQ空間,生成各類圖表

瀏覽:86日期:2022-06-14 16:42:15
目錄github源碼地址:各類圖表的實現效果爬取的說說內容個性化說說內容詞云圖每年發表說說總數柱狀圖、每年點贊和評論折線圖7天好友動態柱狀圖、餅圖使用方法主要代碼github源碼地址:

https://github.com/kuishou68/python

各類圖表的實現效果

python爬取網頁版QQ空間,生成各類圖表

爬取的說說內容

python爬取網頁版QQ空間,生成各類圖表

個性化說說內容詞云圖

python爬取網頁版QQ空間,生成各類圖表

每年發表說說總數柱狀圖、每年點贊和評論折線圖

python爬取網頁版QQ空間,生成各類圖表

7天好友動態柱狀圖、餅圖

python爬取網頁版QQ空間,生成各類圖表

使用方法

按照你的谷歌瀏覽器下載指定版本的驅動 http://chromedriver.storage.googleapis.com/index.html

python爬取網頁版QQ空間,生成各類圖表

python爬取網頁版QQ空間,生成各類圖表

驅動跟兩個python腳本放入同目錄,我的版本是90.0.4430的,查看你自己的版本,下載后把我的chromedriver.exe替換掉!

python爬取網頁版QQ空間,生成各類圖表

這里用到了很多第三方包,鼠標放在報紅的包名下,用Alt+Enter導包,如果失敗則在控制臺用下面的必殺技

pip install 包名 -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.com

python爬取網頁版QQ空間,生成各類圖表

主要代碼

qq空間txt.py

import timefrom selenium import webdriverfrom lxml import etree# 這里一定要設置編碼格式,防止后面寫入文件時報錯friend = ’1569339843’ # 朋友的QQ號,朋友的空間要求允許你能訪問user = ’783533896’ # 你的QQ號pw = ’1323mkoNJI.@’ # 你的QQ密碼# 獲取瀏覽器驅動chrome_driver = ’chromedriver.exe’driver = webdriver.Chrome(executable_path=chrome_driver)# 瀏覽器窗口最大化driver.maximize_window()# 瀏覽器地址定向為qq登陸頁面driver.get('http://i.qq.com')# 所以這里需要選中一下frame,否則找不到下面需要的網頁元素driver.switch_to.frame('login_frame')time.sleep(3)# 自動點擊賬號登陸方式driver.find_element_by_id('switcher_plogin').click()time.sleep(3)# 賬號輸入框輸入已知qq賬號driver.find_element_by_id('u').send_keys(user)time.sleep(5)# 密碼框輸入已知密碼driver.find_element_by_id('p').send_keys(pw)time.sleep(5)# 自動點擊登陸按鈕driver.find_element_by_id('login_button').click()time.sleep(5)# 讓webdriver操縱當前頁driver.switch_to.default_content()time.sleep(5)# 跳到說說的url, friend你可以任意改成你想訪問的空間driver.get('http://user.qzone.qq.com/' + friend + '/311')time.sleep(5)next_num = 0 # 初始“下一頁”的idwhile True: # 下拉滾動條,使瀏覽器加載出動態加載的內容, # 我這里是從1開始到6結束 分5 次加載完每頁數據 for i in range(1, 6):height = 20000 * i # 每次滑動20000像素strWord = 'window.scrollBy(0,' + str(height) + ')'driver.execute_script(strWord)time.sleep(4) # 很多時候網頁由多個<frame>或<iframe>組成,webdriver默認定位的是最外層的frame, # 所以這里需要選中一下說說所在的frame,否則找不到下面需要的網頁元素 driver.switch_to.frame('app_canvas_frame') selector = etree.HTML(driver.page_source) divs = selector.xpath(’//*[@id='msgList']/li/div[3]’) # 這里使用 a 表示內容可以連續不清空寫入 with open(’qq_word.txt’, ’a’, encoding='utf-8') as f:for div in divs: qq_name = div.xpath(’./div[2]/a/text()’) qq_content = div.xpath(’./div[2]/pre/text()’) qq_time = div.xpath(’./div[4]/div[1]/span/a/text()’) qq_praise = div.xpath(’./div[4]/div[2]/span/span/a[2]/text()’) qq_comment = div.xpath(’./div[4]/div[2]/a[3]/text()’) qq_name = qq_name[0] if len(qq_name) > 0 else ’’ qq_content = qq_content[0] if len(qq_content) > 0 else ’’ qq_content = qq_content.replace(’n’, ’ ’) qq_time = qq_time[0] if len(qq_time) > 0 else ’’ qq_praise = qq_praise[0] if len(qq_praise) > 0 else ’’ qq_comment = qq_comment[0] if len(qq_comment) > 0 else ’’ print(qq_name, qq_time, qq_content, qq_praise, qq_comment) f.write(qq_content + 'n') # 當已經到了尾頁,“下一頁”這個按鈕就沒有id了,可以結束了 if driver.page_source.find(’pager_next_’ + str(next_num)) == -1:break # 找到“下一頁”的按鈕,因為下一頁的按鈕是動態變化的,這里需要動態記錄一下 driver.find_element_by_id(’pager_next_’ + str(next_num)).click() # “下一頁”的id next_num += 1 # 因為在下一個循環里首先還要把頁面下拉,所以要跳到外層的frame上 driver.switch_to.parent_frame()# 關閉瀏覽器driver.quit()

各種圖表的生成

import pandas as pdfrom pyecharts.charts import Barfrom pyecharts.charts import Pieimport pyecharts.options as optsfrom pyecharts.charts import Lineimport redf_excel = pd.read_excel(’qq_excel.xlsx’) # 默認讀取sheet=0 Pandas DataFrame’def getTimeStr(row): item = row[’時間’] if pd.isnull(item) | pd.isna(item):return data = item.split(’年’)[0] return data# 按年統計說說數量def readCount(result, row): timeData = getTimeStr(row) if timeData == None: return if timeData in result.keys():result[timeData] += 1 else:result[timeData] = 1# 按年統計說說點贊數def readThumb(result, row): item = row[’贊’] if pd.isnull(item):return # data = re.match(r’贊((d+).*’, item, re.M | re.I) if len(item.split('(')) <= 1:return data = item.split('(')[1].split(')')[0] timeData = getTimeStr(row) if timeData == None: return if timeData in result.keys():result[timeData] += int(data) else:result[timeData] = int(data)# 按年統計說說評論數def readComment(result, row): item = row[’評論’] if pd.isnull(item):return # data = re.match(r’贊((d+).*’, item, re.M | re.I) if len(item.split('(')) <= 1:return data = item.split('(')[1].split(')')[0] timeData = getTimeStr(row) if timeData == None: return if timeData in result.keys():result[timeData] += int(data) else:result[timeData] = int(data)def readExcel(df_excel): count = {} result = {} thumb = {} comment = {} for index, row in df_excel.iterrows():readCount(count, row)readThumb(thumb, row)readComment(comment, row) result[’count’] = count result[’thumb’] = thumb result[’comment’] = comment return resultdef getKeyAndVal(keyWord): data = readExcel(df_excel).get(keyWord) key = [] value = [] for item in data.keys():key.append(item)value.append(data[item]) key.reverse() value.reverse() return [key, value]# 統計每年發表說說次數柱狀圖def paintBar(): count = readExcel(df_excel).get(’count’) # V1 版本開始支持鏈式調用 data = getKeyAndVal(’count’) print(data[0]) d = (Bar() .add_xaxis(data[0]) .add_yaxis('每年發表說說總數', data[1]) .render('每年發表說說總數柱狀圖.html') )paintBar()# 統計點贊和評論折線圖def paintLine(): commentData = getKeyAndVal(’comment’) thumbData = getKeyAndVal(’thumb’) xaxis_data = commentData[0] commentValue = commentData[1] thumbValue = thumbData[1] d = (Line() .add_xaxis(xaxis_data=xaxis_data) .add_yaxis('每年評論數', y_axis=commentValue) .add_yaxis('每年點贊數', y_axis=thumbValue) .render('每年點贊和評論折現圖.html') # 輸出圖形 )paintLine()

其他代碼自行下載項目查看

以上就是python爬取網頁版QQ空間,生成各類圖表的詳細內容,更多關于python 爬取QQ空間的資料請關注好吧啦網其它相關文章!

標簽: qq Python 編程語言
主站蜘蛛池模板: 在线免费观看黄色小视频 | 韩国一级毛片大全女教师 | 一区二区三区四区在线 | 免费影院 | 午夜精品在线视频 | 麻豆网站入口 | 亚洲成人黄色在线 | 日鲁夜鲁天天鲁视频 | 国产免费又色又爽视频 | 色狠狠成人综合色 | 欧美成人午夜毛片免费影院 | 色噜噜人体337p处破 | 热er99久久6国产精品免费 | 男女性高爱潮免费的国产 | 国产视频手机在线 | 国内成人精品亚洲日本语音 | 日本黄色片免费观看 | 久久91精品综合国产首页 | 黄色一级一级片 | 久久久久久久99精品免费 | 午夜视频吧 | 色片网址 | 九九精品在线播放 | 国产亚洲视频在线播放大全 | 麻豆免费永久网址入口网址 | 欧美日韩久久 | 国产精品高清m3u8在线播放 | 国产午夜亚洲精品久久www | 欧美大吊视频 | 国产三级精品在线 | 一个看片免费视频www | 日本黄色免费在线观看 | 99久久免费国产精品m9 | 麻豆影视视频高清在线观看 | 国产精品99久久久久久宅男 | 久久黄色一级视频 | 欧美一级毛片欧美一级无片 | 五月婷婷色综合 | 亚洲欧美成人中文在线网站 | 中文字幕日本在线视频二区 | 精品一区二区三区在线视频 |