python爬數據,得到一個列表,但怎樣去掉里面的span標簽呢?
問題描述
用p6ython3.6爬下了部分數據,但是最后顯示的是含span標簽的列表,當我用get_text、contents等方法,就會報錯。這是為什么呢?最開始返回的結果如下:
[<span>2017.5.2</span>][<span>2017.4.26</span>][<span>2017.4.24</span>][<span>2017.4.19</span>][<span>2017.3.23</span>][<span>2017.3.17</span>][<span>2017.2.14</span>][<span>2017.2.9</span>][<span>2017.2.6</span>][<span>2017.2.6</span>]
我的代碼如下:
import requestsfrom bs4 import BeautifulSoupimport re# def url_list():# for number in range(1,21):# url_links=[]# url='X'.format(i=number)# url_links.append(url)h={'User-Agent':'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.81 Safari/537.36'}r=requests.get('url',headers=h)soup=BeautifulSoup(r.text,’lxml’)for data in soup.find('p',{'class':'list-main-eventset-finan'}).find_all('li'): content=data.find('i',{'class':'cell date'}).find_all('span') print(time)
問題解答
回答1:bs的API記得不是很清楚了,應該是有可以直接獲取文本的函數的,應該是get_text()這個函數吧。由于你用的是find_all(),那么需要再在返回的結果下做一次遍歷,就是這樣
rs = list()for data in soup.find('p',{'class':'list-main-eventset-finan'}).find_all('li'): contents=data.find('i',{'class':'cell date'}).find_all('span') for content in contents:rs.append(content.get_text())
此外,也可以使用正則表達式來匹配,直接匹配<span>(.*?)<這個pattern。但是也得像上面那樣遍歷這個contens列表才行。
回答2:題主可以試試 text_content() 方法
回答3:正則表達式或者split+SUBSTRING也可以,靈活著用
