文章詳情頁
python - 請教如何爬取簡書某一時間段發(fā)帖。
瀏覽：86日期：2022-07-11 10:45:01
問題描述
我想爬取簡書在某一時間段的帖子，比如 2013 年 4 月 13 — 2013 年 5 月 13
想嘗試的思路如下：
百度
利用百度的 site 語法
限定日期 
觀察大約有 70 個帖子 
google 的 site 語法
限定日期 
觀察大約有 120 個帖子 
實現(xiàn)：用 Python 直接請求搜索的結(jié)果，然后把得到的網(wǎng)址重定向一下得到真正的簡書網(wǎng)址，然后對真正的網(wǎng)址進行請求
問題
用這種方法得到的結(jié)果是否靠譜？請問有更靠譜的方法嗎？
用 Google 還是用百度呢？
問題解答
回答1：為了全面，你可以把主流的搜索引擎接口都拿來用，不一定要限制在某個搜索引擎接口上。我們有隊友搜索某些話題就是這么干的，因為有的網(wǎng)站站內(nèi)沒提供滿足需求的搜索方式，這個時候也只有借助搜索引擎了。不過通過搜索引擎搜索的方式信息可能不全面，robots協(xié)議規(guī)定了不能搜索的，搜索引擎不會收錄
相關(guān)文章：
1. javascript - jquery選擇的dom元素如何更新？2. 視頻 - html5 video的autoplay 在智能手機上不運作？3. javascript - H5頁面無縫輪播4. python - Django問題 ’WSGIRequest’ object has no attribute ’user’5. mysql輸入賬號密碼后跳出一大堆內(nèi)容后但卻進不了mysql？6. javascript - URL中有#號如何來獲取參數(shù)??？ nodejs7. mysql服務(wù)無法啟動1067錯誤，誰知道正確的解決方法？8. .......9. 數(shù)據(jù)庫 - mysql boolean型無法插入true10. python - flask jinjia2 中怎么定義嵌套變量
排行榜
熱門標(biāo)簽
網(wǎng)公網(wǎng)安備