文章詳情頁
如何提高python查詢速度？
瀏覽：120日期：2022-06-29 18:39:57
問題描述
最近在爬股票的相關新聞，一開始設想的是，當有新的新聞動態發布，程序通過郵件發送最新內容到郵箱。
所以我想把新聞標題，內容存到數據庫里，當內容更新時，把新的內容和數據庫的標題列表對比，看是不是已存在的，如果已存在，那就不發送，如果沒有，那發送到郵箱。
但數量大了以后，列表查詢速度就會變慢，請問各位還有什么方法可以傳授下嗎？
問題解答
回答1：爬蟲任務去重
抓過的鏈接存到一個set中，檢查新鏈接是否在集合中即可。
回答2：去重有很多方法，比如樓上的set或者布隆過濾器都可以有效的使用內存，提升效率
相關文章：
1. python - django 里自定義的 login 方法，如何使用 login_required()2. android-studio - Android 動態壁紙LayoutParams問題3. sql語句如何按or排序取出記錄4. angular.js - 不適用其他構建工具，怎么搭建angular1項目5. 主從備份 - 跪求mysql 高可用主從方案6. python如何不改動文件的情況下修改文件的 修改日期7. mysql優化 - mysql count(id)查詢速度如何優化?8. css3 - [CSS] 動畫效果 3D翻轉bug9. mysql主從 - 請教下mysql 主動-被動模式的雙主配置 和 主從配置在應用上有什么區別？10. node.js - node_moduls太多了
排行榜
網公網安備