python按照list中字典的某key去重的示例代碼
一、需求說明
當我們寫爬蟲的時候,經常會遇到json格式的數據,它通常是如下結構:
data = [{’name’:’小K’,’score’:100}, {’name’:’小J’,’score’:98}, {’name’:’小Q’,’score’:95}, {’name’:’小K’,’score’:100}]
很顯然名字為小K的數據重復了,我們需要進行去重。通常對于list的去重,我們可以用set()函數,即:
data = list(set(data))
然而,運行之后你會發現它報錯了:
list里的數據不能是dict類型,那么該怎么辦呢?
二、我的解決方案
定義一個去重的函數即可,根據里面的某個key,對數據進行篩選去重:
def DelRepeat(data,key): new_data = [] # 用于存儲去重后的list values = [] # 用于存儲當前已有的值 for d in data: if d[key] not in values: new_data.append(d) values.append(d[key]) return new_data
參數data為需要去重的list,key為去重的健(即按照哪個key來去重),去重后結果為:
[{’name’: ’小K’, ’score’: 100}, {’name’: ’小J’, ’score’: 98}, {’name’: ’小Q’, ’score’: 95}]
成功去重!
到此這篇關于python按照list中字典的某key去重的示例代碼的文章就介紹到這了,更多相關python list字典的某key去重內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!
相關文章:
