如何在python中使用duplicated和drop_duplicates()

这篇文章给大家介绍如何在python中使用duplicated和drop_duplicates()，内容非常详细，感兴趣的小伙伴们可以参考借鉴，希望对大家能有所帮助。

data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}frame=pd.DataFrame(data)  frame

frame.shape$ (8,2)

# 说明duplicated()是对整行进行查重，return 重复了的数据，且只现实n-1条重复的数据（n是重复的次数）frame[frame.duplicated() == True]

一开始还很疑惑，明明（1，b）只出现了1次，哪里duplicate了。其实，人家return的结果是去掉已经出现过一次的行数据了。所以看起来有点confuse，感觉（1，b）并没有重复，但其实人家的函数很简洁呢，返回了重复值而且不冗余。

# 说明drop_duplicates()函数是将所有重复的数据都去掉了，且默认保留重复数据的第一条。# 比如（2，d）出现了3次，在duplicated（）中显示了2次，在drop_dupicates（）后保留了一个frame.drop_duplicates().shape$ (4,2)

# 留下了完全唯一的数据行frame.drop_duplicates()

补充：python的pandas重复值处理（duplicated()和drop_duplicates())

一、生成重复记录数据

import numpy as npimport pandas as pd #生成重复数据df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2'])df['col3']=['a','b','a','c','d']df['col4']=[3,2,3,2,2]df=df.reindex(columns=['col3','col4','col1','col2'])  #将新增的一列排在第一列df

输出：

二、判断重复记录（行）

#判断重复数据isDplicated=df.duplicated()   #判断重复数据记录isDplicated

输出：

三、删除重复值

#删除重复值new_df1=df.drop_duplicates() #删除数据记录中所有列值相同的记录new_df2=df.drop_duplicates(['col3']) #删除数据记录中col3列值相同的记录new_df3=df.drop_duplicates(['col4']) #删除数据记录中col4列值相同的记录new_df4=df.drop_duplicates(['col3','col4']) #删除数据记录中(col3和col4)列值相同的记录new_df1new_df2new_df3new_df4

输出：

python主要应用领域有哪些

1、云计算，典型应用OpenStack。2、WEB前端开发，众多大型网站均为Python开发。3.人工智能应用，基于大数据分析和深度学习而发展出来的人工智能本质上已经无法离开python。4、系统运维工程项目，自动化运维的标配就是python+Django/flask。5、金融理财分析，量化交易，金融分析。6、大数据分析。

关于如何在python中使用duplicated和drop_duplicates()就分享到这里了，希望以上内容可以对大家有一定的帮助，可以学到更多知识。如果觉得文章不错，可以把它分享出去让更多的人看到。