pandas分组聚合(agg,transform,apply)

美好时光888

目录

• 1. groupby分组
  
  
  
  • 1.1 单列分组
    
  • 1.2 多列分组
    
  • 1.3 groupby的基本原理
    
  
  
• 2. groupby|agg聚合
  
  
  
  • 2.1 对分组后所有数据进行聚合
    
  • 2.2 对分组后的部分列进行聚合
    
  • 2.3 agg聚合过程图解
    
  
  
• 3. groupby|transform
  
  
  
  • 3.1 transform实现过程图解
    
  
  
• 4. groupby|apply
  

在日常的数据分析中，经常需要将数据根据某个（多个）字段划分为不同的群体（group）进行分析，如电商领域将全国的总销售额根据省份进行划分，分析各省销售额的变化情况，社交领域将用户根据画像（性别、年龄）进行细分，研究用户的使用情况和偏好等。在Pandas中，上述的数据处理操作主要运用groupby完成，这篇文章就介绍一下groupby的基本原理及对应的agg、transform和apply操作。

1. groupby分组

为了后续图解的方便，采用模拟生成的10个样本数据，代码和数据如下：

1. import pandas as pd
   
2. import numpy as np
   
3. 
   
4. data = pd.DataFrame({
   
5.   "company": ["A", "B", "C", "A", "B", "C", "A", "B", "A", "A"],
   
6.   "salary": [10000, 10000, 50000, 50000, 40000, 50000, 30000, 10000, 20000, 40000],
   
7.   "age": [25, 30, 35, 40, 45, 20, 25, 30, 30, 35]
   
8. }
   
9. )
   
10. print('data = \n', data)

复制代码

上面代码输出如下：

1. data =   company  salary  age0       A   10000   251       B   10000   302       C   50000   353       A   50000   404       B   40000   455       C   50000   206       A   30000   257       B   10000   308       A   20000   309       A   40000   35

复制代码

1.1 单列分组

1. group = data.groupby("company")
   
2. print('group = ', group)  
   
3. print('list(group) = \n', list(group))
   
4. 
   
5. for index, data in group:
   
6.     print('index = ', index)
   
7.     print('data = \n', data)

复制代码

上面代码输出如下：

1. group =  <pandas.core.groupby.generic.DataFrameGroupBy object at 0x0000000001DA85E0>list(group) =  [('A',   company  salary  age0       A   10000   253       A   50000   406       A   30000   258       A   20000   309       A   40000   35), ('B',   company  salary  age1       B   10000   304       B   40000   457       B   10000   30), ('C',   company  salary  age2       C   50000   355       C   50000   20)]index =  Adata =    company  salary  age0       A   10000   253       A   50000   406       A   30000   258       A   20000   309       A   40000   35index =  Bdata =    company  salary  age1       B   10000   304       B   40000   457       B   10000   30index =  Cdata =    company  salary  age2       C   50000   355       C   50000   20

复制代码

1.2 多列分组

1. df_gb = data.groupby(['company', 'salary'])
   
2. for (index1, index2), data in df_gb:
   
3.     print((index1, index2))
   
4.     print('data = \n', data)

复制代码

上面代码输出如下：

1. ('A', 10000)data =    company  salary  age0       A   10000   25('A', 20000)data =    company  salary  age8       A   20000   30('A', 30000)data =    company  salary  age6       A   30000   25('A', 40000)data =    company  salary  age9       A   40000   35('A', 50000)data =    company  salary  age3       A   50000   40('B', 10000)data =    company  salary  age1       B   10000   307       B   10000   30('B', 40000)data =    company  salary  age4       B   40000   45('C', 50000)data =    company  salary  age2       C   50000   355       C   50000   20

复制代码

1.3 groupby的基本原理

在pandas中，实现分组操作的代码很简单，仅需一行代码，在这里，将上面的数据集按照company字段进行划分

1. group = data.groupby(“company”)

复制代码

会得到一个DataFrameGroupBy对象，那这个生成的DataFrameGroupBy是啥呢？返回的结果是其内存地址，并不利于直观地理解，为了看看group内部究竟是什么，这里把group转换成list的形式来看。或者for循环迭代出来看。

1. <pandas.core.groupby.generic.DataFrameGroupBy object at 0x000002B7E2650240>

复制代码

转换成列表的形式后，可以看到，列表由三个元组组成，每个元组中，第一个元素是组别（这里是按照company进行分组，所以最后分为了A,B,C），第二个元素的是对应组别下的DataFrame，整个过程可以图解如下：

总结来说，groupby的过程就是将原有的DataFrame按照groupby的字段（这里是company），划分为若干个分组DataFrame，被分为多少个组就有多少个分组DataFrame。所以说，在groupby之后的一系列操作（如agg、apply等），均是基于子DataFrame的操作。理解了这点，也就基本摸清了Pandas中groupby操作的主要原理。下面来讲讲groupby之后的常见操作。

2. groupby|agg聚合

聚合操作是groupby后非常常见的操作，会写SQL的朋友对此应该是非常熟悉了。聚合操作可以用来求和、均值、最大值、最小值等，下面的表格列出了Pandas中常见的聚合操作。

2.1 对分组后所有数据进行聚合

默认情况对分组之后其他列进行聚合

1. df_agg = data.groupby('company').agg(['min', 'mean', 'max'])
   
2. print(df_agg)

复制代码

上面代码输出如下：

1.         salary               age                     min   mean    max min  mean maxcompany                                   A        10000  30000  50000  25  31.0  40B        10000  20000  40000  30  35.0  45C        50000  50000  50000  20  27.5  35

复制代码

2.2 对分组后的部分列进行聚合

某些情况，只需要对部分数据进行不同的聚合操作，可以通过字典来构建

1. print(data.groupby('company').agg({'age': ['min', 'mean', 'max']}))

复制代码

上面代码输出如下：

1.         age                  min  mean maxcompany              A        25  31.0  40B        30  35.0  45C        20  27.5  35        age           salary

复制代码

1. print(data.groupby('company').agg({'age': ['min', 'mean', 'max'], 'salary': 'min'}))

复制代码

上面代码输出如下：

1.         age           salary        min  mean max    mincompany                     A        25  31.0  40  10000B        30  35.0  45  10000C        20  27.5  35  50000

复制代码

1. print(data.groupby('company').agg({'salary': 'median', 'age': 'mean'}))

复制代码

上面代码输出如下：

1.          salary   agecompany              A         30000  31.0B         10000  35.0C         50000  27.5

复制代码

2.3 agg聚合过程图解

3. groupby|transform

transform是一种什么数据操作？和agg有什么区别呢？为了更好地理解transform和agg的不同，下面从实际的应用场景出发进行对比。
在上面的agg中，我们学会了如何求不同公司员工的平均薪水，如果现在需要在原数据集中新增一列avg_salary，代表员工所在的公司的平均薪水（相同公司的员工具有一样的平均薪水），该怎么实现呢？如果按照正常的步骤来计算，需要先求得不同公司的平均薪水，然后按照员工和公司的对应关系填充到对应的位置，不用transform的话，实现代码如下：

1. avg_salary_dict = data.groupby('company')['salary'].mean().to_dict()
   
2. data['avg_salary'] = data['company'].map(avg_salary_dict)
   
3. print('data = \n', data)

复制代码

上面代码输出如下：

1. data =    company  salary  age  avg_salary0       A   10000   25       300001       B   10000   30       200002       C   50000   35       500003       A   50000   40       300004       B   40000   45       200005       C   50000   20       500006       A   30000   25       300007       B   10000   30       200008       A   20000   30       300009       A   40000   35       30000

复制代码

如果使用transform的话，仅需要一行代码：

1. data['avg_salary'] = data.groupby('company')['salary'].transform('mean')
   
2. print('data = \n', data)

复制代码

上面代码输出如下：

1. data =    company  salary  age  avg_salary0       A   10000   25       300001       B   10000   30       200002       C   50000   35       500003       A   50000   40       300004       B   40000   45       200005       C   50000   20       500006       A   30000   25       300007       B   10000   30       200008       A   20000   30       300009       A   40000   35       30000

复制代码

3.1 transform实现过程图解

还是以图解的方式来看看进行groupby后transform的实现过程（为了更直观展示，图中加入了company列，实际按照上面的代码只有salary列）：

图中的大方框是transform和agg所不一样的地方，对agg而言，会计算得到A，B，C公司对应的均值并直接返回，但对transform而言，则会对每一条数据求得相应的结果，同一组内的样本会有相同的值，组内求完均值后会按照原索引的顺序返回结果，如果有不理解的可以拿这张图和agg那张对比一下。

4. groupby|apply

apply应该是大家的老朋友了，它相比agg和transform而言更加灵活，能够传入任意自定义的函数，实现复杂的数据操作。在Pandas数据处理三板斧——map、apply、applymap详解中，介绍了apply的使用，那在groupby后使用apply和之前所介绍的有什么区别呢？
区别是有的，但是整个实现原理是基本一致的。两者的区别在于，对于groupby后的apply，以分组后的子DataFrame作为参数传入指定函数的，基本操作单位是DataFrame，而之前介绍的apply的基本操作单位是Series。还是以一个案例来介绍groupby后的apply用法。
假设我现在需要获取各个公司年龄最大的员工的数据，该怎么实现呢？可以用以下代码实现：

1. def get_oldest_staff(x):
   
2.     df = x.sort_values(by= 'age', ascending = True)
   
3.     return df.iloc[-1, :]
   
4. 
   
5. 
   
6. oldest_staff = data.groupby('company', as_index = False).apply(get_oldest_staff)
   
7. print('oldest_staff = \n', oldest_staff)

复制代码

上面代码输出如下：

1. oldest_staff =    company  salary  age0       A   50000   401       B   40000   452       C   50000   35

复制代码

流程图如下：

可以看到，此处的apply和上篇文章中所介绍的作用原理基本一致，只是传入函数的参数由Series变为了此处的分组DataFrame。
最后，关于apply的使用，这里有个小建议，虽然说apply拥有更大的灵活性，但apply的运行效率会比agg和transform更慢。所以，groupby之后能用agg和transform解决的问题还是优先使用这两个方法，实在解决不了了才考虑使用apply进行操作。
到此这篇关于pandas分组聚合(agg,transform,apply)的文章就介绍到这了,更多相关pandas分组聚合内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

大地回春666

谢谢你的提醒，我会注意的。

号北

同意你的观点，我们有共鸣。

神威武二郎

我想了解更多

铁观音

太棒了！感谢分享这个信息！

快乐的小鸟

非常感谢你的观点，让我受益良多！

霸氣⑩哫

看了LZ的帖子，我只想说一句很好很强大！

苹果牛看游戏

让我们一起努力

wjwj

顶一个，观点非常中肯！

静静的湖畔88

顶一个，观点非常中肯！