百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Pandas中的宝藏函数(apply)

itomcoil 2025-03-04 12:44 5 浏览

来源: AI入门学习

作者:小伍哥

apply()堪称Pandas中最好用的方法,其使用方式跟map()很像,主要传入的主要参数都是接受输入返回输出。

但相较于昨天介绍的map()针对单列Series进行处理,一条apply()语句可以对单列或多列进行运算,覆盖非常多的使用场景。

参考上篇:Pandas中的宝藏函数-map

基本语法:

DataFrame.apply(func, axis=0, raw=False, result_type=None, 
args=(), **kwargs)

参 数:

func : function 应用到每行或每列的函数。

axis :{0 or 'index', 1 or 'columns'}, default 0 函数应用所沿着的轴。

0 or index : 在每一列上应用函数。

1 or columns : 在每一行上应用函数。

raw : bool, default False 确定行或列以Series还是ndarray对象传递。

False : 将每一行或每一列作为一个Series传递给函数。

True : 传递的函数将接收ndarray 对象。如果你只是应用一个 NumPy 还原函数,这将获得更好的性能。

result_type : {'expand', 'reduce', 'broadcast', None}, default None 只有在axis=1列时才会发挥作用。

expand : 列表式的结果将被转化为列。

reduce : 如果可能的话,返回一个Series,而不是展开类似列表的结果。这与 expand 相反。

broadcast : 结果将被广播到 DataFrame 的原始形状,原始索引和列将被保留。

默认行为(None)取决于应用函数的返回值:类似列表的结果将作为这些结果的 Series 返回。但是,如果应用函数返回一个 Series ,这些结果将被扩展为列。

args : tuple 除了数组/序列之外,要传递给函数的位置参数。

**kwds: 作为关键字参数传递给函数的附加关键字参数。

官方:https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.apply.html

先构造一个数据集

data = pd.DataFrame(
{"name":['Jack', 'Alice', 'Lily', 'Mshis', 'Gdli', 'Agosh', 'Filu', 'Mack', 'Lucy', 'Pony'],
"gender":['F', 'M', 'F', 'F', 'M', 'F', 'M', 'M', 'F', 'F'],
"age":[25, 34, 49, 42, 28, 23, 45, 21, 34, 29]}
                     ) 
data
 name gender  age
0   Jack      F   25
1  Alice      M   34
2   Lily      F   49
3  Mshis      F   42
4   Gdli      M   28
5  Agosh      F   23
6   Filu      M   45
7   Mack      M   21
8   Lucy      F   34
9   Pony      F   29

1)单列数据

这里我们参照2.1向apply()中传入lambda函数:

data.gender.apply(lambda x:'女性' if x is 'F' else '男性')
0    女性
1    男性
2    女性
3    女性
4    男性
5    女性
6    男性
7    男性
8    女性
9    女性

可以看到这里实现了跟map()一样的功能。

2)输入多列数据

apply()最特别的地方在于其可以同时处理多列数据,我们先来了解一下如何处理多列数据输入单列数据输出的情况。

譬如这里我们编写一个使用到多列数据的函数用于拼成对于每一行描述性的话,并在apply()用lambda函数传递多个值进编写好的函数中

注意:当调用DataFrame.apply()时,apply()在串行过程中实际处理的是每一行数据,而不是Series.apply()那样每次处理单个值,在处理多个值时要给apply()添加参数axis=1


def fun_all(name, gender, age):
    gender = '女性' if gender is 'F' else '男性'
    return '有个名字叫{}的人,性别为{},年龄为{}。'.format(name, gender, age)




data.apply(lambda row:fun_all(row['name'],row['gender'],row['age']), axis = 1)
0     有个名字叫Jack的人,性别为女性,年龄为25。
1    有个名字叫Alice的人,性别为男性,年龄为34。
2     有个名字叫Lily的人,性别为女性,年龄为49。
3    有个名字叫Mshis的人,性别为女性,年龄为42。
4     有个名字叫Gdli的人,性别为男性,年龄为28。
5    有个名字叫Agosh的人,性别为女性,年龄为23。
6     有个名字叫Filu的人,性别为男性,年龄为45。
7     有个名字叫Mack的人,性别为男性,年龄为21。
8     有个名字叫Lucy的人,性别为女性,年龄为34。
9     有个名字叫Pony的人,性别为女性,年龄为29。
def intro(r):
    #r代指dataframe中的任意行,是series类型数据,拥有类似字典的使用方法。
    return '大家好,我是{name},性别是{gender},今年{age}岁了!'.format(name=r['name'], gender=r['gender'],age=r['age'])


data.apply(intro, axis=1)
Out[81]: 
0     大家好,我是Jack,性别是F,今年25岁了!
1    大家好,我是Alice,性别是M,今年34岁了!
2     大家好,我是Lily,性别是F,今年49岁了!
3    大家好,我是Mshis,性别是F,今年42岁了!
4     大家好,我是Gdli,性别是M,今年28岁了!
5    大家好,我是Agosh,性别是F,今年23岁了!
6     大家好,我是Filu,性别是M,今年45岁了!
7     大家好,我是Mack,性别是M,今年21岁了!
8     大家好,我是Lucy,性别是F,今年34岁了!
9     大家好,我是Pony,性别是F,今年29岁了!
dtype: object


#其实这样写也是可以的,更简单些
def intro(r):
    return '大家好,我是{},性别是{},今年{}岁了!'.format(r['name'], r['gender'],r['age'])




data.apply(intro, axis=1)

3)输出多列数据

有些时候我们利用apply()会遇到希望同时输出多列数据的情况,在apply()中同时输出多列时实际上返回的是一个Series,这个Series中每个元素是与apply()中传入函数的返回值顺序对应的元组。

比如下面我们利用apply()来提取name列中的首字母和剩余部分字母:


data.apply(lambda row: (row['name'][0], row['name'][1:]), axis=1)
0     (J, ack)
1    (A, lice)
2     (L, ily)
3    (M, shis)
4     (G, dli)
5    (A, gosh)
6     (F, ilu)
7     (M, ack)
8     (L, ucy)
9     (P, ony)

可以看到,这里返回的是单列结果,每个元素是返回值组成的元组,这时若想直接得到各列分开的结果,需要用到zip(*zipped)来解开元组序列,从而得到分离的多列返回值:


a, b = zip(*data.apply(lambda row: (row['name'][0], row['name'][1:]), axis=1))


a
('J', 'A', 'L', 'M', 'G', 'A', 'F', 'M', 'L', 'P')
b
('ack', 'lice', 'ily', 'shis', 'dli', 'gosh', 'ilu', 'ack', 'ucy', 'ony')

4)结合tqdm给apply()过程添加进度条

我们知道apply()在运算时实际上仍然是一行一行遍历的方式,因此在计算量很大时如果有一个进度条来监视运行进度就很舒服。

tqdm:用于添加代码进度条的第三方库

tqdm对pandas也是有着很好的支持。

我们可以使用progress_apply()代替apply(),并在运行progress_apply()之前添加tqdm.tqdm.pandas(desc='')来启动对apply过程的监视。

其中desc参数传入对进度进行说明的字符串,下面我们在上一小部分示例的基础上进行改造来添加进度条功能:


from tqdm import tqdm
def fun_all(name, gender, age):
    gender = '女性' if gender is 'F' else '男性'
    return '有个名字叫{}的人,性别为{},年龄为{}。'.format(name, gender, age)
    
#启动对紧跟着的apply过程的监视
from tqdm import tqdm
tqdm.pandas(desc='apply')
data.progress_apply(lambda row:fun_all(row['name'],row['gender'],
                  row['age']), axis = 1)


apply: 100%|██████████| 10/10 [00:00<00:00, 5011.71it/s]


0     有个名字叫Jack的人,性别为女性,年龄为25。
1    有个名字叫Alice的人,性别为男性,年龄为34。
2     有个名字叫Lily的人,性别为女性,年龄为49。
3    有个名字叫Mshis的人,性别为女性,年龄为42。
4     有个名字叫Gdli的人,性别为男性,年龄为28。
5    有个名字叫Agosh的人,性别为女性,年龄为23。
6     有个名字叫Filu的人,性别为男性,年龄为45。
7     有个名字叫Mack的人,性别为男性,年龄为21。
8     有个名字叫Lucy的人,性别为女性,年龄为34。
9     有个名字叫Pony的人,性别为女性,年龄为2

可以看到在jupyter lab中运行程序的过程中,下方出现了监视过程的进度条,这样就可以实时了解apply过程跑到什么地方了。

结合tqdm_notebook()给apply()过程添加美观进度条,熟悉tqdm的朋友都知道其针对jupyter notebook开发了ui更加美观的tqdm_notebook()。而要想在jupyter notebook/jupyter lab平台上为pandas的apply过程添加美观进度条,可以参照如下示例:

import pandas as pd




data = pd.DataFrame(
{"name":['Jack', 'Alice', 'Lily', 'Mshis', 'Gdli', 'Agosh', 'Filu', 'Mack', 'Lucy', 'Pony'],
"gender":['F', 'M', 'F', 'F', 'M', 'F', 'M', 'M', 'F', 'F'],
"age":[25, 34, 49, 42, 28, 23, 45, 21, 34, 29]}
                     )




def fun_all(name, gender, age):
    gender == '女性' if gender == 'F' else '男性'
    return '有个名字叫{}的人,性别为{},年龄为{}。'.format(name, gender, age)
    
    
from tqdm._tqdm_notebook import tqdm_notebook
 
tqdm_notebook.pandas(desc='apply')




data.progress_apply(lambda row:fun_all(row['name'],row['gender'],
                  row['age']), axis = 1)


相关推荐

WPS新增REGEXP函数正则表达式的实践应用1-替换

前面一直讲REGEXP函数正则表达式的提取功能,但REGEXP函数正则表达式的替换功能也是很强大,利用的范围更多,这里对几种替换用法做一下讲解。如下图要将文本中的数据进行插入替换,在后面没有数字的字母...

这几种正则表达式的“字符集合”,想要入门regexp函数,必须了解

前言回顾:大家好,今天我们来分几篇文章讲讲REGEXP正则表达式函数中的正则表达式字符,因为只有掌握了这些字符之后,我们才能结合具体实际需求,编写REGEXP函数的第二参数,将各类符号进行连接组合使用...

regexp函数具有超级替身术,实现数据精准替换

REGEXP函数具有超级替身术,能够实现数据精准替换。学习这个技巧之前,首先我们先来回忆REGEXP函数的基本语法:正则表达式的基础外壳函数(wps版):REGEXP函数是基于正则表达式,对复杂文本进...

REGEXP函数,基础用法请收好

小伙伴们好啊,今天咱们一起学习REGEXP函数的几个基础用法。这个函数是WPS表格中的特有函数之一,能够根据正则表达式对字符串进行提取、判断或替换。函数语法如下:=REGEXP(要处理的字符串,正则表...

regexp是超级替换器,配合textjoin与textsplit,摆平复杂转换

总有小伙伴抱怨:明明学习了大量的函数与用法,怎么到了综合运用的时候却一个也想不到,总是有种相见恨晚的感觉。小编想说的是:想要灵活解决各种问题,掌握各种基础函数的定义与语法固然很重要,更重要的是要自己制...

wps/excel函数技巧:regexp正则替换等号后的第一个字符

所有的等号和数字之间都有一个字母或符号,请试图去掉它,由于字符种类不同,所以使用正则表达式效果最好:=REGEXP(A2,"=\K.",2)第二个参数是正则表达式,=.*?意图是匹配...

DeepSeek R1 高效微调医疗大模型实战,第二步准备环境下载模型文件

一、模型微调所需硬件与服务器环境搭建大模型微调属于大模型进阶类技术,不同于普通的模型对话或搭建基础应用,微调往往需要一定的软硬件条件支持。大模型微调所需硬件一览硬件方面,不同尺寸模型、不同精度微调时所...

从零开始打造云端AI管理调度平台(一)创建django项目

最近闲来无事,想着把自己工作正在做的一个项目做一个简单的分享与实战教程,该项目不困难但是由于涉及要素过多所以比较复杂。所以这里分享出来也是为了帮助新手小白能在实战当中快速了解python知识。主要内容...

零代码编程:用ChatGPT写Python程序爬取并处理网页数据

下面这个网站页面,列出了很多AI网站,但是是以图片方式列出,点击图片会跳转到网站。怎么能把这些AI网站名称、AI网站网址自动爬取下来保存成excel文件呢?首先,在chrome浏览器中点击右键,点击i...

YOLOv8入门篇--YOLOv8的安装和使用

作者的系统环境是:笔记本:ThindPadP520OS:win11显卡:QuadroP5201、安装anacondaanaconda是什么?为什么要安装anaconda?anaconda是一个py...

在Windows中快速搭建OpenVINO notebook运行环境

什么是OpenVINOnotebook?OpenVINOnotebook是一系列现成可用的,Jupyternotebook形式的范例程序,可以帮助AI开发者快速学习并掌握OpenVINOAP...

LabVIEW 与 Python 融合:打造强大测试系统的利器

在现代测试系统开发领域,LabVIEW和Python各自凭借独特优势占据重要地位。LabVIEW以图形化编程、仪器控制和实时系统开发能力见长;Python则凭借丰富的库资源、简洁语法和强大数...

Python多环境管理神器(pyenv)

下面我们来介绍一个python多环境管理神器pyenvpyenvpyenv主要用来对Python解释器进行管理,可以管理系统上的多个版本的Python解释器。它的主要原理就是将新的解释器路径...

一文吃透Python虚拟环境

摘要在Python开发中,虚拟环境是一种重要的工具,用于隔离不同项目的依赖关系和环境配置。本文将基于windows平台介绍四种常用的Python虚拟环境创建工具:venv、virtualenv、pip...

Intel集成显卡GPU部署Comfyui完整过程

Comfyui本地部署,网上有很多大佬提供了完整的Comfyui压缩包,但下载下来运行总是有各种问题,一直没有跑起来,那就重头自己安装一个吧,同时解决支持Intel集成显卡的问题。笔记本配置下载Com...