百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Python 进阶——如何正确使用 yield

itomcoil 2024-12-14 12:43 34 浏览

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理

在 Python 开发中, yield 关键字的使用其实较为频繁,例如大集合的生成,简化代码结构、协程与并发都会用到它。


但是,你是否真正了解 yield 的运行过程呢?


这篇文章,我们就来看一下 yield 的运行流程,以及在开发中哪些场景适合使用 yield 。


生成器


如果在一个方法内,包含了 yield 关键字,那么这个函数就是一个「生成器」。


生成器其实就是一个特殊的迭代器,它可以像迭代器那样,迭代输出方法内的每个元素。?

我们来看一个包含 yield 关键字的方法:


# coding: utf8

# 生成器
defgen(n):
foriinrange(n):
yieldi

g = gen(5)# 创建一个生成器
print(g)# <generator object gen at 0x10bb46f50>
print(type(g))# <type 'generator'>

# 迭代生成器中的数据
foriing:
print(i)

# Output:
# 0 1 2 3 4


注意,在这个例子中,当我们执行 g = gen(5) 时, gen 中的代码其实并没有执行,此时我们只是创建了一个「生成器对象」,它的类型是 generator 。


然后,当我们执行 for i in g ,每执行一次循环,就会执行到 yield 处,返回一次 yield 后面的值。


这个迭代过程是和迭代器最大的区别。


换句话说,如果我们想输出 5 个元素,在创建生成器时,这个 5 个元素其实还并没有产生,什么时候产生呢?只有在执行 for 循环遇到 yield 时,才会依次生成每个元素。


此外,生成器除了和迭代器一样实现迭代数据之外,还包含了其他方法:


  • generator.__next__() :执行 for 时调用此方法,每次执行到 yield 就会停止,然后返回 yield 后面的值,如果没有数据可迭代,抛出 StopIterator 异常, for 循环结束
  • generator.send(value) :外部传入一个值到生成器内部,改变 yield 前面的值
  • generator.throw(type[, value[, traceback]]) :外部向生成器抛出一个异常
  • generator.close() :关闭生成器


通过使用生成器的这些方法,我们可以完成很多有意思的功能。

__ next __


先来看生成器的 __next__ 方法,我们看下面这个例子。


# coding: utf8

defgen(n):
foriinrange(n):
print('yield before')
yieldi
print('yield after')

g = gen(3)# 创建一个生成器
print(g.__next__())# 0
print('----')
print(g.__next__())# 1
print('----')
print(g.__next__())# 2
print('----')
print(g.__next__())# StopIteration

# Output:
# yield before
# 0
# ----
# yield after
# yield before
# 1
# ----
# yield after
# yield before
# 2
# ----
# yield after
# Traceback (most recent call last):
# File "gen.py", line 16, in <module>
# print(g.__next__()) # StopIteration
# StopIteration


在这个例子中,我们定义了 gen 方法,这个方法包含了 yield 关键字。然后我们执行 g = gen(3) 创建一个生成器,但是这次没有执行 for 去迭代它,而是多次调用 g.next() 去输出生成器中的元素。


我们看到,当执行 g.__next__() 时,代码就会执行到 yield 处,然后返回 yield 后面的值,如果继续调用 g.__next__() ,注意,你会发现,这次执行的开始位置,是上次 yield 结束的地方,并且它还保留了上一次执行的上下文,继续向后迭代。


这就是使用 yield 的作用,在迭代生成器时,每一次执行都可以保留上一次的状态,而不是像普通方法那样,遇到 return 就返回结果,下一次执行只能再次重复上一次的流程。


生成器除了能保存状态之外,我们还可以通过其他方式,改变其内部的状态,这就是下面要讲的 send 和 throw 方法。


send


上面的例子中,我们只展示了在 yield 后有值的情况,其实还可以使用 j = yield i 这种语法,我们看下面的代码:


# coding: utf8

defgen():
i =1
whileTrue:
j =yieldi
i *=2
ifj ==-1:
break


此时如果我们执行下面的代码:


foriingen():
print(i)
time.sleep(1)


输出结果会是 1 2 4 8 16 32 64 ... 一直循环下去, 直到我们杀死这个进程才能停止。


这段代码一直循环的原因在于,它无法执行到 j == -1 这个分支里 break 出来,如果我们想让代码执行到这个地方,如何做呢?


这里就要用到生成器的 send 方法了, send 方法可以把外部的值传入生成器内部,从而改变生成器的状态。


代码可以像下面这样写:


g = gen()# 创建一个生成器
print(g.__next__())# 1
print(g.__next__())# 2
print(g.__next__())# 4
# send 把 -1 传入生成器内部 走到了 j = -1 这个分支
print(g.send(-1))# StopIteration 迭代停止


当我们执行 g.send(-1) 时,相当于把 -1 传入到了生成器内部,然后赋值给了 yield 前面的 j ,此时 j = -1 ,然后这个方法就会 break 出来,不会继续迭代下去。


throw


外部除了可以向生成器内部传入一个值外,还可以传入一个异常,也就是调用 throw 方法:


# coding: utf8

defgen():
try:
yield1
exceptValueError:
yield'ValueError'
finally:
print('finally')

g = gen()# 创建一个生成器
print(g.__next__())# 1
# 向生成器内部传入异常 返回ValueError
print(g.throw(ValueError))

# Output:
# 1
# ValueError
# finally


这个例子创建好生成器后,使用 g.throw(ValueError) 的方式,向生成器内部传入了一个异常,走到了生成器异常处理的分支逻辑。


close


生成器的 close 方法也比较简单,就是手动关闭这个生成器,关闭后的生成器无法再进行操作。


>>>g = gen()
>>>g.close()# 关闭生成器
>>>g.__next__()# 无法迭代数据
Traceback (most recent call last):
File"<stdin>", line1,in<module>
StopIteration


close 方法我们在开发中使用得比较少,了解一下就好。


使用场景


了解了 yield 和生成器的使用方式,那么 yield 和生成器一般用在哪些业务场景中呢?


下面我介绍几个例子,分别是大集合的生成、简化代码结构、协程与并发,你可以参考这些使用场景来使用 yield 。


大集合的生成


如果你想生成一个非常大的集合,如果使用 list 创建一个集合,这会导致在内存中申请一个很大的存储空间,例如想下面这样:


# coding: utf8

defbig_list():
result = []
foriinrange(10000000000):
result.append(i)
returnresult

# 一次性在内存中生成大集合 内存占用非常大
foriinbig_list():
print(i)


这种场景,我们使用生成器就能很好地解决这个问题。


因为生成器只有在执行到 yield 时才会迭代数据,这时只会申请需要返回元素的内存空间,代码可以这样写:


# coding: utf8

defbig_list():
foriinrange(10000000000):
yieldi

# 只有在迭代时 才依次生成元素 减少内存占用
foriinbig_list():
print(i)


简化代码结构


我们在开发时还经常遇到这样一种场景,如果一个方法要返回一个 list ,但这个 list 是多个逻辑块组合后才能产生的,这就会导致我们的代码结构变得很复杂:


# coding: utf8

defgen_list():
# 多个逻辑块 组成生成一个列表
result = []
foriinrange(10):
result.append(i)
forjinrange(5):
result.append(j * j)
forkin[100,200,300]:
result.append(k)
returnresult

foritemingen_list():
print(item)


这种情况下,我们只能在每个逻辑块内使用 append 向 list 中追加元素,代码写起来比较啰嗦。


此时如果使用 yield 来生成这个 list ,代码就简洁很多:


# coding: utf8

defgen_list():
# 多个逻辑块 使用yield 生成一个列表
foriinrange(10):
yieldi
forjinrange(5):
yieldj * j
forkin[100,200,300]:
yieldk

foritemingen_list():
print(i)


使用 yield 后,就不再需要定义 list 类型的变量,只需在每个逻辑块直接 yield 返回元素即可,可以达到和前面例子一样的功能。


我们看到,使用 yield 的代码更加简洁,结构也更清晰,另外的好处是只有在迭代元素时才申请内存空间,降低了内存资源的消耗。


协程与并发


还有一种场景是 yield 使用非常多的,那就是「协程与并发」。


如果我们想提高程序的执行效率,通常会使用多进程、多线程的方式编写程序代码,最常用的编程模型就是「生产者-消费者」模型,即一个进程 / 线程生产数据,其他进程 / 线程消费数据。


在开发多进程、多线程程序时,为了防止共享资源被篡改,我们通常还需要加锁进行保护,这样就增加了编程的复杂度。


在 Python 中,除了使用进程和线程之外,我们还可以使用「协程」来提高代码的运行效率。


什么是协程?


简单来说, 由多个程序块组合协作执行的程序,称之为「协程」。


而在 Python 中使用「协程」,就需要用到 yield 关键字来配合。


可能这么说还是太好理解,我们用 yield 实现一个协程生产者、消费者的例子:


# coding: utf8

defconsumer():
i =None
whileTrue:
# 拿到 producer 发来的数据
j =yieldi
print('consume %s'% j)

defproducer(c):
c.__next__()
foriinrange(5):
print('produce %s'% i)
# 发数据给 consumer
c.send(i)
c.close()

c = consumer()
producer(c)

# Output:
# produce 0
# consume 0
# produce 1
# consume 1
# produce 2
# consume 2
# produce 3
# consume 3
...


这个程序的执行流程如下:


  1. c = consumer() 创建一个生成器对象
  2. producer(c) 开始执行, c.__next()__ 会启动生成器 consumer 直到代码运行到 j = yield i 处,此时 consumer 第一次执行完毕,返回
  3. producer 函数继续向下执行,直到 c.send(i) 处,这里利用生成器的 send 方法,向 consumer 发送数据
  4. consumer 函数被唤醒,从 j = yield i 处继续开始执行,并且接收到 producer 传来的数据赋值给 j ,然后打印输出,直到再次执行到 yield 处,返回
  5. producer 继续循环执行上面的过程,依次发送数据给 cosnumer ,直到循环结束
  6. 最终 c.close() 关闭 consumer 生成器,程序退出


在这个例子中我们发现,程序在 producer 和 consumer 这 2 个函数之间 来回切换 执行,相互协作,完成了生产任务、消费任务的业务场景,最重要的是,整个程序是在 单进程单线程 下完成的。


这个例子用到了上面讲到的 yield 、生成器的 __next__ 、 send 、 close 方法。如果不好理解,你可以多看几遍这个例子,最好自己测试一下。


我们使用协程编写生产者、消费者的程序时,它的好处是:


  • 整个程序运行过程中无锁,不用考虑共享变量的保护问题,降低了编程复杂度
  • 程序在函数之间来回切换,这个过程是用户态下进行的,不像进程 / 线程那样,会陷入到内核态,这就减少了内核态上下文切换的消耗,执行效率更高


所以, Python 的 yield 和生成器实现了协程的编程方式,为程序的并发执行提供了编程基础。


Python 中的很多第三方库,都是基于这一特性进行封装的,例如 gevent 、 tornado ,它们都大大提高了程序的运行效率。


总结


总结一下,这篇文章我们主要讲了 yield 的使用方式,以及生成器的各种特性。


生成器是一种特殊的迭代器,它除了可以迭代数据之外,在执行时还可以保存方法中的状态,除此之外,它还提供了外部改变内部状态的方式,把外部的值传入到生成器内部。


利用 yield 和生成器的特性,我们在开发中可以用在大集成的生成、简化代码结构、协程与并发的业务场景中。


Python 的 yield 也是实现协程和并发的基础,它提供了协程这种用户态的编程模式,提高了程序运行的效率。

私信小编01即可获取大量Python学习资料

相关推荐

selenium(WEB自动化工具)

定义解释Selenium是一个用于Web应用程序测试的工具。Selenium测试直接运行在浏览器中,就像真正的用户在操作一样。支持的浏览器包括IE(7,8,9,10,11),MozillaF...

开发利器丨如何使用ELK设计微服务中的日志收集方案?

【摘要】微服务各个组件的相关实践会涉及到工具,本文将会介绍微服务日常开发的一些利器,这些工具帮助我们构建更加健壮的微服务系统,并帮助排查解决微服务系统中的问题与性能瓶颈等。我们将重点介绍微服务架构中...

高并发系统设计:应对每秒数万QPS的架构策略

当面试官问及"如何应对每秒几万QPS(QueriesPerSecond)"时,大概率是想知道你对高并发系统设计的理解有多少。本文将深入探讨从基础设施到应用层面的解决方案。01、理解...

2025 年每个 JavaScript 开发者都应该了解的功能

大家好,很高兴又见面了,我是"高级前端进阶",由我带着大家一起关注前端前沿、深入前端底层技术,大家一起进步,也欢迎大家关注、点赞、收藏、转发。1.Iteratorhelpers开发者...

JavaScript Array 对象

Array对象Array对象用于在变量中存储多个值:varcars=["Saab","Volvo","BMW"];第一个数组元素的索引值为0,第二个索引值为1,以此类推。更多有...

Gemini 2.5编程全球霸榜,谷歌重回AI王座,神秘模型曝光,奥特曼迎战

刚刚,Gemini2.5Pro编程登顶,6美元性价比碾压Claude3.7Sonnet。不仅如此,谷歌还暗藏着更强的编程模型Dragontail,这次是要彻底翻盘了。谷歌,彻底打了一场漂亮的翻...

动力节点最新JavaScript教程(高级篇),深入学习JavaScript

JavaScript是一种运行在浏览器中的解释型编程语言,它的解释器被称为JavaScript引擎,是浏览器的一部分,JavaScript广泛用于浏览器客户端编程,通常JavaScript脚本是通过嵌...

一文看懂Kiro,其 Spec工作流秒杀Cursor,可移植至Claude Code

当Cursor的“即兴编程”开始拖累项目质量,AWS新晋IDEKiro以Spec工作流打出“先规范后编码”的系统工程思维:需求-设计-任务三件套一次生成,文档与代码同步落地,复杂项目不...

「晚安·好梦」努力只能及格,拼命才能优秀

欢迎光临,浏览之前点击上面的音乐放松一下心情吧!喜欢的话给小编一个关注呀!Effortscanonlypass,anddesperatelycanbeexcellent.努力只能及格...

JavaScript 中 some 与 every 方法的区别是什么?

大家好,很高兴又见面了,我是姜茶的编程笔记,我们一起学习前端相关领域技术,共同进步,也欢迎大家关注、点赞、收藏、转发,您的支持是我不断创作的动力在JavaScript中,Array.protot...

10个高效的Python爬虫框架,你用过几个?

小型爬虫需求,requests库+bs4库就能解决;大型爬虫数据,尤其涉及异步抓取、内容管理及后续扩展等功能时,就需要用到爬虫框架了。下面介绍了10个爬虫框架,大家可以学习使用!1.Scrapysc...

12个高效的Python爬虫框架,你用过几个?

实现爬虫技术的编程环境有很多种,Java、Python、C++等都可以用来爬虫。但很多人选择Python来写爬虫,为什么呢?因为Python确实很适合做爬虫,丰富的第三方库十分强大,简单几行代码便可实...

pip3 install pyspider报错问题解决

运行如下命令报错:>>>pip3installpyspider观察上面的报错问题,需要安装pycurl。是到这个网址:http://www.lfd.uci.edu/~gohlke...

PySpider框架的使用

PysiderPysider是一个国人用Python编写的、带有强大的WebUI的网络爬虫系统,它支持多种数据库、任务监控、项目管理、结果查看、URL去重等强大的功能。安装pip3inst...

「机器学习」神经网络的激活函数、并通过python实现激活函数

神经网络的激活函数、并通过python实现whatis激活函数感知机的网络结构如下:左图中,偏置b没有被画出来,如果要表示出b,可以像右图那样做。用数学式来表示感知机:上面这个数学式子可以被改写:...