一文带你探寻Python中的生成器

2023-05-15 08:49

短信预约 -IT技能 免费直播动态提醒

什么是python生成器

上一篇文章我们介绍了迭代器，而生成器是一种特殊的迭代器，它内部也有__iter__方法和__next__方法，在终止生成器的时候，还是会抛StopIteration异常以此来退出循环，只不过相比于迭代器，生成器还有特性会保存“中间值”，下次运行的时候，还会借助这个“中间值”来操作。生成器的关键字是yield，我们下面来写一个最简单的生成器。

#!/usr/bin/env python

def printNums():
    i = 0
    while i<10:
        yield i
        i = i + 1


def main():
    for i in printNums():
        print(i)

if __name__ == '__main__':
    main()

粗看代码，可能会觉着这个是个啥啊，为啥不直接用range来生成，偏偏要用yield，哎，不急，我们接着往下看为什么需要生成器，或者说，生成器解决了什么问题。

为什么需要python生成器

在说明这个问题之前，我们先来写一个需求，输出 0——10000000 以内的数据，而后运行查看导出内存运行截图。

调用python程序内存信息辅助说明

这里可以借助python的memory_profiler模块来检测程序内存的占用情况。

安装memory_profiler库:

pip3 install memory_profiler

使用方法很简单，在需要检测的函数或者是代码前添加@profile装饰器即可，例如:

@profile
def main():
    pass

生成.dat文件

mprof run <executable>

导出图示，可以使用

mprof plot --output=filename

python案例代码

以下2个程序，都是输出0—9999999之间的数据，不同的是，第一个程序是使用range而后给append进list中，第二个则是使用迭代器来生成该数据。

main.py程序

@profile
def main():
    data = list(range(10000000))
    for i in data:
        pass

if __name__ == '__main__':
    main()

main_2.py程序

def printNum():
    i = 0 
    while i < 10000000:
        yield i
        i = i + 1

@profile
def main():
    for i in printNum():
        pass

if __name__ == '__main__':
    main()

运行程序

代码也有了，就可以按照上述来运行一下程序，并且导出内存信息

运行后内存信息查看

main.py 运行内存图

main_2.py 运行内存图

如上2张对比图，当我们将数据叠加进列表，再输出的时候，占用内存接近400M，而使用迭代器来计算下一个值内存仅使用16M。

通过上述案例，我们应该知道为什么要使用生成器了吧。

python生成器原理

由于生成器表达式yield语句涉及到了python解释权内部机制，所以很难查看其源码，很难获取其原理，不过我们可以利用yield的暂停机制，来探寻一下生成器。

可以编写如下代码：

def testGenerator():
    print("进入生成器")
    yield "pdudo"
    print("第一次输出")
    yield "juejin"
    print("第二次输出")

def main():
    xx = testGenerator()
    print(next(xx))
    print(next(xx))

if __name__ == '__main__':
    main()

运行后效果如下

通过上述实例，再结合下面这段生成器的运行过程，会加深对生成器的感触。

当python遇到yield语句时，会记录当前函数的运行状态，并且暂停执行，将结果抛出。会持续等待下一次调用__next__方法，该方法调用后，会恢复函数的运行，直至下一个yield语句或者函数结束，执行到最后没有yield函数可执行的时候，会抛StopIteration来标志生成器的结束。

生成器表达式

在python中，生成器除了写在函数中，使用yield返回之外，还可以直接使用生成器表达式，额。。。可能很抽象，但是你看下面这段代码，你就明白了。

def printNums():
    for i in [1,2,3,4,5]:
        yield i

def main():
    for i in printNums():
        print(i)

    gener = (i for i in [1,2,3,4,5])
    for i in gener:
        print(i)

if __name__ == '__main__':
    main()

其中，代码(i for i in [1,2,3,4,5])就等同于printNums函数，其类型都是生成器，我们可以使用type打印出来看下。

改下代码，输出结果如下:

好了，生成器表达式其实不复杂，暂时就讲到这里。

总结

该篇文章是介绍python生成器，所谓的生成器其实也是一个特殊的迭代器，其底层依然有__iter__和__next__方法，不仅如此，它还可以将函数“暂停”，当遇到_next__后，又从上一次暂停的地方开始执行，既然是一个特殊的迭代器，所以还是会引发StopIteration异常。而后介绍了为什么需要生成器，距了一个例子，分别打印0——n个数，一个使用生成器还有一个使用list，当然list会更加耗费内存，最后介绍了生成器原理以及生成器表达式。

到此这篇关于一文带你探寻Python中的生成器的文章就介绍到这了,更多相关Python生成器内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网！

免责声明：

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的，并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据，供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

Python生成器原理 Python生成器使用 Python生成器

阅读原文内容投诉