关于 Python3 ThreadPoo
【背景】
截至 Python 3.6.6,concurrent.futures.ThreadPoolExecutor 中用的都是无·界队列,在生产速度大于消费速度时,可能会耗光系统资源,希望找到一种方式避免这种情况。
【方案一】
继承 ThreadPoolExecutor,直接修改 _work_queue 为有界队列。
优点:简单粗暴直接。
缺点:修改了私有属性。
示例:https://stackoverflow.com/a/48327162
【方案二】
将任务分组,每组完成后再提交下一组。
优点:无需继承,不改变私有属性;能切实有效的避免资源耗费。
缺点:组之间的任务是同步的,未充分利用线程,即使有剩余任务也有空闲线程存在。
示例:https://stackoverflow.com/a/49622149
【方案三】
创建工具类委托给 ThreadPoolExecutor 实例。
优点:无需继承,不改变私有属性;充分利用了线程,有剩余任务时不会有空闲线程存在。
缺点:实现较为复杂。
示例:https://www.bettercodebytes.com/theadpoolexecutor-with-a-bounded-queue-in-python/
【相关阅读】
Python3并发检验代理池地址
*** walker ***
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341