博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Python producer & consumer
阅读量:4030 次
发布时间:2019-05-24

本文共 7426 字,大约阅读时间需要 24 分钟。

Python中的生产者消费者问题

我们将使用Python线程来解决Python中的生产者—消费者问题。这个问题完全不像他们在学校中说的那么难。

如果你对生产者—消费者问题有了解,看这篇博客会更有意义。

为什么要关心生产者—消费者问题:

  • 可以帮你更好地理解并发和不同概念的并发。
  • 信息队列中的实现中,一定程度上使用了生产者—消费者问题的概念,而你某些时候必然会用到消息队列。

当我们在使用线程时,你可以学习以下的线程概念:

  • Condition:线程中的条件。
  • wait():在条件实例中可用的wait()。
  • notify() :在条件实例中可用的notify()。

我假设你已经有这些基本概念:线程、竞态条件,以及如何解决静态条件(例如使用lock)。否则的话,你建议你去看我上一篇文章。

引用维基百科:

生产者的工作是产生一块数据,放到buffer中,如此循环。与此同时,消费者在消耗这些数据(例如从buffer中把它们移除),每次一块。

这里的关键词是“同时”。所以生产者和消费者是并发运行的,我们需要对生产者和消费者做线程分离。

再次引用维基百科:

这个为描述了两个共享固定大小缓冲队列的进程,即生产者和消费者。

假设我们有一个全局变量,可以被生产者和消费者线程修改。生产者产生数据并把它加入到队列。消费者消耗这些数据(例如把它移出)。

在刚开始,我们不会设置固定大小的条件,而在实际运行时加入(指下述例子)。

一开始带bug的程序:

运行几次并留意一下结果。如果程序在IndexError异常后并没有自动结束,用Ctrl+Z结束运行。

样例输出:

解释:

  • 我们开始了一个生产者线程(下称生产者)和一个消费者线程(下称消费者)。
  • 生产者不停地添加(数据)到队列,而消费者不停地消耗。
  • 由于队列是一个共享变量,我们把它放到lock程序块内,以防发生竞态条件。
  • 在某一时间点,消费者把所有东西消耗完毕而生产者还在挂起(sleep)。消费者尝试继续进行消耗,但此时队列为空,出现IndexError异常。
  • 在每次运行过程中,在发生IndexError异常之前,你会看到print语句输出”Nothing in queue, but consumer will try to consume”,这是你出错的原因。

我们把这个实现作为错误行为(wrong behavior)。

什么是正确行为?

当队列中没有任何数据的时候,消费者应该停止运行并等待(wait),而不是继续尝试进行消耗。而当生产者在队列中加入数据之后,应该有一个渠道去告诉(notify)消费者。然后消费者可以再次从队列中进行消耗,而IndexError不再出现。

关于条件

  • 条件(condition)可以让一个或多个线程进入wait,直到被其他线程notify。参考:?

这就是我们所需要的。我们希望消费者在队列为空的时候wait,只有在被生产者notify后恢复。生产者只有在往队列中加入数据后进行notify。因此在生产者notify后,可以确保队列非空,因此消费者消费时不会出现异常。

  • condition内含lock。
  • condition有acquire()和release()方法,用以调用内部的lock的对应方法。

condition的acquire()和release()方法内部调用了lock的acquire()和release()。所以我们可以用condiction实例取代lock实例,但lock的行为不会改变。

生产者和消费者需要使用同一个condition实例, 保证wait和notify正常工作。

重写消费者代码:

重写生产者代码:

样例输出:

解释:

  • 对于消费者,在消费前检查队列是否为空。
  • 如果为空,调用condition实例的wait()方法。
  • 消费者进入wait(),同时释放所持有的lock。
  • 除非被notify,否则它不会运行。
  • 生产者可以acquire这个lock,因为它已经被消费者release。
  • 当调用了condition的notify()方法后,消费者被唤醒,但唤醒不意味着它可以开始运行。
  • notify()并不释放lock,调用notify()后,lock依然被生产者所持有。
  • 生产者通过condition.release()显式释放lock。
  • 消费者再次开始运行,现在它可以得到队列中的数据而不会出现IndexError异常。

为队列增加大小限制

生产者不能向一个满队列继续加入数据。

它可以用以下方式来实现:

  • 在加入数据前,生产者检查队列是否为满。
  • 如果不为满,生产者可以继续正常流程。
  • 如果为满,生产者必须等待,调用condition实例的wait()。
  • 消费者可以运行。消费者消耗队列,并产生一个空余位置。
  • 然后消费者notify生产者。
  • 当消费者释放lock,消费者可以acquire这个lock然后往队列中加入数据。

最终程序如下:

样例输出:

更新:

很多网友建议我在lock和condition下使用Queue来代替使用list。我同意这种做法,但我的目的是展示Condition,wait()和notify()如何工作,所以使用了list。

以下用Queue来更新一下代码。

Queue封装了Condition的行为,如wait(),notify(),acquire()。

现在不失为一个好机会读一下Queue的文档()。

更新程序:

解释:

  • 在原来使用list的位置,改为使用Queue实例(下称队列)。
  • 这个队列有一个condition,它有自己的lock。如果你使用Queue,你不需要为condition和lock而烦恼。
  • 生产者调用队列的put方法来插入数据。
  • put()在插入数据前有一个获取lock的逻辑。
  • 同时,put()也会检查队列是否已满。如果已满,它会在内部调用wait(),生产者开始等待。
  • 消费者使用get方法。
  • get()从队列中移出数据前会获取lock。
  • get()会检查队列是否为空,如果为空,消费者进入等待状态。
  • get()和put()都有适当的notify()。现在就去看Queue的源码吧。
你可能感兴趣的文章
socket,accept函数解析
查看>>
今日互联网关注(写在清明节后):每天都有值得关注的大变化
查看>>
”舍得“大法:把自己的优点当缺点倒出去
查看>>
[今日关注]鼓吹“互联网泡沫,到底为了什么”
查看>>
[互联网学习]如何提高网站的GooglePR值
查看>>
[关注大学生]求职不可不知——怎样的大学生不受欢迎
查看>>
[关注大学生]读“贫困大学生的自白”
查看>>
[互联网关注]李开复教大学生回答如何学好编程
查看>>
[关注大学生]李开复给中国计算机系大学生的7点建议
查看>>
[关注大学生]大学毕业生择业:是当"鸡头"还是"凤尾"?
查看>>
[茶余饭后]10大毕业生必听得歌曲
查看>>
gdb调试命令的三种调试方式和简单命令介绍
查看>>
C++程序员的几种境界
查看>>
VC++ MFC SQL ADO数据库访问技术使用的基本步骤及方法
查看>>
VUE-Vue.js之$refs,父组件访问、修改子组件中 的数据
查看>>
Vue-子组件改变父级组件的信息
查看>>
Python自动化之pytest常用插件
查看>>
Python自动化之pytest框架使用详解
查看>>
【正则表达式】以个人的理解帮助大家认识正则表达式
查看>>
性能调优之iostat命令详解
查看>>