百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

24-3-Python多线程-线程队列-queue模块

moboyou 2025-06-07 16:56 42 浏览


3-1-概念

queue模块提供了多线程编程中的队列实现,队列是线程安全的数据结构,能在多线程环境下安全地进行数据交换。

3-2-queue 的队列类型

  1. Queue(先进先出队列)、
  2. LifoQueue(后进先出队列,类似栈)、
  3. PriorityQueue(优先队列)

3-3-Queue(先进先出队列)

3-3-1-常用方法

编号

方法名

方法说明

1

__init__(maxsize=0)

创建队列实例,

`maxsize` 是队列的最大容量,

若为 0 则表示无限制

2

put(item, block=True, timeout=None)

将 `item` 放入队列。

若 `block` 为 `True` 且队列已满,会阻塞直到有空间;

若 `timeout` 有值,则最多阻塞 `timeout` 秒,超时会抛出 `Full` 异常。

若 `block` 为 `False`,队列满时会立即抛出 `Full` 异常

3

get(block=True, timeout=None)

从队列中取出并返回一个元素。

若 `block` 为 `True` 且队列为空,会阻塞直到有元素;

若 `timeout` 有值,则最多阻塞 `timeout` 秒,超时会抛出 `Empty` 异常。

若 `block` 为 `False`,

队列为空时会立即抛出 `Empty` 异常

4

qsize()

返回队列中元素的大致数量

5

empty()

判断队列是否为空,若为空返回 `True`,否则返回 `False`

6

full()

判断队列是否已满,若已满返回 `True`,否则返回 `False`

7

Queue.task_done()

在完成一项工作之后,函数Queue.task_done()向任务已经完成的队列发送一个信号。

这意味着之前入队的一个任务已经完成。

由队列的消费者线程调用。每一个get()调用得到一个任务时,接下来的task_done()调用告诉队列该任务已经处理完毕。

如果当前一个join()

正在阻塞,它将在队列中的所有任务都处理完时恢复执行(即每一个由put()调用入队的任务都有一个对应的task_done()调用)。

8

Queue.join()

实际上,这意味着等到队列为空时,再执行别的操作。

它会阻塞调用线程,直到队列中的所有任务处理完。

只要有数据加入队列,未完成的任务数就会增加。

当消费者线程调用task_done()时(意味着有消费者取得任务并完成任务),未完成的任务数就会减少。

当未完成的任务数降到0时,join()解除阻塞

3-3-2-示例代码

代码

import queue
import threading
import time

# 创建一个队列
q = queue.Queue(maxsize=3)

# 生产者线程函数
def producer():
    for i in range(5):
        q.put(i)
        print(f"生产者放入元素 {i}")
        time.sleep(1)

# 消费者线程函数
def consumer():
    while True:
        item = q.get()
        print(f"消费者取出元素 {item}")
        q.task_done()  # 标记任务完成

# 创建生产者和消费者线程
producer_thread = threading.Thread(target=producer)
consumer_thread = threading.Thread(target=consumer)

# 启动线程
producer_thread.start()
consumer_thread.start()

# 等待生产者线程结束
producer_thread.join()

# 等待队列中所有任务完成
q.join()

# 结束消费者线程(这里只是示例,实际中可能需要更优雅的方式)
consumer_thread.join(timeout=1)

输出结果

3-4-LifoQueue(后进先出队列)

LifoQueue的方法和 Queue 基本相同,不过它遵循后进先出的原则。

3-4-1-示例代码

代码

import queue

# 创建一个后进先出队列
lifo_q = queue.LifoQueue()

# 放入元素
lifo_q.put(1)
lifo_q.put(2)
lifo_q.put(3)

# 取出元素
while not lifo_q.empty():
    print(lifo_q.get())

输出结果

3 2 1

3-5-PriorityQueue(优先队列)

PriorityQueue中的元素会按照优先级排序,优先级低的元素先被取出。

元素一般是元组 (priority, item) 的形式,priority是优先级。

3-5-1-示例代码

代码

import queue

# 创建一个优先队列
priority_q = queue.PriorityQueue()

# 放入元素,元组第一个元素是优先级
priority_q.put((3, '任务3'))
priority_q.put((1, '任务1'))
priority_q.put((2, '任务2'))

# 取出元素
while not priority_q.empty():
    print(priority_q.get())

这些队列类在多线程编程中非常实用,能帮助你实现线程间的安全数据交换和任务调度。

输出结果

3-6-数据结构-FIFO队列

3-6-1-概念

FIFO(先进先出)队列是一种常见的数据结构,遵循先进入队列的元素先出队的原则。

Python 的标准库 queue 模块提供了 Queue 类来实现 FIFO 队列,同时 collections 模块里的 deque 也能当作 FIFO 队列使用

3-6-2-应用场景

FIFO 队列在很多场景下都有应用,例如:

任务调度:在多线程或多进程编程中,可以使用 FIFO 队列来存储待执行的任务,确保任务按照提交的顺序依次执行。

消息传递:在分布式系统或多线程应用中,FIFO 队列可以用于线程间或进程间的消息传递,保证消息的顺序性。

3-6-3-常用方法

3-6-3-1-使用 queue.Queue

queue.Queue 是线程安全的,适合在多线程编程中使用

代码

import queue

# 创建一个 FIFO 队列
q = queue.Queue()

# 往队列中添加元素
q.put(1)
q.put(2)
q.put(3)

# 从队列中取出元素
while not q.empty():
    item = q.get()
    print(item)

输出结果

代码分析

put() 方法用于向队列添加元素,get() 方法用于从队列中取出元素,empty() 方法用于检查队列是否为空。

3-6-3-2-使用 collections.deque

collections.deque 是一个双端队列,也可以当作 FIFO 队列使用。它的操作效率较高,并且支持多线程环境。

代码

from collections import deque

# 创建一个 FIFO 队列
q = deque()

# 往队列中添加元素
q.append(1)
q.append(2)
q.append(3)

# 从队列中取出元素
while q:
    item = q.popleft()
    print(item)
print('------------')

q.append(1)
q.append(2)
q.append(3)

while q:
    item = q.pop()
    print(item)

输出结果

3-6-4-案例

代码

import queue
import threading

# 创建一个 FIFO 队列
q = queue.Queue()

# 生产者线程函数
def producer():
    for i in range(5):
        q.put(i)
        print(f"Produced {i}")

# 消费者线程函数
def consumer():
    while True:
        item = q.get()
        if item is None:
            break
        print(f"Consumed {item}")
        q.task_done()

# 创建生产者和消费者线程
producer_thread = threading.Thread(target=producer)
consumer_thread = threading.Thread(target=consumer)

# 启动线程
producer_thread.start()
consumer_thread.start()

# 等待生产者线程完成
producer_thread.join()

# 发送结束信号给消费者线程
q.put(None)

# 等待消费者线程完成
consumer_thread.join()

输出结果

代码分析

生产者线程往队列中添加元素,消费者线程从队列中取出元素进行处理。

通过 task_done() 方法和 join() 方法可以确保所有任务都被处理完毕

相关推荐

Excel技巧:SHEETSNA函数一键提取所有工作表名称批量生产目录

首先介绍一下此函数:SHEETSNAME函数用于获取工作表的名称,有三个可选参数。语法:=SHEETSNAME([参照区域],[结果方向],[工作表范围])(参照区域,可选。给出参照,只返回参照单元格...

Excel HOUR函数:“小时”提取器_excel+hour函数提取器怎么用

一、函数概述HOUR函数是Excel中用于提取时间值小时部分的日期时间函数,返回0(12:00AM)到23(11:00PM)之间的整数。该函数在时间数据分析、考勤统计、日程安排等场景中应用广泛。语...

Filter+Search信息管理不再难|多条件|模糊查找|Excel函数应用

原创版权所有介绍一个信息管理系统,要求可以实现:多条件、模糊查找,手动输入的内容能去空格。先看效果,如下图动画演示这样的一个效果要怎样实现呢?本文所用函数有Filter和Search。先用filter...

FILTER函数介绍及经典用法12:FILTER+切片器的应用

EXCEL函数技巧:FILTER经典用法12。FILTER+切片器制作筛选按钮。FILTER的函数的经典用法12是用FILTER的函数和切片器制作一个筛选按钮。像左边的原始数据,右边想要制作一...

office办公应用网站推荐_office办公软件大全

以下是针对Office办公应用(Word/Excel/PPT等)的免费学习网站推荐,涵盖官方教程、综合平台及垂直领域资源,适合不同学习需求:一、官方权威资源1.微软Office官方培训...

WPS/Excel职场办公最常用的60个函数大全(含卡片),效率翻倍!

办公最常用的60个函数大全:从入门到精通,效率翻倍!在职场中,WPS/Excel几乎是每个人都离不开的工具,而函数则是其灵魂。掌握常用的函数,不仅能大幅提升工作效率,还能让你在数据处理、报表分析、自动...

收藏|查找神器Xlookup全集|一篇就够|Excel函数|图解教程

原创版权所有全程图解,方便阅读,内容比较多,请先收藏!Xlookup是Vlookup的升级函数,解决了Vlookup的所有缺点,可以完全取代Vlookup,学完本文后你将可以应对所有的查找难题,内容...

批量查询快递总耗时?用Excel这个公式,自动计算揽收到签收天数

批量查询快递总耗时?用Excel这个公式,自动计算揽收到签收天数在电商运营、物流对账等工作中,经常需要统计快递“揽收到签收”的耗时——比如判断某快递公司是否符合“3天内送达”的服务承...

Excel函数公式教程(490个实例详解)

Excel函数公式教程(490个实例详解)管理层的财务人员为什么那么厉害?就是因为他们精通excel技能!财务人员在日常工作中,经常会用到Excel财务函数公式,比如财务报表分析、工资核算、库存管理等...

Excel(WPS表格)Tocol函数应用技巧案例解读,建议收藏备用!

工作中,经常需要从多个单元格区域中提取唯一值,如体育赛事报名信息中提取唯一的参赛者信息等,此时如果复制粘贴然后去重,效率就会很低。如果能合理利用Tocol函数,将会极大地提高工作效率。一、功能及语法结...

Excel中的SCAN函数公式,把计算过程理清,你就会了

Excel新版本里面,除了出现非常好用的xlookup,Filter公式之外,还更新一批自定义函数,可以像写代码一样写公式其中SCAN函数公式,也非常强大,它是一个循环函数,今天来了解这个函数公式的计...

Excel(WPS表格)中多列去重就用Tocol+Unique组合函数,简单高效

在数据的分析和处理中,“去重”一直是绕不开的话题,如果单列去重,可以使用Unique函数完成,如果多列去重,如下图:从数据信息中可以看到,每位参赛者参加了多项运动,如果想知道去重后的参赛者有多少人,该...

Excel(WPS表格)函数Groupby,聚合统计,快速提高效率!

在前期的内容中,我们讲了很多的统计函数,如Sum系列、Average系列、Count系列、Rank系列等等……但如果用一个函数实现类似数据透视表的功能,就必须用Groupby函数,按指定字段进行聚合汇...

Excel新版本,IFS函数公式,太强大了!

我们举一个工作实例,现在需要计算业务员的奖励数据,右边是公司的奖励标准:在新版本的函数公式出来之前,我们需要使用IF函数公式来解决1、IF函数公式IF函数公式由三个参数组成,IF(判断条件,对的时候返...

Excel不用函数公式数据透视表,1秒完成多列项目汇总统计

如何将这里的多组数据进行汇总统计?每组数据当中一列是不同菜品,另一列就是该菜品的销售数量。如何进行汇总统计得到所有的菜品销售数量的求和、技术、平均、最大、最小值等数据?不用函数公式和数据透视表,一秒就...