24-3-Python多线程-线程队列-queue模块
moboyou 2025-06-07 16:56 4 浏览
3-1-概念
queue模块提供了多线程编程中的队列实现,队列是线程安全的数据结构,能在多线程环境下安全地进行数据交换。
3-2-queue 的队列类型
- Queue(先进先出队列)、
- LifoQueue(后进先出队列,类似栈)、
- PriorityQueue(优先队列)
3-3-Queue(先进先出队列)
3-3-1-常用方法
编号 | 方法名 | 方法说明 |
1 | __init__(maxsize=0) | 创建队列实例, `maxsize` 是队列的最大容量, 若为 0 则表示无限制 |
2 | put(item, block=True, timeout=None) | 将 `item` 放入队列。 若 `block` 为 `True` 且队列已满,会阻塞直到有空间; 若 `timeout` 有值,则最多阻塞 `timeout` 秒,超时会抛出 `Full` 异常。 若 `block` 为 `False`,队列满时会立即抛出 `Full` 异常 |
3 | get(block=True, timeout=None) | 从队列中取出并返回一个元素。 若 `block` 为 `True` 且队列为空,会阻塞直到有元素; 若 `timeout` 有值,则最多阻塞 `timeout` 秒,超时会抛出 `Empty` 异常。 若 `block` 为 `False`, 队列为空时会立即抛出 `Empty` 异常 |
4 | qsize() | 返回队列中元素的大致数量 |
5 | empty() | 判断队列是否为空,若为空返回 `True`,否则返回 `False` |
6 | full() | 判断队列是否已满,若已满返回 `True`,否则返回 `False` |
7 | Queue.task_done() | 在完成一项工作之后,函数Queue.task_done()向任务已经完成的队列发送一个信号。 这意味着之前入队的一个任务已经完成。 由队列的消费者线程调用。每一个get()调用得到一个任务时,接下来的task_done()调用告诉队列该任务已经处理完毕。 如果当前一个join() 正在阻塞,它将在队列中的所有任务都处理完时恢复执行(即每一个由put()调用入队的任务都有一个对应的task_done()调用)。 |
8 | Queue.join() | 实际上,这意味着等到队列为空时,再执行别的操作。 它会阻塞调用线程,直到队列中的所有任务处理完。 只要有数据加入队列,未完成的任务数就会增加。 当消费者线程调用task_done()时(意味着有消费者取得任务并完成任务),未完成的任务数就会减少。 当未完成的任务数降到0时,join()解除阻塞 |
3-3-2-示例代码
代码
import queue
import threading
import time
# 创建一个队列
q = queue.Queue(maxsize=3)
# 生产者线程函数
def producer():
for i in range(5):
q.put(i)
print(f"生产者放入元素 {i}")
time.sleep(1)
# 消费者线程函数
def consumer():
while True:
item = q.get()
print(f"消费者取出元素 {item}")
q.task_done() # 标记任务完成
# 创建生产者和消费者线程
producer_thread = threading.Thread(target=producer)
consumer_thread = threading.Thread(target=consumer)
# 启动线程
producer_thread.start()
consumer_thread.start()
# 等待生产者线程结束
producer_thread.join()
# 等待队列中所有任务完成
q.join()
# 结束消费者线程(这里只是示例,实际中可能需要更优雅的方式)
consumer_thread.join(timeout=1)
输出结果
3-4-LifoQueue(后进先出队列)
LifoQueue的方法和 Queue 基本相同,不过它遵循后进先出的原则。
3-4-1-示例代码
代码
import queue
# 创建一个后进先出队列
lifo_q = queue.LifoQueue()
# 放入元素
lifo_q.put(1)
lifo_q.put(2)
lifo_q.put(3)
# 取出元素
while not lifo_q.empty():
print(lifo_q.get())
输出结果
3 2 1
3-5-PriorityQueue(优先队列)
PriorityQueue中的元素会按照优先级排序,优先级低的元素先被取出。
元素一般是元组 (priority, item) 的形式,priority是优先级。
3-5-1-示例代码
代码
import queue
# 创建一个优先队列
priority_q = queue.PriorityQueue()
# 放入元素,元组第一个元素是优先级
priority_q.put((3, '任务3'))
priority_q.put((1, '任务1'))
priority_q.put((2, '任务2'))
# 取出元素
while not priority_q.empty():
print(priority_q.get())
这些队列类在多线程编程中非常实用,能帮助你实现线程间的安全数据交换和任务调度。
输出结果
3-6-数据结构-FIFO队列
3-6-1-概念
FIFO(先进先出)队列是一种常见的数据结构,遵循先进入队列的元素先出队的原则。
Python 的标准库 queue 模块提供了 Queue 类来实现 FIFO 队列,同时 collections 模块里的 deque 也能当作 FIFO 队列使用
3-6-2-应用场景
FIFO 队列在很多场景下都有应用,例如:
任务调度:在多线程或多进程编程中,可以使用 FIFO 队列来存储待执行的任务,确保任务按照提交的顺序依次执行。
消息传递:在分布式系统或多线程应用中,FIFO 队列可以用于线程间或进程间的消息传递,保证消息的顺序性。
3-6-3-常用方法
3-6-3-1-使用 queue.Queue
queue.Queue 是线程安全的,适合在多线程编程中使用
代码
import queue
# 创建一个 FIFO 队列
q = queue.Queue()
# 往队列中添加元素
q.put(1)
q.put(2)
q.put(3)
# 从队列中取出元素
while not q.empty():
item = q.get()
print(item)
输出结果
代码分析
put() 方法用于向队列添加元素,get() 方法用于从队列中取出元素,empty() 方法用于检查队列是否为空。
3-6-3-2-使用 collections.deque
collections.deque 是一个双端队列,也可以当作 FIFO 队列使用。它的操作效率较高,并且支持多线程环境。
代码
from collections import deque
# 创建一个 FIFO 队列
q = deque()
# 往队列中添加元素
q.append(1)
q.append(2)
q.append(3)
# 从队列中取出元素
while q:
item = q.popleft()
print(item)
print('------------')
q.append(1)
q.append(2)
q.append(3)
while q:
item = q.pop()
print(item)
输出结果
3-6-4-案例
代码
import queue
import threading
# 创建一个 FIFO 队列
q = queue.Queue()
# 生产者线程函数
def producer():
for i in range(5):
q.put(i)
print(f"Produced {i}")
# 消费者线程函数
def consumer():
while True:
item = q.get()
if item is None:
break
print(f"Consumed {item}")
q.task_done()
# 创建生产者和消费者线程
producer_thread = threading.Thread(target=producer)
consumer_thread = threading.Thread(target=consumer)
# 启动线程
producer_thread.start()
consumer_thread.start()
# 等待生产者线程完成
producer_thread.join()
# 发送结束信号给消费者线程
q.put(None)
# 等待消费者线程完成
consumer_thread.join()
输出结果
代码分析
生产者线程往队列中添加元素,消费者线程从队列中取出元素进行处理。
通过 task_done() 方法和 join() 方法可以确保所有任务都被处理完毕
相关推荐
- python多线程实现查找目录下有没有相同哈希值的文件
-
python多线程实现查找目录下有没有相同的文件,列出哈希值相同的文件importosimporthashlibfromconcurrent.futuresimportThreadPoo...
- Java、Go 和 Python 多线程性能对比
-
大家好,我是难瓜。今天分享多线程下这三门语言的表现。简介在计算机中,线程是可以由处理器独立执行的小指令序列。多线程在一个进程中是可能的,其中它们共享资源,例如指令和上下文。发现在运行多线程进程时效率最...
- 干货分享丨Python多线程之_thread与threading模块
-
在Python程序中,多线程的应用程序会创建一个函数,来执行需要重复执行多次的程序代码,然后创建一个线程执行该函数。一个线程是一个应用程序单元,用于在后台并行执行多个耗时的动作。在多线程的应用程序中,...
- 一文带您了解Python中的并发:异步(Asyncio)和多线程(Thread)
-
Python以其简单性和多样性而闻名,是一种适用于广泛应用领域的编程语言。在处理多个任务并发时,Python提供了两种主要方法:Asyncio用于异步编程,Multithreading用于管理多个...
- 解锁Python并发编程:多线程和多进程的神秘面纱揭晓
-
欢迎来到我们的系列博客《Python全景系列》!在这个系列中,我们将带领你从Python的基础知识开始,一步步深入到高级话题,帮助你掌握这门强大而灵活的编程语法。无论你是编程新手,还是有一定基础的开发...
- Python多线程-基础篇
-
一、多线程相关概念1.并发和并行的区别并发和并行是即相似又有区别的两个概念,并行是指两个或者多个事件在同一时刻同时执行,而并发是指两个或多个事件通过时间片轮流被执行。从计算机工作原理的角度出发,“并发...
- PYTHON多线程实现web服务器httpserver实例
-
PYTHON多线程实现web服务器importhttp.serverimportsocketserverimportthreading#服务器监听的端口PORT=8000#...
- 如何编写Python漏洞验证脚本(单线程和多线程)
-
我们实战经常会遇到以下几个问题:1、遇到一个利用步骤十分繁琐的漏洞,中间错一步就无法利用2、挖到一个通用漏洞,想要批量刷洞小赚一波,但手动去测试每个网站工作量太大这个时候编写一个poc脚本将会减轻...
- Python 多线程高频面试题,直接把这些答案“甩在”面试官脸上
-
点赞、收藏、加关注,下次找我不迷路不管你是刚入行的新手,还是有一定经验的开发者,掌握多线程的核心问题,都能让你在面试中脱颖而出。今天咱就来盘一盘5个高频的Python多线程面试题,用通俗易懂...
- python多进程和多线程的使用和对比
-
介绍多线程和多进程是常见的并发编程模型,它们被广泛应用于各种类型的应用程序中。在本文中,我将就Python多线程和多进程进行详细的对比。首先,让我们来看一下Python多线程。多线程是一种并发编程模型...
- 24-3-Python多线程-线程队列-queue模块
-
3-1-概念queue模块提供了多线程编程中的队列实现,队列是线程安全的数据结构,能在多线程环境下安全地进行数据交换。3-2-queue的队列类型Queue(先进先出队列)、LifoQueue(后进...
- 玩蛇(Python) - 并发编程之多线程
-
一、线程简介线程(thread)是操作系统能够进行运算调度的最小单位。它被包含在进程之中,是进程中的实际运作单位。由于线程是操作系统直接支持的执行单元,因此,高级语言通常都内置多线程的支持,Pytho...
- Python多进程与多线程应用场景对比
-
在Python中,多进程(Multiprocessing)和多线程(Multithreading)的选择取决于任务类型(I/O密集型vsCPU密集型)、Python的GIL限制以及并...
- Python多线程,守护线程和非守护线程,线程的join方法,代码案例
-
守护线程和非守护线程守护线程&&非守护线程守护线程,是和主线程一起结束的线程,叫守护线程,非守护线程,主线程的结束不影响该线程的执行,主线程结束非守护线程不会立刻结束,也叫用户线程。Python的守护...
- Python3中最常用的5种线程锁你会用吗
-
前言本章节将继续围绕threading模块讲解,基本上是纯理论偏多。对于日常开发者来讲很少会使用到本章节的内容,但是对框架作者等是必备知识,同时也是高频的面试常见问题。私信小编01即可获取大量Pyth...
- 一周热门
- 最近发表
- 标签列表
-
- curseforge官网网址 (16)
- 外键约束 oracle (36)
- oracle的row number (32)
- 唯一索引 oracle (34)
- oracle in 表变量 (28)
- oracle导出dmp导出 (28)
- oracle 数据导出导入 (16)
- oracle两个表 (20)
- 启动oracle的监听服务 (13)
- oracle 数据库 字符集 (20)
- powerdesigner oracle (13)
- oracle修改端口 (15)
- 左连接 oracle (15)
- oracle 标准版 (13)
- oracle 转义字符 (14)
- oracle安装补丁 (19)
- matlab归一化 (16)
- matlab脚本 (14)
- matlab阶跃函数 (14)
- 三次样条插值matlab (14)
- 共轭梯度法matlab (16)
- matlab化简多项式 (20)
- 在线客服网页源码 (14)
- 多线程的创建方式 (29)
- 多线程 python (30)