Java、Go 和 Python 多线程性能对比
moboyou 2025-06-07 16:57 28 浏览
大家好,我是难瓜。
今天分享多线程下这三门语言的表现。
简介
在计算机中,线程是可以由处理器独立执行的小指令序列。多线程在一个进程中是可能的,其中它们共享资源,例如指令和上下文。
发现在运行多线程进程时效率最高的编程语言非常重要,因为它可以帮助软件开发人员同时选择最有利的语言来实现他们的系统。
本文的目的是分析和比较 Java、Go 和 Python 使用它们的并行工具解决几种算法的性能,例如:Java 和 Python 的线程,以及 Go 的 goroutine。为了评估性能,我们编写了经典矩阵乘法算法、快速排序算法和康威生存游戏(Conway’s game of life)的并行实现。
背景
Java:它是一种面向对象的编程语言,通过Thread类、Runnable接口和java.util.concurrent包中包含的其他功能内置支持并发。
Go:它是谷歌在 2012 年前发布的一种编程语言。它是一种类似于 C 的语言,并且具有垃圾收集器和内置的并发支持。对于并发性和并行性,Go 使用称为 goroutines 的线程实现。它使用内置的调度程序在后台处理线程,并试图向用户隐藏通常线程管理的大部分复杂性,以支持简单地指定要运行的函数并使用 go 命令为它们开头。Go 在幕后使用操作系统 (OS) 线程。
Python:标准库 threading,这个模块封装了线程,提供了一个干净的接口来处理它们。在这种方法中,操作系统实际上知道每个线程,并且可以随时中断它以开始运行不同的线程。使用 Python 的其他标准库(称为 multiprocessing)可以在 Python 实现并行性,而 multiprocessing 会创建新的进程。threading 模块使用线程,multiprocessing 模块使用进程。不同之处之一是线程在相同的内存空间中运行,而进程具有单独的内存。
矩阵乘法:它是线性代数中一个重要而简单的数学运算,经典的矩阵乘法算法(CMMA)可以很容易地用任何编程语言实现。CMMA 时间复杂度 *O(N^3)*,其中 N 是矩阵的维度。
快速排序:它是一种分而治之的算法。最初,它将数组拆分为两个子数组:分别是较低的项和较高的项。然后它递归地对这些数组进行排序。其算法可以描述为:
- 从数组中选择一个枢轴元素。
- 对数组进行分区,使得枢轴左侧的所有元素的值都小于枢轴的值,而枢轴右侧的所有元素的值都大于枢轴的值。
- 对生成的子数组递归执行上述步骤,直到得到完全排序的子数组。
它的平均排序复杂度为*O(nlog(n)) ,但在极少数情况下会降级为 O(n^2)*。
康威的生存游戏:它是由剑桥大学冈维尔和凯斯学院的数学家约翰霍顿康威在 60 年代开发的。规则是:
- 规则 1 生存:如果一个活细胞有两个或三个活的邻居,它就可以生存。
- 规则 2 死亡:如果一个活细胞的存活邻居少于两个或多于三个,它就会死亡。
- 规则 3 出生:如果一个死细胞恰好有三个活着的邻居,它就会出生。
下图片显示了康威生存游戏从时间 T 到时间 T + 2 的几个场景。该算法的一个简单实现将检查每一步的每个单元格,其时间复杂度为 O(M × N ) ,其中 M 表示行数, N 表示网格的列数。
It shows several scenarios of Conway’s game of life from time T to time T + 2
解决方案
所有基准测试都在同一台计算机和同一环境中执行。 表 I 显示了我们进行实验的硬件规格,表 II 显示了每种语言编程编译器的版本
硬件和编程语言软件概览
对于每个基准,我们计算其各自的加速和效率。加速度定义为最佳时间与速度 p 个处理器的并行时间之比: S = T1/Tp 。那么效率定义为:并行系统中每个处理器的总体利用率: E = S/p 。
矩阵乘法:在本实验中,我们使用由 C = AB 计算的简单矩阵乘法。矩阵的大小为 512 × 512。我们正在运行一个顺序场景,然后是几个线程池大小为:2、4、8、16 和 32 个线程的多线程场景。相同的矩阵 A 和 B 用于运行 Java、Go 和 Python 中的代码。这些矩阵将具有从 0 到 1000 的整数值(包括 0 到 1000)。线程池将接收 n 工作人员,表示矩阵 A 中的行数,然后每个线程将执行该特定行的乘法,并更新 C中的相应行 与得到的结果。每次线程完成其工作时,它将从线程池接收新的分配,直到所有工作都完成。下图说明了矩阵 C 的计算。
矩阵乘法
快速排序:我们从 0 到 10^7(包括 0 和 10^7)对 10^7 个整数值的数组进行排序。我们使用 ForkJoinPool 方法来解决这个实验。执行顺序运行,然后多线程测试以 2 的幂从 2 到 32 个线程。这 3 个实现对同一个数组进行排序。在快速排序的并行实现中,分区后新子序列的排序可以并行执行,因为没有冲突。
康威生存游戏:康威生存游戏中有几个初始已知模式会产生预期的结果,有一个会无限增长,下一张图像的左侧显示其初始设置。在这个基准测试中,我们定义了一个 28 × 28 的 2D 网格,其中 4 个先前的模式彼此相邻,并在 20,000 代期间执行游戏,该网格看起来像下图的右侧。
无限增长模式
对于这个实验,我们重复线程池方法,它将处理 2、4、8、16 和 32 个线程。此外,我们运行顺序实现。我们并行应用了决定细胞在每一代中是否继续生存、死亡或重生的规则。此外,为了获取单元格的邻居,我们不会将网格视为无限网格,如果单元格的邻居在世界范围之外,则认为它已死。
结果
矩阵乘法:表 III 显示了运行矩阵乘法基准后获得的结果。Java 是顺序执行中最好的,它在 316 毫秒内运行了 512 × 512 矩阵乘法,而 Go 消耗了 453 毫秒,这代表顺序运行的时间增加了 43.35%。性能最差的是 Python,它使用了 93,870 毫秒(93.87 秒),相差约 29,600%。
此外,在表 III 中可以看出,当使用 2 个线程执行基准测试时,Java 性能更好,但是当实验在 4、8 和 16 个线程中运行时,Go 优于 Java 和 Python。我们可以在 32 个线程的阈值处检测到性能下降,这可能是由于创建过多线程的开销超过了 CPU 中的物理内核;即使在这种恶化的情况下,Go 的性能也优于其他两种语言。
矩阵乘法时间消耗(以毫秒为单位)。越低越好。
下图的左侧反映了对于 Go,从 2 到 4 个线程的性能差异是显着的(大约 92% 的改进),而从 8 到 16 个线程它是微不足道的,因为图中的曲线几乎保持不变,这说明我们认为 8 个线程对于这个特定场景来说是一个很好的数字。另一方面,Java 的性能从 2 个线程稳步增加到 16 个线程;从这个图中,我们可以选择 16 个线程作为大量线程,以便在 Java 中获得不错的性能。从下图右侧可以确定,资源利用效率最差的是Python,最好的是Go。
矩阵乘法的加速和效率。
快速排序:在表 IV 中,我们可以看到 Go 在测试的顺序运行中获得最佳性能,而 Python 最差。Python 实现的一般行为非常糟糕,在 16 和 32 线程的情况下,应用程序无法完成执行(DNF 代表没有完成)卡住并阻塞计算机。Go 提供了有趣的结果,因为多线程运行从糟糕到最差的性能。对于这个度量,Java 获得了最好的多线程结果,但是在 16 和 32 线程的运行中,我们可以发现性能下降,其中 16 线程的性能最差。
快速排序时间消耗(以毫秒为单位)。越低越好。
下图左侧的加速表明,当使用 Java 实现时,使用超过 8 个线程运行快速排序算法是没有意义的。此外,我们可以看到 32 线程的运行比 16 线程的运行好一点,但比 8 线程的运行差。该图反映了 Go 多线程实现不如顺序实现。即使 Python 的性能很差,使用 2、4 和 8 个线程的运行也比顺序运行要好。
下图右侧反映的效率证实了我们在表 IV 中看到的最好的,但不是最差的,因为这个图可以让我们认为 Python 比 Go 更好,但是时间的消耗告诉我们一段不同的历史:Go 的表现优于 Python。
快速排序的加速和效率。
康威的生存游戏:Python 再次获得了所有 3 种实现中最差的结果,但是正如我们在表 V 中看到的,它是唯一一个从顺序实现到多线程实现有一些改进的版本;尽管如此,随着线程数量的增加,时间的消耗也会增加。在 Java 和 Go 的情况下,它们的最佳性能来自顺序实现。在 Java 场景中,从顺序版本到具有 32 个线程的版本的时间差异为 11,455%,这代表了当时的巨大差距。在 Java 实现中,每一代之后都会释放线程池并创建一个新的线程池,这会产生相当大的开销。Go 行为不稳定,时间利用率从顺序到 2 线程版本增加,然后在 4、8 和 16 个线程的版本中,它会稍微减少一点,最后在 32 个线程时,它会再次增加。
康威的生存时间消耗游戏(以毫秒为单位)。越低越好。
下图的加速图证实了康威生存游戏的多线程实现的一般性能很差。围绕加速曲线的期望是它应该遵循增加的行为,而这并没有发生。报告的效率表明资源没有得到适当的利用。Java 的效率非常接近于零,Go 和 Java 之间只有一点点差异。
康威生存游戏的加速和效率。
结论
创建线程的开销直接影响应用程序的性能。在表 III 中可以看出,在达到某个阈值后继续创建线程是没有意义的,因为性能会下降。
如表 V 所示,使用多线程解决问题并不能保证我们会获得更好的性能,有时顺序实现是最好的选择。
处理并发性和并行性的 Python 标准库不如 Java 和 Go 等其他编程语言中实现的标准库。
很难说 Java 和 Go 之间哪个更好,因为 Java 在矩阵乘法基准测试中优于 Go,但 Go 在快速排序实验中超过了 Java。
未来的工作
这项工作仅限于每个算法的基本实现,下一步将是复制本研究引入的场景,但使用每个基准测试的最知名实现。
在 Python 中实现并行代码有多种选择,例如:MPI for Python、CharmPy、Numba 等。一个好的实验是使用这个库用更有效的实现来替换书面代码。
扩展这项研究的一种方法是考虑其他技术方面,例如编译时间、文件大小和编写的代码行数。
相关推荐
- 运维从头到尾安装日志服务器,看这一篇就够了
-
一、rsyslog部署1.1)rsyslog介绍Linux的日志记录了用户在系统上一切操作,看日志去分析系统的状态是运维人员必须掌握的基本功。rsyslog日志服务器的优势:1、日志统一,集中式管理...
- 被MySQL慢日志查询搞废了?3分钟教你快速定位慢查询问题
-
一条慢查询会造成什么后果?刚开始使用MySQL的开发、初级DBA以为就是简单的查询变慢些,体验稍微有一丢丢影响,殊不知,慢查询的破坏力远不止如此。业务高峰期,这头SQL还没处理完,大量新的查询请求堆...
- Linux 查看系统日志 执行日志 安全日志 history 登录日志
-
修改history记录打开配置文件vim/etc/profile或~/.bash_profile显示执行的用户及其IP添加,将下面内容添加到末尾USER_IP=`who-uami2>/...
- Linux系统日志的简单分析(linux系统日志文件有哪些)
-
为了保证Linux系统正常运行、准确解决遇到的各种各样的系统问题,认真地读取日志文件是系统管理员的一项非常重要的任务。因为日志文件能够详细记录系统每天发生的各种各样的事件。用户可以通过日志文件检查错误...
- 如何按天切割日志文件(日志切割命令)
-
简单明了,直接开始,给热爱编程的你我apache修改httpd.conf对以下两行进行调整ErrorLog"|/usr/local/apache/bin/rotatelogs/data/...
- Apache 记录请求响应时间日志(apache日志查看)
-
本文章向大家介绍Apache记录请求响应时间日志,主要包括Apache记录请求响应时间日志使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。官网介绍在A...
- Linux系统LOG日志分析与管理(四)——配置Loganalyzer
-
摘要:Loganalyzer是一款syslog日志和其他网络事件数据的Web前端工具。它提供了对日志的浏览、搜索、基本分析和一些图表报告的功能。其分析所需数据可以从数据库或一般的syslog文本文件中...
- PHP-FPM 学习记录(php.fpm)
-
什么是FastCGI请阅读FastCGI(FastCommonGatewayInterface)的理解这里不再赘述什么是(PHP-FPM)PHP5.4之前只是用来管理php-cgi进程的进程管理...
- Nginx access_log 运行日志查询和配置
-
1.介绍当我们学会Nginx的基本配置之后,可以通过Nginx配置Service代理。管理服务器所有的http和https请求。那么接下来就需要了解Nginx的日志控制,以及相关的文档查看了。你通过...
- PHP 单例模式(php单例模式和工厂模式)
-
单例模式(SingletonPattern)单例模式(SingletonPattern):顾名思义,就是只有一个实例。作为对象的创建模式,单例模式确保某一个类只有一个实例,而且自行实例化并向...
- PHP之单例模式(php 单例模式优点及如何实现)
-
单例模式属于创建型模式,何为创建型模式,即创建型模式抽象了实例化过程。他们帮助一个系统独立于如何创建、组合和表示他的那些对象。一个类创建型模式使用继承改变被实例化的类。而一个对象创建型模式将实例化委托...
- 2022年SEO还需要交换友情链接吗(seo还有用吗)
-
友情链接是什么意思?这是一个古老的话题,但对于现在的正规网站依然行之有效,本篇详细讲讲2022年对友情链接的理解与操作。今天,小小课堂网(www.xxkt.org.cn)带来的是《2022年SEO...
- 基于maxkb实现对话一键生成docx分析报告,支持图片和表格
-
通过扩展maxkb的知识库管理和ai对话能力,实现一键生成分析报告及word文档;本次优化点在于:实现用户输入多个问题,一键生成分析报告,并提供word文件将内容下载下来word中支持markdown...
- 新版证书查询系统源码 支持自适应多端
-
TP开发证书查询系统适用于各行业相关证书查询,基于ThinkPHP开发,可以同时多字段区配查询,后台管理界面清新,可批量导入导出数据,格式为:JSON、CSV、Excel等,自适应手机端,PC端...
- Rocky Linux 9 源码包安装php8(rocksdb 源码)
-
RockyLinux9源码包安装php8大家好,我是星哥!今天咱们不聊yum一键安装的“快餐式”部署,来点儿硬核的——源码编译安装PHP8.3。为什么要折腾源码?因为它能让你深度定制PHP功能...
- 一周热门
- 最近发表
- 标签列表
-
- 外键约束 oracle (36)
- oracle的row number (32)
- 唯一索引 oracle (34)
- oracle in 表变量 (28)
- oracle导出dmp导出 (28)
- oracle两个表 (20)
- oracle 数据库 字符集 (20)
- oracle安装补丁 (19)
- matlab化简多项式 (20)
- 多线程的创建方式 (29)
- 多线程 python (30)
- java多线程并发处理 (32)
- 宏程序代码一览表 (35)
- c++需要学多久 (25)
- css class选择器用法 (25)
- css样式引入 (30)
- css教程文字移动 (33)
- php简单源码 (36)
- php个人中心源码 (25)
- php小说爬取源码 (23)
- 云电脑app源码 (22)
- html画折线图 (24)
- docker好玩的应用 (28)
- linux有没有pe工具 (34)
- mysql数据库源码 (21)