Python中多处理与多线程的区别是什么

发布时间:2021-07-10 16:13:39 作者:Leah
来源:亿速云 阅读:194

Python中多处理与多线程的区别是什么,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

什么是线程?你为什么想要它?

Python是一种线性语言。但是,当您需要更多的处理能力时,线程模块就派上用场了。

Python中的线程不能用于并行CPU计算。但是它非常适合于I/O操作,比如web抓取,因为处理器处于空闲状态,等待数据。

线程化改变了游戏规则,因为许多与网络/数据  I/O相关的脚本将大部分时间花费在等待来自远程数据源上。有时候,下载可能没有链接(例如,如果您正在抓取不同的网站),处理器可以并行地从不同的数据源下载并在最后合并结果。

线程包含在标准库中:

import threading from queue import Queue import time

您可以使用target作为可调用的对象,args将参数传递给函数,并开始启动线程:

def testThread(num):     print num  if __name__ == '__main__':     for i in range(5):         t = threading.Thread(target=testThread, arg=(i,))         t.start()

Python中多处理与多线程的区别是什么

锁(lock)

您通常希望您的线程能够使用或修改线程之间的公共变量。要做到这一点,你必须使用一种叫做锁(lock)的东西。

每当一个函数想要修改一个变量时,它就会锁定该变量。当另一个函数想要使用一个变量时,它必须等待,直到该变量被解锁。

假设有两个函数都对一个变量进行了1次迭代。锁允许您确保一个函数可以访问变量、执行计算并在另一个函数访问相同的变量之前写回该变量。

您可以使用打印锁来确保一次只能打印一个线程。这可以防止文本在打印时变得混乱(并导致数据损坏)。

在下面的代码中,我们有10个我们想要完成的工作和5个将要工作的工人:

print_lock = threading.Lock()  def threadTest():     # when this exits, the print_lock is released     with print_lock:         print(worker)  def threader():   while True:     # get the job from the front of the queue     threadTest(q.get())     q.task_done()  q = Queue() for x in range(5):     thread = threading.Thread(target = threader)     # this ensures the thread will die when the main thread dies     # can set t.daemon to False if you want it to keep running     t.daemon = True     t.start()  for job in range(10):     q.put(job)

多线程并不总是完美的解决方案

我们发现许多教程都倾向于忽略使用他们刚教过你的工具的缺点。理解使用所有这些工具的利弊是很重要的。

例如:

多处理是什么?它与线程有什么不同?

在没有多处理(multiprocessing)的情况下,由于GIL(全局解释器锁 Global Interpreter  Lock),Python程序很难最大化系统的规格。Python的设计并没有考虑到个人计算机可能有多个核心。因此GIL是必要的,因为Python不是线程安全的,而且在访问Python对象时存在一个全局强制锁。虽然不完美,但它是一种非常有效的内存管理机制。

多处理允许您创建可以并发运行的程序(绕过GIL)并使用整个CPU内核。尽管它与线程库有本质的不同,但是语法非常相似。多处理库为每个进程提供了自己的Python解释器,以及各自的GIL。

因此,与线程相关的常见问题(如数据损坏和死锁)不再是问题。因为进程不共享内存,所以它们不能并发地修改相同的内存。

让我们开始代码演示:

import multiprocessing def spawn():   print('test!')  if __name__ == '__main__':   for i in range(5):     p = multiprocessing.Process(target=spawn)     p.start()

如果您有一个共享数据库,您希望确保在启动新数据库之前,正在等待相关进程完成。

for i in range(5):   p = multiprocessing.Process(target=spawn)   p.start()   p.join() # this line allows you to wait for processes

如果希望将参数传递给进程,可以使用args实现这一点:

import multiprocessing def spawn(num):   print(num)  if __name__ == '__main__':   for i in range(25):     ## right here     p = multiprocessing.Process(target=spawn, args=(i,))     p.start()

这是一个简单的例子,因为正如您所注意到的,数字的排列顺序与您所期望的不一致(没有p.join())。

与线程一样,多处理仍然有缺点……你必须选择其中一个坏处:

看完上述内容,你们掌握Python中多处理与多线程的区别是什么的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注亿速云行业资讯频道,感谢各位的阅读!

推荐阅读:
  1. Python中多线程与多进程有什么区别
  2. python中sort()与sorted()的区别是什么

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

python

上一篇:Html原生表单form上传文件

下一篇:go ssh怎么连接远程服务器并执行命令

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》