jlzzjlzz亚洲乱熟在线播放

系統城裝機大師 - 唯一官網:www.farandoo.com!

當前位置:首頁 > 腳本中心 > python > 詳細頁面

Python collections.deque雙邊隊列原理詳解

時間:2020-10-06來源:www.farandoo.com作者:電腦系統城

隊列是一種只允許在一端進行插入操作,而在另一端進行刪除操作的線性表。

在Python文檔中搜索隊列(queue)會發現,Python標準庫中包含了四種隊列,分別是queue.Queue / asyncio.Queue / multiprocessing.Queue / collections.deque。

collections.deque

deque是雙端隊列(double-ended queue)的縮寫,由于兩端都能編輯,deque既可以用來實現棧(stack)也可以用來實現隊列(queue)。

deque支持豐富的操作方法,主要方法如圖:

相比于list實現的隊列,deque實現擁有更低的時間和空間復雜度。list實現在出隊(pop)和插入(insert)時的空間復雜度大約為O(n),deque在出隊(pop)和入隊(append)時的時間復雜度是O(1)。

deque也支持in操作符,可以使用如下寫法:

q = collections.deque([1, 2, 3, 4])
print(5 in q) # False
print(1 in q) # True

deque還封裝了順逆時針的旋轉的方法:rotate。

# 順時針
q = collections.deque([1, 2, 3, 4])
q.rotate(1)
print(q) # [4, 1, 2, 3]
q.rotate(1)
print(q) # [3, 4, 1, 2]

# 逆時針
q = collections.deque([1, 2, 3, 4])
q.rotate(-1)
print(q) # [2, 3, 4, 1]
q.rotate(-1)
print(q) # [3, 4, 1, 2]

線程安全方面,通過查看collections.deque中的append()、pop()等方法的源碼可以知道,他們都是原子操作,所以是GIL保護下的線程安全方法。

static PyObject *
deque_append(dequeobject *deque, PyObject *item) {
Py_INCREF(item);
if (deque_append_internal(deque, item, deque->maxlen) < 0)
return NULL;
Py_RETURN_NONE;
}

通過dis方法可以看到,append是原子操作(一行字節碼)。

綜上,collections.deque是一個可以方便實現隊列的數據結構,具有線程安全的特性,并且有很高的性能。

queue.Queue & asyncio.Queue

queue.Queue和asyncio.Queue都是支持多生產者、多消費者的隊列,基于collections.deque,他們都提供了Queue(FIFO隊列)、PriorityQueue(優先級隊列)、LifoQueue(LIFO隊列),接口方面也相同。

區別在于queue.Queue適用于多線程的場景,asyncio.Queue適用于協程場景下的通信,由于asyncio的加成,queue.Queue下的阻塞接口在asyncio.Queue中則是以返回協程對象的方式執行,具體差異如下表:

  queue.Queue asyncio.Queue
介紹 同步隊列 asyncio隊列
線程安全
超時機制 通過timeout參數實現 通過asyncio.wait_for()方法實現
qsize() 預估的隊列長度(獲取qsize到下一個操作之間,queue有可能被其它的線程修改,導致qsize大小發生變化) 準確的隊列長度(由于是單線程,所以queue不會被其它線程修改)
put() / set() put(item, block=True, timeout=None),可以通過設置block是否為True來配置put和set方法是否為阻塞,并且可以為阻塞操作設置最大時長timeout,block為False時行為和put_nowait()方法一致。 put()方法會返回一個協程對象,所以沒有block參數和timeout參數,如果需要非阻塞方法,可以使用put_nowait(),如果需要對阻塞方法應用超時,可以使用coroutine asyncio.wait_for()。

 

multiprocessing.Queue

multiprocessing提供了三種隊列,分別是Queue、SimpleQueue、JoinableQueue。

multiprocessing.Queue既是線程安全也是進程安全的,相當于queue.Queue的多進程克隆版。和threading.Queue很像,multiprocessing.Queue支持put和get操作,底層結構是multiprocessing.Pipe。

multiprocessing.Queue底層是基于Pipe構建的,但是數據傳遞時并不是直接寫入Pipe,而是寫入進程本地buffer,通過一個feeder線程寫入底層Pipe,這樣做是為了實現超時控制和非阻塞put/get,所以Queue提供了join_thread、cancel_join_thread、close函數來控制feeder的行為,close函數用來關閉feeder線程、join_thread用來join feeder線程,cancel_join_thread用來在控制在進程退出時,不自動join feeder線程,使用cancel_join_thread有可能導致部分數據沒有被feeder寫入Pipe而導致的數據丟失。

和threading.Queue不同的是,multiprocessing.Queue默認不支持join()和task_done操作,這兩個支持需要使用mp.JoinableQueue對象。

SimpleQueue是一個簡化的隊列,去掉了Queue中的buffer,沒有了使用Queue可能出現的問題,但是put和get方法都是阻塞的并且沒有超時控制。

總結

通過對比可以發現,上述四種結構都實現了隊列,但是用處卻各有偏重,collections.deque在數據結構層面實現了隊列,但是并沒有應用場景方面的支持,可以看做是一個基礎的數據結構。queue模塊實現了面向多生產線程、多消費線程的隊列,asyncio.queue模塊則實現了面向多生產協程、多消費協程的隊列,而multiprocessing.queue模塊實現了面向多成產進程、多消費進程的隊列。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。

分享到:

相關信息

系統教程欄目

欄目熱門教程

人氣教程排行

站長推薦

熱門系統下載