請求管線
透過在連線中傳送多個請求,而不用等待前一個請求的回應,來改善延遲。
問題
如果請求需要等待前一個請求的回應,則使用 單一 Socket 通道 在群集內的伺服器之間進行通訊可能會造成效能問題。為了達成更好的吞吐量和延遲,伺服器上的請求佇列應該填滿到足以確保伺服器容量得到充分利用。例如,當 單一更新佇列 在伺服器內使用時,它總是可以在處理請求的同時接受更多請求,直到佇列填滿。如果一次只傳送一個請求,大部分伺服器容量都會被不必要地浪費掉。
解決方案
節點在不等待前一個請求的回應的情況下向其他節點傳送請求。這是透過建立兩個獨立執行緒來達成,一個用於透過網路通道傳送請求,另一個用於從網路通道接收回應。
更多詳細資訊請參閱 oreilly.com 上線上電子書的 第 32 章
此模式是 分散式系統模式 的一部分
2023 年 11 月 23 日