批次請求

結合多個請求以最佳化使用網路

問題

如果將大量請求傳送至資料量小的叢集節點,網路延遲和請求處理時間(包括伺服器端請求的序列化和反序列化)可能會增加顯著的負擔。

例如,在容量為 1gbps 的網路中,如果延遲和請求處理時間為 100 微秒,而客戶端同時傳送數百個請求,即使每個請求只有幾位元組,也會顯著限制整體傳輸量。

解決方案

將多個請求合併成單一請求批次。請求批次將傳送至叢集節點進行處理,每個請求的處理方式與個別請求完全相同。然後,節點將回應一批次回應。

如需更多詳細資訊,請參閱 oreilly.com 上線上電子書的第 31 章

此模式是分散式系統模式的一部分

2023 年 11 月 23 日