批次請求
結合多個請求以最佳化使用網路
問題
如果將大量請求傳送至資料量小的叢集節點,網路延遲和請求處理時間(包括伺服器端請求的序列化和反序列化)可能會增加顯著的負擔。
例如,在容量為 1gbps 的網路中,如果延遲和請求處理時間為 100 微秒,而客戶端同時傳送數百個請求,即使每個請求只有幾位元組,也會顯著限制整體傳輸量。
解決方案
將多個請求合併成單一請求批次。請求批次將傳送至叢集節點進行處理,每個請求的處理方式與個別請求完全相同。然後,節點將回應一批次回應。
如需更多詳細資訊,請參閱 oreilly.com 上線上電子書的第 31 章
此模式是分散式系統模式的一部分
2023 年 11 月 23 日