テイルレイテンシ

テイルレイテンシとは、コンピュータシステムやネットワーク通信において、大半のリクエストが正常に処理される通常の遅延時間ではなく、全体の数パーセントにとどまる遅いリクエスト、すなわち分布の尾にあたる極端に長い遅延時間を指す言葉です。一般的な平均値や中央値の指標では隠れてしまいがちなパフォーマンスの悪化を捉えるために用いられます。例えば、一千件のリクエストのうち九百九十件が高速に処理されていても、残りの十件に著しい遅延が発生している場合、その遅いリクエストの遅延時間がテイルレイテンシとして評価されます。大規模な分散システムやクラウドサービスにおいて、ユーザー体験の品質を保つために極めて重要なモニタリング指標となっています。