メトリクス s
schema_change_mem_bytes
- 単位: バイト
- 説明: スキーマ変更に使用されるメモリ。
segment_flush_queue_count
- 単位: カウント
- 説明: セグメントフラッシュスレッドプール内のキューに入れられたタスクの数。
segment_metadata_mem_bytes
- 単位: バイト
- 説明: セグメントメタデータが使用するメモリ。
segment_read
- 単位: カウント
- 説明: セグメント読み取りの総数。
segment_replicate_queue_count
- 単位: カウント
- 説明: セグメントレプリケートスレッドプール内のキューに入れられたタスク数。
segment_zonemap_mem_bytes
- 単位: バイト
- 説明: セグメントゾーンマップが使用するメモリ。
short_key_index_mem_bytes
- 単位: バイト
- 説明: ショートキーインデックスが使用するメモリ。
small_file_cache_count
- 単位: カウント
- 説明: 小さなファイルキャッシュの数。
snmp
- 単位: -
- 説明:
/proc/net/snmpによって返されるメトリクス。
sort_key_sampling_data_page_fallback_total
- 単位: カウント
- 説明: データページからのソートキーサンプリングがセグメントを諦め、そのセグメントの粗い
[min, max]範囲にフォールバックした累計回数。想定外のスキーマ、セグメント自身のスキーマと一致しないsort_key_idxes、ページ読み取りの失敗、行数の不足、セグメントが宣言する境界の外側にあるサンプルなどが原因です。サンプリングは fail-open のため分割が失敗することはありませんが、値の上昇は Tablet 分割と範囲分割 Compaction が意図より粗い境界で動作していることを意味します。
sort_key_sampling_data_page_latency
- 単位: us
- 説明: 1 セグメントのソートキーをデータページからサンプリングするのに要した時間。bvar のレイテンシ系列(平均、パーセンタイル、最大、qps、カウント)として公開されます。サンプル予算チェックを通過したすべての試行を対象とし、その後フォールバックした試行も含むため、fail-open を繰り返す遅い Tablet もここで見えます。
sort_key_sampling_data_page_segments_total
- 単位: カウント
- 説明: サンプリングがデータページ経路を選択したセグメントの累計数。サンプリングの形状が確定した後、最初の読み取りの前に加算されるため、その後の読み取りが失敗してフォールバックしたセグメントも計上されます。このカウンタの目的は、無償の Short Key Index 経路が「使われなかった」ことを示すことです。実際に支払った I/O は
sort_key_sampling_read_bytes_totalを参照してください。
sort_key_sampling_read_bytes_total
- 単位: バイト
- 説明: ソートキーのサンプリング中にセグメントのデータページから読み取った圧縮バイト数の累計。ページリーダー自身の計測値から加算されるため、実際に発生した転送のみを数え、後にフォールバックした試行の分も含みます。分割点サンプリングの I/O コストを監視するための指標です。
sort_key_sampling_rowsets_opened_total
- 単位: カウント
- 説明: サンプリングのためにセグメントファイルを開いた Rowset の累計数。この open は、その Rowset の少なくとも 1 つのセグメントがゼロでないサンプル予算を持つことを条件とするため、実際にサンプリングを試みた場合のみ増加します。
sort_key_sampling_samples_totalと併せて読んでください。Rowset を開いたのにサンプルが公開されない場合、サンプル予算が読み取り対象のセグメントに届いていないことを意味します。
sort_key_sampling_samples_total
- 単位: カウント
- 説明: いずれかの経路で公開されたソートキーサンプルの累計数。この値が増えているのに
sort_key_sampling_data_page_segments_totalが増えていない場合、サンプルは無償の Short Key Index 経路から得られています。
sort_key_sampling_short_key_index_fallback_total
- 単位: カウント
- 説明: Short Key Index サンプリング経路に入ったうえでセグメントを諦めた累計回数。形状がセグメント自身の行数と相互検証できない、インデックスエントリをデコードできない、サンプルが順序を崩しているかセグメントの宣言する境界の外側にある、といった場合です。諦めてもそのセグメントのサンプリングが終わるわけではありません。データページ予算が割り当てられていれば次はデータページサンプリングに進み、予算が 0 か、そちらでも何も得られなかった場合にのみ粗い
[min, max]範囲に戻ります。この指標が数えないケースが 2 つあります。インデックスブロックが 2 個未満のセグメントは、この指標を増やさずに経路を抜け、行粒度でサンプリングされます。また、スキーマの Short Key Index がソートキー全体をエンコードできない場合(例えば VARCHAR のソートキー)はこの経路に入らないため、そうしたテーブルではこの指標は 0 のままで、該当セグメントはsort_key_sampling_data_page_segments_totalに現れます。
sort_key_sampling_short_key_index_latency
- 単位: us
- 説明: 1 セグメントのソートキーを Short Key Index からサンプリングするのに要した時間。bvar のレイテンシ系列(平均、パーセンタイル、最大、qps、カウント)として公開されます。この経路はデータページを一切読まないため、値は
sort_key_sampling_data_page_latencyを大きく下回るはずです。
starrocks_be_clone_task_copy_bytes
- 単位: バイト
- タイプ: 累積
- 説明: BEノードのクローンタスクによってコピーされた合計ファイルサイズ。INTER_NODEとINTRA_NODEの両方のタイプを含む。
starrocks_be_clone_task_copy_duration_ms
- 単位: ミリ秒
- タイプ: 累積
- 説明: BEノードのクローンタスクによって消費されたコピーの合計時間。INTER_NODEとINTRA_NODEの両方のタイプを含む。
starrocks_be_exec_state_report_active_threads
- 単位: カウント
- タイプ: 瞬間
- 説明: フラグメントインスタンスの実行ステータスを報告するスレッドプールで実行中のタスクの数。
starrocks_be_exec_state_report_queue_count
- 単位: カウント
- タイプ: 瞬間
- 説明: フラグメントインスタンスの実行ステータスを報告するスレッドプールでキューに入れられているタスクの数(最大1000)。
starrocks_be_exec_state_report_running_threads
- 単位: カウント
- タイプ: 瞬間
- 説明: フラグメントインスタンスの実行ステータスを報告するスレッドプールのスレッド数(最小1、最大2)。
starrocks_be_exec_state_report_threadpool_size
- 単位: カウント
- タイプ: 瞬間
- 説明: フラグメントインスタンスの実行ステータスを報告するスレッドプールの最大スレッド数(デフォルトは2)。
starrocks_be_files_scan_num_bytes_read
- 単位: バイト
- 説明: 外部ストレージから読み取られた合計バイト数。ラベル:
file_format,scan_type。
starrocks_be_files_scan_num_files_read
- 単位: カウント
- 説明: 外部ストレージから読み取られたファイルの数(CSV、Parquet、ORC、JSON、Avro)。ラベル:
file_format,scan_type。
starrocks_be_files_scan_num_raw_rows_read
- 単位: カウント
- 説明: 形式検証と述語フィルタリングの前に外部ストレージから読み取られた合計生行数。ラベル:
file_format,scan_type。
starrocks_be_files_scan_num_rows_return
- 単位: カウント
- 説明: 述語フィルタリング後に返された行数。ラベル:
file_format,scan_type。
starrocks_be_files_scan_num_valid_rows_read
- 単位: カウント
- 説明: 読み取られた有効な行数(無効な形式の行を除く)。ラベル:
file_format,scan_type。
starrocks_be_flat_json_compaction_streaming_total
- 単位: カウント
- タイプ: 累積値
- 説明: 出力セグメント全体をバッファせず、入力を受け取り次第書き出したフラット JSON コンパクションの回数。バッファ済みの入力が
compaction_memory_limit_per_workerの 8 分の 1 を超え、そのすべてが同じフラットレイアウトを持つ場合に発生します。
starrocks_be_lake_tablet_metadata_get_not_found_total
- 単位: カウント
- タイプ: 累積値
- 説明: 共有データモード専用。Lake tablet metadata をリモートストレージから読み取り、
NotFoundが返された試行の総数。tablet の metadata は個別の metadata ファイルか bundle metadata ファイルのいずれか一方にのみ存在し、両方に存在することはありません。いずれの読み取りもカウント対象で、vacuum が発行する bundle 読み取りも含まれます。失敗したフォールバック読み取りはそれぞれ個別にカウントされます。キャッシュミスおよび読み取り成功時には、このメトリクスは増加しません。レプリケーションでのソースクラスタ metadata の読み取り、およびリストアでのスナップショット metadata の読み取りはカウントされません。
starrocks_be_mem_pool_mem_limit_bytes
- 単位: バイト
- タイプ: 瞬間
- 説明: 各メモリプールのメモリ制限(バイト単位)。
starrocks_be_mem_pool_mem_usage_bytes
- 単位: バイト
- タイプ: 瞬間
- 説明: 各メモリプールで現在使用されている合計メモリ(バイト単位)。
starrocks_be_mem_pool_mem_usage_ratio
- 単位: -
- タイプ: 瞬間
- 説明: メモリプールのメモリ使用量とメモリプールのメモリ制限の比率。
starrocks_be_mem_pool_workgroup_count
- 単位: カウント
- タイプ: 瞬間値
- 説明: 各メモリプールに割り当てられたリソースグループの数。
starrocks_be_pipe_connector_scan_expected_worker_threads
- 単位: カウント
- タイプ: 瞬間値
- 説明: 外部テーブル用 Scan エグゼキューターが現在実行すべきワーカースレッド数で、すべてのリソースグループの合計です。設定変更やリソースグループの変更が即座に反映されるため、
starrocks_be_pipe_connector_scan_worker_threadsと比較することで定員を満たしているかを判断できます。
starrocks_be_pipe_connector_scan_worker_threads
- 単位: カウント
- タイプ: 瞬間値
- 説明: 外部テーブル用 Scan エグゼキューターで実際に生存しているワーカースレッド数で、すべてのリソースグループの合計です。
starrocks_be_pipe_connector_scan_expected_worker_threadsを下回る場合、ワーカーが失われたまま補充されておらず、設定値より少ない Scan タスクしか消費できていないことを意味します。上回るのは正常かつ一時的で、縮小されたエグゼキューターのワーカーは次に起こされたときに初めて終了するためです。
starrocks_be_pipe_prepare_pool_queue_len
- 単位: カウント
- タイプ: 瞬間値
- 説明: パイプライン準備スレッドプールタスクキューの長さの瞬間値。
starrocks_be_pipe_scan_expected_worker_threads
- 単位: カウント
- タイプ: 瞬間値
- 説明: 内部テーブル用 Scan エグゼキューターが現在実行すべきワーカースレッド数で、すべてのリソースグループの合計です。設定変更やリソースグループの変更が即座に反映されるため、
starrocks_be_pipe_scan_worker_threadsと比較することで定員を満たしているかを判断できます。
starrocks_be_pipe_scan_worker_threads
- 単位: カウント
- タイプ: 瞬間値
- 説明: 内部テーブル用 Scan エグゼキューターで実際に生存しているワーカースレッド数で、すべてのリソースグループの合計です。
starrocks_be_pipe_scan_expected_worker_threadsを下回る場合、ワーカーが失われたまま補充されておらず、設定値より少ない Scan タスクしか消費できていないことを意味します。上回るのは正常かつ一時的で、縮小されたエグゼキューターのワーカーは次に起こされたときに初めて終了するためです。
starrocks_be_priority_exec_state_report_active_threads
- 単位: カウント
- タイプ: 瞬間値
- 説明: Fragmentインスタンスの最終実行状態を報告するスレッドプールで実行されているタスクの数。
starrocks_be_priority_exec_state_report_queue_count
- 単位: カウント
- タイプ: 瞬間値
- 説明: Fragmentインスタンスの最終実行ステータスを報告するスレッドプールでキューに入れられたタスクの数(最大2147483647)。
starrocks_be_priority_exec_state_report_running_threads
- 単位: カウント
- タイプ: 瞬間値
- 説明: Fragmentインスタンスの最終実行ステータスを報告するスレッドプールのスレッド数(最小1、最大2)。
starrocks_be_priority_exec_state_report_threadpool_size
- 単位: カウント
- タイプ: 瞬間値
- 説明: Fragmentインスタンスの最終実行ステータスを報告するスレッドプールの最大スレッド数(デフォルトは2)。
starrocks_be_resource_group_cpu_limit_ratio
- 単位: -
- タイプ: 瞬間値
- 説明: リソースグループのCPUクォータ比率の瞬間値。
starrocks_be_resource_group_cpu_use_ratio
- 単位: -
- タイプ: 平均
- 説明: リソースグループが使用したCPU時間とすべてのリソースグループのCPU時間の比率。
starrocks_be_resource_group_mem_inuse_bytes
- 単位: バイト
- タイプ: 瞬間値
- 説明: リソースグループのメモリ使用量の瞬間値。
starrocks_be_resource_group_mem_limit_bytes
- 単位: バイト
- タイプ: 瞬間値
- 説明: リソースグループのメモリクォータの瞬間値。
starrocks_be_segment_file_not_found_total
- 単位: カウント
- 説明: セグメントオープン中にセグメントファイルが見つからなかった(ファイルが見つからない)合計回数。継続的に増加する値は、データ損失またはストレージの不整合を示している可能性があります。
starrocks_be_staros_shard_info_fallback_total
- 単位: カウント
- タイプ: 累積
- 説明: 共有データモード専用。BE の StarOSWorker が、ローカルキャッシュに必要な shard 情報が存在しない(クエリ/コンパクション/lake 操作がその shard を参照する前に、FE から当該 BE へ shard がプッシュされていない)ために、starmgr に対して実際に発行した RPC(
g_starlet->get_shard_info())の総数。starlet の ready チェックが通過し、RPC が実際にディスパッチされた場合のみカウントされます。starlet が未 ready のタイムアウトは含まれません。正常時はほぼゼロに近い値となることが期待されます。継続的または増加傾向のレートは、FE 側のタスク/ノード選択がまだ shard を保持していない BE に処理をスケジュールしている、あるいは FE 側からの shard プッシュの伝搬が遅延していることを示す強いシグナルです。推奨アラート: BE ごとの 5 分間ウィンドウでのレートが高い場合。
starrocks_be_staros_shard_info_fallback_failed_total
- 単位: カウント
- タイプ: 累積
- 説明: 共有データモード専用。
starrocks_be_staros_shard_info_fallback_totalのうち、starmgr RPC が非 OK ステータスを返したサブセット。failed_total / fallback_totalの比率を用いることで、starmgr の一時的なエラーと、正常に成功したフォールバックを区別してアラートを設定できます。
starrocks_be_staros_shard_count
- 単位: カウント
- タイプ: 瞬時値
- 説明: 共有データモード専用。現在この BE の StarOSWorker に割り当てられている shard 数(worker のローカル shard テーブルのサイズ)。値は
StarOSWorker::add_shardおよびStarOSWorker::remove_shardの内部で同期的に書き込まれ(mutation 時に push される方式)、メトリクス取得時に再計算されるわけではありません。したがって取得される値は、直近に発生した shard テーブルの変更結果を反映します。BE シャットダウン時に gauge はリセットされず、次回の mutation が発生するまで前回の値を保持します。BE 間の shard 分布バランスを観測したり、FE 側の配置結果との乖離を検出するために利用できます。
starrocks_fe_alter_duration_ms
- 単位: ミリ秒
- タイプ: サマリー
- ラベル:
execution_mode(fse、legacy_fse、またはrewrite)、is_leader - 説明: ALTER TABLE の変更を適用するのにかかった時間 (ミリ秒)。ステートメント単位。報告するのは Leader FE (
is_leader="true") のみです。0.75、0.95、0.98、0.99、0.999 の分位値と_sum、_countを含みます。execution_modeラベルは変更の適用方法を示します。fse: 現行の Fast Schema Evolution (FSE) で、ステートメント実行中に即座に完了します。legacy_fse: 旧来の FSE パスで、バックグラウンドで実行され通常はるかに遅くなります。cloud_native_fast_schema_evolution_v2が無効な共有データ (shared-data) クラスターでのみ発生します (デフォルトは有効で、その場合はfse)。rewrite: 変更のためにテーブルデータを物理的に書き換える必要があった場合 (例: 列の型変更) を示し、これもバックグラウンドで実行されます。
starrocks_fe_alter_operation_total
- 単位: カウント
- タイプ: 累積
- ラベル:
type(add_column、drop_column、またはmodify_column)、is_leader - 説明: ALTER TABLE の列操作の回数を、タイプ別に集計します。1 つのステートメントに複数の操作を含めることができ (例:
ADD COLUMN a, DROP COLUMN b)、それぞれがタイプ別に個別にカウントされます。列名の変更、列順の変更、コメントのみの変更はカウントされません。報告するのは Leader FE (is_leader="true") のみです。
starrocks_fe_clone_task_copy_bytes
- 単位: バイト
- タイプ: 累積
- 説明: クラスター内のクローンタスクによってコピーされたファイルの合計サイズ(INTER_NODEタイプとINTRA_NODEタイプの両方を含む)。
starrocks_fe_clone_task_copy_duration_ms
- 単位: ミリ秒
- タイプ: 累積
- 説明: クラスター内のクローンタスクによって消費されたコピーの合計時間(INTER_NODEタイプとINTRA_NODEタイプの両方を含む)。
starrocks_fe_clone_task_success
- 単位: カウント
- タイプ: 累積
- 説明: クラスター内で正常に実行されたクローンタスクの数。
starrocks_fe_clone_task_total
- 単位: カウント
- タイプ: 累積
- 説明: クラスター内のクローンタスクの総数。
starrocks_fe_last_finished_job_timestamp
- 単位: ms
- タイプ: 瞬間
- 説明: 特定のウェアハウスにおける最後のクエリまたはロードの終了時間を示します。シェアードナッシングクラスターの場合、この項目はデフォルトのウェアハウスのみを監視します。
starrocks_fe_max_journal_replay_lag
- 単位: カウント
- タイプ: 瞬間
- 説明: 稼動中の Follower または Observer FE のうち、Leader に追いつくために再生が必要なメタデータジャーナルの最大数。Leader FE のみが報告します (
is_leader="true")。Leader は自身のジャーナル書き込み位置と、ハートビートで受け取る他の各ノードの再生済みジャーナル ID の両方を知る唯一のノードであるためです。稼動していない FE ノードは除外されます。最後に報告されたジャーナル ID が最後に成功したハートビートの値で止まるためです。そのようなノードはSHOW FRONTENDSのAlive列で検出してください。他のすべてのノードが追いついている場合、他に稼動中の FE ノードがない場合、および単一 FE クラスターの場合は0を返します。値が大きい、または継続的に増加している場合は、少なくとも 1 つのノードでメタデータの再生が遅れていることを意味し、そのノードは古いメタデータを提供し、meta_delay_toleration_secondを超えるとクエリを Leader に転送します。
starrocks_fe_memory_usage
- 単位: バイトまたはカウント
- タイプ: 瞬間
- 説明: 特定のウェアハウスにおける様々なモジュールのメモリ統計を示します。シェアードナッシングクラスターの場合、この項目はデフォルトのウェアハウスのみを監視します。
starrocks_fe_meta_log_count
- 単位: カウント
- タイプ: 瞬間
- 説明: チェックポイントなしの編集ログの数。
100000の範囲内の値は妥当と見なされます。
starrocks_fe_publish_version_daemon_loop_total
- 単位: カウント
- タイプ: 累積
- 説明: このFEノードでの
publish-version-daemonループ実行の総数。
以下のメトリクスは、トランザクションの異なるフェーズにおけるレイテンシ分布を提供する summary タイプのメトリクスです。これらのメトリクスは、リーダーFEノードによってのみ報告されます。
各メトリクスには以下の出力が含まれます。
- クォンタイル: 異なるパーセンタイル境界でのレイテンシ値。これらは
quantileラベルを介して公開され、0.75、0.95、0.98、0.99、および0.999の値を持つことができます。 <metric_name>_sum: このフェーズで費やされた累積時間の合計。例:starrocks_fe_txn_total_latency_ms_sum。<metric_name>_count: このフェーズで記録されたトランザクションの総数。例:starrocks_fe_txn_total_latency_ms_count。
すべてのトランザクションメトリクスは以下のラベルを共有します。
type: トランザクションをロードジョブのソースタイプ(例:all、stream_load、routine_load)で分類します。これにより、トランザクション全体のパフォーマンスと特定のロードタイプのパフォーマンスの両方を監視できます。報告されるグループはFEパラメータで設定できます。txn_latency_metric_report_groups。is_leader: 報告元のFEノードがリーダーであるかどうかを示します。リーダーFE (is_leader="true") のみが実際のメトリクス値を報告します。フォロワーはis_leader="false"となり、データは報告しません。
starrocks_fe_query_resource_group
- 単位: カウント
- タイプ: 累積
- 説明: 特定のリソースグループで実行されたクエリの総数を示します。
starrocks_fe_query_resource_group
- 単位: カウント
- タイプ: 累積
- 説明: 各リソースグループのクエリ数。
starrocks_fe_query_resource_group_err
- 単位: カウント
- タイプ: 累積
- 説明: 特定のリソースグループで失敗したクエリの数を示します。
starrocks_fe_query_resource_group_err
- 単位: カウント
- タイプ: 累積
- 説明: 各リソースグループの不正なクエリ数。
starrocks_fe_query_resource_group_latency
- 単位: ms
- タイプ: 累積
- 説明: 特定のリソースグループ下のクエリのレイテンシ統計を示します。
starrocks_fe_query_resource_group_latency
- 単位: 秒
- タイプ: 平均
- 説明: 各リソースグループのクエリレイテンシパーセンタイル。
starrocks_fe_routine_load_error_rows
- 単位: カウント
- 説明: すべてのルーチンロードジョブによるデータロード中に発生したエラー行の総数。
starrocks_fe_routine_load_jobs
-
単位: カウント
-
説明: 異なる状態にあるルーチンロードジョブの総数。例:
starrocks_fe_routine_load_jobs{state="NEED_SCHEDULE"} 0
starrocks_fe_routine_load_jobs{state="RUNNING"} 1
starrocks_fe_routine_load_jobs{state="PAUSED"} 0
starrocks_fe_routine_load_jobs{state="STOPPED"} 0
starrocks_fe_routine_load_jobs{state="CANCELLED"} 1
starrocks_fe_routine_load_jobs{state="UNSTABLE"} 0
starrocks_fe_routine_load_max_lag_of_partition
- 単位: -
- 説明: 各ルーチンロードジョブのKafkaパーティションオフセットラグの最大値。これは、FE設定
enable_routine_load_lag_metricsがtrueに設定され、オフセットラグがFE設定min_routine_load_lag_for_metrics以上の場合にのみ収集されます。デフォルトでは、enable_routine_load_lag_metricsはfalseであり、min_routine_load_lag_for_metricsは10000です。
starrocks_fe_routine_load_max_lag_time_of_partition
- 単位: 秒
- 説明: 各ルーチンロードジョブのKafkaパーティションオフセットタイムスタンプラグの最大値。これは、FE設定
enable_routine_load_lag_time_metricsがtrueに設定されている場合にのみ収集されます。デフォルトでは、enable_routine_load_lag_time_metricsはfalseです。
starrocks_fe_routine_load_paused
- 単位: カウント
- 説明: ルーチンロードジョブが一時停止された総回数。
starrocks_fe_routine_load_receive_bytes
- 単位: バイト
- 説明: すべてのルーチンロードジョブによってロードされたデータの総量。
starrocks_fe_routine_load_rows
- 単位: カウント
- 説明: すべてのルーチンロードジョブによってロードされた行の総数。
starrocks_fe_safe_mode
- 単位: -
- タイプ: 瞬間
- 説明: セーフモードが有効になっているかどうかを示します。有効な値:
0(無効) および1(有効)。セーフモードが有効な場合、クラスターはロードリクエストを受け入れなくなります。
starrocks_fe_scheduled_pending_tablet_num
- 単位: カウント
- タイプ: 瞬間
- 説明: FEによってスケジュールされた、BALANCEタイプとREPAIRタイプの両方を含む、保留状態のクローンタスクの数。
starrocks_fe_scheduled_running_tablet_num
- 単位: カウント
- タイプ: 瞬間
- 説明: FEによってスケジュールされた、BALANCEタイプとREPAIRタイプの両方を含む、実行状態のクローンタスクの数。
starrocks_fe_slow_lock_held_time_ms
- 単位: ミリ秒
- タイプ: サマリー
- 説明: スローロックが検出された際のロック保持時間 (ミリ秒単位) を追跡するヒストグラム。このメトリックは、ロック待機時間が
slow_lock_threshold_ms設定パラメータを超えたときに更新されます。スローロックイベントが検出された際、すべてのロック所有者の中で最大のロック保持時間を追跡します。各メトリックには、分位値 (0.75, 0.95, 0.98, 0.99, 0.999)、_sum、および_countの出力が含まれます。注: このメトリックは、待機時間がしきい値を超えると更新されますが、所有者が操作を完了してロックを解放するまで保持時間が増加し続ける可能性があるため、高い競合下での正確なロック保持時間を反映しない場合があります。ただし、デッドロックが発生した場合でもこのメトリックは更新されます。
starrocks_fe_slow_lock_wait_time_ms
- 単位: ミリ秒
- タイプ: サマリー
- 説明: スローロックが検出された際のロック待機時間 (ミリ秒単位) を追跡するヒストグラム。このメトリックは、ロック待機時間が
slow_lock_threshold_ms設定パラメータを超えたときに更新されます。ロック競合シナリオにおいて、スレッドがロックを取得するためにどれだけ長く待機するかを正確に追跡します。各メトリックには、分位値 (0.75, 0.95, 0.98, 0.99, 0.999)、_sum、および_countの出力が含まれます。このメトリックは正確な待機時間測定を提供します。注: このメトリックはデッドロックが発生した場合には更新できないため、デッドロック状況の検出には使用できません。
starrocks_fe_sql_block_hit_count
- 単位: カウント
- 説明: ブラックリストに登録されたSQLがインターセプトされた回数。
starrocks_fe_tablet_pre_split_eligibility_skipped
- 単位: カウント
- タイプ: 累積
- ラベル:
reason。スキップの理由で、値は下の表のとおりです。表中のサンプリング対象列とは、ターゲットテーブルのパーティション列とソートキー列を指します。 - 説明: FE 側の eligibility ゲートがサンプラーを起動する前にサンプリングベースのタブレット事前分割を拒否した回数を、理由別に集計した累計値。運用者はこのカウンタを参照することで「事前分割が実行されていない」原因を、どの eligibility 分岐に起因するか一目で判別できます。マルチパーティション経路では、grouper とパーティション単位の再解決から出るパーティション単位のスキップ理由も同じカウンタで記録します。
どの取り込みでも記録されうる値:
reason | 記録される条件 |
|---|---|
disabled_by_config | 取り込み種別に対応する FE パラメータ enable_tablet_pre_split_for_* が無効。 |
disabled_by_session | セッションで enable_tablet_pre_split が false に設定されている。 |
not_range_distribution | ターゲットテーブルが Range 分散ではない。 |
table_not_normal | ターゲットテーブルが NORMAL 状態ではない(ALTER 実行中など)。 |
unsupported_sort_key | ソートキーが空、またはソートキーにスカラー型でない列がある。 |
has_materialized_view_or_rollup | ターゲットテーブルに可視のロールアップまたは同期マテリアライズドビューがある。 |
metadata_not_resolved | パーティションまたはそのベースインデックスが見つからない。通常は取り込み中に ALTER が実行されたため。 |
multiple_base_index_tablets | パーティションのベースインデックスに既に複数のタブレットがある。同じパーティションへの再取り込みでよく起きる。 |
partition_not_empty | パーティションに既にデータがある。 |
source_missing_sampled_column | サンプリング対象列に対応するソース列またはリテラルが取り込みにない(FILES() のファイルにその列がない、INSERT のターゲット列リストが省略しているなど)。 |
unsupported_sampled_projection | サンプリング対象列が、サンプラーで再現できない式(from_unixtime(ts) や NULL など)、または型のプッシュダウンで別の列の型として読み取られる FILES() の列から供給される。 |
unsupported_generated_column | サンプリング対象列が、サンプラーで値を計算できない生成列。列名と具体的な理由は FE ログに記録される。 |
estimate_unavailable | External Catalog のテーブルからの INSERT で、テーブル統計からソーステーブルのサイズを見積もれないため、タブレット数を決められない。 |
1 回の取り込みで複数のパーティションに書き込む場合に、パーティション単位で記録される値:
reason | 記録される条件 |
|---|---|
unsupported_partition_column_type | パーティション列の型をサンプリングできない(STRUCT、ARRAY など)。 |
invalid_partition_value | サンプリングしたパーティション値から有効なパーティションを作れない(NOT NULL 列の NULL、パースできない日付など)。 |
grouper_empty | パーティションごとにグループ化する際、すべてのサンプル行が破棄された。 |
no_matching_partition | 手動 Range パーティションのテーブルで、サンプリングした値が取り込みの書き込み先となるどのレンジにも含まれない。その値は破棄され、新しいパーティションは作成されない。 |
stale_catalog_state | サンプリング後、事前分割の前にパーティションが消えた(並行する DROP や REPLACE など)。 |
partition_not_eligible_post_create | 事前作成後にパーティションが条件を満たさなくなった。通常は既にデータがあるか、複数のタブレットを持つため。 |
starrocks_fe_tablet_pre_split_sampler_invocations
- 単位: カウント
- タイプ: 累積
- 説明: サンプリングベースのタブレット事前分割が駆動したサンプラー起動の累計回数。eligibility を通過した呼び出しごとに、本番サンプラーパイプラインがサンプル取得を開始した時点でインクリメントされます。
starrocks_fe_tablet_pre_split_sampler_failed
- 単位: カウント
- タイプ: 累積
- ラベル:
reason— eligibility 通過後の失敗カテゴリ(小文字化されたSkipReason)。sample_failed(サンプラー実行が例外)、timeout_pre_submit(サンプリング + プランニング + 構築フェーズがtablet_pre_split_pre_submit_timeout_secondsを超過)、submit_failed(TabletReshardJobMgrが受理を拒否)、pre_create_failed(マルチパーティション経路:ターゲットパーティションの事前作成中にLocalMetastore.addPartitionsが例外を送出 — その 1 パーティションは結合提出から外され、BE ランタイムの自動パーティション作成にフォールバックします。同じ取り込みの他のパーティションは継続し、tablet_pre_split_sampler_failed{reason=pre_create_failed}にも同時に記録されます)のいずれか。 - 説明: サンプラーが起動したものの、受理された reshard ジョブを生成できなかった回数を、理由別に集計した累計値。
tablet_pre_split_eligibility_skipped(サンプラーが起動しなかった)やtablet_pre_split_tier_used(成功したティアを記録)とは別物です。meta-tier → data-tier のフォールバック自体は失敗ではなく、tablet_pre_split_tier_used{tier=data_tier}で追跡されます。
starrocks_fe_tablet_pre_split_tier_used
- 単位: カウント
- タイプ: 累積
- ラベル:
tier—meta_tier(Parquet/ORC の row-group 統計から境界を計算。行データは読まない)またはdata_tier(FILES サブクエリで実際に取得した行サンプルから境界を計算。data-tier の直接起動と meta-tier → data-tier のフォールバックの両方を含む)。 - 説明: サンプリングベースのタブレット事前分割について、境界を生成したサンプラーティア別の起動回数。
starrocks_fe_tablet_pre_split_boundaries_planned
- 単位: カウント
- タイプ: ヒストグラム
- 説明: 1 回の起動でプランナーが生成した境界タプルの数。
effectiveTabletCount - 1に等しい(K タブレットへの分割には K-1 個のカットポイントが必要)。
starrocks_fe_tablet_pre_split_partitions_total
- 単位: カウント
- タイプ: 累積
- 説明: マルチパーティション経路(P2-a)のカウンタ。サンプリングベースのタブレット事前分割コーディネーターが集計した予測ターゲットパーティション数の合計 — grouper を通過した
PartitionSamplesエントリごとに 1 ずつインクリメント。tablet_pre_split_partitions_cappedとtablet_pre_split_pre_create{result=...}系統と合わせると、1 回のマルチパーティション起動が実際に何パーティションを扱ったかを把握できます。単一パーティション経路では 0 のままです。
starrocks_fe_tablet_pre_split_partitions_capped
- 単位: カウント
- タイプ: 累積
- 説明: マルチパーティション経路のカウンタ。1 回の取り込みあたりの予測パーティション数が
tablet_pre_split_max_partitions_per_loadを超えたために grouper が破棄したパーティション数。grouper はデータ量の多いパーティション(data tier が一部のファイルだけをサンプリングし、かつパーティション値がファイルパスから取られる場合はバイト数、それ以外はサンプル数で判断)を残し、少ないものを切り捨てます。破棄されたパーティションは BE ランタイムの自動パーティション作成にフォールバックし、事前分割は行われません。継続的に非ゼロの場合は上限が効いているサインなので、tablet_pre_split_max_partitions_per_loadを引き上げるか、取り込みのパーティション基数を下げることを検討してください。
starrocks_fe_tablet_pre_split_pre_create
- 単位: カウント
- タイプ: 累積
- ラベル:
result—succeeded(LocalMetastore.addPartitionsが正常終了 — パーティションが作成された、または黙って重複排除された)、failed(addPartitionsが例外を送出。例:並行 ALTER、journal 書き込み失敗。該当パーティションは BE ランタイムの自動パーティション作成にフォールバックし、同時にtablet_pre_split_sampler_failed{reason=pre_create_failed}にも記録される)、already_exists(事前作成時にカタログ内にパーティションが既に存在する — 並行ローダー競合。コーディネーターは既存パーティションを再利用する)。 - 説明: マルチパーティション経路(P2-a)のカウンタ。コーディネーターが
LocalMetastore.addPartitions経由で発行したパーティション事前作成試行回数を、結果別に集計した累計値。試行総数 = 3 つのラベルの合計。単一パーティション経路では 0 のままです。
starrocks_fe_tablet_pre_split_pre_submit_wait_ms
- 単位: ミリ秒
- タイプ: ヒストグラム
- 説明: サンプリングベースのタブレット事前分割の提出前フェーズ(サンプリング + プランニング + reshard ジョブの構築)に費やした壁時計時間。
tablet_pre_split_pre_submit_timeout_secondsで上限が設定されます。
starrocks_fe_tablet_pre_split_post_submit_wait_ms
- 単位: ミリ秒
- タイプ: ヒストグラム
- 説明: 受理されたサンプリングベースのタブレット事前分割 reshard ジョブの
FINISHEDをコーディネーターが待機した壁時計時間。すべての本番取り込み種別で更新されます — INSERT-from-FILES と INSERT-from-table(いずれもInsertPreSplitHook経由、StmtExecutorでStatementPlanner.planが取り込みトランザクションを開く前に呼ばれる)、および Broker Load(BrokerLoadPreSplitHook経由、BrokerLoadJob.createLoadingTaskでbeginTxnがT_loadを開く前に呼ばれる)で、いずれも共有のPreSplitFlowを通じて同期待機します。テスト用のrunPreSplit同期待機ラッパーでも更新されます。いずれの経路でも、トリガーとなった取り込み自身が分割後のタブレットレイアウトに対してプランされます。
starrocks_fe_tablet_pre_split_post_submit_hard_cap
- 単位: カウント
- タイプ: 累積
- 説明: サンプリングベースのタブレット事前分割で post-submit ハードキャップが発火した累計回数。受理された reshard ジョブが
tablet_pre_split_post_submit_wait_seconds以内にFINISHEDに到達しなかったときにインクリメントされます。すべての本番取り込み種別でタイムアウト時に発火します — INSERT-from-FILES、INSERT-from-table、および Broker Load(いずれも共有のPreSplitFlowを通じて同期待機)。テスト用のrunPreSplit同期待機ラッパーでも発火します。取り込みはこのとき中止せずに継続実行し、その時点で可視のタブレットレイアウトに対してプランされます(デーモンがまだ遷移していなければ元の単一タブレットレイアウト、待機放棄後にデーモンがレースで完了した場合は部分的/完全に分割後のレイアウト)。取り込み自体は中止されないため、tablet_pre_split_load_abortはインクリメントされません。
starrocks_fe_tablet_pre_split_load_abort
- 単位: カウント
- タイプ: 累積
- 説明: サンプリングベースのタブレット事前分割が、受理された reshard ジョブの
FINISHED到達を期限内に確認できなかったために中止された取り込みトランザクションの累計回数。tablet_pre_split_post_submit_hard_capの兄弟カウンタ。本番の取り込み経路は post-submit タイムアウト時に取り込みを中止せず、その時点で可視のレイアウトに対して継続実行するため、このカウンタは現状の本番環境では 0 のままです。厳格なrunPreSplitラッパー(テスト、または将来「タイムアウト=中止」を選択する呼び出し元)を使った場合にのみ発火します。
starrocks_fe_tablet_reshard_job_total
- 単位: カウント
- タイプ: 累積
- ラベル:
type(splitまたはmerge) - 説明:
TabletReshardJobMgrが受理したタブレット reshard ジョブの累計数。ジョブがキューに入り journal に書き込まれた時点でインクリメントされます。自動 reshard(タブレットの分割とマージ)と、サンプリングベースのタブレット事前分割が提出したジョブの両方を含みます。状態別のジョブ数は、job="tablet_reshard"、type、stateのラベルを持つ汎用のjobゲージからも取得できます。このカウンタをインクリメントするのは Leader FE のみで、フォロワーでは 0 のままです。また FE の再起動やリーダー切り替え後は 0 から再開します。
starrocks_fe_tablet_reshard_job_finished
- 単位: カウント
- タイプ: 累積
- ラベル:
type(splitまたはmerge) - 説明:
FINISHEDに到達したタブレット reshard ジョブの累計数。tablet_reshard_job_totalと比較することで、受理されたジョブのうちどれだけが完了したかが分かります。このカウンタをインクリメントするのは Leader FE のみです。
starrocks_fe_tablet_reshard_job_aborted
- 単位: カウント
- タイプ: 累積
- ラベル:
type(splitまたはmerge) - 説明:
ABORTEDで終了したタブレット reshard ジョブの累計数。ジョブが中止できるのはトランザクションのコミット前だけです。コミット後はロールバック経路がないため、それ以降の失敗は中止ではなく再試行され、ここには計上されません。そのケースはtablet_reshard_publish_failedで検出してください。このカウンタをインクリメントするのは Leader FE のみです。
starrocks_fe_tablet_reshard_publish_failed
- 単位: カウント
- タイプ: 累積
- 説明: 失敗して再試行される reshard publish 試行の累計数。試行ごとに 1 ずつインクリメントされます。reshard のトランザクションは publish 時点で既にコミット済みなので、publish が失敗すると成功するまで指数バックオフ(1 秒から倍増、上限 30 秒)で再試行されます。ジョブは
RUNNINGのままで中止されないため、ジョブが詰まっている間もtablet_reshard_job_abortedは平坦なままです。したがってアラートはこのカウンタを対象にしてください。30 秒の上限に達した後も、失敗し続けるパーティションは 1 分あたり約 2 回このカウンタを動かすため、increase(starrocks_fe_tablet_reshard_publish_failed[5m]) > 0で最初の失敗から 1 分程度で詰まりを検出できます。各失敗の理由はinformation_schema.tablet_reshard_jobsのERROR_MESSAGE列とfe.warn.logに記録されます。このカウンタをインクリメントするのは Leader FE のみです。
starrocks_fe_tablet_reshard_parallel_tablets
- 単位: カウント
- タイプ: 瞬間
- 説明: 未完了のすべての reshard ジョブにおいて現在 reshard 中のタブレット数、すなわちリアルタイムの reshard 並列度。Leader 以外の FE ノードは
0を報告します。
starrocks_fe_tablet_max_compaction_score
- 単位: カウント
- タイプ: 瞬間
- 説明: 各BEノードにおける最高のコンパクションスコアを示します。
starrocks_fe_tablet_num
- 単位: カウント
- タイプ: 瞬間的
- 説明: 各BEノード上のタブレット数を示します。
starrocks_fe_txn_max_committed_pending_publish_ms
- 単位: ms
- タイプ: 瞬間的
- 説明: 現在
COMMITTED状態にありVISIBLEへの発行を待っているトランザクションのうち、最も長く滞留しているものの待機時間(ミリ秒)。つまり、コミット済みでまだ発行されていない最も古いトランザクションの経過時間です。トランザクション完了後に記録される概要(summary)メトリックであるstarrocks_fe_txn_publish_*とは異なり、これは現在の最悪ケースの待機時間をリアルタイムに示すゲージ(gauge)です。この値はdbラベルによってデータベースごとに、かつ Leader FE ノード(is_leader="true")のみが報告します。発行待ちのコミット済みトランザクションがない場合は0を返します。値が高い、または継続的に増加している場合、バージョンの発行が停止しているか、コミットに遅れていることを示します。
starrocks_fe_txn_publish_ack_latency_ms
- 単位: ms
- タイプ: 概要
- 説明: トランザクションが
VISIBLEとしてマークされたときの、ready-to-finish時間から最終的なfinish時間までの最終確認レイテンシ。このメトリックには、トランザクションが完了準備ができた後の最終確認ステップが含まれます。
starrocks_fe_txn_publish_can_finish_latency_ms
- 単位: ms
- タイプ: 概要
- 説明:
publishタスクの完了からcanTxnFinish()が最初にtrueを返す瞬間までのレイテンシで、publish version finish時間からready-to-finish時間までで測定されます。
starrocks_fe_txn_publish_execute_latency_ms
- 単位: ms
- タイプ: 概要
- 説明:
publishタスクのアクティブな実行時間で、タスクが選択されてから完了するまでです。このメトリックは、トランザクションの変更を可視化するために実際に費やされた時間を表します。
starrocks_fe_txn_publish_latency_ms
- 単位: ms
- タイプ: 概要
- 説明:
publishフェーズのレイテンシで、commit時間からfinish時間までです。これは、コミットされたトランザクションがクエリに対して可視になるまでの期間です。schedule、execute、can_finish、およびackのサブフェーズの合計です。
starrocks_fe_txn_publish_schedule_latency_ms
- 単位: ms
- タイプ: 概要
- 説明: トランザクションがコミットされてから公開されるのを待つ時間で、
commit時間から公開タスクが選択されるまで測定されます。このメトリックは、publishパイプラインにおけるスケジューリング遅延またはキューイング時間を反映します。
starrocks_fe_txn_total_latency_ms
- 単位: ms
- タイプ: 概要
- 説明: トランザクションが完了するまでの合計レイテンシで、
prepare時間からfinish時間まで測定されます。このメトリックは、トランザクションの完全なエンドツーエンドの期間を表します。
starrocks_fe_txn_write_latency_ms
- 単位: ms
- タイプ: 概要
- 説明: トランザクションの
writeフェーズのレイテンシで、prepare時間からcommit時間までです。このメトリックは、トランザクションが公開準備が整う前のデータ書き込みおよび準備段階のパフォーマンスを分離します。
starrocks_fe_unfinished_backup_job
- 単位: カウント
- タイプ: 瞬間的
- 説明: 特定のウェアハウスで実行中のBACKUPタスクの数を示します。共有なしクラスターの場合、この項目はデフォルトのウェアハウスのみを監視します。共有データクラスターの場合、この値は常に
0です。
starrocks_fe_unfinished_query
- 単位: カウント
- タイプ: 瞬間的
- 説明: 特定のウェアハウスで現在実行中のクエリの数を示します。共有なしクラスターの場合、この項目はデフォルトのウェアハウスのみを監視します。
starrocks_fe_unfinished_restore_job
- 単位: カウント
- タイプ: 瞬間的
- 説明: 特定のウェアハウスで実行中のRESTOREタスクの数を示します。共有なしクラスターの場合、この項目はデフォルトのウェアハウスのみを監視します。共有データクラスターの場合、この値は常に
0です。
storage_page_cache_mem_bytes
- 単位: バイト
- 説明: ストレージページキャッシュによって使用されるメモリ。
stream_load
- 単位: -
- 説明: ロードされた行の合計と受信バイト数。
stream_load_pipe_count
- 単位: カウント
- 説明: 現在実行中のストリームロードタスクの数。
streaming_load_bytes
- 単位: バイト
- 説明: ストリームロードによってロードされた合計バイト数。
streaming_load_current_processing
- 単位: カウント
- 説明: 現在実行中のStream Loadタスクの数。
streaming_load_duration_ms
- 単位: ms
- 説明: Stream Loadに費やされた合計時間。
streaming_load_requests_total
- 単位: カウント
- 説明: Stream Loadリクエストの合計数。