AWS Inferentia and AWS Trainium Monitoring インテグレーションのメトリクス
AWS Inferentia and AWS Trainium Monitoring の監視に使う Datadog の公式インテグレーションです。収集するメトリクスは 33 件あります。
公式の紹介文 (英語)
Monitor the performance and usage of AWS Inferentia/Trainium instances and the Neuron SDK.
種別の内訳
- gauge (その時点の値): 26 件
- count (集計間隔内の発生回数): 7 件
メトリクスの一覧
説明は公式の定義の英文をそのまま載せています。
| メトリクス | 種別 | 単位 |
|---|---|---|
aws_neuron.Execution errors total | count | - |
aws_neuron.Execution errors total | gauge | - |
aws_neuron.Execution latency in seconds | gauge | second |
aws_neuron.Execution status total | count | - |
aws_neuron.Execution status total | gauge | - |
aws_neuron.Hardware ecc events total | count | - |
aws_neuron.Hardware ecc events total | gauge | - |
aws_neuron.EC2 instance information | gauge | - |
aws_neuron.Neuron Hardware Information | gauge | - |
aws_neuron.Runtime memory used bytes | gauge | byte |
aws_neuron.Runtime vCPU utilization ratio | gauge | fraction |
aws_neuron.NeuronCore memory utilization for constants | gauge | byte |
aws_neuron.NeuronCore memory utilization for model_code | gauge | byte |
aws_neuron.NeuronCore memory utilization for model_shared_scratchpad | gauge | byte |
aws_neuron.NeuronCore memory utilization for runtime_memory | gauge | byte |
aws_neuron.NeuronCore memory utilization for tensors | gauge | byte |
aws_neuron.NeuronCore utilization ratio | gauge | fraction |
aws_neuron.Total user and system CPU time spent in seconds. | count | second |
aws_neuron.Maximum number of open file descriptors. | gauge | - |
aws_neuron.Number of open file descriptors. | gauge | - |
aws_neuron.Resident memory size in bytes. | gauge | byte |
aws_neuron.Start time of the process since unix epoch in seconds. | gauge | second |
aws_neuron.Virtual memory size in bytes. | gauge | byte |
aws_neuron.Number of times this generation was collected | count | - |
aws_neuron.Objects collected during gc | count | - |
aws_neuron.Uncollectable objects found during GC | count | - |
aws_neuron.Python platform information | gauge | - |
aws_neuron.System memory total_bytes bytes | gauge | byte |
aws_neuron.System memory used_bytes bytes | gauge | byte |
aws_neuron.System swap total_bytes bytes | gauge | byte |
aws_neuron.System swap used_bytes bytes | gauge | byte |
aws_neuron.System vCPU count | gauge | - |
aws_neuron.System CPU utilization ratio | gauge | fraction |
公式ドキュメント
AWS Inferentia and AWS Trainium Monitoring インテグレーションの公式ドキュメント
メトリクスの名前と説明は Datadog の公式インテグレーションの定義 (Copyright Datadog, Inc.・BSD-3-Clause) を英文のまま載せています。利用条件の全文は サイトについてにあります。