属性

はじめに

名前

ターゲット

必須

モジュール

AvgPoolPrecisionPreserved

精度

いいえ

はい

IntervalsAlignment

量子化間隔

はい

はい

PrecisionPreserved

精度

はい

はい

精度

精度

はい

はい

QuantizationAlignment

量子化の粒度

はい

はい

QuantizationGranularity

量子化の粒度

はい

いいえ

Target 属性グループは、最高のパフォーマンスを得るためモデル変換中の属性の使用法を定義します。

  • Precision - この属性は、最適な出力ポートの精度を定義します。

  • Quantization interval - この属性は、量子化間隔を定義します。

  • Quantization alignment - この属性は、実行時の量子化の粒度 (チャネルごとまたはテンソルごとの量子化) を定義します。

  • Quantization granularity - この属性は、量子化の粒度 (チャネルごとまたはテンソルごとの量子化) を定義するためプラグインによって設定されます。

Required 属性グループは、変換中に最適なモデルを取得するため属性が必要かどうかを定義します。

  • Yes - この属性は、低精度の最適化のためすべての OpenVINO プラグインによって使用されます。

  • No - この属性は、特定の OpenVINO プラグインで使用されます。

Mutable 属性グループは、変換で既存の属性を更新できるかどうかを定義します。

  • Yes - この属性は、パイプライン内の次の変換によって更新できます。ただし、属性の更新順序は依然として重要です。

  • No - 既存の属性は、次の変換では更新できません。以前に処理された変換により、現在の値に従ってモデルが最適化されます。

FakeQuantize 分解は低精度変換の必須の部分です。分解中に使用される属性は必須です。オプションの属性は、特定の操作にのみ必要です。

変換による属性の使用:

属性名

変換によって作成

変換で使用

PrecisionPreserved

MarkupPrecisions、MarkupAvgPoolPrecisionPreserved

AlignQuantizationIntervals、AlignQuantizationParameters、FakeQuantizeDecompositionTransformation、MarkupAvgPoolPrecisionPreserved

AvgPoolPrecisionPreserved

MarkupAvgPoolPrecisionPreserved

精度

MarkupCanBeQuantized、MarkupPrecisions

FakeQuantizeDecompositionTransformation

PerTensorQuantization

MarkupPerTensorQuantization

IntervalsAlignment

AlignQuantizationIntervals

FakeQuantizeDecompositionTransformation

QuantizationAlignment

AlignQuantizationParameters

FakeQuantizeDecompositionTransformation

同じタイプの属性インスタンスを異なる変換で作成できます。このアプローチは、変換の単一責任原則の結果です。例えば、Precision 属性インスタンスは MarkupCanBeQuantized 変換と MarkupPrecisions 変換で作成されますが、それらの作成理由は異なります。