ReadValue

バージョン名: ReadValue-6

カテゴリー: インフラストラクチャー

簡単な説明: ReadValue は、variable_id 変数の値を返します。

詳細説明:

ReadValue、Assign および Variable は、推論呼び出し間のメモリーバッファーの読み取り、書き込み、および保存の一貫したメカニズムを定義します。詳細については、State API のドキュメント・ページを参照してください。

1 番目の入力が指定され、これが最初の推論またはリセットが呼び出された場合、ReadValue は 1 番目の入力からの値を返します。

最初の入力が提供されず、これが最初の推論またはリセットが呼び出された場合、ReadValue は、variable_shape と variable_type、およびゼロ値を含むテンソルを返します。

それ以外の場合は、ReadValue は対応する variable_id 変数の値を返します。

1 番目の入力が指定されている場合、この操作では、variable_shape と variable_type が 1 番目の入力から推論された形状とタイプを拡張 (緩和) するかチェックされます。そうでない場合は、エラーが返されます。例えば、variable_type が動的として指定されている場合、1 番目の入力には任意のタイプが許可されますが、f32 として指定されている場合は、f32 タイプのみが許可されます。

モデル内の各変数に対して、ReadValue 操作と Assign 操作のペアが 1 つ必要です。

属性:

• variable_id

  • 説明: リードする変数の識別子

  • 値の範囲: 空でない文字列

  • タイプ: 文字列

  • 必須: はい

• variable_type

  • 説明: 変数のタイプ

  • 値の範囲: u1、u4、u8、u16、u32、u64、i4、i8、i16、i32、i64、f16、f32、boolean、bf16

  • タイプ: string

  • 必須: はい

• variable_shape

  • 説明: 変数の形状

  • 値の範囲: 整数のリスト、空のリストが許可されます。これは 0D またはスカラーテンソルを意味します

  • タイプ: int[]

  • 必須: はい

入力:

• 1: init_value - 最初の推論またはリセット呼び出しの後に値が使用される入力テンソル。オプション。

出力:

• 1: variable_type, variable_shape で指定されたものと同じ形状とタイプを持つテンソル。

例:

 <layer ... type="ReadValue" ...>
     <data variable_id="lstm_state_1" variable_type="f32" variable_shape="1,3,224,224"/>
     <input>
         <port id="0">
             <dim>1</dim>
             <dim>3</dim>
             <dim>224</dim>
             <dim>224</dim>
         </port>
     </input>
     <output>
         <port id="1">
             <dim>1</dim>
             <dim>3</dim>
             <dim>224</dim>
             <dim>224</dim>
         </port>
     </output>
 </layer>