[従来] TensorFlow モデルの変換#

TensorFlow 1 モデルの変換#

mo --input_model <INPUT_MODEL>.pb

mo --input_model <INFERENCE_GRAPH>.pb --input_checkpoint <INPUT_CHECKPOINT>

mo --input_model <INFERENCE_GRAPH>.pbtxt --input_checkpoint <INPUT_CHECKPOINT> --input_model_is_text

mo --input_meta_graph <INPUT_META_GRAPH>.meta

mo --saved_model_dir <SAVED_MODEL_DIRECTORY>

import tensorflow as tf 
from tensorflow.python.framework import graph_io 
frozen = tf.compat.v1.graph_util.convert_variables_to_constants(sess, sess.graph_def, ["name_of_the_output_node"]) 
graph_io.write_graph(frozen, './', 'inference_graph.pb', as_text=False)

TensorFlow 2 モデルの変換#

TensorFlow 2 モデルを変換するには、openvino-dev[tensorflow2] が pip 経由でインストールされていることを確認してください。TensorFlow 2.X は、次の 2 つのモデル形式をサポートしています: SavedModel と Keras H5 (または HDF5)。以下にそれぞれの変換方法を示します。

mo --saved_model_dir <SAVED_MODEL_DIRECTORY>

import tensorflow as tf 
from tensorflow.python.framework.convert_to_constants import convert_variables_to_constants_v2 
saved_model_dir = "./saved_model" 
imported = tf.saved_model.load(saved_model_dir) 
# 具体的な関数を取得してフリーズする 
concrete_func = imported.signatures[tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY] 
frozen_func = convert_variables_to_constants_v2(concrete_func, 
                                              lower_control_flow=False, 
                                              aggressive_inlining=True) 
# GraphDef を取得して .pb 形式で保存 
graph_def = frozen_func.graph.as_graph_def(add_shapes=True) 
tf.io.write_graph(graph_def, '.', 'model.pb', as_text=False)

import tensorflow as tf 
model = tf.keras.models.load_model('model.h5') 
tf.saved_model.save(model,'model')

import tensorflow as tf 
from custom_layer import CustomLayer 
model = tf.keras.models.load_model('model.h5', custom_objects={'CustomLayer': CustomLayer}) 
tf.saved_model.save(model,'model')

TensorFlow 固有のパラメーターを使用したコマンドライン・インターフェイス (CLI) の例#

• モデルファイルがプレーンテキストの protobuf である場合、Inception V1 の凍結されたモデルの変換を開始します:

  mo --input_model inception_v1.pbtxt --input_model_is_text -b 1

• Inception V1 のフリーズされたモデルの変換を開始し、グラフに関する情報を TensorBoard ログ・ディレクトリー /tmp/log_dir にダンプします。

  mo --input_model inception_v1.pb -b 1 --tensorboard_logdir /tmp/log_dir

• 3 つの入力を使用して、SavedModel 形式の BERT モデルのモデル変換を開始します。バッチサイズとシーケンス長がそれぞれ 2 と 30 に等しい入力形状を明示的に指定します。

  mo --saved_model_dir BERT --input mask,word_ids,type_ids --input_shape [2,30],[2,30],[2,30]

Python API を使用したメモリーからの TensorFlow モデル変換#

モデル・トランスフォーメーション API は、TensorFlow/TensorFlow 2 モデルをメモリーから直接渡すことをサポートしています。

• tf.keras.Model

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  model = tf.keras.applications.ResNet50(weights="imagenet") 
  ov_model = convert_model(model)

• tf.keras.layers.Layer。“input_shape” の設定が必要です。

  import tensorflow_hub as hub 
  from openvino.tools.mo import convert_model 
  
  model = 
  hub.KerasLayer("https://tfhub.dev/google/imagenet/mobilenet_v1_100_224/classification/5") 
  ov_model = convert_model(model, input_shape=[-1, 224, 224, 3])

• tf.Module。“input_shape” の設定が必要です。

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  class MyModule(tf.Module): 
      def __init__(self, name=None): 
          super().__init__(name=name) 
          self.variable1 = tf.Variable(5.0, name="var1") 
          self.variable2 = tf.Variable(1.0, name="var2") 
      def __call__(self, x): 
          return self.variable1 * x + self.variable2 
  
  model = MyModule(name="simple_module") 
  ov_model = convert_model(model, input_shape=[-1])

• tf.compat.v1.Graph

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  with tf.compat.v1.Session() as sess: 
      inp1 = tf.compat.v1.placeholder(tf.float32, [100], 'Input1') 
      inp2 = tf.compat.v1.placeholder(tf.float32, [100], 'Input2') 
      output = tf.nn.relu(inp1 + inp2, name='Relu') 
      tf.compat.v1.global_variables_initializer() 
      model = sess.graph 
  
  ov_model = convert_model(model)

• tf.compat.v1.GraphDef

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  with tf.compat.v1.Session() as sess: 
      inp1 = tf.compat.v1.placeholder(tf.float32, [100], 'Input1') 
      inp2 = tf.compat.v1.placeholder(tf.float32, [100], 'Input2') 
      output = tf.nn.relu(inp1 + inp2, name='Relu') 
      tf.compat.v1.global_variables_initializer() 
      model = sess.graph_def 
  
  ov_model = convert_model(model)

• tf.function

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  @tf.function( 
      input_signature=[tf.TensorSpec(shape=[1, 2, 3], dtype=tf.float32), 
                       tf.TensorSpec(shape=[1, 2, 3], dtype=tf.float32)]) 
  
  def func(x, y): 
      return tf.nn.sigmoid(tf.nn.relu(x + y)) 
  
  ov_model = convert_model(func)

• tf.compat.v1.session

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  with tf.compat.v1.Session() as sess: 
      inp1 = tf.compat.v1.placeholder(tf.float32, [100], 'Input1') 
      inp2 = tf.compat.v1.placeholder(tf.float32, [100], 'Input2') 
      output = tf.nn.relu(inp1 + inp2, name='Relu') 
      tf.compat.v1.global_variables_initializer() 
  
  ov_model = convert_model(sess)

• tf.train.checkpoint

  import tensorflow as tf 
  from openvino.tools.mo import convert_model 
  
  model = tf.keras.Model(...) 
  checkpoint = tf.train.Checkpoint(model) 
  save_path = checkpoint.save(save_directory) 
  # ... 
  checkpoint.restore(save_path) 
  ov_model = convert_model(checkpoint)

サポートされる TensorFlow および TensorFlow 2 Keras レイヤー#

サポートされる標準レイヤーのリストについては、サポートされる操作を参照してください。

よくある問い合わせ (FAQ)#

モデル・トランスフォーメーション API は、タイプミス、誤って使用されたオプション、またはその他の問題により最後まで実行できない場合の説明メッセージを提供します。メッセージには問題の潜在的な原因と、モデル・オプティマイザーの FAQ へのリンクが示されます。FAQ には、ほとんどの問題の解決方法が記載されています。FAQ には、問題を理解するのに役立つ、モデルの変換の関連セクションへのリンクも含まれています。

まとめ#

このセッションでは、次のことを学びました:

• モデル・トランスフォーメーション API が TensorFlow モデルでどのように動作するか理解する基本情報。

• サポートされる TensorFlow モデル。

• TensorFlow モデルをフリーズする方法。

• フレームワークに依存しないコマンドライン・パラメーターと TensorFlow 固有のコマンドライン・パラメーターの両方を備えたモデル・トランスフォーメーション API を使用して、トレーニングされた TensorFlow モデルを変換する方法。

関連情報#

特定の TensorFlow モデルを変換するための段階的な手順を提供するチュートリアルについては、モデル変換チュートリアルのページを参照してください。いくつかの例を示します:

• TensorFlow EfficientDet モデルの変換

• TensorFlow FaceNet モデルの変換

• TensorFlow オブジェクト検出 API モデルの変換